Povinnosti nasadzujúcich subjektov pri nízkorizikovej AI: transparentnosť a gramotnosť

Povinnosti nasadzujúcich subjektov pri nízkorizikovej AI: transparentnosť a gramotnosť

Povinnosti nasadzujúceho subjektu (fyzickej alebo právnickej osoby, ktorá používa systém AI v rámci svojej právomoci), pokiaľ ide o systémy AI, ktoré nie sú klasifikované ako vysokorizikové, sa primárne sústreďujú na transparentnosť a gramotnosť v oblasti AI.

Hoci sa na systémy AI s nízkym alebo minimálnym rizikom nevzťahujú rozsiahle požiadavky na riadenie rizík, dokumentáciu a posudzovanie zhody (ktoré sú typické pre vysokorizikové systémy), nasadzujúci subjekt musí dodržiavať nasledujúce povinnosti, najmä tie, ktoré sa týkajú informovania verejnosti:

1. Gramotnosť v oblasti AI (všeobecná povinnosť)

Nasadzujúce subjekty musia prijať opatrenia, aby čo najlepšie zabezpečili dostatočnú úroveň gramotnosti v oblasti AI u svojich zamestnancov a iných osôb, ktoré v ich mene prevádzkujú a používajú systémy AI. Pritom sa musia zohľadniť technické znalosti, skúsenosti, vzdelanie a kontext, v ktorom sa majú systémy AI používať, ako aj osoby, pre ktoré sú určené.

2. Povinnosti v oblasti transparentnosti (Článok 50)

Tieto povinnosti sa uplatňujú na systémy AI bez ohľadu na ich klasifikáciu rizika, pokiaľ ide o interakciu s fyzickými osobami alebo generovanie obsahu:

A. Systémy na rozpoznávanie emócií a biometrickú kategorizáciu

Nasadzujúce subjekty, ktoré používajú systém na rozpoznávanie emócií alebo systém biometrickej kategorizácie, musia informovať fyzické osoby, ktoré sú mu vystavené, o prevádzke systému.

• Zároveň musia spracúvať osobné údaje v súlade s platnými právnymi predpismi Únie o ochrane osobných údajov (napr. GDPR).

• Poznámka: Systémy na rozpoznávanie emócií v oblasti pracoviska a vzdelávania sú vo všeobecnosti zakázané, s výnimkou zdravotných alebo bezpečnostných dôvodov.

B. Deep Fakes a umelo vytvorený obsah

Ak nasadzujúci subjekt používa systém AI, ktorý generuje alebo manipuluje obrazový, zvukový alebo videoobsah, ktorý sa zjavne podobá existujúcim osobám, objektom alebo udalostiam (tzv. deep fake), musí jasne a zreteľne zverejniť, že obsah bol umelo vytvorený alebo manipulovaný.

• Výnimka: Ak je obsah súčasťou zjavne umeleckého, kreatívneho, satirického alebo fiktívneho diela, povinnosť transparentnosti sa obmedzuje len na zverejnenie existencie tohto vytvoreného alebo manipulovaného obsahu primeraným spôsobom, ktorý nebráni zobrazeniu diela a zážitku z neho.

C. Text s verejným záujmom

Subjekty nasadzujúce systém AI, ktorý generuje alebo manipuluje text uverejnený s cieľom informovať verejnosť o záležitostiach verejného záujmu, musia zverejniť, že text bol umelo vygenerovaný alebo manipulovaný.

• Výnimka: Táto povinnosť sa neuplatňuje, ak obsah vygenerovaný AI prešiel procesom ľudskej alebo redakčnej kontroly a ak za uverejnenie obsahu nesie redakčnú zodpovednosť fyzická alebo právnická osoba.

D. Spôsob poskytnutia informácií

Informácie o transparentnosti (podľa bodov B a C) sa musia dotknutým fyzickým osobám poskytnúť jasným a rozlíšiteľným spôsobom, najneskôr v čase prvej interakcie alebo vystavenia sa systému, a musia byť v súlade s uplatniteľnými požiadavkami na prístupnosť.

3. Dobrovoľné opatrenia a kódexy správania

Nasadzujúce subjekty systémov AI, ktoré nie sú vysokorizikové, sú nabádané (môžu dobrovoľne):

1. Vytvárať kódexy správania na podporu dobrovoľného uplatňovania niektorých alebo všetkých povinných požiadaviek uplatniteľných na vysokorizikové systémy AI, pričom tieto požiadavky by mali byť prispôsobené nižšiemu súvisiacemu riziku.

2. Dobrovoľne uplatňovať dodatočné požiadavky, ako napríklad:

   ◦ Posudzovanie a minimalizácia vplyvu systémov AI na životné prostredie.

    ◦ Podpora gramotnosti v oblasti AI.

   ◦ Posudzovanie a predchádzanie negatívnym vplyvom na zraniteľné osoby alebo skupiny zraniteľných osôb, a to aj pokiaľ ide o prístupnosť pre osoby so zdravotným postihnutím.

Vylúčenie z pôsobnosti

Treba poznamenať, že toto nariadenie sa neuplatňuje na povinnosti nasadzujúcich subjektov, ktoré sú fyzickými osobami používajúcimi systémy AI v rámci čisto osobnej neprofesionálnej činnosti.