Regulačné rámce a normy AI

Čo je to Akt o umelej inteligencii (EU AI Act)?

EU AI Act predstavuje prvý komplexný právny rámec na svete, ktorý priamo reguluje vývoj a nasadzovanie systémov umelej inteligencie. Jeho cieľom je zabezpečiť, aby systémy AI uvádzané na trh EÚ boli bezpečné a rešpektovali základné práva občanov. Táto regulácia sa vzťahuje nielen na vývojárov so sídlom v EÚ, ale na všetkých poskytovateľov, ktorých systémy sú využívané v rámci členských štátov.

Viac informácií o konkrétnych hrozbách, ktoré tento zákon rieši, nájdete v sekcii Riziká neurónových sietí. Právny rámec sa zameriava na transparentnosť, vysvetliteľnosť algoritmov a robustnosť systémov proti vonkajším zásahom.

Ako sa klasifikujú riziká podľa nových noriem?

Regulácia využíva prístup založený na miere rizika, pričom rozlišuje štyri základné kategórie. Prvou je neprijateľné riziko, ktoré zahŕňa systémy na sociálne hodnotenie (social scoring) alebo manipulatívne techniky, a tieto sú úplne zakázané. Druhou kategóriou je vysoké riziko, kam patria systémy používané v kritickej infraštruktúre, vzdelávaní alebo pri nábore zamestnancov.

Aké technické dokumentácie sú povinné pre vývojárov?

Vývojári vysokorizikových systémov musia udržiavať podrobnú technickú dokumentáciu, ktorá preukazuje súlad s požiadavkami. Táto dokumentácia musí obsahovať popis architektúry systému, použité datasety, procesy testovania a validačné protokoly. Dôležitou súčasťou je aj dokumentácia k technickému zosúladeniu cieľov, aby sa predišlo nepredvídateľnému správaniu algoritmov.

Ktoré inštitúcie dohliadajú na dodržiavanie pravidiel?

Dohľad je rozdelený medzi národné dozorné orgány v každom členskom štáte a novovzniknutý Európsky úrad pre umelú inteligenciu (AI Office). Tieto orgány majú právomoc kontrolovať súlad, vyžadovať prístup k modelom a v prípade podozrenia na porušenie noriem nariadiť stiahnutie systému z trhu.

Aké sú sankcie za nedodržanie regulačných rámcov?

Finančné postihy sú nastavené veľmi prísne, aby motivovali k dodržiavaniu noriem. Pokuty môžu dosiahnuť až 35 miliónov EUR alebo 7 % celosvetového ročného obratu spoločnosti, podľa toho, ktorá suma je vyššia. Tento model je inšpirovaný úspešným rámcom GDPR, o ktorom sa viac dozviete v sekcii Ochrana údajov v AI.

Ako súvisí regulácia s ochranou osobných údajov?

Regulácia AI priamo dopĺňa existujúce pravidlá GDPR. Zatiaľ čo GDPR sa zameriava na spracovanie údajov, AI Act sa sústredí na samotné algoritmy a ich rozhodovacie procesy. Spoločne tvoria bariéru proti zneužívaniu biometrických údajov a zabezpečujú integritu digitálneho priestoru.