Zákon o umelej inteligencii (AI Act)
Používanie umelej inteligencie v Európskej únii bude regulované zákonom o umelej inteligencii (AI Act). Tento zákon schválila Rada Európskej únie 21. mája 2024 a plne účinný bude od roku 2026, pričom niektoré jeho časti nadobudnú účinnosť už v lete 2024.
Koho sa zákon týka?
Táto kľúčová legislatíva má podporovať vývoj a zavádzanie bezpečných a dôveryhodných systémov AI na jednotnom trhu EÚ. Zároveň zabezpečuje rešpektovanie základných práv občanov EÚ. Tento právny rámec sa vzťahuje na kľúčových hráčov v hodnotovom reťazci AI, ako sú poskytovatelia, distribútori, používatelia a dovozcovia. Regulácia sa uplatňuje, ak majú títo aktéri sídlo alebo sa nachádzajú v rámci EÚ, prípadne ak sa systémy uvádzajú na trh alebo do prevádzky v EÚ.
Rizikový prístup
Zákon o umelej inteligencii sleduje prístup založený na hodnotení rizika a klasifikuje systémy AI do štyroch kategórií: neprijateľné, vysoké, obmedzené a minimálne (alebo žiadne) riziko. Táto štruktúra stanovuje rôzne požiadavky a povinnosti v závislosti od úrovne rizika, čím sa zabezpečuje účinná a spravodlivá ochrana. Napríklad zákon zakazuje používanie sociálneho skórovania verejnými orgánmi alebo systémy na biometrickú identifikáciu v reálnom čase na verejných miestach, pretože sa považujú za neprijateľne rizikové.
Povinnosti pre vysokorizikové AI systémy
Zákon definuje viaceré odvetvia, kde bude použitie AI povolené, ale prísne regulované kvôli vysokému riziku. Medzi príklady vysokorizikových použití AI patria:
- kritická infraštruktúra (napr. priemyselné zariadenia),
- vzdelávanie a odborný výcvik,
- riadenie migrácie a kontroly na hraniciach,
- ľudské zdroje.
Tieto systémy budú podliehať prísnym povinnostiam pred uvedením na trh, vrátane:
- vypracovania podrobnej dokumentácie,
- vedenia trvalých záznamov o údajoch,
- poskytovania jasných a dostatočných informácií.
Okrem toho musia byť zavedené opatrenia na ľudský dohľad, ako aj zabezpečenie vysokej úrovne robustnosti, bezpečnosti a presnosti systémov.
Všeobecné modely umelej inteligencie (GPAI)
Stále viac sa všeobecné modely AI, ako je ChatGPT, stávajú súčasťou AI systémov využívaných firmami. V legislatíve sa riziková klasifikácia týchto modelov odvíja od ich výpočtového výkonu a účelu použitia. Okrem povinností v oblasti transparentnosti budú poskytovatelia systémovo rizikových GPAI modelov musieť implementovať ďalšie opatrenia, ako sú:
- sebahodnotenie a zmierňovanie systémových rizík,
- hlásenie vážnych incidentov,
- testovanie a hodnotenie modelov,
- splnenie kybernetických bezpečnostných požiadaviek.
Pokuty za nedodržanie zákona
Nedodržanie požiadaviek AI Act môže viesť k pokutám, vrátane sankcií až do výšky 35 miliónov eur.
Tento zákon predstavuje významný krok smerom k bezpečnému a etickému využívaniu AI v EÚ, pričom chráni občanov aj podnikateľov.
