Zákon o umelej inteligencii: čo bude vyplývať z novej legislatívy EÚ?

V súvislosti s celosvetovým rozšírením umelej inteligencie v podnikaní aj v každodennom živote bude dôležité nastaviť pravidlá, ktorým by malo jej používanie podliehať. Spolu s praktickými spôsobmi vyžitia umelej inteligencie (angl. artificial intelligence, AI) sa totiž vynorili aj nezanedbateľné riziká a etické otázky.

V reakcii na ne Európska únia (EÚ) dosiahla prelomovú dohodu o komplexnom zákone regulujúcom umelú inteligenciu (tzv. AI Act), ktorý kategorizuje rôzne riziká, ktoré môžu nástroje s umelou inteligenciou predstavovať pre základné práva, demokraciu, právny štát a udržateľnosť. Zákon nadobúda účinnosť v roku 2024 a dodržiavanie niektorých pravidiel sa bude vyžadovať už od roku 2025. Zákon je zatiaľ prvým svojho druhu na svete a očakáva sa, že bude dláždiť cestu globálnym štandardom pre reguláciu AI.

Zákon bude mať významný vplyv na mnohé organizácie. Hoci väčšina povinností nadobudne účinnosť začiatkom roka 2026, systémy, ktoré predstavujú neprijateľné riziko budú musieť byť postupne vyradené už šesť mesiacov po nadobudnutí účinnosti zákona. Pravidlá upravujúce umelú inteligenciu na „všeobecné účely“ sa začnú uplatňovať začiatkom roka 2025.

V zákone o umelej inteligencii sa uplatňuje prístup založený na riziku, ktorý kategorizuje systémy umelej inteligencie podľa úrovne rizika na neprijateľné, vysoké, obmedzené a minimálne.

Nové povinnosti sa budú týkať nielen používateľov, ale aj poskytovateľov systémov AI. Pojem "poskytovateľ" v zákone o zahŕňa subjekty vyvíjajúce systémy AI vrátane organizácií, ktoré vyvíjajú systémy výlučne na interné použitie. Jedna organizácia teda môže byť používateľom aj poskytovateľom.

Poskytovatelia budú musieť zabezpečiť dodržiavanie prísnych noriem týkajúcich sa riadenia rizík, kvality údajov, transparentnosti a ľudského dohľadu. Na druhej strane, používatelia budú zase zodpovední za prevádzku systémov AI v súlade so zákonom o umelej inteligencii a s pokynmi poskytovateľa. Nové povinnosti sa budú týkať zamýšľaného účelu používania, nakladania s údajmi, ľudského dohľadu a monitorovania.

Mnoho spoločností v EÚ aj mimo nej vyvíja alebo používa systémy umelej inteligencie, ktoré budú pravdepodobne v rámci pôsobnosti zákona o umelej inteligencii. Vzhľadom na krátke obdobie implementácie by mali dôkladne porozumieť systémom, ktoré vyvíjajú a/alebo používajú, a tomu, aké nové požiadavky budú musieť spĺňať podľa kategórie, pod ktorú budú tieto systémy spadať.

Umelá inteligencia, ktorá môže mať na svedomí manipuláciu, zneužívanie a podobné praktiky bude považovaná za systém predstavujúci neprijateľné riziko a jej používanie bude zakázané.

Systémy, ktoré môžu mať potenciálne negatívny vplyv na bezpečnosť alebo ľudské práva, budú kategorizované ako vysoko rizikové. Na takéto systémy sa budú vzťahovať najprísnejšie regulačné požiadavky.

Do zákona boli dodatočne zahrnuté aj ustanovenia týkajúce sa generatívnej umelej inteligencie aj vďaka jej rozmachu a rozvoja jej schopností v posledných mesiacoch. Hoci existuje riziko, že by tieto systémy mohli byť zneužité pri podvodoch, nebudú nevyhnutne kvalifikované ako vysoko rizikové, ale ako systémy s obmedzeným rizikom. Z toho dôvodu budú podliehať prísnym požiadavkám na transparentnosť.

V zákone o umelej inteligencii nie je definovaná kategória minimálneho rizika a patriť sem teda budú ostatné systémy, ktoré nebudú klasifikované v ostatných kategóriách. Budú to napríklad videohry s umelou inteligenciou alebo spamové filtre.

Prvým krokom analýzy dopadov zákona je dôkladné zmapovanie systémov umelej inteligencie, ktoré spoločnosť vyvíja a používa. V ďalšom kroku je potrebné sa zamyslieť, akú úroveň rizika predstavujú podľa zákona o umelej inteligencii. Ak niektorý z ich systémov AI patrí do kategórie obmedzeného, vysokého alebo neprijateľného rizika, spoločnosti budú musieť posúdiť, aké dôsledky z toho vyplynú pre ich podnikanie a premyslieť svoju budúcu stratégiu.

Viac informácií nájdete nižšie v správe KPMG Decoding the EU AI Act.