Mūsdienās arvien plašāk tiek izmantotas automatizētas lēmumu pieņemšanas sistēmas, īpaši balstītas uz mākslīgo intelektu (MI). Šajā kontekstā arvien lielāku nozīmi iegūst jēdziens jēgpilna cilvēka iesaiste (meaningful human intervention), kas palīdz nodrošināt cilvēka kontroli pār tehnoloģiskajiem procesiem un aizsargāt indivīda pamattiesības. Lai gan šis jēdziens nav tieši definēts normatīvajos aktos, tas izriet no Eiropas Savienības datu aizsardzības un mākslīgā intelekta regulējuma interpretācijas.
Šī ideja nav piesaistīta vienam konkrētam normatīvajam aktam. Tā drīzāk atspoguļo plašāku pieeju digitālajās tiesībās, kuras centrā tiek likts cilvēks un viņa iespēja saglabāt kontroli pār tehnoloģiju radītajiem rezultātiem. Piemēram, Vispārējās datu aizsardzības regulas (Datu regulas) 22. pants nosaka, ka svarīgus lēmumus par personu nevar pieņemt tikai automatizēti, ja tie rada juridiskas vai citādi nozīmīgas sekas personai. Datu regulas 22. panta 3. punkts paredz pienākumu nodrošināt tiesības uz cilvēka iesaisti. Tas nozīmē, ka Datu regula paredz aizsardzību pret MI lēmumiem, kuru pieņemšanā nav iesaistītas citas personas. Papildus datu subjektam tiek piešķirtas tiesības izteikt savu viedokli un nepieciešamības gadījumā automatizētu lēmumu apstrīdēt, kā arī citi Datu regulas panti (13. - 15.p.) nosaka pienākumu sniegt informāciju par automatizētu lēmumu pieņemšanas loģiku, nozīmi un paredzamajām sekām. Kā jau atzinusi Eiropas Datu aizsardzības kolēģija, Datu regula paredz reālu un efektīvu, nevis tikai formālu cilvēka iesaisti automatizētu lēmumu pieņemšanā.
Līdz ar to Datu regulas ietvaros šis jēdziens tiek skatīts caur indivīda pamattiesību prizmu, īpaši uzsverot personas autonomiju, taisnīgu attieksmi un tiesības uz individuālu izvērtējumu.
Kādi riski saistīti ar automatizētu lēmumu pieņemšanu un kāda ir cilvēka loma?
Cilvēka iesaistes nozīme īpaši aktualizējas situācijās, kur automatizēti lēmumi var būt kļūdaini vai netaisnīgi. Algoritmi var balstīties uz nepilnīgiem datiem, radīt diskriminējošus rezultātus vai būt grūti izprotami. Šādos gadījumos cilvēka uzdevums ir ne tikai pārbaudīt rezultātu, bet arī uzņemties atbildību par gala lēmumu.
Plašākā perspektīvā šis jēdziens ir cieši saistīts ar cilvēkcentrētas pieejas nostiprināšanu tehnoloģiju regulējumā. To atspoguļo arī Eiropas Savienības MI akts, kas paredz īpašas prasības attiecībā uz cilvēka uzraudzību augsta riska MI sistēmu izmantošanā. MI akta 14. pants nosaka, ka augsta riska MI sistēmām obligāti jābūt projektētām un izmantotām tā, lai nodrošinātu efektīvu cilvēka virsvadību, īpaši gadījumos, kad sistēmas var būtiski ietekmēt personas pamattiesības vai pamatbrīvības. Savukārt MI akta 27. apsvērums norāda uz vairākiem ētiskiem principiem attiecībā uz visām MI sistēmām, tostarp cilvēka virsvadība, kas nozīmē, ka MI sistēmas tiek projektētas un lietotas kā instruments, kas kalpo cilvēkiem, respektē cilvēka cieņu un personisko autonomiju un darbojas tādā veidā, ko cilvēki var pienācīgi kontrolēt un virsvadīt.
Praktiskā piemērošana un galvenie izaicinājumi
Tāpat īpaša nozīme tiek piešķirta procesu un sistēmu izveidei. Ja cilvēka iesaiste ir ierobežota, piemēram, laika trūkuma vai nepietiekamas informācijas dēļ, pastāv risks, ka lēmumi faktiski paliek automatizēti, pat ja formāli tajos ir iesaistīts cilvēks. Tāpēc cilvēka iesaiste kļūst par neatņemamu tehnoloģiju izstrādes daļu, kas integrējama jau sistēmas izstrādes un ieviešanas posmā.
Aplūkojot abus regulējumus kopumā, secināms, ka jēdziens “jēgpilna cilvēka iesaiste” apvieno divas pieejas. Vienā gadījumā tas nodrošina indivīda tiesību aizsardzību, ļaujot cilvēkam ietekmēt uz viņu attiecināmus lēmumus. Otrā gadījumā tas darbojas kā pārvaldības instruments, kas palīdz mazināt riskus jau tehnoloģiju izstrādes un ieviešanas procesā, koncentrējoties uz to novēršanu agrīnā stadijā.
Turklāt starp regulējumiem pastāv vairākas atšķirības attiecībā uz personu tiesībām uz informāciju par lēmumu pieņemšanu, kā arī tiesībām apstrīdēt pieņemto lēmumu (piemēram, Datu regulas 22. pants nodrošina personas tiesības izteikt viedokli, kā arī apstrīdēt automatizēti pieņemtu lēmumu, bet MI akta 86. pants tikai nodrošina tiesības uz izskaidrojumu, bet ne tiesības apstrīdēt pieņemto lēmumu).
Līdz ar to cilvēka iesaiste kļūst par būtisku kritēriju, pēc kura iespējams novērtēt automatizēto lēmumu pieņemšanas sistēmu atbilstību regulējumam. Attiecīgi praksē galvenais izaicinājums ir nodrošināt, ka cilvēks saglabā ne tikai formālu iesaisti, bet arī faktisku ietekmi uz lēmumu pieņemšanu.