12.01.2026.
2022. gadā Itālijas pilsētā Boloņā pašvaldības pārstāvji konferencē prezentēja jaunu lietotni “Smart Citizen Wallet” (“Viedais pilsoņa maks”), kurā pilsētas iedzīvotājiem tiktu piešķirti punkti par “pareizu” rīcību, piemēram, šķirojot atkritumus, izmantojot sabiedrisko transportu, nesaņemot administratīvos sodus. Sakrātos punktus būtu iespējams tērēt kā pārtikas veikala klienta kartes uzkrātos punktus, teiksim, saņemot atlaidi pirkumiem. Lai gan nav atrodama informācija, vai šāda sistēma Boloņā tiešām tika ieviesta, teorētiski varētu secināt, ka tā, izpildoties citiem priekšnoteikumiem, iespējams, būtu aizliegto mākslīgā intelekta (MI) sistēmu skaitā.
Kas teikts MI aktā?
Mākslīgā intelekta akta (MI akts) jeb regulas 2024/1689, ar ko nosaka saskaņotas normas MI jomā, 5.panta 1.daļas c) apakšpunktā noteikts, ka ir aizliegta MI sistēmu laišana tirgū, nodošana ekspluatācijā vai lietošana nolūkā izvērtēt vai klasificēt fiziskas personas vai personu grupas noteiktā laikposmā, pamatojoties uz viņu sociālo uzvedību vai zināmām, izsecinātām vai prognozētām personas vai personības īpašībām, ja sociālais novērtējums ved pie viena vai abiem šādiem iznākumiem:
i) kaitējoša vai nelabvēlīga attieksme pret dažām fiziskām personām vai personu grupām sociālos kontekstos, kas nav saistīti ar kontekstiem, kuros dati tika sākotnēji ģenerēti vai savākti;
ii) kaitējoša vai nelabvēlīga attieksme pret dažām fiziskām personām vai personu grupām, kas nav pamatota vai nav samērīga ar viņu sociālo uzvedību vai tās smagumu.
Tas principā aizliedz sociālo vērtēšanu (social scoring), proti, personu klasifikāciju, pēc to “labajām” un “sliktajām” īpašībām piešķirot konkrētu vērtējumu. Aizlieguma mērķis ir aizsargāt cilvēka cieņu, tiesības netikt diskriminētam un uz vienlīdzīgu attieksmi, kā arī personas tiesības uz privātās dzīves un datu aizsardzību.
Patlaban iedzīvotāju vērtēšana plašākā vai šaurākā mērogā bieži jau tiek izmantota aprakstošos un konkrētai nozarei raksturīgos vērtējumos (piemēram, skolās, e-mācībās, vadītāja apliecības iegūšanā). Pat šādos šauros lietojumos jānodrošina iedzīvotājiem pilnībā pārredzama procedūra, ieskaitot informāciju par vērtēšanas procesu, mērķi un metodiku.
Kad piemēro aizliegumu?
Pirmais kritērijs, lai darbība būtu aizlieguma tvērumā, ir konkrētas MI sistēmas laišana tirgū, nodošana ekspluatācijā vai lietošana. Šis kritērijs ir attiecināms uz visām aizliegtajām MI sistēmām MI aktā.
Otrais no MI akta 5.panta 1.daļas c) apakšpunkta izsecināmais kritērijs ir personu izvērtēšana vai klasifikācija noteiktā laikposmā, pamatojoties uz personu:
- sociālo uzvedību vai
- zināmām, izsecinātām vai prognozētām personas vai personības īpašībām.
Izvērtēšana un klasifikācija
Jēdzieni “izvērtēšana” un “klasifikācija” ietver divas atšķirīgas, bet saistītas darbības. Klasificēšana ir plašāks jēdziens, tas ietver personu iedalīšanu noteiktās kategorijās, pamatojoties uz, piemēram, personu vecumu, dzimumu, augumu u.c. īpašībām. Šāda darbība vēl nenozīmē, ka uzreiz tiek veikta arī personu īpašību vai uzvedības analīze.
Savukārt izvērtēšana nozīmē informācijas par kādu personu izmantošana, analizējot personas īpašības vai uzvedību, lai izsecinātu vai paredzētu, piemēram, iespējamu tās uzvedību dažādās situācijās, spēju veikt dažādus uzdevumus, personas intereses. Izvērtēšana var izpausties kā profilēšana, kas jau ir pazīstams termins citos Eiropas Savienības (ES) tiesību aktos, piemēram, Vispārīgajā datu aizsardzības regulā (regula 2016/679 par fizisku personu aizsardzību attiecībā uz personas datu apstrādi un šādu datu brīvu apriti). Saskaņā ar Vispārīgās datu aizsardzības regulas 4.panta 4.punktu profilēšana ir automatizēta personas datu apstrāde ar mērķi izvērtēt konkrētus ar fizisku personu saistītus personiskus aspektus. Profilēšana pati par sevi nav aizliegta, taču MI akts ievieš aizliegumu noteiktam profilēšanas mērķu lokam, proti, sociālajai vērtēšanai.
Līdz MI akta pieņemšanai ES tiesību normās netika regulēta personu izvērtēšana, piešķirot personai vērtējumu. Tomēr šajā jautājumā pastāv Eiropas Savienības Tiesas (EST) prakse. Piemēram, “SCHUFA Holding” lieta (EST 2023.gada 7.decembra spriedums lietā C-634/21), kurā kāds kredītinformācijas birojs veica automatizētu personas spējas nākotnē pildīt maksājuma saistības vērtības iegūšanu. EST atzina, ka šāda “SCHUFA” darbība atbilst profilēšanas jēdzienam. Šis EST spriedums kļūst par būtisku atskaites punktu, proti, tas parāda, ka pat privātā sektora veiktā personu vērtēšana var sasniegt līmeni, kur automatizētais vērtējums faktiski nosaka indivīda iespējas sabiedrībā un rada personai nelabvēlīgas sekas.
Jāņem vērā, ka MI akta 5.panta 1.daļas c) apakšpunktā noteiktais aizliegums attiecas tikai uz darbību pret fiziskām personām. Tātad, ja tiek izvērtētas vai klasificētas juridiskas personas, netiek piemērots aizliegums. Līdzīgi noteikts par profilēšanu, jo Vispārīgā datu aizsardzības regula attiecas tikai uz fiziskas personas datiem. Cilvēka cieņa un privātums ir centrālā vērtība, savukārt juridisko personu vērtēšana un privātums netiek uzskatīts par līdzvērtīgi aizsargājamu.
Noteikts laikposms
MI akta 5.panta 1.daļas c) apakšpunktā skaidrots, ka aizliegums attiecas uz sistēmām, kas veic izvērtēšanu vai klasifikāciju noteiktā laikposmā, nevis uz vienas reizes datu apstrādi. Piemēram, konkrētas personu grupas uzvedības fiksēšana videonovērošanas kamerās ilgākā laikposmā kvalificētos kā darbība, kas tiek veikta noteiktā laika periodā. Šis kritērijs ir būtisks, jo tas nošķir īslaicīgu pārbaudi no ilgstošas personas izsekošanas vai uzraudzības, kas var radīt lielāku iejaukšanos personas privātumā.
Interesants piemērs, kas rada diskusijas par to, vai sistēma ietilpst MI akta 5.panta tvērumā, ir robežkontroles sistēma “iBorderCtrl”. Tā tika izstrādāta, lai veiktu trešo valstu pilsoņu sākotnējo pārbaudi pirms ieceļošanas ES. Sistēma paredz automatizētu interviju ar virtuālu robežsargu; ja tā ir veiksmīga, persona robežkontroli var šķērsot bez papildu pārbaudēm. Šāda veida automātiskā pārbaude tiek raksturota kā īsa pārbaude, lai konstatētu nepatiesus stāstus. Turklāt sistēma pielāgojas ceļotājam, proti, tiek personalizēta personas dzimumam, etniskajai piederībai un valodai. Šāda veida sistēmu, iespējams, nevarētu klasificēt kā aizliegtu, jo neizpildās noteikta laikposma kritērijs, proti, personas netiek vērtētas ilgstoši, dati tiek ievākti tikai vienas intervijas ietvaros. Tomēr varētu rasties situācijas, kad par vienu personu dati tiek ievākti ilgstošāk, piemēram, ja nepieciešamas papildu pārbaudes vai dati tiek ievākti ne tikai no automatizētās intervijas.
Līdz ar to jau pastāv sistēmas, kas spēj veikt ilgstošu personu novērošanu, lai apkopotos datus izmantotu izvērtēšanai vai klasifikācijai. Jo ilgāk personu novēro, jo lielāks risks, ka MI spēs paredzēt personas uzvedību un īpašības, kas, iespējams, var radīt nesamērīgu iejaukšanos personas privātajā dzīvē. Tieši tādēļ noteikta laikposma kritērijs ļauj vērtēt, vai konkrēta darbība ir aizliegta.
Sociālā uzvedība
Ir divi veidi, pēc kuriem personas var tikt klasificētas vai izvērtētas, proti, pēc personas sociālās uzvedības vai pēc zināmām, izsecinātām vai prognozētām personas vai personības īpašībām.
MI akta 31.apsvērums noteic, ka sociālā uzvedība var ietvert, piemēram, darbības, uzvedību, paradumus, komunikāciju ar citiem sabiedrības locekļiem. Personu darbība var būt gan no privātās dzīves, teiksim, personas kultūras pasākumu apmeklēšana vai piedalīšanās brīvprātīgajā darbā, gan arī no biznesa (vai publiskās) dzīves, piemēram, informācija par personas parādu apmaksu, attiecības ar valsts institūcijām. Līdz ar to ar sociālo uzvedību jāsaprot personas rīcība jebkurā sabiedriskā vidē. Šāds plašs definējums sociālās uzvedības vērtēšanu padara īpaši riskantu, jo teju jebkura personas darbība var kļūt par pamatu vērtējumam.
Zināmas, izsecinātas vai prognozētas īpašības
MI akta 42.apsvērums nosauc piemērus personas īpašībām, proti, šāda informācija var iekļaut personas dzimumu, rasi, etnisko piederību, ģimenes statusu, adresi, ienākumus, amatu, ekonomisko situāciju, veselības datus, intereses, atrašanās vietu u.c. informāciju. Savukārt personības īpašības var tikt uzskatītas par dažādu personas īpašību kopumu, ko apkopo pati persona, trešā persona vai MI sistēma. Nošķirot zināmas, izsecinātas un prognozētas īpašības, jāņem vērā, ka zināmas ir tādas, kas ievadītas MI sistēmā kā dati, izsecinātas ir tādas, ko MI sistēma izsecina no zināmajām, savukārt prognozētās ir tādas, ko MI sistēma paredz no zināmajām vai izsecinātajām. Šāda veida prognozes ir īpaši riskantas un var kļūt par pamatu diskriminējošai rīcībai, sevišķi tad, ja MI sistēma ir kļūdījusies.
Tomēr nepietiek ar klasifikāciju vai izvērtēšanu; klasifikācijai jānoved pie:
- kaitējošas vai nelabvēlīgas attieksmes citā kontekstā, ne tādā, kādā dati tika ievākti, un/vai
- nepamatotas vai nesamērīgas kaitējošas vai nelabvēlīgas attieksmes.
Saistība starp klasifikāciju un attieksmi
Tātad trešais kritērijs, lai darbība būtu aizlieguma tvērumā, ir konkrētas sekas, proti, klasifikācija fiziskai personai vai personu grupai rada kaitējošu vai nelabvēlīgu attieksmi. MI akts neaizliedz klasifikāciju kā tādu, bet gan tās izmantošanu kaitīgā veidā. Tādēļ nozīme ir ne tikai tam, ko sistēma dara, bet arī tam, kā šie rezultāti tiek interpretēti un pielietoti praksē.
Lai izpildītos šis kritērijs, attieksmei jābūt kaitējošai vai nelabvēlīgai, pamatojoties uz klasifikācijas vai izvērtējuma rezultātā personai piešķirto vērtējumu. Šāda saikne starp vērtējumu un attieksmi pret personu var pastāvēt, pat ja kaitējošas vai nelabvēlīgas sekas vēl nav iestājušās, bet ir paredzēts, ka MI sistēma spēs veikt šādas darbības. Arī sistēmas, kas tikai daļēji izmanto MI, lai veiktu izvērtējumu vai klasifikāciju, ir aizlieguma tvērumā. Tomēr nepieciešams, lai MI ģenerētais tiek būtiski ņemts vērā, veicot gala secinājumus par personu. Tas nozīmē, ka aizlieguma piemērošanā izšķiroša ir ne tikai faktiskā diskriminējošā rīcība, bet arī tas, vai sistēma ir spējīga radīt šādas sekas. Regulējums paredz rīkoties proaktīvi, proti, netiek sagaidīts kaitējums, bet gan novērsta tā iespējamība.
Acīmredzams piemērs šādām sistēmām ir sistēmas, kas veic sociālo vērtēšanu. Tās vērtē personas raksturu vai uzvedību, pēc pieejamiem datiem piešķirot personai konkrētu vērtējumu. Personai ar augstāku vērtējumu tiek sniegtas priekšrocības, savukārt personai ar zemāku vērtējumu ir ierobežojumi. Problēma rodas, ja MI sistēma ir kļūdījusies vai ir pamats uzskatīt, ka sistēma kļūdījusies, jo MI sistēmu tehniskā rakstura dēļ rezultātus varētu būt neiespējami izprast.
Datu izmantošana citā kontekstā
Datu izmantošana “citā kontekstā” nozīmē, ka MI sistēma personas vērtēšanai vai klasifikācijai izmanto datus, kas iegūti vai ģenerēti no situācijām, kurām nav acīmredzamas saiknes ar vērtēšanas mērķi. Lai noteiktu, vai dati tiek izmantoti citā kontekstā nekā ievākti, katrs gadījums jāizvērtē atsevišķi.
Kā piemēru var minēt veselības aģentūru, kas MI sistēmu izmantotu, lai noteiktu, kurām personām piedāvāt papildu preventīvos veselības pārbaudes pakalpojumus. Lai gan daļa datu, piemēram, vecums, dzimums un esošas hroniskas slimības, ir būtiski šādam izvērtējumam, sistēma papildus izmanto datus no konteksta, kas nav tieši saistīts ar veselības risku, piemēram, personas sociālo tīklu aktivitātes, pārtikas iepirkumu paradumus vai ceļojumu vēsturi. Rezultātā personas, kuras faktiski neietilpst riska grupā, tiek nepamatoti iezīmētas kā “augsta riska” un tiek aicinātas uz biežākām pārbaudēm. Tomēr šādā situācijā, iespējams, neizpildītos aizlieguma priekšnosacījumi, jo nebūtu novērojama kaitējoša vai nelabvēlīga ietekme. Tādējādi ne katra neprecīza vai nepareiza klasifikācija automātiski kļūst par aizliegtu praksē. Aizlieguma tvērums iestājas tikai tad, kad rodas reālas vai paredzamas nelabvēlīgas sekas attiecībā uz personu.
Nesamērīga datu apstrāde
Ņemot vērā proporcionalitātes principu, datu apstrāde ir uzskatāma par nesamērīgu tad, ja nelabvēlīgās sekas, kas personai rodas no sociālās vērtēšanas, nav samērojamas ar attiecīgo sociālās uzvedības pārkāpumu vai tā smagumu.
Nelabvēlīga attieksme nozīmē, ka pret personu vai personu grupu izturas citādāk (nelabvēlīgāk) nekā pret citām personām vai personu grupām. Piemēram, konkrētai personu grupai tiek veiktas papildu pārbaudes, pamatojoties uz iespējamu krāpšanas risku.
Nelabvēlīgas un nesamērīgas attieksmes piemēri
Kļūdaina apsūdzība krāpšanā
Viena no lielākajām sabiedriskajām un politiskajām krīzēm Nīderlandē skāra vismaz 35 tūkst. vecāku, kuri tika kļūdaini apsūdzēti krāpšanā saistībā ar bērnu pabalstiem. Šīs apsūdzības primāri attiecās uz vecākiem ar atšķirīgu ādas krāsu un īpaši – vientuļajām mātēm. Nodokļu iestādes nepamatoti apturēja bērnu pabalstu izmaksas, daudziem radot nepieciešamību atmaksāt desmitiem tūkstošu eiro, un viņi zaudēja piekļuvi citām sociālajām atbalsta formām. Tiek atzīts, ka MI loma šajā skandālā bija būtiska, jo bija pārāk liela atkarība no automātiskās izvērtēšanas, kas izraisīja diskriminējošu attieksmi.
Nīderlandes piemērs parāda, ka sistēma, kas nav caurskatāma un netiek uzraudzīta, var pieļaut kļūdu, kura var radīt nelabvēlīgu un nesamērīgu attieksmi pret samērā lielu personu loku. MI un automatizēto sistēmu izmantošana valsts pārvaldē prasa īpašu piesardzību, caurskatāmību un regulāru uzraudzību. Nepietiekama kontrole un pārāk liela paļaušanās uz algoritmiem var novest pie nopietniem cilvēktiesību pārkāpumiem un diskriminācijas.
Iespējamo krāpnieku kļūdaina atmaskošana
Dānijā “SyRI” sistēma valsts un pašvaldību iestādēm ļāva apvienot plašas datu kopas, analizējot tās un identificējot personas, kuras, iespējams, varētu pārkāpt pabalstu noteikumus. Sistēma tika piemērota galvenokārt teritorijās, kurās bija liels iedzīvotāju ar zemiem ienākumiem, imigrantu un etnisko minoritāšu īpatsvars. Dānijas tiesa atzina, ka sistēma nepilda Eiropas Cilvēktiesību konvencijas 8.panta prasības par privātās dzīves aizsardzību, jo tās piemērošana nav pietiekami caurskatāma un pārbaudāma.
Līdzīgi kā Nīderlandes piemērā, šī sistēma netika pietiekami uzraudzīta, kas izraisīja nelabvēlīgas un nesamērīgas sekas.
Šķietamie kredītu nemaksātāji
Ķīnas “sociālā kredīta sistēma” tika ieviesta, lai samazinātu kredītu neizpildes risku un uzlabotu kredītspējas vērtējumu mehānismus. Tā apvieno tradicionālās finanšu kredītvērtēšanas elementus ar uzvedības datiem un sociālajām attiecībām, piemēram, maksājumu vēsturi, pirkšanas paradumus, līdzekļu pārvaldību, sniegto personīgo informāciju un sociālo mijiedarbību. Sistēma piešķir personām punktus, kas ietekmē piekļuvi kredītiem, pakalpojumiem un pat dažiem publiskiem resursiem. Šī sistēma rada risku nesamērīgai ietekmei uz personu dzīvi, jo uzvedības vai sociālo kontaktu izvērtējums var izraisīt diskriminējošu vai nelabvēlīgu attieksmi.
Ķīnas sociālās kredītēšanas piemērs parāda, kā visaptveroša uzvedības un sociālo datu izvērtēšana var radīt plašu nesamērīgu ietekmi uz indivīdu dzīvi, potenciāli veicinot diskriminējošu un nelabvēlīgu attieksmi gan pret atsevišķām personām, gan noteiktām sociālām grupām. Lai mazinātu diskriminējošas un nelabvēlīgas attieksmes iespējamību, būtu nepieciešams ierobežot datu apjomu un veidus, ko izmanto sociālās kreditēšanas sistēmās, kā arī būtu nosakāmas caurskatāmības prasības, lai personas varētu uzzināt, kādi dati tiek izmantoti un kā tie ietekmē personu “vērtējumu”.
Atļautās darbības
Fizisko personu vērtēšana ar punktu sistēmu (piešķirot vērtējumu) nav aizliegta visos gadījumos. Aizliegums, kas noteikts MI akta 5.panta 1.daļas c) apakšpunktā, attiecas tikai uz situācijām, kuras atbilst visiem šī panta kritērijiem vienlaikus. MI akta 31.apsvērums īpaši norāda, ka aizliegums nedrīkst ietekmēt likumīgas fizisko personu izvērtēšanas prakses, kas tiek veiktas konkrētam mērķim atbilstoši ES un valsts tiesību aktiem.
Finanšu kredītpunktu sistēmas, ko izmanto kreditori vai kredītinformācijas aģentūras, lai izvērtētu klienta maksātspēju vai esošos parādus, ir ārpus MI akta 5.panta 1.daļas c) apakšpunkta darbības jomas, ja tās tiek izmantotas likumīgā kredītvērtējuma mērķim. Šāda izvērtēšana parasti balstās uz informāciju par klienta ienākumiem, izdevumiem un citiem finanšu un ekonomiskajiem apstākļiem. Atbilstība patērētāju tiesību aizsardzības normām, kas nosaka izmantoto datu veidus un nepieciešamos drošības pasākumus, nodrošina, ka šāda punktu sistēmas izmantošana tiek veikta taisnīgi un likumīgi.
Tāpēc MI sistēmas darbība, kas iesaista fizisko personu vērtēšanu vai punktu sistēmas, ir jāvērtē individuāli, ņemot vērā tās mērķi, izmantotos datus un iespējamo ietekmi uz personām. Katras sistēmas izmantošana jānovērtē no proporcionalitātes un taisnīguma viedokļa, kā arī ievērojot no MI akta izrietošos priekšnoteikumus.
Lai mazinātu sociālās vērtēšanas un diskriminācijas riskus, būtiski nodrošināt caurspīdīgumu, proti, personām jāspēj saprast, kādi dati tiek izmantoti un kā tie ietekmē pieņemtos lēmumus. Tikpat svarīgi ir ievērot datu minimizācijas principu, izmantojot tikai tos datus, kas nepieciešami konkrētajam mērķim, izvairoties no pārmērīgas uzvedības uzraudzības. Īpaša uzmanība pievēršama cilvēktiesību ietekmes izvērtēšanai, sevišķi jomās, kur automatizēti lēmumi var tieši ietekmēt personas sociālo nodrošinājumu vai iespējas sabiedrībā.
Raksta līdzautore: Katrīna Kļava, Jurista palīdze, KPMG Law Latvijā
Raksts pārpublicēts no interneta žurnāla iBizness.lv.
