Miten bottien ja tekoälyn toimintaa voi hallita?

Miten bottien ja tekoälyn toimintaa voi hallita?

KPMG:n AI in Control -viitekehystä käytetään kartoittamaan yritysten tekoäly- ja koneoppimisratkaisujen riskejä ja varmistamaan niiden luotettavuus

1000
Mika Honkanen

Head of Employment Law (työoikeus, KPMG Law)

KPMG Suomi

Sähköposti

”Botti osallistui petokseen ja yrityksen johdolle tuomio.”
”Vääristynyt algoritmi tuottanut eettisten sääntöjen vastaista profilointia.”
”Automaatioympäristön vikojen takia yrityksen liiketoiminta katkolla usean päivän ajan.”
”Vääristynyt algoritmi aiheuttanut hengenvaaraa.”

On todennäköistä, että tulemme näkemään yhä enemmän yllä olevan kaltaista uutisointia älykkään automaation, ml. ohjelmistorobotiikka- ja tekoälyratkaisut, vakiintuessa ja yleistyessä yrityksissä ja yhteisöissä.

Kokeiluista käyttöönottoon

Älykkäällä automaatiolla saadaan nopeasti tehostettua toimintaa. Ohjelmistorobotiikalla eli RPA:lla (Robotic Process Automation) automatisoidaan usein taloushallinnon prosesseja ja tekoälyllä parannetaan asiakaskokemusta ja ydintekemistä. Nämä teknologiat ovat olleet monissa yrityksissä ja yhteisöissä jo pidempään kokeiluvaiheessa. Nyt voidaan sanoa, että ollaan siirtymässä kokeilusta laajamittaiseen käyttöönottoon. Tämä täytyy huomioida riskienhallinnan kannalta – käytön lisääminen lisää myös riskejä.

Riskienhallinta ja regulaatiot

Kokeiluvaiheessa riskienhallinta yleensä jää taka-alalle. Esimerkiksi ohjelmistorobotiikkaratkaisut ja prosessien automatisoinnit ovat yleensä helposti kehitettäviä ja käyttöönotettavia. Kun robotit tuottavat tai muokkaavat yrityksen ydintietoja, ovat riskit kuitenkin todellisia ja ne tulee huomioida. Kun botilla korvataan jokin kriittinen manuaalinen prosessi, on muistettava myös jatkuvuus. Esimerkkinä voidaan käyttää yrityksen automatisoitua myyntiprosessia. Jos bottiympäristö ei toimi, tilanne on ongelmallinen. Mikäli prosessia ei enää osata tai pystytä tekemään manuaalisesti häiriötilanteessa, ongelma on vielä vakavampi.

Regulaatiot, kuten YT-lainsäädäntö tulee automaatioprojekteissa huomioida. Mikäli automatisointi ja sen avulla saavutettava tehokkuus voi johtaa työntekijöiden irtisanomisiin, lomauttamisiin tai osa-aikaistamisiin, on yrityksen käytävä henkilöstön kanssa työvoiman vähentämistä koskevat yhteistoimintaneuvottelut lain mukaisia vähimmäisaikoja ja menettelysääntöjä noudattaen ennen automatisointipäätösten tekemistä. Mikäli automatisointi aiheuttaa henkilöstövaikutuksia ja töiden järjestelyjä, mutta ei kuitenkaan johda työntekijöiden irtisanomisiin, lomauttamisiin tai osa-aikaistamisiin, henkilöstövaikutukset voidaan käsitellä kevennetyissä yhteistoimintaneuvotteluissa.

Algoritmien hallinta

Tekoälysovellusten osalta on huomioitava myös algoritmien toiminta. Algoritmit ovat liiketoiminnan ja asiakkaiden kannalta usein läpinäkymättömiä mustia laatikoita, eikä niiden taustalla olevaa matematiikkaa ja näin ollen toimintaa useinkaan osata selittää. Algoritmin tuottamia vääriä päätöksiä on vaikea huomata, puhumattakaan eettisestä näkökulmasta.

Algoritmien tai bottien taakse ei kuitenkaan voi piiloutua. Organisaation johto on viime kädessä vastuussa, eikä voi vedota tietämättömyyteen. Kotimaisen ja globaalin kokemuksemme mukaan, automaation ja tekoälyn hallitsemisessa avaintekijä onkin toimivan hallintomallin luominen. 

KPMG:n AI in Control -viitekehys

KPMG:n AI in Control on vakiintunut menetelmä datatietelijöiden ja yrityksen johdon välisen kuilun yhteen kuromiseksi. AI in Control –viitekehys perustuu tekoälyn ja älykkään automaation mukanaan tuomiin uusiin riskeihin ja kontrolleihin, joilla näitä riskejä voidaan hallita. Kontrollit sijoittuvat eri alueille ja eri tasoille, kuten hallinto ja strategia sekä toteutus- ja testausprosessit. Algoritmien osalta testaaminen on erityisen tärkeää.

Älykkään automaation hyödyt ovat kiistattomia ja niitä ovat esimerkiksi parantunut tuottavuus, riskienhallinta ja henkilöstötyytyväisyys. Mikäli haluat varmistua, että saat täydet tehot irti automaatioympäristöstäsi, olet ottamassa sitä laajemmin käyttöön organisaatiossasi tai haluat varmistua ratkaisuiden hallinnoinnin olevan riittävällä tasolla, olemme tukenasi. Ota yhteyttä Älykkään automaation tiimiimme, keskustellaan AI- ja automaatioteknologioiden hyödyntämisestä ja siihen liittyvästä riskienhallinnasta.

Artikkelin ovat kirjoittaneet älykkään automaation asiantuntija Teijo Peltoniemi ja liikejuridiikan ja työoikeuden asiantuntija Mika Honkanen. 

© 2024 KPMG Oy Ab, a Finnish limited liability company and a member firm of the KPMG global organization of independent member firms affiliated with KPMG International Limited, a private English company limited by guarantee. All rights reserved


For more detail about the structure of the KPMG global organization please visit https://kpmg.com/governance

Ota yhteyttä