AI i maskinlærings-operasjoner (MLOps)

Machine Learning Operations, eller maskinlæringsoperasjoner, handler om hvilke kulturer, praksiser, prosesser og komponenter som legges til grunn for en helhetlig og robust maskinlærings(ML)-operasjon. For enkelhets skyld kaller vi det «MLOps». Det handler om prosessen fra planlegging og utvikling til levering og drift av ML-baserte systemer og løsninger.

For å jobbe effektivt med MLOps, må vi adoptere og videreføre prinsipper fra tradisjonell programvareutvikling (DevOps). I tillegg må vi etablere kompetanse, prosesser og komponenter som øker utviklingstakt, kontroll og automasjon. Fra å omfavne hva vi modellerer, må vi ta steget videre og se på hvordan vi utvikler og strukturerer robuste dataprodukter og fullverdige ML-systemer.

Stegene i prosessen krever mer automatisering og kontroll. Prosessen må trenes og oppdateres, det må etableres automatisert testing og produksjonssetting. Løsningens infrastruktur må settes opp og driftes. Målet er kontroll og kvalitet i hele systemet, effektiv forvaltning og videreutvikling av eksisterende løsninger, i tillegg til kort time-to-market for nye dataprodukter. For å komme dit, må vi tilrettelegge og dyrke samhandling, og ha god kodepraksis, modulisert logikk og komponenter.

Se for deg en industribedrift, for eksempel en bilprodusent. Denne bedriften bygger hver eneste bil etter ordre fra bunn – hver produksjon starter med blanke ark. Ingen prosesser, deler eller kvalitetskontroller er standardiserte. Denne prosessen fungerte kanskje i bilindustriens spede begynnelse, men i dagens marked vil en slik tilnærming enten begrenses til et nisjemarked eller rett og slett føre til at bedriften blir utkonkurrert på grunn av utfordringer rundt kostnader, kvalitet eller lang time-to-market. 

Et tilsvarende skifte har vi sett innen programvareutvikling og senere i utvikling av AI-baserte løsninger. Gamlemåten å bygge opp på kjennetegnes av manglende standardisering, modulisering og kontroll. Dette er ikke lenger levedyktig om vi ønsker å oppnå høy utviklingstakt og skape moderne og robuste løsninger. Vi kan si at DevOps sammen med rivende teknologiutvikling har vært programvareutviklingens industrielle revolusjon, og MLOps er tilsvarende for løsningsutvikling innen ML og AI.  

En vellykket MLOps-satsning avhenger, i tillegg til teknologien, av 

• en tydelig formulert og forankret strategi. Vi må ha en klar plan for hvordan maskinlæring og kunstig intelligens skal skape verdi for virksomheten. Dette innebærer å definere vår egen analytiske modenhet og ambisjon, og å lage et veikart for hva som kommer. Slik kan vi unngå å svi av tid og ressurser på en teknisk og organisatorisk rigg som ikke klarer å levere til forventningene. 

• involvering av hele organisasjonen. Både hypoteser og potensielle bruksområder bør være definerte før vi konkretiserer planer, setter i gang rekruttering, definerer scope og designer arkitektur og prosesser. Som regel skal verdien fra dataproduktene også realiseres i andre deler av organisasjonen, og uten interessentinvolvering risikerer vi å sitte igjen med sofistikerte ML-løsninger ingen bruker. 

• veien fra proof-of-concepts til industrialisering. Det er bra å eksperimentere med og gjennomføre proof-of-concepts, så lenge vi er bevisste på at midlertidige løsninger ikke blir permanente. Jo lenger vi går uten å profesjonalisere prosesser og infrastruktur, jo vanskeligere blir det å sette i gang de nødvendige tiltakene som gjør ML-operasjonen vellykket og verdiskapende. 

• en god organisering. Etter å ha definert utgangspunkt og mål, må en organisering og teamstruktur på plass, og denne bør være i tråd med virksomhetens eksisterende modell. Spørsmål vi bør stille oss, er: Skal vi etablere et «Center of excellence»-miljø der all ML-utvikling skal skje? Skal ML-kapasiteten distribueres ut til de ulike forretningsområdene, eller bør vi satse på en programorganisering og kryssfunksjonelle team? Eksisterende struktur og tilgjengelig kompetanse er viktig, men vel så viktig er det å ikke etablere en silo uten forbindelser til resten av organisasjonen.  

• et grunnlag for verdiskaping. En fullverdig MLOps-implementering er ofte både tid- og ressurskrevende. Før vi kan skape og hente ut verdiskapende dataprodukter, skal vi gjennom en periode med kapabilitetsbygging. Grunnarbeidet er en investering i fremtidig gevinst – det er her vi legger fundamentet for kostnadseffektiv verdiskaping. 

De siste årene har utvikling i maskinvare og teknologi åpnet opp for mer sofistikerte AI-løsninger som kan prosessere og identifisere mønstre i enorme mengder ustrukturerte data. Samtidig kan de generere nytt innhold basert på brukernes behovsbeskrivelser. Generativ AI og store språkmodeller (LLMs) har gitt oss tilgang på personaliserte chatbots, assistert programmering og generering av tekst, bilde og video. 

Med mer fleksible datastrukturer skiller AI og LLMs seg fra tradisjonell maskinlæring på flere områder, noe som stiller høyere krav til prosesser og infrastruktur rundt løsningsutviklingen. Trening av sofistikerte modeller krever mye tid, data og ressurser. Derfor er det sjeldent gjennomførbart for ordinære bedrifter. Løsningen blir ofte å implementere ferdigtrente modeller, som ChatGPT, BERT eller Dall-E i egne løsninger. Disse tilpasses og oppdateres med kontekstspesifikke data og kombineres med annen logikk og prosesser for å lage et verdiskapende dataprodukt.

Store, ferdigtrente modeller er generelle og favner bredt. De danner et godt utgangspunkt for en endelig løsning, men må allikevel ofte tilpasses konteksten de skal operere i. Prompt engineering må til for å justere hvordan input til modellen struktureres og svarene presenteres. Finjustering av parametre og konfigurasjon må tilpasses for å finne riktig balanse i treffsikkerhet og ressursbruk. Modellene må oppdateres og videreutvikles basert på kontekstspesifikke data, og de må optimaliseres ved hjelp av integrasjon og vektordatabaser.

I tradisjonell ML er det ofte enklere å definere logikken for å evaluere om modellens prediksjoner er treffsikre når vi har en fasit resultatet kan sammenliknes med. Når det gjelder generert tekst, bilde og lyd, blir dette mer utfordrende. Ofte trenger vi menneskelig tilbakemelding for å vurdere om et resultat er positivt. Altså blir det stilt nye krav til logikk, prosess og komponenter, og det øker omfanget av løsningsutviklingen.  

Fordi løsningen baserer seg på større, ferdigtrente modeller, er den trent opp på ukjente data og har en arkitektur vi selv ikke har kontroll over. Det kan øke risikoen for kvalitetsforringelse eller uønsket atferd fra nye versjoner av modeller og løsninger. Vi trenger etablerte prosesser for både evaluering, utrulling og overvåking for å øke sannsynligheten for at eventuelle avvik blir oppdaget og håndtert.

Alle former for MLOps baserer seg på de samme universelle grunnprinsippene for robust utvikling, drift og forvaltning. Virksomheter som befinner seg i startgropen av sin ML-satsing kan oppleve det som overveldende å skulle investere mye tid og ressurser i en kostbar og sofistikert ML-rigg. For mange er det vanskelig å forsvare å hente inn et stort team dataforskere, utviklere og ML-ingeniører, i tillegg til en fullskala, helautomatisert ML-infrastruktur. 

Uansett hvor moden og erfaren en virksomhet er, bør AI i ML stå på agendaen. Vi kommer ikke unna den teknologiske utviklingen – AI skal implementeres i det aller meste. I tillegg har elementer fra MLOps med seg byggeklosser som kan danne gode fundamenter for videre oppskalering og profesjonalisering i tradisjonell ML. 

Når det gjelder hvor vi skal begynne, er dette en generell tommelfingerregel: Begynn alltid med det viktigste, og utvid etter hvert som nye behov oppstår og verdipotensialet blir tydelig.