Vad du som företag behöver veta om EU:s nya AI-lag

AI-utvecklingen går framåt i snabb takt. Parallellt väcks frågor kring etik, säkerhet och risker. Tidigare i år godkände Europaparlamentet AI Act, en lag som ska skydda grundläggande rättigheter, rättsstatsprincipen och miljömässig hållbarhet. Målet är att nå en balans mellan att främja AI och värna individens rättigheter genom ansvarsfull, etisk och trygg användning av AI. 

EU:s AI Act är en förordning (AI-lagen) som reglerar användningen av artificiell intelligens (AI) inom Europeiska unionen. Lagförslaget, som presenterades av EU-kommissionen i april 2021, syftar till att balansera innovation och konsumentskydd. EU-parlamentet har nu röstat igenom förordningen och den träder i kraft under första halvan av 2026. Därför är det nu hög tid att sätta sig in vad den innebär för din organisation. 

AI-lagen definierar fyra riskkategorier för AI-system, utifrån vilka deras potentiella risknivåer ska bedömas: 

1. Oacceptabel risk: AI-system som är förbjudna inom EU då de kan utgöra ett hot mot mänskliga rättigheter. Exempelvis AI som används för att manipulera mänskligt beteende, såsom sociala poängsystem eller övervakning med ansiktsigenkänning. 
   
2. Hög risk: AI-system som kräver särskilda regleringar och kontroller. Exempel på sådana system inkluderar AI som används i kritisk infrastruktur, utbildning eller vid gränskontroller. 
   
3. Låg risk: Exempel på sådana system inkluderar AI som används för att förbättra sökresultat på webben eller chattbottar. 
   
4. Minimal risk: exempelvis skräppostfilter eller AI-stödda spel. 
   

Med ikraftträdandet av AI-lagen följer också en större möjlighet att öka tillförlitligheten i AI-teknik och ge individer och verksamheter större förtroende för att använda den. (Se KPMG:s rapport Trust in AI.) 

"För att säkerställa ansvarsfull och etisk användning av AI-teknik bör företagen genomföra noggranna riskanalyser och skapa tydliga styrnings- och hanteringspolicys. Transparens och kontinuerlig uppföljning är nyckeln till att bygga förtroende och efterleva den nya AI-lagen", kommenterar Fredrik Melin, Manager inom Data och AI.

Lagen har ett brett tillämpningsområde och omfattar alla typer av AI-system, oavsett om de är självlärande eller inte. Den gäller också alla branscher, inklusive hälso- och sjukvård, transport, energi, finans och säkerhet. Företag som utvecklar eller använder högrisk-AI-system måste följa särskilda krav, som inkluderar att göra riskbedömningar, ha tydliga och transparenta beslutsprocesser samt ha lämpliga tekniska och organisatoriska åtgärder på plats för att minimera riskerna för människors säkerhet och rättigheter. 

Följande parter omfattas av AI-lagen: 

• Alla leverantörer som tillhandahåller AI-system på marknaden eller sätter dem i drift inom EU, oavsett plats. 
  
• Alla leverantörer av AI-system som är belägna utanför EU, vars systemutdata kan eller är avsedd för användning inom EU. 
  
• Alla leverantörer av AI-system som är belägna inom EU. 
  
• Alla importörer eller distributörer som tillhandahåller AI-system på marknaden eller gör dem tillgängliga inom EU. 
  
• Produkttillverkare som placerar produkter med AI-system på marknaden eller sätter dem i drift inom EU under sitt namn eller varumärke. 
  
• Användare av AI-produkter och tjänster inom EU. (Personer som använder AI-system för privat bruk omfattas inte av AI-lagen.) 
  

AI-lagen påverkar olika delar av en organisation beroende på dess roll i utvecklingen, marknadsföringen eller användningen av AI-system. Det är viktigt att alla delar av verksamheten samarbetar för att säkerställa att organisationen hanterar AI-system och dess risker på ett lämpligt sätt. Ledningen ansvarar för att säkerställa att organisationen följer lagstiftningen och att lämpliga resurser och processer finns på plats för att uppfylla kraven. 

Då definitionen av AI är bred och den nuvarande utvecklingstakten är hög bör organisationen ta ett helhetsgrepp och inventera vilka AI-lösningar som används. Företagen bör förbereda sig och sätta sig in i AI Act:s innehåll och hur det påverkar organisationen. Lagen kommer kräva att bland annat beslut och dokumentation för de AI-system som används är spårbara. 

På längre sikt är det viktigt att främja konsumentförtroende genom transparens, att anpassa sig strategiskt till regleringsförändringar och att samarbeta med företrädare inom AI-utveckling. Etablera ett team eller avdelning som ansvarar för kontinuerlig uppföljning och ser till att företaget följer praxis. Se även till att utbilda personal och uppdragsgivare regelbundet inom ämnet för AI och etik, säkerhet och styrning.