Eerder in deze serie bespraken we al het belang van IT General Controls (ITGC) voor de beheersing van algoritmes en de rol van transparantie in het streven naar betrouwbare algoritmes. Naast vraagstukken over de betrouwbaarheid en beheersing brengt de toenemende inzet van data en algoritmes nog een kernthema met zich mee: ethiek. In dit artikel bespreken we het belang van ethiek, waarom dit een lastig thema is voor organisaties en tenslotte wat men kan doen om dit vraagstuk te adresseren.
Ethiek gaat over goed en fout, over wat wij, als maatschappij, burgers of klanten eerlijk, rechtvaardig en aanvaardbaar vinden. De toenemende impact van data op onze levens en de transitie van besluitvorming door mensen naar steeds meer besluitvorming gebaseerd op algoritmes brengt een breed scala aan nieuwe ethische uitdagingen en dilemma’s met zich mee. Daarnaast forceert het gebruik van algoritmes organisaties om expliciete keuzes te maken ten aanzien van hedendaagse ethische dilemma’s, zoals bijvoorbeeld tussen enerzijds privacy en anderzijds non-discriminatie.
De ethiek van algoritmes is een hot topic en met ieder publiek schandaal groeit het risicobewustzijn bij het grote publiek en neemt de roep om ethische algoritmes toe. Ethische principes, kaders en richtlijnen worden dan ook massaal door organisaties opgesteld en/of geadopteerd. Er bestaat inmiddels een grote diversiteit aan initiatiefnemers en aan ethische kaders, zoals bijvoorbeeld vormgegeven door overheden [1,2,3] door kaderstellende organisaties [4,5] maar ook door bedrijven[6].
Helaas aarden ethische principes, kaders en raamwerken zelden voldoende binnen een organisatie, zodat ze niet doen waar ze daadwerkelijk voor bedoeld zijn: zorgdragen voor het ethisch ontwikkelen en gebruik van data en algoritmes. Wat zijn de stappen die je als organisatie hierin wilt nemen?
Stap 1: Het zelf opstellen van eigen ethische principes voor algoritmes
De eerste stap op weg naar ethische algoritmes is samen vaststellen wat ethisch omgaan met data en algoritmes voor een organisatie specifiek inhoudt. Dit kan door samen met de organisatie waarden en principes te formuleren, bijvoorbeeld in de vorm van een ethisch kader of ethisch kompas. Het één-op-één overnemen van reeds genoemde bestaande kaders is niet de oplossing. De grote diversiteit aan ethische principes komt namelijk voort uit culturele verschillen (zowel regionaal als bedrijfscultureel), maar ook door contextuele verschillen (welke rol spelen algoritmes in een organisatie). Een ethisch kader of kompas voor data en algoritmes vergt eigen visie, strategie en kernwaarden van de organisatie. Een concrete doorvertaling van bestaande kaders naar de organisatorische context is dus benodigd. Om als organisatie relevante en toepasbare principes voor ethisch gebruik van data en algoritmes te formuleren en te prioriteren is het van belang de juiste belanghebbenden te betrekken. Hierin dienen niet alleen beleidsmakers en juristen een stem te krijgen maar ook ontwikkelaars, uitvoerende medewerkers en externe belanghebbenden.
Let wel: het volgen van de wet vormt de basis, maar ethisch handelen vergt meer dan alleen dat. Er is op dit moment nog geen sprake van een uitgekristalliseerd geheel van normen, wetten en jurisprudentie op het gebied van algoritmes. De EU heeft hierin recent wereldwijd het voortouw genomen met haar opgestelde regels voor AI. Deze treden naar verwachting binnen enkele jaren in werking. Maar ook nadat wetgeving meer vorm gekregen heeft, vraagt ethisch omgaan met data en algoritmes om meer dan het volgen van de letter van de wet. Wetgeving beslaat namelijk zelden de gehele breedte en nuance van een onderwerp. Wetgeving is veelal uitvoeringsgericht en de achterliggende ethische grondslag is er in de praktijk soms niet of moeilijk direct meer uit af te leiden. Neem het voorbeeld van de AVG, de Europese data privacy wetgeving. De AVG geeft ons meer controle en beheersing over onze data, maar het ethische principe van privacy is een veel breder en abstracter thema dan alleen de bescherming van data. Een organisatie die de privacy van haar klanten als haar verantwoordelijkheid ziet zal daarom verder moeten denken dan alleen het vermijden van een AVG-boete.
Het opstellen van ethische principes voor organisaties is een secuur en multidisciplinair proces wat vraagt om maatwerk. Het vertalen van inherent subjectieve, en vaak persoonlijke of gevoelsmatige, waarden zoals rechtvaardigheid en eerlijkheid naar duidelijke collectief gedragen principes is geen makkelijke opgave. Toch is dit slechts de eerste stap!
Stap 2: Het operationaliseren van ethische principes voor algoritmes
De echte uitdaging schuilt in het gestructureerd vormgeven van deze principes in de praktijk. De organisatie zal tot een methodologie moeten komen waarmee men ethische principes succesvol naar de praktijk weet te vertalen en deze daar vervolgens in weet te integreren. Denk hierbij aan het beleggen van verantwoordelijkheden bij de juiste mensen, het adresseren van ethische dilemma’s in het ontwikkelproces en keuzes hierover expliciet te maken, het inrichten van goedkeuring en toezicht, en het bevorderen van kennis en kunde over data en ethiek onder medewerkers. Om ethiek succesvol in een organisatie te implementeren is een combinatie vereist van enerzijds harde eisen en regels (hard ethics), bijvoorbeeld processen en regels ten aanzien van verantwoordelijkheid, en anderzijds zachte maatregelen (soft ethics), zoals het bevorderen van kennis en het stimuleren van een speak-up cultuur. Het laten leven van ethiek binnen een organisatie is een grote uitdaging, maar een minstens even belangrijke voorwaarde voor succes als het opstellen van de juiste regels en processen. Regels en processen die niet door de medewerkers zelf worden gedragen en/of onvoldoende praktisch en uitvoerbaar zijn, zullen namelijk niet worden nageleefd. Daarom is ook bij het komen tot een methodologie voor de implementatie van ethiek een multidisciplinaire aanpak cruciaal, zodat alle betrokken partijen een stem hebben en de methodologie aansluit op de dagelijkse praktijk van medewerkers.
Stap 3: Organiseer onafhankelijk toezicht!
Ethiek is een abstract onderwerp, maar behoeft wel een heel concrete invulling. De meeste organisaties zijn (nog) niet ingericht op het omgaan met nieuwe ethische dilemma’s die ontstaan als algoritmes worden ingezet en er bestaat vaak geen controle op de integratie van ethische principes in de bedrijfsvoering. Een krachtig middel bij zowel het opstellen van ethische principes, als bij het gat te dichten tussen principes en praktijk, is het inrichten van effectief en onafhankelijk toezicht. Dit kan door een onafhankelijke interne commissie, interne audit teams, of door een gespecialiseerde partij zoals KPMG’s Trusted Analytics. Effectief toezicht neemt de consistentie tussen opgestelde ethische principes en de praktijk uitvoerig onder de loep en helpt organisaties met het beantwoorden van de kernvragen rondom het thema ethiek. Welke ethische principes heeft de organisatie opgesteld en zijn deze duidelijk? Zijn de ethische principes consistent met relevante, bijvoorbeeld sectorspecifieke, kaders? Zijn alle principes even belangrijk en welke middelen heeft de organisatie beschikbaar om keuzes te maken wanneer principes botsen? Hoe heeft de organisatie, of is de organisatie voornemens om, ethische principes naar de praktijk te vertalen? Waar schuilen de gaten tussen de huidige en de gewenste situatie en waar kan de organisatie hierin hulp gebruiken? De combinatie van het naleven van juridische kaders, het opstellen van relevante en toepasbare ethische principes en tenslotte consistentie tussen enerzijds wat er uitgedragen wordt op het gebied van ethiek en anderzijds de daadwerkelijke uitvoering daarvan (practice what you preach), is de succesformule tot ethische en betrouwbare algoritmes.
Wilt u meer informatie over dit onderwerp of over onze AI-services? Neem dan contact op met Frank van Praat, director Trusted Analytics.
De auteurs van dit artikel zijn Marc van Meel en Ylja Remmits, senior consultants Trusted Analytics.
