Les biais de l’IA : quels leviers pour les maîtriser ? Les biais de l’IA : quels leviers pour les maîtriser ?
Algorithmes et intelligence artificielle influencent d’ores et déjà de nombreux aspects de notre vie : les films que nous regardons, la musique que nous écoutons, les personnes que nous rencontrons et même notre accès à un crédit. Progressivement, nous leur avons octroyé la possibilité de prendre des décisions en notre nom (et au nom de l’entreprise) sur ces sujets, comme pour de nombreux autres domaines, en raison des gains qu’ils sont en mesure d’offrir en termes d'efficacité et de rapidité de prise de décision.
Alors que la dépendance à l'égard de l’intelligence artificielle ne cesse de croître, il devient légitime de se poser la question des risques d'une telle dépendance. Une meilleure compréhension de notre perception de l’IA est essentielle, précisément en raison de l'aura d'objectivité et d'infaillibilité que notre culture attribue à celle-ci, peut-être de manière abusive. Pour beaucoup, les algorithmes sont considérés comme impartiaux et neutres, et représentent une sorte de juge de paix incorruptible car construits sur les mathématiques. Pourtant, la réalité est quelque peu différente : à l’inverse de la plupart des systèmes experts construits sur des règles spécifiées à priori, l’IA apprend des données du passé et détermine elle-même les règles de décision qui permettent de reproduire ce passé. Sous l’hypothèse que les mêmes causes produisent les mêmes effets, l’IA peut alors utiliser ces mêmes règles pour prédire l’avenir. Mais ce système d’apprentissage est alimenté, entraîné et interprété par un humain et de fait, presque par nature, potentiellement parsemé de biais, conscients et inconscients.
Quelles conséquences ?
Le Future of Privacy Forum[1], un think tank, a identifié quatre principaux types de préjudices, ou conséquences non intentionnelles, que les biais d’IA peuvent causer :
La perte d'opportunité
À titre d’exemple, des algorithmes d'embauche biaisés peuvent empêcher certains groupes d'accéder aux possibilités d'emploi. Ce fut notamment le cas chez Amazon[2] il y a quelques années, qui a été contraint de mettre hors service un algorithme ayant tendance à écarter les femmes des entretiens d’embauche. Des préjugés semblables pourraient empêcher les gens d'accéder à d'autres possibilités comme les études supérieures, les programmes d'aide sociale, les régimes de soins de santé et les prêts bancaires. Concernant Amazon, une analyse à posteriori avait identifié la source probable du biais : l’algorithme avait été entrainé sur une base de CVs essentiellement masculins.
La perte économique
Les écarts de prix et la disponibilité du crédit sont deux des exemples les plus courants de pertes économiques. Un exemple très concret peut être celui de Kevin Johnson, un Afro-Américain, qui a vu sa limite de crédit considérablement réduite, passant de $10 800 à $3 800. La raison ? Il avait pour habitude de faire du shopping dans des endroits où la clientèle avait statistiquement de mauvais antécédents en matière de remboursement de crédit[3].
Le préjudice social
Parmi les exemples de préjudices sociaux, mentionnons les préjugés de confirmation, les stéréotypes et d'autres phénomènes qui ont une incidence sur la façon dont les individus s'organisent et entretiennent des relations entre eux. Un exemple simple est notre fil d’actualité Facebook qui se nourrit de notre propre activité en ligne. De fait, notre fil nous propose les contenus que nous sommes les plus susceptibles de voir, et de lire des idées qui confirment nos propres croyances sur le monde, qu'elles soient biaisées ou non. Toute recommandation future sera également conforme à notre point de vue, creusant là aussi les inégalités dans nos sociétés.