Renforcer la confiance, c’est possible grâce à l’IA

Une institution financière canadienne se préparait à étendre son utilisation de l’intelligence artificielle (IA) à l’ensemble de ses activités. Bien que certains outils d’IA avaient déjà été mis au point, l’institution financière reconnaissait avoir besoin de contrôles et de processus adéquats pour appuyer son adoption de l’IA à plus grande échelle.

L’équipe d’audit interne souhaitait évaluer la gestion actuelle de l’IA en ce qui a trait aux pratiques de gouvernance et de gestion des risques. Comme l’institution financière désirait utiliser cette technologie de façon plus importante, son objectif était d’en cerner les risques potentiels et d’établir les bonnes balises pour s’assurer que l’IA était utilisée en toute sécurité et d’une manière fiable.

L’institution financière visait également à comparer ses initiatives d’IA à celles de ses pairs afin d’éviter de prendre du retard ou d’avancer trop rapidement sans une gouvernance adéquate. En fin de compte, l’organisation avait besoin d’une feuille de route réalisable pour améliorer ses pratiques de gouvernance et de gestion des risques dans le but d’intégrer plus largement l’IA.

Pour relever ces défis, le client a fait appel à KPMG. Le cabinet a utilisé son cadre IA de confiance fondé sur 10 piliers qui guident l’IA responsable tout au long de son cycle de vie. Il comprend entre autres la transparence, l’intégrité des données et la protection des renseignements personnels. Ce cadre offre une approche structurée pour comprendre les risques associés à l’IA.

Le processus d’évaluation comprenait plusieurs étapes essentielles :

• L’équipe a dirigé des discussions d’introduction avec les principales parties prenantes afin d’évaluer les applications actuelles de l’IA et la façon dont elles sont gérées. Cela a permis de trouver des applications d’IA spécifiques qui nécessitaient une analyse plus poussée en lien avec leurs différents profils de risque.
• Au cours de travaux sur le terrain, l’équipe a recueilli des éléments probants au moyen d’entrevues et de la documentation relative aux modèles d’IA utilisés. Elle a aussi testé un échantillon de modèles d’IA (dont le modèle d’adjudication pour l’approbation des prêts) en les comparant à une matrice des risques et des contrôles afin d’évaluer leur efficacité. Cela a permis de cerner les contrôles qui devaient être mis en place avant d’étendre l’utilisation de l’IA.
• L’équipe a présenté ses conclusions validées et ses recommandations pour gérer les risques, notamment une feuille de route détaillée présentant les mesures à prendre pour la gouvernance de l’IA et l’élaboration de contrôles.

Parallèlement, KPMG a mené un sondage détaillé auprès de 50 organisations semblables afin de donner au client un aperçu de la façon dont des institutions similaires développent des capacités d’IA et gèrent des défis comparables. Ce processus a produit des informations précieuses pour établir une feuille de route afin d’aider le client à résoudre les problèmes qui pourraient l’empêcher d’atteindre ses objectifs en matière d’IA.

Le client a reçu une évaluation de ses pratiques en matière d’IA, axée sur la gouvernance et la gestion des risques. Il a pu se faire une idée des lacunes de ses processus et des balises nécessaires pour y remédier. De plus, il a clarifié sa position par rapport à ses pairs, offrant un point de référence sur la façon dont d’autres organisations composent avec les occasions et les défis associés à l’IA et à l’IA générative.

La feuille de route contenait des recommandations détaillées pour développer les capacités d’IA et mettre en œuvre les contrôles nécessaires au cours des 12 à 18 prochains mois. Cela a permis au client d’exploiter de manière responsable le potentiel de l’IA et de gérer avec plus de confiance les risques qui y sont associés.

Découvrez comment nous faisons une différence pour les organisations canadiennes