Maîtriser l’IA générative

L’IA générative – alimentée par de grands modèles de langage (GML) capables d’analyser et de générer du texte – produit instantanément du contenu, comme du texte ou des images à partir d’invites de l’utilisateur. Cette technologie aide les membres du personnel à réaliser des tâches courantes rapidement et efficacement afin qu’ils puissent se concentrer sur du travail de grande valeur. Plutôt que de remplacer les emplois et le jugement humain, l’IA générative augmente les capacités humaines et améliore l’efficacité et la productivité en général.

Selon une étude de KPMG au Canada menée plus tôt cette année, un·e Canadien·ne sur cinq utilise déjà des plateformes d’IA générative.¹ Un peu plus de la moitié des parties sondées gagnent jusqu’à cinq heures par semaine et plus des deux tiers disent que le temps gagné grâce à l’utilisation d’outils d’IA générative leur permet de prendre en charge des tâches supplémentaires qu’elles n’auraient pas pu assumer autrement.²

Selon le plus récent sondage annuel Perspective des chefs de la direction de KPMG International, 70 % des chefs de la direction à l’échelle mondiale font de l’IA générative un investissement prioritaire, et plus de la moitié (52 %) d’entre eux s’attendent à obtenir des rendements d’ici trois à cinq ans. Au Canada, 75 % des chefs de la direction de certaines des plus grandes organisations du pays investissent également considérablement dans cette technologie, et 55 % d’entre eux s’attendent à un rendement sur leurs investissements d’ici trois à cinq ans.³

Parmi les principaux défis liés à l’adoption de l’IA générative, mentionnons les enjeux éthiques, y compris les préjugés dans les ensembles de données, l’absence de réglementation, les coûts de mise en œuvre, et le manque de capacités et de compétences techniques pour la mise en œuvre.

Récemment, la Force spatiale des États-Unis a temporairement interdit l’utilisation d’outils d’IA générative basés sur le web et de GML qui les alimentent sur les systèmes gouvernementaux. Selon un rapport de Bloomberg News, elle a cité des inquiétudes sur la cybersécurité, la gestion des données et les exigences d’approvisionnement.[iv] Bloomberg a également signalé que la Force spatiale compte publier de nouvelles directives dans les 30 jours et que les outils ne doivent pas être utilisés à moins d’avoir été expressément approuvés.

Cela démontre que les organisations doivent avoir une longueur d’avance sur leur personnel.

Étant donné que tant de gens font l’expérience de cette technologie et l’utilisent dans leur travail, les organisations doivent gérer les risques en élaborant des cadres d’IA responsables et en formant leur personnel. Il s’agit de la seule façon de gouverner l’utilisation de l’IA, de contrôler l’accès à cette technologie et d’autonomiser leur personnel.

Pourtant, à peine le tiers (32 %) des petites et moyennes entreprises canadiennes ont récemment déclaré qu’elles avaient mis au point des politiques, des contrôles et des mécanismes de protection en matière d’IA générative, ou qu’elles étaient en train d’en élaborer. 46 % des entreprises étaient quelque peu d’accord avec le même énoncé, ce qui laisse entendre qu’elles en sont encore aux premiers stades de les mettre au point.

Au moins, elles reconnaissent la nécessité de les avoir et entament les premières étapes de gestion des risques.

Cette technologie est utilisée dans le secteur de l’aérospatiale et de la défense, comme dans les environnements d’entraînement virtuels, les simulations de scénarios militaires et l’évaluation des risques opérationnels et de l’affectation des ressources.

En août, le Pentagone des États-Unis a créé un groupe de travail sur l’IA générative chargé d’analyser et d’intégrer les outils de GML dans l’ensemble du département de la Défense des États-Unis et a déjà trouvé 200 utilisations potentielles pour ces outils, selon Bloomberg News.⁵ Leurs expériences se sont concentrées sur le développement de l’intégration des données et des plateformes numériques dans l’armée.⁶ L’objectif est d’utiliser les données fondées sur l’IA dans la prise de décisions, les capteurs et la puissance de feu. Le Pentagone invite les acteurs du secteurs et les universitaires à un symposium sur les données de défense et l’IA à Washington en février pour parler de l’utilisation viable des GML et explorer l’avenir de l’analyse de données et de l’IA.⁷

La préoccupation primordiale, tant dans le secteur privé que dans le secteur public, est le phénomène appelé « hallucinations », qui survient lorsque le logiciel d’IA produit des informations ou fournit des résultats incorrects qui ne sont pas étayés par des données du monde réel. Les hallucinations produites par l’IA peuvent être de faux contenus ou de fausses nouvelles ou informations sur des personnes, des événements ou des faits. La propagation de la désinformation peut avoir des conséquences potentiellement catastrophiques.

Bien que la technologie soit prometteuse et qu’elle ait déjà démontré son potentiel, le secteur de la défense devra l’intégrer étroitement dans un cadre de gouvernance et un modèle d’exploitation de l’IA responsable.

De nombreux exemples d’IA traditionnelle sont déjà en cours de développement dans le secteur de la défense, notamment le nouveau système de combat Aegis pour la marine américaine, le Tactical Intelligence Targeting Access Node (TITAN) et le Future Tactical Unmanned Aircraft System (FTUAS). De nombreux autres cas d’utilisation sont en cours d’élaboration dans le secteur de la défense, mais ces exemples démontrent la nécessité d’innover continuellement et de créer des occasions de partenariat entre les acteurs du secteur afin de répondre aux besoins de livraison rapide, tout en équilibrant les risques.

L’IA générative est unique, et les outils accessibles au public soulèvent des préoccupations en matière de confidentialité et de sécurité. Le secteur de la défense aura besoin de programmes traçables, transparents et surtout privés, avec des protocoles stricts d’accès.

Les enjeux sont tout simplement trop élevés sans eux.