AIガバナンスの考え方

AIと人間が共存する社会になっていくなか、AIガバナンスへの注目が高まっています。AIガバナンスの在り方が国際的に検討されており、日本政府も検討に積極的な姿勢を示しています。ここでは、経済産業省が2021年7月9日に公表した「我が国のAIガバナンスの在り方ver1.1」（以下「報告書」）について解説します。

AIガバナンスの在り方は今まで国内外で議論されてきました。日本国内では、「「AI戦略2019」フォローアップ」や「統合イノベーション戦略2020」において、我が国のAIガバナンスの在り方を検討することが掲げられていたり、欧米においても、AIシステムに対する規制の在り方について、基本的な考え方が公表されたり、具体的な規制が検討されたりしています。2020年6月に設立されたAIに関するグローバル・パートナーシップは、OECDのAI原則の実装に向けた国際的動きといえます。

このように国内外で議論がなされるなか、AIガバナンスの設計は容易ではなく、下記のようなことに対応しながら、さまざまな分野の有識者の知識と経験を結集しなければ解決できない喫緊の課題であるとされています。

• 説明可能性の不十分さというAI特有の課題に横断的に対応することが必要
• AIはさまざまな分野や用途に応用可能であるがゆえに、応用ごとに留意点が異なり、その対応も異なる
• ガバナンスを実効的にするために、モニタリングやエンフォースメントの適切な検討が必要
• イノベーションを阻害しないようにしながら、複雑で重層的なガバナンスを実現しなければならない

これらへの問題意識を持ち、経済産業省は2019年からAI社会実装アーキテクチャー検討会およびAI原則の実践の在り方に関する検討会を開催し、本報告書の公表に至りました。検討にあたっては、経済産業省のSociety5.0で示されたゴールベースのガバナンスを参考にしつつ、重層的なガバナンス構造に関する議論が行われています。

報告書では、各国・地域で議論されているAIガバナンスについて、Society5.0時代のガバナンス構造を記述するユニバーサルなフレームワークを参考に次の4つの要素に分けています。

（1）最終的に保護されるべき技術中立的なゴール（いわゆるAI原則）
（2）ゴールを達成するための横断的で中間的なルール
（3）個別分野等にフォーカスしたルール
（4）モニタリングとエンフォースメント

国、地域、国際機関・グループ、企業やマルチステークホルダーから公表されたAI原則を分類した研究によれば、世界のAI原則は、プライバシー、アカウンタビリティ、安全性とセキュリティ、透明性と説明可能性、公正性と非差別性、人間による技術管理、専門家の責任、人間的な価値の促進といった8つのテーマに区分されるといわれています。日本のAIガバナンスは、国際的な調和が取れたものにすべきであり、世界的なAI原則の動向に留意して議論する必要があります。

AI原則を実現するためには、まず横断的で中間的なルールが必要とされています。これに関して報告書では、

1. 法的拘束力のないガイドライン
2. 法的拘束力のある横断的な規則
3. 国際基準

の3つに分けて述べています。

横断的で中間的なルールが考慮された上で、個別分野に関しては特定のルールも必要とされています。これに関して、報告書では、

1. 特定の利用態様に対する規制
2. 特定の分野における規制
3. 政府のAI利用に対する規制等

の3つに分けて述べています。

ルールが確立されたとしても、実行や実運用についてのモニタリング、そして政策上のエンフォースメントが必要です。報告書では、モニタリングの実例を挙げており、欧州委員会のAI白書におけるF.Compliance and Enforcementの中で述べられたハイリスクAI応用に関する事後監視ができるようなドキュメンテーション、そしてガバナンスモデル検討会が提案した企業等に対するリアルタイムモニタリングと説明メカニズムの設立による企業・利用者・政府間の信頼の強化が挙げられています。

エンフォースメントの実例としては、欧州委員会のAI白書におけるハイリスクAI応用を課した場合の法令遵守確保の方法例、事前適合性評価が挙げられています。そのほかに、ガバナンス検討会では、行為がもたらした社会的影響やリスクの程度を考慮しつつ、対象企業にとって十分なインセンティブとなるような制裁を科せるような環境を整備することが重視されています。

前述した内容を踏まえ、報告書では3つの観点から我が国のAIガバナンスの在り方を述べています。

（1）ガバナンス・イノベーションから得られる示唆
（2）ステークホルダーの意見
（3）我が国にとって望ましいAIガバナンス

現在AI技術の発展や、社会実装のスピードや複雑さに法が追い付いていない状況のなかで、従来のルールベース型はイノベーションを阻害してしまう可能性があるため、ルールベース型からゴールベース型への変革が求められています。しかし、ゴールベース型では、社会的に共有されたゴールと企業レベルの達成手段の間にギャップが生じやすいため、この課題を解決するために、非拘束的で中間的なゴールベースのガイドラインが求められているとされています。

ステークホルダーの意見には、産業界の意見（欧州委員会に寄せられた意見）、ガバナンス討論会とヒアリングにおける指摘、そして消費者の視点が述べられています。

産業界の意見に関しては、産業団体や企業が欧州委員会が公表したAI法制初期影響評価におけるソフトローへの賛同、任意ラベリングへの非賛同、遠隔生体認証とハイリスクAI応用規制についての賛同、規制手法の組合せを求める意見が述べられています。そのほかに、自動運転と医療機器に関しては業界の事情を考えるべきという意見が述べられています。

検討会とヒアリングにおける指摘に関しては、AI原則と企業の取組みのギャップを埋める中間的なガイドラインの必要性、そして義務化にならないためのチェックリスト化の回避が指摘されています。その他の意見として、企業間取引の共通認識の形成の重要性や、BtoB企業とBtoC企業の違いへの配慮が述べられています。

消費者の視点に関しては、「期待と不安の混在」が指摘されており、消費者庁としては事業者の適切な対応を期待するとともに、消費者のリテラシーを向上させるための動きを示していると述べています。

我が国にとって望ましいAIガバナンスの在り方は、前述したすべてのことを踏まえ、以下の4つの要素が考えられています。

1. 法的拘束力のない企業ガバナンス・ガイドライン
2. 国際基準
3. 法的拘束力のある横断的な規則
4. 個別分野にフォーカスした規制

1.法的拘束力のない企業ガバナンス・ガイドライン
法的拘束力のない企業ガバナンス・ガイドラインを作成するには、AIの利活用を阻害しない、リスクマネジメント要素を含めたガイドラインが望ましいです。そして、作成に当たっては、幅広いステークホルダーによる議論が加わった、AI利活用の基盤作り、AIシステムの開発・導入、AIシステムの運用がアウトラインとする非拘束の中間的なガイドラインが求められます。なお、ガイドラインの作成には、日本国内のガバナンス特徴を考慮しつつ、デジタル時代のガバナンスに関する他のガイダンスとの整合性に留意すべきと述べられています。

2.国際基準
国内のSC42専門委員会と、欧州委員会の通信ネットワーク・コンテンツ・技術総局と経済産業省の間で設置されたAI共同委員会^※は、政策サイドと標準サイドをつなぐ場としての活躍が期待されています。

^※ 用語出典：「我が国のAIガバナンスの在り方Ver1.1」P29

3.法的拘束力のある横断的な規則
前述した産業界の意見やリテラシー向上の方向性を踏まえると、AIシステムに対する横断的な義務規定は現段階では不要と考えられており、今後このような規定が議論される場合があったとしても、リスクだけでなく、潜在的な利益も含めてリスク評価すべきとされています。

4.個別分野にフォーカスした規制
個別分野に関しては、情報技術の側面だけではなく、今まで蓄積されてきた分野別の所見の活用と業法を所管している組織が規則に関わることが望ましいと述べられています。

本報告書では、現在日本におけるAIガバナンスの問題点を俯瞰し、国内外のAIガバナンスをめぐる動向を踏まえ、日本におけるAIガバナンスの在り方について述べてきました。

日本におけるAIガバナンスの在り方の中心点としては、以下のようにまとめられます。

• AI原則を尊重
• イノベーションを阻害しない
• リスクベースに基づいたゴールベース型
• 義務付けが求められない非拘束的な中間的な、各ステークホルダーの議論を取り入れるガイドライン
• 個別分野に関しては現存の所見と業法を所管している組織の参与が認められる

AIガバナンスは国際的にも継続的に検討されている課題であるため、今後さらなる議論と結論付けが見込まれます。なお、本報告書で言及された「法的拘束力のない企業ガバナンス・ガイドライン」については、経済産業省は2022年1月28日に「AI原則実践のためのガバナンス・ガイドライン」を公表しています。ガイドライでは実例を示しながら、AI社会実装の促進に必要となる「人間中心のAI社会原則」の実践の支援となっています。

あずさ監査法人では、上記のようなAIを取り巻く社会環境も踏またうえで、「AIが目的に沿ったパフォーマンスになっているか」だけでなく「公平性」、「説明可能性」、「追跡可能性」等の観点も含め、AIの適切性を、第三者の立場から評価・検証するサービスを提供します。

あずさ監査法人
Digital Innovation本部