AIの技術進化と利用拡大が急速に進む一方で、AIリスクへの社会的関心が高まっています。AIを安全に開発・提供・利用するためには、国内外におけるAI関連法規制やガイドラインを踏まえてAIガバナンスを構築・運用し、AIリスクをコントロールしなければなりません。
KPMGは、組織における各種リスクへの対応やコンプライアンス対応に関する豊富な知識や支援実績を基に、AIガバナンスの効果的・効率的な構築・運用を支援します。
AIを取り巻く社会動向と必要性
AIの技術進化と利用拡大が急速に進む昨今、多くの企業の業務改革において、AI技術を活用した業務効率化や付加価値向上への取組みが欠かせない要素となっています。同時にAI利活用に伴う新たなリスクが懸念されています。
実際に、AIリスクが顕在化した事例も発生しており、AIリスクへの対応に関する国際協調や各国内での動きが活発になるなど、AIリスクへの社会的関心、AIに対するガバナンスの機運が急速に高まりを見せています。日本国内においても、EU AI Actの成立を受けて、法的拘束力のないソフトロー路線から、法制化の動きへの変化が見られます。AIリスクをコントロールしながら、AIを安全に開発・提供・利用するためには、AIガバナンスを構築・運用することが不可欠です。
AIガバナンスの構築
組織は、AIガバナンスを構築するにあたり、自組織の内部環境・外部環境に合わせて、以下を検討・整備することが必要となります。
【図表1：AIガバナンス構築にあたり整備する事項（例）】
| AI管理体制 | AI開発・提供・利用の推進、およびリスクコントロールのための組織体制として、AIに係る意思決定機関、AIガバナンス構築部門、AIガバナンスを監査する部門等を決定し、役割と責任を明確にします。 |
|---|---|
| AIリスク分析の仕組み | AIシステムのバリューチェーンに基づき、AIシステムの開発・提供・利用の各段階におけるリスクを識別・分析して、必要なコントロールを導入するためのプロセスやツールを整備します。 |
| AI方針・ルール | AI開発・提供・利用に関する組織の基本的な考え方を示すとともに、AIリスクをコントロールするためのルールや手続きを明確にします。これには、AIシステムのセキュリティ管理・プライバシー保護・インシデント管理等のルールや手続きを含みます。 |
| AIマネジメントシステム | AIの目的達成に向けた計画、運用、運用状況のモニタリングと評価、および継続的なAIガバナンスの改善活動を含むAIマネジメントシステムを整備します。また、AIモデル／AIシステムの改善・品質向上のためのモニタリングの仕組みを整備します。 |
| AI活用のためのシステム環境 | AI利用に必要なツールの導入、開発・運用プラットフォームの改善等、AI活用のためのシステム環境を整備します。 |
| AI活用のためのデータガバナンス | AIシステムにおいて使用する学習データや、インプットデータ・アウトプットデータを管理するためのデータガバナンスを構築します。 |
AIガバナンス構築・運用の支援
KPMGは、組織における各種リスクへの対応やコンプライアンス対応に関する豊富な知識や支援実績を基に、組織がAIリスクをコントロールするためのAIガバナンス構築・運用を支援します。
AIガバナンス構築・運用のステップをプロジェクトタスクとして設定し、各タスクの実行およびアウトプットの作成が効果的・効率的に進むよう各社の担当者を支援します。
【図表2：AIガバナンス構築・運用ステップ】
| ステップ | 概要 | 主なアウトプット例 |
|---|---|---|
| 1．環境・リスク分析 | AIシステムのベネフィットやリスク、社会受容性、外部環境変化、組織のAI習熟度等を踏まえ、 AIシステムに関連する環境・リスク分析を実施します。 | 環境・リスク分析シート／報告書 等 |
| 2．ゴール設定 | 環境・リスク分析の結果に基づき、組織の存在意義、理念・ビジョンなどと整合したAIガバナンスのゴールを設定します。 | AIガバナンス構築ロードマップ 等 |
| 3．システムデザイン（AIガバナンス構築） | AIガバナンスのゴール達成に必要なAI管理体制、AIリスク分析の仕組み、AI方針・ルール、AIマネジメントシステム、システム環境、データガバナンス等を整備します。 | AI方針・ルール、AIシステムのリスク管理プロセス・ツール、AIシステム開発・運用基盤の改善計画 等 |
| 4．運用 | AIマネジメントシステムを組織に展開し運用するとともに、そのゴールと運用状況を外部ステークホルダーへ示す（情報開示する）ことで、説明責任を果たします。 | AIガバナンスに係る教育資料、各種運用記録 等 |
| 5．評価 | AIマネジメントシステムが有効に機能しているかを適宜モニタリングし、継続的な評価・改善を実施します。 | AIモニタリング計画、AIモニタリング結果報告書 等 |
AIガバナンス構築にあたっては、組織におけるAI利用・開発・提供の領域や範囲を踏まえ、適用／採用する各国法規制、ガイドライン、フレームワーク等を選定します。各国法規制、ガイドライン、フレームワーク等の要求事項と整合したアプローチを採ることにより、組織に求められる一定の説明能力（accountability）を確保したガバナンス構築を支援します。
また、AIを取り巻く環境-技術の進化、社会の風潮や人の認識、顕在化リスク、法規制などは非常に速いスピードで変化するため、「3．システムデザイン（AIガバナンス構築）」におけるAIマネジメントシステムの整備にあたっては、アジャイル・ガバナンスの手法を取り入れて、継続的かつタイムリーな改善活動を可能とする枠組みの構築・運用を支援します。
【図表3：AIマネジメントシステムの枠組み】
出典：「AI事業者ガイドライン」（総務省／経済産業省）を基にKPMG作成
関連サービス
AIおよびデジタルガバナンスに関するその他のサービスを紹介します。
