昨今のAI技術の急速な発展にともない、DX推進を図る企業・組織では、AI活用の検証・導入が盛んに行われています。今やAI技術を活用した業務改革・効率化はDX推進に欠かせない鍵と言えます。

一方、AI技術の導入・利活用にあたっては、従来のITシステムと異なるAI特有のリスクへの対応が求められます。特に生成AIの登場は、それらのリスクを増大・複雑化させており、各国政府によるAI規制導入の議論を加速させています。企業・組織においても、従来のリスクマネジメントの枠組みをそのまま当てはめるのみでは不十分であり、AI特有のリスクに即してAIガバナンス態勢を整備することが、AI活用を成功させるうえで重要です。

KPMGは、リスク管理・コンプライアンス対応に関する豊富な知識や支援経験をもとに、AIリスク評価・対応やAIガバナンス態勢の整備などAIに関するリスク管理活動全体を支援します。

AI活用におけるリスク

AIを活用する際、想定されるリスクや具体例として、以下のようなものが挙げられます。

  想定されるリスク例 具体例
Trust
  • 外部の評判の低下
  • 偏見や差別などの公平性の侵害
  • 出力結果への誤情報の混入
  • システムのさらなる複雑化
  • 生成AIを使用して作成した資料に誤った情報が含まれていた
Compliance
  • 世界的に増加するAI倫理規制への対応不足
  • 規制の増加にともなう企業ガバナンスの対応不足
  • 海外拠点でリリースしたAIサービスが、その国のAI規制に違反していた
Security & Privacy
  • セキュリティの脆弱性によるサイバー攻撃増加
  • 不透明な情報の使用による誤判断
  • 利用者のプライバシー侵害
  • 検知システムがAI特有の脆弱性を考慮できていなかったため、サイバー攻撃の標的となった
Value
  • 組織のAI意識・訓練の欠如
  • 出力結果の予測不可能性によるエラー・異常
  • 不完全・不適切な学習データにおける欠陥
  • マネジメント指標・態勢の欠如
  • 社員のAI教育が不十分だったことから、個人情報漏洩のインシデントが生じた
Speed
  • ステークホルダーの多様化、パイプラインの複雑化への対応不足
  • データ・ストレージ・コンピューティングの急増
  • AI・ML人材の不足
  • AI導入に対応できる人材の不足から、かえって業務量が増えてしまい遅れが生じた

AIガバナンス態勢構築の進め方

AI利活用を進めるにあたっては、前出のようなAIリスクを想定し、自組織に合ったAIガバナンス態勢を構築することが重要です。

AIガバナンス態勢構築は、企業・組織の取組み状況に応じて、以下のステップで進めます。

AIガバナンス態勢構築支援_図表1

1.AIガバナンス診断・評価
AIの利活用、AIリスクに対する自社の取組み状況や成熟度を診断し、自社のレベルを評価します。

2.AIガバナンス戦略策定
AIガバナンス診断・評価によって特定された課題を効果的に解決するためのAIガバナンス戦略の検討・策定を支援します。

3.AIガバナンス態勢の構築
AIガバナンス戦略に沿って、ガバナンス態勢の構築(組織体制の構築、方針・規程類の整備、業務プロセスの管理等)を支援します。

4.AIガバナンス態勢の運用
AIガバナンス態勢の円滑な運用を支援します。加えて、実行状況についてモニタリングに活用するデータや情報を管理する仕組みを検討し設計します。

5.モニタリング
AIガバナンス態勢の運用状況をモニタリングし、継続的に態勢の改善を繰り返します。運用体制は、都度再設計・展開を実施し高度化を図ります。

AIシステムを取り巻く環境は複雑で変化が速いため、組織におけるAIガバナンスは従来の「予め一定のルールや手順を設定して遵守する」という固定的なガバナンスではなく、「常に変化する環境とゴールを踏まえ、柔軟かつ臨機応変に最適な解決策を見直し続ける(アジャイルガバナンス)」という柔軟性のあるガバナンスが求められます。

KPMGは、現場レベルで「モニタリング→態勢構築→運用」のOODA※1ループを高頻度で回転させ、継続的な見直し・改善を行う態勢作りを支援します。

※1:Observe(観察)、Orient(状況判断、方向づけ)、Decide(意思決定)、Act(行動)の頭文字を取ったもの。

関連サービス

デジタルガバナンスに関するその他のサービス

お問合せ