生成AIに係るリスク管理態勢構築・運用支援

ビジネスにおいて生成AIがもたらす可能性は多岐にわたります。業務プロセスの効率化、カスタマーサポートの拡充、イノベーション創出など、幅広い領域や業務において生成AIの利活用による利点が期待されています。昨今、大手IT企業が積極的に生成AIの開発を進めており、企業・自治体等でも生成AIの導入を積極的に推進・検討されるなど、生成AIによるビジネスの変革が加速しています。

一方で、生成AIの利活用で生じるリスクもあります。倫理面、人権面、技術面等での様々な懸念から、生成AIの利活用に対する規制を求める声があがっており、各国・地域で生成AIに関する法規制やガイドラインが整備されています。企業における生成AIの導入・利活用を成功させるためには、生成AIに内在するリスクや関連法規制を確認したうえで、リスク管理態勢を整備することが重要です。

KPMGはデータ管理・セキュリティ管理・リスク管理・コンプライアンス対応等、生成AIへの対応に必要な様々な領域に関する豊富な知識や支援経験をもとに、生成AIに係るリスク管理態勢の構築・運用を支援します。

従来のAIは、与えられたデータを学習することで最適な回答を予測し、主に識別や分析など特定のタスクに活用されていました。生成AIはそれらに加えてテキスト、画像、音声といったコンテンツを自ら「生成」することを可能にしました。操作性の向上により一般ユーザーへの生成AIの普及が急速に進み、活用の幅が格段に広がっています。

【生成AIの活用例】

生成AIの利活用が活発になる一方で、人権面・倫理面・技術面等から懸念されるリスクも増大しています。各国・地域では生成AIの利活用を促進するとともに、生成AIの利活用から生じるリスクへ対応するために、生成AIに係る法規制やガイドラインの検討・作成が進められています。組織は、これらのリスクや法規制・ガイドライン等を認識・理解したうえで、生成AIの利活用促進と、生成AIの利活用から生じるリスク管理の両面に取り組むことが求められます。

【生成AIに内在するリスク例】

• バイアスの存在
  インターネット上にある大規模なデータをもとに学習されており、利用方法によっては、生成物に何らかのバイアスがある可能性は完全には否定できない。

例：学習データに人種やジェンダー等に関するバイアスが含まれており、結果に偏りが反映されてしまう。

• ブラックボックス化
  ニュートラルネットワークをベースとするモデルで構築されたモデルの回答は、透明性に欠け、特定の応答や情報が提供される理由の解答が困難となる。

例：生成AIによる予測は高精度だが、予測の根拠について説明できない。

• 倫理・社会受容性
  この処理をAIに委ねてよいのか、生成物をそのまま利用してよいのかなど、組織や個人の倫理観、社会受容性に関わる論点が内在している。

例：生成AIが不適切な判断を下すことで、生命や財産に深刻な損害を与えてしまう。

• データ移転・流出
  個人情報の入力や自社内外の機密情報の入力が、学習データに利用されたり、外国に移転するなど、法規制に抵触する可能性がある。

例：プロンプトに個人情報や機密情報が入力され、生成AIからの出力を通じて流出してしまう。

• 著作権・知財侵害
  生成物が既存著作物と酷似していたり、意図的に模倣した場合の権利侵害だけではなく、モデル提供者の学習データにも責任が及ぶことが考えられる。

例：許可なく、生成AIの学習データに著作物が使用されてしまう。

生成AIの利点を最大に生かし、ビジネスへの利活用を推進するためには、生成AIに内在するリスクへの適切な対処を行うことが不可欠です。そのためには、組織ごとの固有の状況を考慮し、利用範囲や利用方法に応じてリスクを効果的に管理する態勢の整備を実施していく必要があります。

KPMGはデータ管理・セキュリティ管理・リスク管理・コンプライアンス対応等、生成AIへの対応に必要なさまざまな領域に関する豊富な知識や支援経験をもとに、生成AIに係るリスク管理態勢の構築や展開、さらに運用や見直しまでを支援します。

【生成AIに係るリスク管理態勢の整備・運用支援サービス例】