近時、AIを活用したビジネス機会が増す中で、そのリスク面についても充分に検討しておくことが、ビジネスの成功を確かなものとするカギとなっています。KPMGは、AIを活用したビジネスの推進を、法規制等のリスク面を踏まえて支援します。
AI関連ビジネスの発展とリスク
ビジネスにおいてAIの利活用が進展する中で、｢リスク｣への意認は徐々に高まりつつあるものの、その検討や対応が不十分で、事業・サービスの継続性が危ぶまれる例が散見されます。AIビジネスの健全な発展のためには、グローバルの規制動向等を踏まえて事業戦略を組織横断的に検討することが求められます。
中長期的な規制リスク ー EUにおける包括規制案
EUでは、2021年4月に、AIシステムに関する包括的な規制案が公表されました。これは、EU域内におけるAIシステムの提供者や利用者、販売者等に対して、広く適用されます。AIシステムのリスクをその性質に照らして分類したうえで種々の義務・禁止行為や違反者への罰金が定められており、ビジネス検討の際に注視すべきリスクです。（2021年5月時点）
AIの分類と規制
| リスクの分類 | AIの性質 | 規制態様 |
|---|---|---|
| 許容できないリスク | 人々の安全、生活、権利に対する明らかな脅威と見なされるAI 例）公的空間での法執行目的の遠隔生体認証 |
原則禁止（例外あり） |
| ハイリスク | 人々の安全や基本的権利に悪影響を及ぼし得るAI 例）医療機器、人事 |
各主体ごとの義務あり • 適合性評価 等 |
| 限定的なリスク | 透明性の確保が必要なAI 例）チャットボット |
透明性の確保（AI利用の通知） |
| 最小限のリスク | 人々の権利や安全に対するリスクが最小あるいはゼロとみなされるAI | 特段の法的義務なし（自主行動計画の策定） |
高額な罰金のおそれ
規則の違反者に対して、最大で以下のいずれか高い金額の罰金を科すことができるとされています。
• 前年度における世界売上高の6%
• 3,000万ユーロ
AIビジネスにかかる規制環境の概観
AIビジネスの推進に際して、既存の個別分野の法規制（個人情報保護法、知的財産法等）や分野横断的な包括規制案の動向のみならず、倫理面での検討が必要であり、各種論点を抜け漏れなく検討するためのAIガバナンスの構築が求められています。
KPMGによる支援
各種規制の要求事項や、中長期的な規制動向、企業実務等を前提に、AIビジネスにおけるリスク対応の基盤構築から各種取組みの推進まで、組織横断的な支援が可能です。
| 支援内容 | サービス概要 | 実施事項 | ポイント例 |
|---|---|---|---|
| 体制構築 | 委員会の設計 | • AIビジネスの社会的妥当性を担保するための審査委員会の機能・役割の設計 • 委員会の運用に向けたPMO（Project Management Office） |
• 関連委員会との関係（機能拡張による対応／新設等） • 委員会の権限・責務の設計（プロジェクトの中止勧告等） • 委員会メンバー（外部有識者の参画の有無等） |
| 体制の設計 | • AIビジネスリスクの管理部門の役割・責任の明確化 • 委員会・管理部門・事業部門間のレポートラインの整備 |
• AIビジネスリスクを戦略の策定・実行に反映する仕組み • 取組み推進の｢旗振り役｣の設定 • 管理部門と事業部門との連携体制 |
|
| 取組み推進 | AIポリシー・プロセス | • AI利活用に関するポリシーの策定 • AIビジネスに関する各種法規制リスクに対応したポリシー・プロセスの策定 |
• 重視するAI原則・項目 • 各種ステークホルダーの意向の反映 |
| リスクアセスメント | • 新規AIビジネス等のリスクアセスメントの実施（規制リスクの調査） • AIビジネスにおけるリスクアセスメントプロセスの整備 |
• ｢許容できないリスク｣や｢ハイリスク｣が認められるAIなど、厳格な規制が想定されるユースケースの有無 • 既存の法務、情報管理、品質管理、リスクマネジメント等の各プロセスとの関係 |
|
| 教育・周知 | • 規制リスク・対応ポイントの従業員研修 • AIポリシーに関する具体的な推奨事項や、具体例に関するガイドブックの策定 |
• ユースケースに即したリスクシナリオ例・解説 • 関連技術・規制リスクの双方に関する平易な解説 • 事業を進める上でのポイントの解説 |
|
| モニタリング | • AIポリシーの遵守状況にかかる、管理部門からの確認・自主点検 • AIガバナンス関連手続にかかる内部監査 |
• AIビジネスにおけるモニタリング対象プロセス・テーマ • ビジネスの継続的な変化に対応したモニタリング |
