AI 信頼性担保の必要性

AIは既に企業・社会活動のさまざまな領域において実装され、高度な分析や業務の効率化などにおいて欠かせないものとなりつつあり、健全なAIの利用は企業・社会インフラの発展に寄与するものと考えられます。

一方でAIはその思考・判定プロセスがブラックボックス化しやすく、その信頼性を検証せずに開発・運用することは企業・社会活動に重要なリスクをもたらします。

オランダではEU諸国の中で先んじてSyRI^※にすべての政府部門におけるシステムを接続した経緯があり、SyRIの開発と使用を許可した法律は施行当時多くのメディアの注目を集めました。一方で導入当初からSyRIの利用は個人情報データ保護の観点から懸念も指摘されておりました。例えば、「貧しい地域に住む人が、豊かな地域に住む人よりも、不正リスクを監視される可能性が高いという効果をもたらすのではないか」といった点です。

このような懸念を受けて、2020年の初めにオランダ政府の使用するアルゴリズムについて調査が開始され、ハーグ地裁が、「社会保障の分野でアルゴリズム主導の不正検出を認める法律はデータ保護と差別禁止のルールと両立していない（SyRIは市民のプライバシーを保護するための保証が不十分である）」との判決が下されました。同年、当時の内閣はSyRIの判定結果に基づき育児手当を不当に返還させたスキャンダルの責任を取るために総辞職に追い込まれています。

※SyRI（System for Risk Indication）：特定の自治体の住民のデータを予測アルゴリズムで検索し、社会保障費の不正を示すパターンを探し出すことができるシステム

AIの信頼性を担保するために、さまざまな国や団体がルールやガイドラインを公表していますが、SyRIの事案を受けてオランダ会計検査院では下記のような観点に基づく検証を行っています。一般的に「倫理性」の観点はAIの信頼性を検証するうえで特に重要なものとされています。

4つの視点

• ガバナンスと説明責任
• モデルとデータ
• プライバシー
• IT全般統制

7つの倫理原則

• 自己決定権
• アルゴリズムのセキュリティと品質
• プライバシーとデータ保護
• 不当な差別は無いか　公正性
• 社会への影響
• 説明責任
•  説明可能なアルゴリズムか

オランダのSyRIの事例ではAIが政府活動の中で実装された後に不適切なものであることが判明し、関係者に多くの影響を与えました。AIを開発・利用する主体は、AIの信頼性について適切な検証手続きを実施・継続していくことが重要なポイントです。

十分な検証手続きを経ずに利用されるAIは企業・社会活動に想定外の結果をもたらす可能性があるとともに、利用主体の法的・倫理的責任が問われるリスクがあることを念頭におく必要があります。

あずさ監査法人　AI Assurance Group