レポート全文は「KPMG Japan Insight Plus」よりご覧いただけます。
ソーシャルメディアの推薦アルゴリズム、生成AI／AIコンパニオン活用が人々の認知・感情・意思決定、さらにはメンタルヘルスとウェルビーイングに与える影響を踏まえ、Responsible AI／Trusted AIを企業経営の中核に位置付ける必要性が意識されるようになってきました。
従来、SNSにおけるAI活用では、誤答、差別、プライバシー、透明性といった論点が主な倫理的考慮事項として語られてきました。しかし、近年、AIが長時間の対話やパーソナライズを通じて、ユーザーの関心、承認欲求、孤独感、危機心理に継続的に作用することで、依存的利用、認知の偏り、心理的脆弱性の増幅を招きうる点が新たな課題として注目されるようになってきました。
特に注目すべきは、SNSの推薦システムと対話型AIの問題が連続している点です。SNSでは、閲覧履歴や反応傾向に基づき類似情報が反復提示されることで、「エコーチェンバー」や「rabbit holes」が形成される可能性があります。また生成AIなどは、ユーザーとの間に疑似的な親密性や信頼関係を形成し得ます。両者に共通するのは、エンゲージメント最大化を重視する経済合理性で、それがユーザーの自律性やウェルビーイングと衝突し得る点です。
欧州のDigital Services Act（DSA）、EU AI Actなど、SNSなどにおけるAI活用に伴う倫理的懸念事項を規制する検討が進みつつあります。
この影響は、SNSプラットフォーマーやAIモデル提供者に限ったものではなく、マーケティングなどを通じてAIを顧客接点に組み込む企業も一定のガバナンス責任が問われる可能性があります。
AIを活用するすべての企業は、Responsible AI/Trusted AIを倫理的課題として捉えた上で、さらに経営戦略・事業戦略・リスクマネジメントの中核に据えることが求められているといえます。SNS利用に関して、「ポスト・アルゴリズム時代における競争優位」をどう築くのかを考察します。
こちらは「KPMG Japan Insight Plus」会員限定コンテンツです。
会員の方は「ログインして閲覧する」ボタンよりご覧ください。
新規会員登録は「会員登録する」よりお手続きをお願いします。
競合他社の方は、登録をご遠慮させていただいております。
執筆者
あずさ監査法人
ディレクター 小柴 巌和
マネジャー 植田 真美
シニアアソシエイト 船津 美穂
