AIエージェント管理態勢構築支援

企業等におけるAIエージェントの活用が急速に拡大しています。AIエージェントを取り入れたSaaS型サービスの利用、ラインナップを取り揃えた特化型AIエージェントの基盤構築、ノーコード／ローコード開発プラットフォームの活用などに加え、標準規格や便利なツール群の相次ぐ登場が関係し、導入しやすい環境が整ってきました。AIの活用を積極化させたい企業やAI利活用の範囲や効果の最大化を狙う企業にとっては、AIエージェントは有効なソリューションであり、AI活用の高度化を実現するものです。

その反面、高性能であるがゆえの危険性や、人の思考や行為を代行する一方で、人のような自己抑止機能がないことの懸念などもあり、AIエージェントの決定を監視して介入する仕組みが重要であるとされています。

KPMGは、AIエージェントの管理・統制にかかわる取組み事例や支援実績、AIガバナンスにおける豊富な知識や世界各国での経験・実績を基に、AIエージェント管理態勢構築および運用・高度化を支援します。

AIエージェントとは、AIを使用してユーザーの代わりに目標を追求し、タスクを完了させるソフトウェアです。推論、計画、一定期間の記憶が可能であり、意思決定、学習、環境適応を行う自律性を備えるとされています。その思考や判断を行う“頭脳”として、大規模言語モデル（LLM）を採用することが主流となっており、他システムとの接続と処理の実行まで行うことができます。技術進化により、他のAIエージェントと連携して、より複雑なワークフローを調整して実行するマルチAIエージェントも実用化されています（マルチAIエージェントのように、より高度なものをエージェント型AIと呼ぶ場合があります）。

AIエージェントは、設定した目標に対してAI推論によって自律的に最適な方法を判断し、接続する外部システムの実行まで担います。人が介在しないなかで、長時間にわたって大量・高速に処理することも可能です。実施事項、禁止事項、権限などが明確でない場合、人のように善意の自己抑制機能がないため、ユーザー（人）が想定していない処理を実行する可能性があります。

また、企業等のAIエージェントを用いたAIの積極的に活用する機運、利便性の高いプラットフォームが提供される状況などから、今後もAIエージェントが増加し、相互に接続されていくことが見込まれます。対象増加とともに課題も複雑化し、次のような課題に対応していかなければなりません。

KPMGは、Trusted AIのフレームワークに基づき、企業等におけるAIガバナンス構築を幅広く支援しています。AIエージェント管理態勢構築は、AIガバナンスを構成するきわめて重要な要素として位置付け、クライアントの組織体制整備、プロセス構築やルール策定、適切なマネジメントを実現するためのシステム環境整備などを支援します。AIエージェントにかかわるさまざまなリスクへの対応をアドバイスします。

AIガバナンス構築の知見・ノウハウを基に、個別ユースケースにおけるヒューマンインザループを考慮した業務設計、EU AI規制法を含む諸外国の法令順守対応なども支援します。また、AIエージェントを効果的にマネジメントするためのITソリューションの活用も提案します。

AIエージェントはサイバー攻撃の標的になりやすいと言われており、接続するシステムが更新されるため、攻撃によって悪用された場合は深刻な影響を与える可能性があります。KPMGのAIエージェント管理態勢構築支援は、AIガバナンスの専門家とサイバーセキュリティに関する経験豊富なメンバーによるチームを構成してプロジェクトを推進します。