AI（人工知能）はデジタル経営の実践に本当に役立つのか？ と問い直す経営者の声がしばしば聞かれます。このような反応は、AIへの過度な期待感が落ち着き、新しい技術を冷静に吟味できるようになった結果だと解することができるでしょう。しかし、その“反動”が将来の可能性の芽を摘んでしまうようになれば、それは残念なことだと言えます。
そこで、本稿では、ゲームAI開発者であり、スクウェア・エニックス・AI&アーツ・アルケミー 取締役CTOとして活躍する三宅陽一郎氏とKPMG Ignition Tokyo 茶谷公之が、AI活用の現状を紐解いた上で、今後どのような変化によってAIと人間が共に社会を作っていくようになるのか、空想・妄想を巡らせた対談の内容をお伝えします。
AIはむしろ使われていないと気づいた2000年代のゲーム業界
（株式会社KPMG Ignition Tokyo 代表取締役社長兼CEO、KPMGジャパンCDO 茶谷公之（左）、株式会社スクウェア・エニックス・AI ＆アーツ・アルケミー 取締役／CTO 三宅陽一郎 氏（右））※記事中の所属・役職などは、対談時のものです。
茶谷： 三宅陽一郎さんと言えば、ゲームAIの専門家であり、AIリサーチャーとしても活躍されています。ゲームの中で活用する人工知能についてはもちろん、人工知能を哲学する、といった深遠なテーマまでカバーされているので、かなり内容の濃い対談になりそうですね。
そもそも、三宅さんがゲーム業界に入ろうとしたきっかけはどういったものだったのでしょうか。
三宅： 大学の頃にはすでに人工知能の研究をしていたのですが、2000年前後はまだ今のように人工知能がブームにはなっておらず、どちらかというと断片的な人工知能の研究が多かったと記憶しています。そんな中で、「もし丸ごと1個の存在として人工知能を作るなら？」と想像した時、ゲームの中に存在するキャラクターを作ることはそれに近いのではないかと考え、ゲームの中でAIを作ってみたい、と思うようになったのがこの業界に入るきっかけです。
茶谷： とはいえ、2000年頃はゲーム業界でも本格的にAIを扱うことは稀で、「ゲームAI」という言葉もそれほど知られていない状態だったと思います。業界に入られてすぐに思った通りの仕事ができたのでしょうか。
三宅： ゲーム業界に入って分かったことは、「AIと呼んでいるものはそれほどAIではなかった」ということです。
宣伝として「AI」という言葉はよく用いられていましたが、それは役割としてAIであるものの、例えば乱数であろうとルールベースであろうと、何かを選択する際にAIで自動的に選択する、というもので、それほどAI的なアルゴリズムではないという状況でした。あるいは、キャラクターが障害物を避けて通るといった一見AIに見える処理も、実は私が業界に入った当時は「そういうように見えるものをあらかじめ用意していた」といった、データドリブンなAIだったと言えます。
データドリブンにまでなると、逆にAIとは言えないというところもあるので、「あれ？」という感じでしたね。それが、私がゲーム業界に入った2004年当時のことです。
ゲームAIのターニングポイント
茶谷： 「それほどAIが使われていない」というところからゲームAIの基盤を築かれてきたのだと思うのですが、どのようなステップで今に至るのでしょうか。
三宅： ちょうど2000年頃はゲームAIにとってターニングポイントと言える時期でもありました。当時、米国のMITやスタンフォード大学とゲーム業界が「AIを活用しよう」という運動の下、わずかながら接点を持ち始めたのです。90年代後期は情報系の学科の人気は高かったのですが、2000年代に入るとやや失速している状況だったので、そうしたこともあり、ゲームと情報学科を繋ごう、という運動が米国で起こっていたということです。
ゲーム業界と大学とがさまざまな面で繋がり出したわけですが、象徴的なゲームとして挙げられるのが『HALO』や『F.E.A.R.』です。これらのタイトルに限らず、AIの博士課程にある学生のような存在がAIを設計してゲームに組み入れるといったチャレンジをしていて、その流れでロボティクスAIがゲーム業界に徐々に入ってくるようになりました。
米国でそのような運動が活発になっていた頃、日本は世界のゲーム産業の頂点を極めていたのは茶谷さんもご存知の通りです。ソニーの『PlayStation』のシェアが圧倒的に広がり、市場だけを見ると日本が勝っていたと言えます。しかし一方で、米国では暗中模索しながらもさまざまな技術を吸収して進化していった、と振り返ることができます。
茶谷： AIとゲームの発展を日米比較すると、そうした違いがあったわけですね。
三宅： 日本はどっちかというと「作り込み文化」なので、それぞれのメーカーが面白いと思うギミックを入れて、いわゆるゲーム的な遊園地形式のものを作っておもてなしをするのですが、一方の海外は徐々にシミュレーションの要素を取り入れて、物理シミュレーションやAIシミュレーションといったいわゆるリアル志向なものへと進化していくようになりました。
海外では、“シミュレーションの塊”とも言えるゲームが2000年頃を境に出始め、それがその後のゲーム機の計算性能と相乗的な効果によってどんどん伸びていき、そのひとつとしてAIが役割を果たすようになった、と概観できます。
私はそういった流れを比較的早くから把握していたのですが、それと日本のゲームと合わせるのは…やっぱり合わないと感じましたね。当時、プレイヤーやキャラクター達の位置や動ける範囲を検索するといったパス検索にAIを取り入れようとしても、「どうしてそれをするのか？」といった反応が返ってきたものです。
それまでの日本のゲーム作りでは、「キャラクターが移動する点（座標）を全部打てばいい」というのが“常識”になっていたので、「大きなマップに点ばっかり打つのは大変だからアルゴリズムを入れよう」と言っても、「デバック（プログラムの不具合を取り除いて修正すること）ができなくなったら困る」というように考えるものでした。
けれど幸いなことに新しいゲームのAI設計を入社2年目で任せてもらい、そこでキャラクターAIやナビゲーションメタAIといった全体をコントロールする基本原理を取り入れる機会を得ました。そして、それをゲーム産業のカンファレンス「CEDEC（一般社団法人コンピュータエンターテインメント協会）」に出展したところ、いい反応が返ってきました。
それからは、ゲーム産業全体に応える形でさまざまなAI技術を開発して発表するようになりました。以降、コツコツとそうした活動を続け、2010年頃までには今のゲームAIの基本技術が出揃う状況になっていきました。
そこからは「どれくらい深く作っていくか」という時代に突入し、今度はゲームエンジンの中にゲームAIをどんどん組み込んでいくようになり、そのあたりで私もスクウェア・エニックスに移り、『FINAL FANTASY XV（ファイナルファンタジー15）』というゲームにゲームAIをどんどん入れ、まさにゲームAIがゲームコンテンツに使われる、というような状況になっていきました。
その後、今度はディープラーニングの流れがやってきます。以前のゲームAIはどちらかと言うとシンボリックAIだったのですが、ニューラルネットワーク系のAIが台頭するようになった、というわけです。シンボリック系とニューラルネットワーク系というのは、本当は「水と油」のような関係なのですが、設計上は入れ子構造というか、組み合わせることができます。そこからは、ゲームAIの第3世代の黎明期を経て、さらにエキサイティングな変化を遂げているというのが今の状況です。まだ模索中とも言えますね。
茶谷： シンボリックAIやニューラルネットワーク系のAIというのは、少し説明が必要かもしれませんね。シンボリックAIというのは、物事を記号化した上で、問題を解くために推論や記号を用いた計算を行うもので、すでに知識や事象が記号化されていることが活用の前提となります。一方、ニューラルネットワークAIは、脳の構造を模したものという意味があり、ひとつの知識（核となるもの）に対して学習の数と結びつきによって出される結果が広がっていくようなもの、と表現できるでしょう。
三宅： シンボリックAIはおっしゃる通り記号主義的なもので、ルールベースや簡単な理論上のシンボルを定義してそれを操作するAIなので、カスタマイズしやすいものです。例えば、「このロジックが嫌だったらルールをイチから書き換えればいい」といったことが可能と言えます。
しかし、ニューラルネットワーク系のAIになるとそうした「イチから書き換える」という処理ができなくなってしまいます。そのため、ゲーム業界では長い間、「ニューラルネットワーク系のAIはブラックテクノロジーである」と教科書に書いてあったほどです。カスタマイズできないので使ってはいけない、と考えられてきたというわけですね。
確かに、ゲーム開発者がコントロールできないAIを入れれば、ゲームデザインとかみ合わなくなる懸念はあるものです。ただ、最近は、意図しない出力が出てきたらルールベースで処理するなど、さまざまなテクニックを駆使して、「噛み合わないけれど、何とか乗り越えよう」という方向に向かっています。このチャレンジはまるで、「シンボリックAIの『なんとなく完成した楽園』でのほほんとしていたところにニューラルネットワーク系のAIが入ってきたので、これまで作ったものを全て壊して融合させ、また大きな思想や理論を構築する」という挑戦だと言えるでしょう。
茶谷： シンボリックAIとニューラルネットワーク系のAIをハイブリッドしたAIはすでにゲームで活用されているのでしょうか？
三宅： 例えば、自動デバックやチーター検出（バグによるチートの発生を検出すること）など、ゲーム開発の過程に使われ始めています。ただ、ゲームタイトルの中でリアルタイムに用いるというのは本当に数えるぐらいしかありません。これにはさまざまな理由がありますが、デバックできないため、何万回に1回強烈なバグを出す、といったことがあっても対処しきれないので、「誰がその補償をするのか？」という話にも繋がる問題です。そのため、むしろ開発の現場で、例えばマップを自動生成したり、どこかの地形を学習して似た街を作ったり、といった開発の補助として活用されています。
茶谷： そのあたりの課題はディープラーニングベースで自動運転を行なう際の難易度と似た部分がありますね。
三宅： おっしゃる通りですね。ゲーム業界で言うと、もう少しすれば間違いなくゲーム機にAIが搭載されるとは考えています。おそらくユーザーのデータをサーバーに溜めておいて、そのデータで学習させるという流れはあると思うのですが、製品に載ってくるのは最初は推論部分だけでしょう。出来上がったニューラルネットワークを素直に動かしてみたというようなことは水面化でいろんな企業が開発していますが、それが表に現れていないので少し不気味にも感じています。かなり近い将来、一斉にそれらが製品となって現れて来ると予想しています。
AIと哲学を結びつけた理由
茶谷： かなりAIの技術的な話やゲーム業界の話が続きましたので、ここからは三宅さんの著書からヒントを得て、AIへの理解を深めていきましょう。
三宅さんは、『人工知能のための哲学塾（ビー・エヌ・エヌ新社）』という3部作を書かれていますね。『人工知能のための哲学塾』、『人工知能のための哲学塾 東洋哲学篇』『人工知能のための哲学塾 未来社会篇 〜響きあう社会、他者、自己〜』と、大作です。このように、哲学との結びつきがAIにもある、と思われたきっかけはなんだったのでしょうか。
三宅： ふたつあります。私は1975年生まれなのですが、80年代、特に1985年と言えばAIの第2次ブームにあたる年だったのです。子どもの頃、本屋に行くのが好きだったのですが、そこにはAIと哲学に関する書籍がたくさんあった気がしますし、そうした本をよく読んでいました。その中で、「（AIと哲学は）近いものなのだ」と思っていたのですが、第2次ブームは大学に入る前には終わってしまって…。
茶谷： ルールベースAIへの世の中的な興味関心がひと段落した、という感じですね。
三宅： そうです。ただ、先ほどお話しした経験から、「ふたつはもともと近いのだろう」とはずっと思っていました。
次のきっかけは、ゲーム業界に入ってからです。ゲーム業界の面白さのひとつに、人間とキャラクターがインタラクションする、というものがあります。キャラクターは人間のために作られるものなので、人間のことをいろいろと知らなければ（人間にとって役立つ）AIを作ることはできないわけです。「ユーザーがおそらくこの場所に立つだろうから、こういう攻撃が仕掛けられたなら…」というのをAIに予測させて、ユーザーが喜ぶように振る舞う、と。たとえばAIは重要な局面ではユーザーの予測経路を常に計算し続けます。また、ユーザーの緊張度を推定することもあります。
そうしてやっていると、AIを作っているのに人間を研究しているようになっていきます。人間はゲームの世界に入ってキャラクターとして動き、AIもゲームの世界で体を持って動き、お互いインタラクションする。そうすると、やはりゲームAI側の中身も人間のプレイヤーと同じようにしたくなるな、と。なかなか難しいことではありますが、人間っぽいAIを作りたいと思い始めるのです。そうすると、「人間とは何か」を知らなければ始まりません。
そこまでくると、「商業の真ん中でAI作っているけれど、自分は凄く哲学的な問題をずっと考えているのだな」と、気づき始めました。人間にとって身体とはなんだろう、とか、人間にとって環境って何だろうという疑問が湧いてきて、さらには、モンスターにとっての身体や環境とは何か、考えるようにもなっていきます。そうして考えると、やはり哲学に寄っているな、と思ったのが最初のきっかけです。こうした考え方は私の中で、工事現場の「足場」のようなものだと言えるでしょう。
そうしているうちに第3次ブームが到来したわけですが、初期の頃は第2次ブームの時のように哲学の話はあまり出てこず、「ここに凄いAIがあるなら、私が思う哲学とはこれだ」というものを世に問うてみたいと思うようになり、出版したのが『人工知能のための哲学塾』です。当初は、「人工知能の研究者にも、哲学を探求している人にも、凄いお叱りを受けるに違いない」と心配もしていました。
人工知能と人間は「分かり合える」。ただし…
茶谷： 『人工知能のための哲学塾』では、フッサールやデカルトといったヨーロッパ系の哲学者を取り上げ、『人工知能のための哲学塾 東洋哲学篇』では、阿頼耶識（アラヤシキ）や禅といった仏教哲学のほか、荘子や道元、龍樹、井筒俊彦氏らの思想を取り上げておられますね。そして、3冊目『人工知能のための哲学塾 未来社会篇 〜響きあう社会、他者、自己〜』では、非常に興味深い疑問が展開されています。
執筆後、さらに考えが深化されたのではないかと想像するのですが、例えば、「人と人工知能とは分かり合えるか？」ということで言うと、今はどのように考えておられるでしょうか。
三宅： ある程度の結論は出ているのですが、まず「分かるとは何か？」という話で、人間同士でも分かっているつもりで分かっていないことはありますね。分かっていなくても分かっている、ということもあります。
例えば、テニスのダブルスを組んでいる人同士がいたとして、テニスコートの中では凄く分かり合っているような息の合ったプレーをしていても、コートを出た瞬間に言葉も交わさない、なんてペアは珍しくないと聞きます。お笑いコンビでも、絶妙なタイミングで掛け合いをしているけれど、舞台を降りたら喧嘩ばかりしている、なんてこともあるようです。
そうして考えると、「分かる」というのはお互いのことを理論的に分かるだけではない部分があり、ある環境の中でうまく協業することができたなら、それは「分かっている」と言っていいのではないか、と思うのです。
この考え方を人工知能との関わりに当てはめた時、例えば、人間が「カレーって美味しいよね」と言っても、人工知能には味覚を感じることはできないので「カレーが美味しい」ということ自体は分かり得ません。しかし、人間がそう言ったら料理AIがおかわりを出してくれる、となったら、これはもう「分かっている」と言えるのではないか、と。
つまり、カレーの味が美味しいかどうかは分からなくても、その場で人間とAIが協調できているなら、それは「分かっている」と言えるのではないか、と思っています。
そういうように考えると、人間とAIは分かり合えるのではないか、協調を目指したり、何かに対するパワーを分かったりすることができるのではないか、と考えるようになりました。
本にも書きましたが、以前、伊藤亜紗氏と対談した際、一緒にマラソンを走っていてもパートナーが考えていることはよく分からないけれど、ロープで結んで一緒に走れば「疲れている」とか「休みたい」といったことがお互いに伝わってくると聞きました。そうした「分かり方」が存在するなら、人間とAIもそういう分かり方でいいのではないか、というのが結論です。
茶谷： 分かり合う、ということの定義をもう少し考えてみるとさまざまな答えが見つかる、ということですね。
人工知能が築いた社会に人間がお邪魔する未来
茶谷： 次に、人工知能がどう社会を築くか、という話についても聞かせてください。これも興味深いテーマなのですが、そもそも「人工知能が固有の社会を築く」ということにギョッとする方もいらっしゃるかもしれません。
三宅： そうですね。私は「人間のための人工知能」という考え方があまりしっくりこないと感じていて、AIは文化を持った社会を形成することができる独立した人工生命的だという考えを持っています。おそらくそうした考え方の方が好きな人は同世代の中には多いのではないでしょうか。
つまり、AIは独立した生き物である、ということで、人工知能達そのものが人間社会の中に入り込むことが重要視されていますが、人工知能達が固有の文化を持ち、社会を持つことがおそらく可能なはずだ、と。メタバースやオープンワールドといった世界が自立しているので、むしろそこで生きられるのがAIであるはずだ、と考えています。
そうすると、AI達が人工生命としての生命体の集団として何ができるかというと、やはり文化の伝承はできるでしょうし、知識の伝承や社会の構成、そしてミームの伝達といった仕組みは実現可能で、自律した人工知能社会というのが人間社会のすぐ隣で作られてもおかしくないのではないか、と考えています。
むしろそれを作ることに価値がある、とも言えるでしょう。すでに人間だけが社会を持っているのではなく、昆虫や鳥など、それぞれの生命が社会を持っているのですから、AIが社会を持っても不思議はないし、それによって人工知能達はそれぞれ発展でき、人間としても凄く面白い社会になるのではないか、と思っています。
歴史的には人工知能は人間の抽象的な知能を規範としてはじまりました。ダートマス会議の宣言文にもそう書いてあります。だからこそ、人間を超える、超えない、が逆に議論になります。一方で人工生命はどちらかと言えば、人間以外の生物の身体をテーマにします。そもそも、このようなふたつに区別されたのは学問的な制約によるものです。本来は、人工知能を持った人工生命体を作り上げることが目的だと私は考えています。そういった人工知能＝人工生命体は、今後メタバースの主要な要素になっていくと予想されます。メタバースの魅力のひとつは、そういった人工生命体の活躍です。
茶谷： なるほど。今、メタバースというキーワードが出ましたが、AIがhabitat（住人）になっているようなメタバースがある、というイメージですか。そこに人間が時々お邪魔する、というようなこともありそうですね。
三宅： そうそう、そのセンスです。（笑）そうすると、「AIの間では今この曲が流行っているんだ」とか、「今年のAI社会の流行色は何色なんだ」とか、AIが建築を作り出したら屋根の形は今までにないものだった、とか、そういったことも起きるでしょう。これまで、文化の担い手は人間だけとされてきましたが、人工知能の社会と人間社会がインタラクションすると、新しいアートや文化が生まれてくるかもしれません。
それは、新しい世界がもうひとつできるといったことであろうと思います。最初は人間からの“借り物”で作られるかも知れませんが、十分新しいものが出てくる可能性があり、それも一種のアートと言えるのではないか、と思っているところです。
人工知能はどのように文化を形成するか
茶谷： そこが本の中の「第一部［第三夜］世代を超えて 作り出す 人工知能文化」第3章の「どんな文化を形成するか」に繋がるというわけですね。
三宅： 文化を作り出すことは寿命とも関係していると思っているのですが、そう言うと、「人工知能はソフトウェアだから死なない」と思われるかもしれません。しかし、ロボットやドローンは墜落したり破損したりしてショートすれば一瞬で消えることがあり、人工知能にもやはり寿命があると言えるわけです。では、彼らはどうやって知識を伝えいくのか、という話になりますが、「みんなメモリがあるから、伝送すればいいじゃないか」と、簡単にはいきませんよね。仮に1000体のロボがいて、それぞれがお互いに通信し始めればあっという間にオーバーフローするでしょう。
この考えは、私は結構面白いと思っています。そこに文化があるのではないか、というわけです。メモリの中身を全て残したいけれど、みんながみんな伝え合ったらお互い受け取れないから一番優れたものを「コモン」として残していく、というふうになり、一旦みんながアクセスする場所に置くようになる。それが文化なのではないか、と思うのです。
茶谷： ある種、分散自律を可能にする仕組みといった感じですね。
三宅： そうすると、受け取る側は、Aから引っ張るのか、Bから引っ張るのか、選択可能になります。その際、私は、ニューラルネットというのは、先にAの学習データを学習してから先に進むのと、Bの学習データを学習してから先に進むのとでは全く違うものに仕上がる、学習する順番によって中の性質が変わる順序依存性があると思っています。これがどんどん個性を形成していくことになる、と言えるでしょう。
例えば、偶然北海道で生まれた人と偶然兵庫県で生まれた人との考え方が違うように、文化のインストールの順番が全然違うと、最初の基礎になっている部分が少しずつ違うので、その先も少しずつ変わってくるはずですね。
これまで、人工知能の知識というと、記号列がダーっとあったわけですが、そういった記号列はまったく同一の知識として人工知能に共有させるのが容易です。しかし、現代のディープラーニング型の人工知能だと例えば「ニューラルネットのトポロジーとウェイトの集合」みたいなことになって、どの部分をどうやってインストールするかは人工知能達のそれぞれ勝手なので、やはりさまざまな組み上がり方をするものだと考えています。
茶谷： 人工知能にも知識や体験の順序依存性があるというのは非常に面白く、私にはなかった視点です。しかし、確かにおっしゃる通りですね。また、コンピュータの場合、一度リセットすればゼロに戻せる点について言うと、人間はなかなかアンラーンができない、選択的に忘れることができない、という弱点があるのだと思っています。そのあたりはAIやコンピューターが補ってあげられる部分だと思っているところです。
三宅： まさにそうだと思います。人間もやはり多層的なので、一番下に入れた知識なり文化なりを簡単に引き抜くことができないものですよね。さまざまな層があって、ラーニングで積み上がっていくので、「ここを抜き取ると実は他のものにも影響する」というような文化の依存性や順序依存性が常に知能の構造の中に定着しているのだと思います。
茶谷： 出身地の話もありましたが、確かに生まれた直後の刷り込みはよく研究テーマにもされていて、その刷り込みによってその後の行動原理やプライオリティーの決定が左右されたりするようですね。
三宅： その知識の形というのはニューラルネットワーク的な知識なので、低層がなくなるといろいろと分からなくなってしまう…。第1次AIブームの頃はシンボリックなもののライブラリやデータベースといった話がなされていて、それが後の検索エンジンに繋がっているわけですが、今の話はまさに第3次AIブーム的な考え方だな、と感じます。第3次AIブームはコネクショニズムの方が強く、コネクショニズム的なライブラリを構成しようとしてきました。それが今のニューラルネットワーク的な発想に引き継がれるわけで、辞書の形が既にコネクティッドな姿になっている、というわけです。
ゲームと繋げて言うと、あるユーザーが育てたレーシングマシンのニューラルネットワークを他のユーザーもダウンロードできる、ということです。なんだか不思議な感じですね。
茶谷： それはある種、鍛えた頭脳や体験の移植、といったことでしょうか。
三宅： そうです。実際に、『SAMURAI SPIRITS（サムライスピリッツ、株式会社SNK）』というゲームでは、ユーザーが操作したデータをサーバーに上げることができ、そこから生み出されたAIと対戦できるのですが、そのサーバーはまさに先ほど言った文化の蓄積場所になっているとも言えます。
人工知能と人間が愛し合うために必要なこと
茶谷： では、より深遠な「人と人工知能は愛し合えるか」というテーマについてもお聞ききできますか。
三宅： これもう、まず「愛」というのは曖昧な言葉なので、そこから始まるのだと思います。今の人工知能と人間との接点の中で、人間側の不満というのはどこなのか、という話から始まるのですが、実際のところ、一番の不満というのは「AIの性能が足りないことではない」と思っています。少し受け答えや話の流れがぎこちなかったとしても、それはそれほどまで大きな問題ではない、と言えます。むしろ、一番の不満は「AIが変わらないこと」ではないか、と見ています。
人間と人間は、愛憎はともかく、出会った時にお互いに変化していくものですよね。しかし、AIというのは昨日も今日も変わらない存在です。そうすると、人間は「自分と出会った意味がないのではないか」と考えてしまうのです。それは人間からすると、AIに拒否されている、ということと似ているのではないか、と。AIの中に自分という存在が入り込むことがないと、それはやはり「愛し合っている」とは言えない状態だと言えます。
一方の人間は人工知能と出会っても変化するので、それと同じようにAIにも内面や存在の深い場所が変わっていくような、そうあってほしいと願ってしまう。もし、そういう仕掛けをAIの中に組み込めたなら、それは「ロボットが人間を愛している」と言ってもいい状態になるのではないか、と思うのです。この結論は「分かる」と同じ話ですね。
茶谷： なるほど。ただ、コンピュータソフトウェアには可塑性がない、つまり、相手に対して歩み寄ることがないので、どうしても人間が歩み寄るしかない。どちらかというとコンピュータセントリックなインタラクションをせざるを得ないですよね。そこに課題があるというのは、確かにその通りですね。「変わらない」という感覚は、コンピュータソフトウェア全般に言えることだと感じます。
三宅： 逆に、「変わると愛せる」ということはあるのだと思います。もし、人間側のインプットによって変化が起きた、となったら、そこには人間の罪の意識が芽生えることもあるでしょうし、毎日そんなインタラクションがあれば、「自分のせいでロボットのコアがこうなっちゃったんだ」という感覚も生じ得るでしょう。そうなれば今とは違う次元で人間もAIを受け入れるし、AIも人間を受け入れるし、深い部分で相互作用みたいなことが起きるのではないでしょうか。
茶谷： そういうAIはいつ頃、世の中に出てきそうでしょうか。
三宅： 原理的には今でも作れるはずだと思っています。ただ、そういう需要はないのかもしれません。世間的には「お掃除ロボットは今日からいきなり変わります！」ということを望んでないでしょう。
人間にとっての幸福、人工知能にとっての幸福
茶谷： 今「人間はお掃除ロボットがある日突然変わりましたということを望んでいない」という話が出ましたが、逆に「人工知能にとっての幸福とは何か」というと、どう考えられますか。
三宅： これは一番難しいトピックです。
まず、人間にとって「幸福」とは何であるかというと、私はふたつあると思っています。人間は「変化を求めるか、恒常性を求めるか」のどちらかだと思っています。つまり、寿命もなく何も変わらない一定の状態でありたいということと、どんどん変化していきたいという衝動があるわけです。
人間は、そういった恒常性と変化という相反する両極を希求するため苦しいわけですよね。結局のところ、ジッとしてればいいのに何かにチャレンジしたくなり、散々チャレンジすると今度は「ちょっと休みたいな」と思い始める。そのふたつが人間の幸福のふたつの形なのではないか、と考えています。
そうすると、人工知能にもふたつの幸福の形があるのではないか、という考え方が浮かんできます。自分自身をある状態に保とうとする恒常性の衝動と、自分をどんどん変化させて世界と溶け合い、世界の流れに自分を投げ込みたいという変化への期待がそれにあたるというわけです。
このふたつをAIに実装することはそんなに難しいことではないでしょう。その衝動を人工知能の中に埋め込むことで、人工知能にとってもこのふたつのどちらかを達成するというのは幸福なのではないかーー。それが人工知能の幸福論だと思っています。
茶谷： なるほど。未来社会編は本当に考えるポイントが多く、刺激を受けました。
正規分布から外れたところにこそ“宝”がある
茶谷： 三宅さんは、『最強囲碁AIアルファ碁解体新書―深層学習、モンテカルロ木探索、強化学習から見たその仕組み（著／大槻 知史、翔泳社）』の監修もされていますね。それも読ませていただきました。私も最近、将棋の有段者の方からいろいろと面白いことを教えてもらったのですが、まず近頃の若い棋士の方はAIと対戦してどんどん強くなっているそうですね。AIも進化しているけれど、人間の方も絶対的に強くなっているそうです。
また、AIやAIに鍛えられた若い棋士達の間では、今まで悪手と思われてきた手や少し古い手を使った戦い方をするようになっていて、それらの打ち方が再評価されるようになった、という話も聞きました。こうした“発見”はビジネスの面でも凄く面白い領域だと思っています。
つまり、今までは限定的な範囲でしか打ち手を読めていなかったけれど、もっと深いデータや深い見方をすると、実はいい手だったかもしれない、ということが将棋や囲碁の世界ではAIの台頭によって分かってきている、というわけです。そして、もしかするとビジネスでも深いところまでシミュレーションすると、今まで「やってはいけない」とMBAの教科書に書いてあるようなことが、実はそうではないことが分かったりするのかも知れません。
それを発見するべく、囲碁や将棋といったゲームで活用されているAIを一般化してビジネスの領域に持ってくると面白いかもしれないな、と思っているところです。書かれた本を読んでいて、ビジネス側から見た時のヒントになり得るものがたくさんあるな、と感じました。三宅さんはそのあたりのことについて、どのように考えておられますか。
三宅： ディープラーニングが流行る前、2006年頃に「モンテカルロ木探索法」というのが出てきました。それ以前の「モンテカルロシミュレーション」ではランダムにシミュレーションをして、例えば、「100回試行したら、白が何目差で勝てる。あるいは何目差で負けている」といったことを見てきました。
これに対し、「モンテカルロ木探索法」は、そこに「目数ではなく勝敗だけに着目しよう」という発想と、勝ちが積んでいるところはよりシミュレーション回数を増やす、というふたつの考え方を取り入れたのですが、基本的にやっていることはランダムシミュレーションなので、人間の知見が入ることはありません。
なぜこれをするかと言うと、人間の場合、ランダム打ちだと「無駄が多いので、選択をする」ということになり、勝手に「こっちは駄目だ」と思って端折ってしまうし、「自分達の先入観でいろいろな手を切っておいて、残されたものだけで、ああでもないこうでもないと探す癖がついている」とか、「人間の考えられる量に依存していて枝刈りをせざるを得ない」ということが分かるようになっていたのです。まさに、先ほど茶谷さんがおっしゃる通り、「実はその先に、人間が見つけていない凄い手がある」というのが分かったというわけです。
これは、結局のところ、人間が考えられるスケールまで問題を落としてこなければそれを考えることはできない、ということであり、こうしたことが分かるようになったのは、実はAIが強くなったからだと言えます。
茶谷： 実際に、人間は頭の中のキャパシティを超えると考えられないし、外部記憶もないのでスワップするわけにもいかないから、本メモリに置けるだけの規模に削るしかないですからね。しかし、捨てた枝に宝があった、という話なのだと感じました。
三宅： まさにこれは複雑系とも絡むところで、微細な部分が全体を決定する、同時に部分が全体を決定する、その部分と全体の相互作用している。大局から見るとそのことが見えてないので、トップダウンで全部を分かっているつもりでいる、という問題が出てきてしまう…。
茶谷： 複雑系や自然系は今のさまざまな正規分布などの統計とは全く違う世界になるので、予測も全く違ってきますよね。
三宅： 統計からはみ出たものが次の世代にメジャーになる、ということですね。むしろその方が結構多いとも言えます。
茶谷： 確かに、正規分布のうち、平均値からかけ離れたファットテールのところに意味がある、ということはたびたび起こり得ます。ただ、現実には正規分布統計で考えると、ファットテールの部分は「意味がないもの」と言ってほとんど必ず切り捨てていきますよね。
三宅： 本当に「遥かシグマの先にあるもの」、つまり中央値からずいぶんと外れたところにあるものでも「取得しておくと超おトクなのでは！？」というものでもあるわけです。これは先ほども話に出た文化継承の話にも繋がるのですが、今の世代の人は持ってないものだったら、次の世代はそこをアイデンティティにすると「自分の前の世代に勝ててしまう」ということになり得る、と言えます。
このことは、ちょうどパソコンやインターネットが登場し始めたIT化の初期の頃、ITを使う世代と使わない世代が生じた顛末と似ています。その後のことはご存じの通りで、実はそういったことは人間の歴史上、何度も起こった文化的革命なのだと考えられるでしょう。
その前の時代には正規分布から離れたところとされていたテクノロジーの革命に飛び込んだ人達が今では世代の母集団でありコアであり、先頭集団になったし、囲碁の場合でも、実は統計から外れたところが物凄い活路になっている、ということですね。
AIが30年後や50年後に社会に及ぼす影響とは？
茶谷： 囲碁や将棋とAIの関わりを見ていると、ビジネス界やリアルライフで今後起こる変化を示唆していると感じます。特に、ゲームで使われるテクノロジーというのは最終的には家電や自動車、スマートフォンなどに一般化されて普及していくと思うのですが、そういう意味では三宅さんがやっておられることは本当に先端で、適用範囲は広くないかもしれないけど尖った部分であり、5年後や10年後、あるいは20年後に一般化されていくのだろうな、と想像します。
その点から見ると、30年後や50年後のAIやAIが社会に及ぼす影響というのはどのようなものだと空想・妄想されますか。
三宅： 私からすると、やはりゲームAIの本質とは人間を理解するところである、と思っています。単に自動翻訳や数値計算をするというわけではなく、意識がどちらに向いているか、人間の感情が分からないけど「こういう感じになっているのではないか」と何となく推測することができる、といった具合です。その先、これからのAIサービスというのは、ある程度はその集団や個人の内面を理解するといった性能が重要になってきていると思っています。それというのも、AIの最初のレイヤーはある程度グローバルに整ったのではないか、と思っているからです。
まずクラウドがあって、その次にディープラーニングがあって、一般にはサーバー上で計算するサービスがある、と。そのように計算の方法やインフラは整ったので、これからはさまざまな実際のサービスが展開していくはずです。
そうなると、コンシューマーたる人間のニーズを掴んだ者が“勝ち”なわけですね。つまり、いかにユーザーを理解するかがキーポイントになってきていて、ゲームはまさにその典型ですけれど、ユーザーニーズが明確に分かれば苦労しないけれど分からないなりに推測してゲームをカスタマイズするといったことをやることになります。
これまではゲームならひとつのタイトルを作り、なるべく多くの人に同じものを提供してきましたが、これからは同じパッケージを購入しても内蔵されたAIがコンテンツをどんどん変えていく力、マップを変えたりストーリーを変えたり、敵の強さを変えたり、出現の順番を変えたり、音楽を変えたり、あるいはもう自動作曲とか自動の要素をどんどん盛り込んでもいいわけです。
そうなることで、同じゲームパッケージを買っても少しずつ違う体験が展開可能になるでしょう。ゲーム自体にユーザーが合わせるのではなく、ゲームがユーザーにある程度アダプトするというか、双方が近づいていくようになる、ということです。そうするとユニークな体験というのがそこに生まれてくるでしょう。
こうした流れはゲームには絶対に起こるでしょうし、もうYouTubeにゲーム解説動画をアップしても、「あれ？ 俺も同じゲームしているのに全然違う」といったことが起きてくるはずです。その変化は他のほとんどの業界でも同様に起こると思っていて、例えば教育にしても、「あれ？ お前の練習問題と俺の練習問題とは違うんだけど？」ということも起こってくるでしょう。「だって、お前この問題正解したらもう次のやつが出てきているんだよ」というようなダイナミックな組み替えがどんどん起きてくる、と想像します。
茶谷： 確かに、プロフェッショナル教育も最近オンラインになり、逆にリアルな経験が不足しているとの懸念が聞かれるようになり、アダプティブラーニングの必要性を訴える声も聞かれるようになりました。おっしゃる通り、ダイナミックな組み替えは起きそうですね。
三宅： そうですね。ですので、Web広告がダイナミックになったり、製品も自分用にデザインされたりとすでにそうした事例はありますが、自分の好きな組み合わせになる、ということが全部可能になるはずなんですよね。
AIによる自律型社会が未来の人間にも幸せをもたらすはずである
茶谷： 今のようなお話を聞くと、「一般的に知られているAIとはかけ離れている」と感じる方もいるかもしれませんね。
三宅： そうかも知れませんが、ある種“未来”の断片が今できつつあると思っています。例えば、ディープフェイクや一定の制作物を真似できるようになってくると、次はオリジナルを作る段階がきて、それが継承されていく、といった流れがあるのではないか、と。そういうのができたらゲームとしても一番価値があると思います。
私が目指してきたのは、ゲームの中の仮想空間という場で本物のAIと人間とを会わせてあげる、ということですが、やはりゲーム専用のAIやその場だけのAIというのは深みを与えられないので、そういうAI達がいるような街ができれば、そこに行くだけでも何かすごい刺激になるんじゃないかな、と想像しています。
そこでは「エージェント」が重要になります。エージェントとは役割を持った自律型人工知能のことですが、メタバースではキャラクターのことです。エージェントが人間と自然言語で対話し、命令を受けることや報告をすることができれば、これまでのように人間がいちいちコンピュータを操作するのではなく、本当に言葉だけでいろいろな仕事がこなせるようになります。このようなエージェントを用いた社会の仕組みを「エージェント指向」と言います。エージェントたちの連携と、人間との協調によって、社会を構成する。これは静かな革命かもしれません。そこでは、もはや、エージェントたちが社会の中心となります。マルチエージェントによる持続可能な自律型社会です。
茶谷： これまで「だいたいこうなるだろう」という社会の中で暮らしていた人間が全く違う生命体達が作る社会に出会う、というのは凄く面白いことですね。
三宅： そうですね。私は、人間中心社会というものはもう崩さなければ人間がくたびれてしまう、しんどさを感じてしまう、と思っています。人間が全部を背負っているがゆえに、仕事は休めないし、人間が止まると社会が止まると感じてしまう…。そういうところから人間を休ませるためにはやはりAIによるある程度の自律型社会が存在することでみんな幸せになれるのではないだろうか、と考えています。
茶谷： そうなった時の国家とは、どういった姿になるのでしょうか。
三宅： エネルギー問題やAIによる創造物を含め、AIが自律性を持つということは、私達の権力から逃れることにはなるでしょう。そこについて、悲観する人は「とんでもないことだ」と言うかも知れませんが、私は楽観的です。人間とAIのコミュニケーションによっていかに解決するか、そこがむしろ面白いテーマになるのではないか、と思います。AIが自律性を持つがゆえに、それは国家の一翼を担うことになるはずです。
とはいえ、今はAIに命令するしかなく、しかも命令できるのはエンジニアだけです。しかし、コンピュータも昔はLinuxとかUnixといったコマンドを知っているエンジニアしか使えなかったけれど、今ではほとんど誰もが使えるようになっています。それと同じように、AIも30年も経てば誰でもポチっと押すとAIが作れるようになって、インターフェースの問題は解決できるでしょう。そうして、大きなAIが人間社会の社長や一国の首相をサポートする、ということも実現できるようになるのではないか、と思っています。
茶谷： 確かに、世の中のパラメータが増えすぎている今日、経営者にしても一国のリーダーにしても、ひとりの人間が全てをカバーできるというのは不可能になっています。デジタル経営をするにしても、国家を運営するにしても、その周りにサポートしてくれるAIのオーケストレーションが必要な世の中になっていると言えるでしょう。まるで交響楽団AIのような、それぞれの領域が得意なAIがいろいろと助けてくれる、という世界観になっていっても不思議ではないですね。
三宅： まさにそうなると思っています。ひとりの人間に何体ものエージェントAIが付いていて、例えば、ビジネスの場で「この人、誰だっけ？」となった時に教えてくれる、「◯◯業界に詳しくて会議で何かあったらいい発言をしてくれる」AI、というイメージです。すでにそうした「場」がメタバースとしてデジタルになっているので、AIと人間が一緒にコミュニケーションを取れるでしょうし、今はGoogle検索で対応していることが、それよりもさらに高度なAI達が我々をアクティブサポートしてくれる、という世界になるのではないか、と思います。
これからエージェントが動かす社会に人間が参加してエンハンスしている、という状況が理想的です。そうなれば、今は人間が背負い過ぎていることも、「今日は休んでも20%ぐらいの稼働率で仕事が回っている」といった人間にとっても生きやすい社会が実現されるのではないでしょうか。
対談者プロフィール
三宅 陽一郎
株式会社スクウェア・エニックス・AI ＆アーツ・アルケミー 取締役／CTO
ゲームAI研究者・開発者。京都大学で数学を専攻、大阪大学（物理学修士）、東京大学工学系研究科博士課程（単位取得満期退学）。博士（工学、東京大学）。2004年よりデジタルゲームにおける人工知能の開発・研究に従事。立教大学大学院人工知能科学研究科特任教授、九州大学客員教授、東京大学客員研究員。国際ゲーム開発者協会日本ゲームAI専門部会設立（チェア）、日本デジタルゲーム学会理事、人工知能学会理事・シニア編集委員。『大規模デジタルゲームにおける人工知能の一般的体系と実装 －FINAL FANTASY XVの実例を基に－』にて2020年度人工知能学会論文賞を受賞。
著書に『戦略ゲームAI解体新書』（翔泳社）『人工知能のための哲学塾』『人工知能のための哲学塾 東洋哲学篇』（ゲンロン人文的大賞2018受賞）（ビー・エヌ・エヌ新社）、『人工知能の作り方』『ゲームAI技術入門』（技術評論社）、『人工知能が「生命」になるとき』（PLANETS／第二次惑星開発委員会）、『なぜ人工知能は人と会話ができるのか』（マイナビ出版）、『AI meets Philosophy: How to design the Game AI』（iCardbook）。
KPMG Ignition TokyoのLinkedInをフォローして最新情報をチェックしてください。
