ゲームAI開発者 三宅 陽一郎② ゲームAIに命を吹き込むのは“煩悩”～キャラ自身が人間のように意思決定していくために～
目次
考えれば考えるほど悪い方向に行くという荘子の思想
東洋では人間の知能はどのように捉えられてきたのでしょうか。例えば、今から1,500年ほど前の思想家荘子の考えを見てみます。彼は、人間の理性というのは大したものではなく、考えれば考えるほど駄目になる。世の中に存在している、万物を支配する根本原理である”道”に進めば、人間は上手くいくのだと説きます。
これは「考えれば良い方向に行く」と考える西洋的考えとは、全く反対の思想です。荘子の生きた時代は中国の戦国時代の終盤、いわゆる知識人と呼ばれる人がたくさんいたのですが、王があらゆる知識人の意見に耳を傾けて行くうちに、国がどんどん乱れていくという現実がありました。
荘子は、考えるだけが知ではない、すべてをあるがままに受け入れる不知も知である、と説くのです。また、仏教では”唯識”と呼ばれる人間の意識の解釈が語られています。
分けることが知を形成するのではなく、煩悩を生む
同じ人を相手にしていても、人によっては相手を親切だと感じ、別の人は意地悪と感じることがある。実はあらゆる存在は自分の心を投影しているのであって、自分で解釈を加える=分けて考えるということ自体が、煩悩の始まりだという考え方です。
逆に言えば、分けないということが悟りにつながると言えます。東洋の思想では、こうした”存在のゼロポイント”が、道、無、空、絶対的一者など、あらゆる形で表現されています。
西洋の哲学者は物事を分解して組み上げるところで知を形成するという考え方なのに対し、東洋の思想家は物事を区別しないところから大きな知が生まれる、という発想なんですね。こうして考えると、僕がやっている「人工知能を作る」ことは、人工知能に煩悩を与えるということとも言えます。
人間らしさは煩悩が故？
例えば、僕があるゲームで主人公の敵キャラクターを作るとします。人工知能は、生まれたときには本当に何にも興味がないんです。機能もなにもなく、世界の一部になっている。プレーヤーを倒せ、と言っても「なぜ僕はあいつを憎まなければならないんだ」という状態な訳です。
でも、そんな悟りを開いたキャラクターがいても、ゲームは面白くなりません。なので、あいつは悪いやつだから倒すんだ、食料がないと生きていけないから隣の村に行って襲ってこい、という、ある種の偏見を与えるわけです。
そうするとこのキャラクターはゲーム内で暴れます。ゲームは面白くなりますが、最後は勇者に倒されてしまう。いろんな煩悩を与えることで、ある種彼はものすごく苦しむことにもなるのでしょうが、それが人間的だとも言えるのかもしれません。
ゲームでは実現されている「自立型人工知能」
今のロボットや、ゲームのキャラクター作りに組み込まれている、エージェントアーキテクチャという人工知能の基礎があります。これは人工知能が世界から情報をセンサーで知覚し、思考した後、運動による出力をするという構造です。
思考のフェーズには、キャラクター自身が意思決定できるようなモジュールが組み込まれています。こうすることで今、ゲーム内ではプログラマーの命令なしで思考する「自立型人工知能」というものが実現できています。
プレーヤーと銃撃戦で戦うゲームでは、キャラクター自らがゲーム内の環境を自分で感じ、防御しやすい場所、打ちやすい場所を都度考え判断したりと、勝手に動くのです。こうしたキャラクターの意思決定モデルは、人間の意識・無意識のモデルのように意思決定の階層が複数に分かれており、生き物の本能に備わっている反射の動きから、「戦うべきか、戦術的に撤退すべきか」を思考する段階まで、総合した意思決定ができるようになっています。
まだAIは自らの枠を超えられない
すでに人工知能は自立して物事を考えられる知能を持っているように見えますが、人工知能の能力には、現段階では大きな制限があります。それは、自分自身で問いを作ることができないということです。
人工知能はまだ、人間に問われたことの外に出て、思考することはできません。これをフレーム問題といいます。人間の知能は総合的知能といって、例えば囲碁が上達したら、チェスもちょっと上手くなったりする。能力の応用が利くのです。
しかし囲碁ソフトは、チェスが上手くなったりはしません。与えられた問題を突き詰めて行くスピードは人間より早いかもしれませんが、その問いから出ることができないのです。また、人工知能は現実世界が得意ではありません。なぜなら、想定外のことが起こる可能性が無限にあり、その時に対処がしにくいからです。自動運転技術などの難しい点もここにあります。
いまだにフレーム問題は解決していない
僕は、問いに依存しない知能＝汎用型知能を作りたいと頑張っているんですが、汎用型知能は今地球上にはありません。哲学をもってしても、まだこのフレーム問題を解決するには至っていません。先ほどお話しした西洋と東洋の哲学的考えは、どちらが正しいという答えが出ているわけではありません。
全く違う内容ながら、どちらともなんとなく知能を捉えている感じがします。西洋の人工知能は”機能論”、つまり「何ができるか」で語られるのに対し、東洋の人工知能は「存在論であり、世界とどう結びついているか」ということで語られる傾向があります。
あるいは西洋の考え方は、時間とともにある、時間が経つごとに組み上がって行く、「世界とともに行動したい」という発想なのに対し、東洋的な考えというのは、時間に関係なく普遍的な存在として自分を保ちたい、「世界と離れて1つの普遍的な存在でいたい」という発想です。こうした別々の想いが絡み合って、人間はできているとも言えると思います。
人工知能の研究はテクニカルだけでなく、人間とは何かの追求
僕は西洋的考えも東洋的考えも共創するような形で、エージェントアーキテクチャを考えていくようにしています。人工知能というと、テクニカルなスキルを重視されるイメージを持たれることが多いものですが、実際は最先端に突き詰めるような研究ばかりではない、ということが伝わったでしょうか。
僕に限らず、人工知能の研究者の一部は、こうした「人間とは何か」という根源的な部分から追求しているように思います。哲学研究と絡めながらやっているのは、どこかで「知能の正体をエンジニアリングによって解き明かしたい」と思うからなのからかもしれません。すると、エンジニアリングとピュアな哲学という領域が、結びついた問題として浮上してくるのです。
文:波多野あずさ
撮影:梅田眞司
ゲスト紹介
三宅 陽一郎
京都大学で数学を専攻、大阪大学大学院理学研究科物理学修士課程、東京大学大学院工学系研究科博士課程を経て、2004年よりゲームAI開発者としてデジタルゲームにおける人工知能の開発・研究に従事。
東京大学客員研究員、理化学研究所客員研究員、IGDA日本ゲームAI専門部会設立（チェア）、DiGRA JAPAN 理事、芸術科学会理事、人工知能学会編集委員。著書に『人工知能のための哲学塾』
