東京大学特任准教授 光吉俊二② Pepperが世の中の戦争をなくす未来～
目次
サイエンスの力で自由と平等の矛盾を解決してやろう！
「人はなぜ人を殺してはいけないの？戦争や死刑はあるのに。」これを学者に問うても、明確な答えを出せる人たちはいません。人間では解決できないこの道徳問題について、考えてみます。
「人はみんな平等で自由だから、平等に命は尊重し、たとえ人殺しでも自由人なので殺してはダメです。」死刑反対と騒がれる。これはフランス革命の自由と平等の源泉であり、どの思想もこれを基本原則としています。
ではなぜ、ギロチンは存在したのか。戦争で人を大量に殺したナポレオンは英雄になるのでしょうか。この自由と平等の矛盾を人類は解決できていないんです。
現行の法律では、凶悪犯には死刑が適応されるのは、犯罪者、テロリストを日本の自由な国民と平等に扱わないとし、仲間を攻撃するものを我々の仲間として扱わないと解釈しています。ならばこれを元に、計算機科学者として人工知能、人工道徳判断システムで自由と平等の矛盾関係を解決しようじゃないかと思いました。新しいチューリングテストをやろうとしているんですね。
理系的な視点で自由と平等の範囲を定義する
この壮大なテーマは僕だけにできるわけはなく、東京大学で医学部と工学部の教授を務めている 鄭雄一先生が「道徳のメカニズム」という著書で、理系的な視点から道徳の本質に迫っています。これを元に、僕はその仕組みを作るという役割です。
まず、世の中にはありとあらゆる思想、宗教というものが存在します。これらは全く違うものとして認識されがちですが、その中で「仲間を殺すな」「仲間をだますな」「仲間から盗むな」という考えは、十戒、仏典、コーランなどすべての宗教に共通するものなんです。これを、人類共通の掟、”絶対的掟”と鄭先生は定義しました。
一方、習慣、文化、宗教などあらゆる違いについては、”相対的掟”としてお互いに認めよう、と。寛容に受けられる範囲が広がれば、争いも少なくなる。道徳とは、共感力と仲間らしさの共有なのではないか、と鄭先生はおっしゃいました。
絶対的な掟は、仲間を害するな、これだけを全世界で守りましょうということ。これが平等の部分です。絶対的掟を守り、自分の掟を相手に押し付けないかわりに、相対的な掟は認める、これが自由の範囲です。つまり平等と自由は、このように分けて考えることで両立するということです。
Pepperに“道徳フィルター”を搭載する！
絶対的掟と相対的掟を、目の前の人物に対して科学的に認識、計測ができるようにするのが、僕の役割です。そこで、道徳フィルターというもので作ろうと試みています。
Pepperに搭載したときに、どのような反応をするかというと、例えば未知の相手に遭遇した際、相手の発言などから、この道徳フィルターで絶対的掟と相対的掟について、それぞれどんな考えを持っているのか分析をするんです。
まず絶対的な掟を守っている、と判断できれば、どんなに相対的な違いはあっても、仲間だと認識できます。人間は未知の存在に対して、拒絶反応を示してしまうことも多いものですが、道徳フィルターを搭載したPepperであれば、非常に冷静に判断することができる。
逆に、ナポレオンのような人物が「革命だ！」と声をあげた時に、人間は「自由のためなら何をやってもいい！」という感情に流されてしまうかもしれないところを、Pepperは道徳レンズで「意見が違うと人を殺すのか。仲間にはできない」と判断する。
一時的な感情に流されてしまう人間よりも、Pepperの方がよほど賢いですよね。こうした道徳フィルターのような技術ができれば、将来的には、ロボットをみて我がふり見直すということも起きる可能性もあるのではないでしょうか。
■+−×÷以外の新しい演算子、“光吉演算子”で意欲を生成
もう一つ、今取り組んでいるのは、意欲をどのように生成するかということです。感情が生成された後、ロボットの欲動をどのように発動させるのかということ。これには、人の現実、ホメオスタシスを再現する必要があると考えました。
しかし、既存の算術や数学では、世の中を記述することはできないと考えました。二進法で世の中を記述しようとしても無理なわけで、特殊な演算手法が必要だと考えたんですね。そこでわたしはどうしたか。ないものは、作るしかないですよね。ということで、新しいルール（演算子）を作りました。+−×÷以外の演算子、光吉演算子なるものを考えたんです。
現実の世界には、健康な人もいれば病気の人もいます。平和な状態もあれば、戦争もあります。でも実は、A、Bのどちらかの状態に明確に切り分けられるものは少ないはずです。
人の道徳の寛容性・多様性を数理で計測
健康と病気の間には、未病という状態がある。敵と味方の間には、民間人やスパイといった、中間の存在がいる。世の中の事象は、グラデーションになってるんです。でも、これまでのノイマン型コンピュータでは、0か1かでしか何かを示せないわけですから、現実を記述することができません。
そこで私が作った光吉演算子は、AとBの間をスライドさせ、グラデーションを表現できるものにしました。これであれば、現実を記述することができるのではないかと考えたんですね。この演算子のおかげで、微分と確率を使わずに、どんな複雑な状況も計算できるようになりました。
人間は物事を判断する時に、脳内で3回ほど同じことをループして考えるそうです。これまでの数理では、ループしたら永遠にループ。でもこの演算子を使うと、数理で再現できるようになるんですね。
反応速度が異なる人体の各機能や神経、脳などの複雑なホメオスタシス連鎖状況を、シンプルに統一して簡単に計算できるようになりました。今光吉演算子を使って、人の道徳の進化（寛容性・多様性）を計測し、再現し、これを道徳感情数理工学として学問にしようとしています。これにより、Pepperの中に、道徳（良心回路）を作ることを目指しています。
AIが世界平和に寄与する理由～Pepperがお金に道徳の色を付ける～
僕は、この技術を何のために作ろう、といった大きなことは考えていません。ある種の好奇心を元に、他の人がやっていないから、やっているだけ。でも、武道家の側面もある人間としては、武人の最高位を目指したいという思いはあります。武人の歴史上最高位のものとは、戦争をこの世から消した人。ならば、それを実現しようじゃないか。そう思っています。
鄭先生によれば、戦争は、経済と国境の奪い合いです。ゴールドもマネーも重力には逆らえません。それを生み出す土地、人、もの、金の奪い合いが戦争です。一度戦争が起きると、土地やマネーですら価値を失います。これが重力のある地球の絶対条件なんです。
これに対して相対的条件とは、国境を超えた信頼であり、それにより資産を分散させること。この信頼の範囲こそが仲間の広さであり、共感力の多様性になります。これが人種や国境を超えてつながれば、強い個人と人類が国家を超えてつながる経済システムとなります。国境を超えた信頼のネットワークで資産を分散すると、自由の範囲というのが格段に広がっていくわけです。これが信用経済ですね。
鄭先生は、そもそも、この仲間の範囲を広げることが資本より優先される世界になれば戦争はなくなり、故に全ての人々の資産は安定する。だからお金（人の欲）に道徳の色（仲間の広さ）をつければよいと、先の著書で主張しています。
つまり利己的な人はいくらお金を持っていても価値を持たない。仲間の範囲が広く、共感力が高い人は、資産を困っている人に分散させる。本当に平和で戦争が消えるのは、こういう世界になった時ではないか、と。
それをどう実現すればよいのか。高い道徳次元の人は、資本力が違うという世界を、技術で実現できる可能性はあります。Pepperが、目の前の人が利他であるか、寛容的であるか分析できるようになれば、銀行や投資家がそういう人にだけ出資できる。
道徳レベルの高い人がお金持ちになっていきますよね。やがて欲を持っている人が高い道徳次元を目指そうとするかもしれない。いやらしい話ととる人もいるかもしれませんが、そういう人が増えて、共感力と利他の世界になれば、世界から戦争は消えていく可能性だってあるわけです。道徳次元をどう計測するのかについては、まだ構想中ではあります。でももし本当にこれが実現すると、社会のルールが変わり、戦争のない世界が実現できるかもしれない。そう考えています。
左：宍戸幹夫（鎌倉マインドフルネス・ラボ株式会社 代表取締役，コーディネーター）
中央：光吉俊二氏
右：清宮普美代（株式会社ラーニングデザインセンター代表取締役，主催）
＠LIFUL HUB
文:波多野あずさ
撮影:梅田眞司
ゲスト紹介
光吉俊二
日本の計算機科学者であり彫刻家。北海道札幌市出身。多摩美術大学美術学部彫刻科卒業。徳島大学大学院工学研究科博士後期課程修了、博士（工学）。元スタンフォード大学バイオロボティクス研究所Visting Scientist（客員科学者）、元慶應義塾大学上席研究員。元株式会社AGI代表取締役、元PST株式会社代表取締役。
2006年、「音声感情認識及び情動の脳生理信号分析システムに関する研究 (Research on the phonetic recognition of feelings and a system for emotional physiological brain signal analysis)」にて学位を得る。 2009年、東京大学大学院工学系研究科、非常勤講師に就任。 2014年、東京大学大学院医学系研究科社会連携講座として音声病態分析学を設立、同年12月東京大学大学院医学系研究科特任講師に就任。
