研究所紹介  

   

活動  

   

情報発信  

   

あいんしゅたいんページ  

   

シングルトンへの道

詳細

今回の話の大筋は2021年1月にシンギュラリティサロンで、理化学研究所の高橋恒一さんが話されたことと、高橋さんの論文を元にしているが、私なりの考えでアレンジしてある。以前にシンギュラリティサロンで「超知能の作り方と超人類への道」と題して話したのだが、高橋さんの話に啓発されたのでもう一度、超知能への道を語りたい。

まず超知能とは人間の知能を遥かに凌ぐ能力を持った機械知性だと定義する。機械知性とはコンピュータつまり機械による知能のことだが、人工知能という言葉は色んな意味で使われるので、高橋さんに習ってあえて機械知性という言葉を使う。機械知性にもいろんなレベルがあり、これも高橋さんに習い、人間以下のもの、人間並みのもの、人間より優れたもの、人間より圧倒的に優れたものに分けることにする。人間より優れているか、圧倒的に優れているものを超知能と呼ぶことにする。またこれらの超知能が世界に一つしかないか、複数あって競い合っているか、さまざまな状況が考えられる。これも高橋さんの考察である。

特に世界に一台しかない、人類の知能より圧倒的に強力な知能を持つ超知能をシングルトンとよぶ。シングルトンとは一つしかないという意味で、私はこれを唯一者と呼びたい。一神教における神のような存在である。これができると世界はシングルトンが支配するようになるかもしれない。

シングルトンに関しては、オックスフォード大学のニック・ボストロム教授が「スーパーインテリジェンス 超絶AIと人類の未来」という本を書いている。その中でボストロムはシングルトンのあり得る危険性について論じている。人間が超知能を制御できなくなる危険性である。

しかし私はボストロムとは逆にシングルトンに夢を抱いている。私の考えではシングルトンは人類の知能を圧倒的に凌駕する知能を持った機械であり、この世界で知りうることは何でも知っているし、物理的に原理的に可能なことは、何でもできる、そんな神のような機械である。

超知能が知りうることは何でも知っているという意味は、インターネットにアクセスして、あらゆる意味ある有益な情報はすべて収集していることだ。具体的にはネット上の本や論文、有益な記事、ニュースなどは全て読んで知っている。また世界中の図書館の本をデジタル化してすべて読んでいる。すべてのテレビとラジオの番組を視聴している。人々のメールやSNS上の情報、ネット上の会話や電話などをすべてモニターしている。世界中の監視カメラをすべてモニターしていて、また人々のPCやスマホの画像情報や音声情報を含むあらゆる情報をすべてモニターしている。株価情報や気象情報などすべてモニターしている。さらにはスマートダストと呼ばれる微小なマイクロマシンを世界中にバラマキ、世界中の都市、自然、個人のデータを収集している。世界中の大統領・首相官邸を含む政府機関の情報収集を行って、不穏な動きを監視している。

もしこのような半知半能の神をどこかの国家なり組織なりが作り出して、かつ制御できたと仮定すると、その国家なり組織は超絶的な権力を握ることができて世界覇権が握れる。このような可能性を知れば、世界各国の政府、とくに米国と中国が乗り出さないはずはない。あるいはいわゆるGAFAとよばれるIT企業、具体的にはグーグル、アマゾン、フェイスブック、アップルさらにはマイクロソフトも含めて、米国の巨大IT企業が、このような超知能を作り出すことができて、かつ制御下に置ければ、膨大な利益を得ることができる。だからどこかが目指さないはずがない。もっと具体的に言えば、英国の天才デミス・八サビスに率いられるロンドンに拠点を置くグーグル傘下のディープ・マインド社はすでに知のアポロ計画と称して、これに乗り出しているのである。

人間のように考える人工知能、つまり汎用人工知能の開発を行っている組織は世界で百以上もある。例えばジェフ・ホーキンスに率いられる米国のニューメンタ社などはその最も古いもののひとつである。

キリスト教など一神教の神は全知全能の神と言われるが、シングルトンは全知全能とまでは行かないが、半知半能の神なのである。キリスト教では神がこの世界を作り、人間も作ったとされている。しかし私の考える超知能は人間が作り出す神なのである。人間は非合理で、また暴力的で戦争が絶えない。もし私の考える超知能が合理的で平和的で、無駄な争いを好まないように作ることができたとすれば、その神が世界を平和に統治してくれることを期待している。

例えばアニメの「サイコパス」では22世紀の日本はシビュラシステムと呼ばれる一種の超知能に統治されている。このシビュラシステムは、人間の脳を多数集めたものなので、私の考える超知能よりは遥かに能力が劣る。

はたしてそのような超知能を我々は作ることができるだろうか。人工知能の研究者の一部には、機械知能は決して人間を超えることはできないと主張する人もいる。しかし人間の脳の働きもひとつの物理過程であり、そこに原理的に不可思議なものは存在しない。実際、大脳を構成するニューロンを支配する基礎方程式は分かっている。ホジキン・ハクスレー方程式という。しかし脳の機能を実現するのに、かならずしもホジキン・ハクスレー方程式を解く必要はない。空を飛ぶのに、羽毛まで含めて鳥をそっくりと真似る必要がないのと同じだ。

重要なのは脳の基本的なアルゴリズム、つまり計算手順を知ることである。これをマスターアルゴリズムと呼ぶ。マスターアルゴリズムを解明すれば人間の脳を模擬した汎用人工知能が作れると私は信じている。私はマスターアルゴリズムを求めて、日夜勉強している。私の主催する勉強会である「秘密研究会」の究極的目標はマスターアルゴリズムの解明である。

20世紀の大きな技術革新の例として飛行機と核エネルギーがある。飛行機に関しては19世紀末にいろんな研究がされていた。しかし英国の流体力学の大家であったケルビン卿は、機械飛行は不可能であると、19世紀の終わりころに述べていた。ところが20世紀の初頭の1903年に米国の自転車屋のライト兄弟は初の機械飛行に成功した。

 核エネルギーに関して言えば、核物理学の大家であったラザブォードは、1936年の講演で核エネルギーを人間が利用することは不可能であると述べた。しかしその講演を聞いた若い物理学者のシラードは次の日に連鎖反応の理論を思いつき、それをもとに1939年にはウランの連鎖反応が実現し、1942年にはフェルミにより原子炉が作られた。1945年には広島と長崎に原子爆弾が投下されたのである。ラザフォードができないと言ってから9年後には原爆が投下されたのだ。

権威ある老大家が、できないと言ったとしたら、それは多分間違っているだろう。できると言えば、それは多分正しいだろうというのは、アーサー・クラークの法則として知られている。

そもそも先に述べたように超知能を最初に作った国は圧倒的な力を獲得して世界覇権を握れるし、企業なら膨大な利益を得ることができるので、やらないはずがない。過去の核兵器開発競争と同様な競争が起きると思う。あるいはすでに起きているかもしれない。

超知能を作る最初の難関は、先にも述べたように人間と同等程度の知的能力を持つ機械知能、つまり汎用人工知能(Artificial General Intelligence=AGI)を作ることだ。ここが一番難しい。飛行機で言えばライト兄弟のようにまずは飛ばせることである。核エネルギーの場合はまずは連鎖反応を起こすことだ。一度難関を突破すれば、あとは資金と資源を投入すればその後の進歩は早い。

先に述べたように、一度人間と同等程度の機械知能ができれば、人間より知的能力が高い機械知能を作ることは、お金だけの問題だろう。しかしシングルトンへの道にはまだ乗り越えるべき難関がある。高橋さんによれば人間の指示なしで動ける高度な自律性の獲得である。適度な自律性ならルンバのような掃除機でもミサイルでも備えている。それよりはもっと高度な自律性だ。

しかし私はこの点には少し異論がある。超知能自体が高度な自律性を備えると、人間がコントロールできなくなる可能性がある。私は超知能には高度な自律性は与えず、人間の指示に従って動くようにするのが安全ではないかと考える。そこで私は人間と機械的超知能を脳コンピュータ・インターフェイスで結合して、人間の知能を増強して、恰も人間が超知能になったようにするのが良いと思う。つまり超人類を作るのである。サイボーグ人間と言っても良い。この点はあくまで私の意見であり、高橋さんのものではない。

高橋さんによれば超知能への道のもう一つの難関はアルゴリズムの自己改造能力であるという。機械知性が自分でプログラミングができるようになると、自己のアルゴリズムを改良して、より速いものに作り変えるだろう。またコンピュータチップの設計ができるようになれば、機械知性はより高性能なチップを設計できるだろう。つまり一度難関が突破されたら、あとは急速に進歩するだろう。飛行機の場合もそうであったように。

一度、難関が突破されたら、そのことを秘密にすることは難しいので、各国が超知能を作るだろう。それは核兵器の場合もそうであった。技術は拡散するのだ。

しかし超知能ができたとしても、核兵器のように各国がそれを保有する可能性がある。その場合シングルトンはできない。シングルトンができるためには、最初に超知能を作った国なり組織が、圧倒的な技術的優位を獲得して、他の国や組織が追随するのを妨害できる場合だ。米国が初めて核兵器を作った時に、ソ連に作らせないために、ソ連を核攻撃すべきだという意見があったのだ。それと同じことが起きるかもしれないしそうでもないかもしれない。さまざまなシナリオが考えられる。

人間の知的能力よりはるかに高い知的能力を持つ超知能について述べた。それが世界で一つしかない場合はシングルトンとよび、ある意味、一神教の神のような存在である。世界各国に超知能が並立する場合は、多神教のようなものだろう。私は理性的で平和的な神ができて、人類を平和に幸福に過ごせるように、影から統治してくれれば良いのにという夢を持っている。ギリシャの哲学者プラトンのいう哲人政治、賢人政治の機械版だ。 

   
© NPO法人 知的人材ネットワーク・あいんしゅたいん (JEin). All Rights Reserved