2024年03月29日

コンピュータと人工知能の発達により、人類をしのぐ超知能が現れる。近い将来超知能とロボットに支配される日が来る。その時点は技術的特異点(シンギュラリティ)と命名されている。それが起きるのは2045年頃であろうと予測されている。この問題は欧米では真剣に研究されていて、特異点大学というものまであり、研究会も盛んに開かれている。


マトリックス・攻殻機動隊・ターミネーター

映画「マトリックス」の描く世界では、巨大なコンピュータが世界を支配していて、人類はほとんどが、その支配下にあり、眠り込んで、いわばシミュレートされた夢を見て、それが現実だと思い込んでいる。人間が現実世界と思っているこの世界が、実はコンピュータに見せられている夢なのだ。荘子の「胡蝶の夢(荘周の夢)」を思わす話である。マトリックスの世界では、一部の人間だけが現実に気付いていて、コンピュータに果敢な戦いを挑むというストーリーである。

マトリックスの話の原型は、日本製のアニメ「攻殻機動隊」にある。「攻殻機動隊」は士郎正宗によるマンガが元になっているが、1995年に公開された劇場アニメ「攻殻機動隊」が有名である。映画「マトリックス」を作った監督ワーカウスキー兄弟は「攻殻機動隊」を研究して、その多くのシーンが映画「マトリックス」に取り入れられている。「攻殻機動隊」の続編は2004年に「イノセンス」と題して、やはり押井守監督のアニメ映画として公開された。このシリーズでは、人間はコンピュータと密接に通信し合い(電脳化)、体の一部は機械になっている(義体化)。つまりコンピュータは、敵とか支配者ではなく、人間を補佐する友好的なものとして描かれている。

シュワちゃんこと、アーノルド・シュワルツネッガー、現カリフォルニア州知事をスターダムに押し上げた映画「ターミネーター」では、未来世界で人工知能が指揮するスカイネットと人類の戦いが行われる(もっとも映画ではその戦争は1997年ということになっている)。スカイネットはタイムマシンで殺人機械ターミネーター(シュワちゃん)を過去に送り込んで、人間側の指導者を産む母親を殺そうとする。人間側も、それを阻止する任務を帯びた人物を過去(1984年)に送り込む。

これらのSF映画では、いずれもコンピュータによる人工知能が意識を獲得して超知能、超知性となり、人類に大きな影響を及ぼすことを前提としている。果たしてそのようなことが起きるのだろうか。

コンピュータの知能が人間を凌駕する時・・・技術的特異点

1965年グッドは「知能爆発」という本を書いた。機械の知能が自己を規定するプログラムを改良することが出来るようになると、機械知能は指数関数的に増大すると論じた。だから超知能機械は人間の最後の発明であるという。それ以後の発明は全て機械が行う。

1993年に数学者のヴィンはそのような出来事を技術的特異点と名付けた。特異点という言葉は、一般相対性理論において、ブラックホールの中心や、宇宙の始まりのように、物理法則が破れる点をさしている。特異点から向こうは、現代の理論では何も予言できないのである。それとのアナロジーである。ヴィンは「迫り来る技術的特異点・・・人類後の世界をいかに生き延びるか」という記事を書き、特異点という概念を世間に広めた。Unixコンピュータで有名なサン・マイクロ社の創始者である著名なコンピュータ技術者ビル・ジョイも「未来はなぜ我々を必要としないのか」というエッセイで特異点の危険性を警告した(2000年)。2000年に「人工知能の特異点研究所」が作られ、人類に友好的な超知能を作る研究を行っている。

最近、未来学者のカーツワイルが「特異点は近い」と題する本を書き、特異点が不可避であることを、盛んに宣伝している。2009年にはそれが映画になる予定である。2006年にはスタンフォード大学でナノテクノロジー、認知科学、哲学などの研究者、それにカーツワイルも参加して、特異点サミットが行われた。特異点サミットはその後、毎年行われている。

2009年にはカーツワイルの肝いりで特異点大学がNASAの構内に設置された。この大学は9週間の大学院クラスの集中講義を行う。中心となる研究分野は未来予測、ネットワーク、コンピュータ、バイオテクノロジー、ナノテクノロジー、人工知能、ロボット工学、エネルギーなどである。定員は120名で学費は2万5千ドル。2009年度に定員40名からスタートしたが、入学志願者は1200名に達したという。このように、人工知能から発展した超知能が人類を追い越すという特異点問題は、米国では真剣に研究、検討されていることが分かるであろう。

技術の加速的進化と特異点

特異点信奉者たちが、近い将来に人工知能が人類を追い越すと考える理由は、技術の加速的進化のためである。半導体の集積度に関する有名なムーアの法則というものがある。集積回路上のトランジスターの数は18ヶ月毎に倍になると言う。これはインテルの共同創始者であるゴードン・ムーアによって発見されたとする経験則である。18ヶ月よりは2年の方が適切かも知れない。それを採用すると、私が大学院を出た1970年から現在までに、コンピュータの能力は百万倍になっている。実際、私が大学院博士課程に在学中の1960年代末には、大学のまともなコンピュータは東大に1台しかなかった。しかし今や、そこらに溢れるPCはもちろんのこと、携帯電話であっても、当時の大型コンピュータなど足下にも寄せない能力を持っている。この法則は現在では、経験則というよりは、半導体会社の目標になっている。だからこの法則は多分、未来においても成立しうるであろう。

カーツワイルはムーアの法則をさらに拡張して、人類の様々な発明・発見を伴う技術進歩、人間の誕生、さらに一般的に宇宙の秩序の増加が指数関数的であるとした。それを収穫加速の法則と名付けた。それが正しいとすると、時間は指数関数的に早くなる。さまざまなパラダイムシフト間の時間間隔は、時間とともに急速に短くなり、そしてやがて0になる。この時点が特異点である。そしてその先どうなるかは、予言できない。

特異点の予兆・・・電子取引

私が衝撃を受けたニュースに、ニューヨーク・タイムス電子版で読んだ「株のトレーダーはミリ秒のスピードで儲かる」という2009年7月23日の記事があった。それで株取引などの問題を研究してみた。新聞に出たのは、高頻度トレードとよばれる手法を、ゴールドマン・サックスなど一部の銀行が採用しているという話である。彼らは高速コンピュータをニューヨーク証券取引所に持ち込んで、他のヘッジファンドや個人より、0.03秒だけ速く株価情報を得て、それで年間何兆円という利益を上げているという話だ。話はゴールドマン・サックスの社員が、このコンピュータ・プログラムを盗み出して逮捕されたことに始まる。検察は、このプログラムが悪用されると、不正に巨万の利益が上げられるとしている。しかしなんのことはない、ゴールドマン・サックス自体が、この不公正な方法を採用しているのだ。実際、リーマンショックで多くの金融機関が青息吐息の中で、ゴールドマン・サックスなど一部の会社が異常な利益を上げている理由がこれだったのだ。現在は、この手法は違法ではなく、証券取引所自体が認可している。取引量を水増しするという御利益があるからだ。議会でも問題になり、禁止法案が出されるという。

ところで現在の証券取引所における取引のかなりな部分が、ここまでは行かなくても、コンピュータ取引になっている。現在ではまだ個人が証券会社の店頭に行ったり、電話したり、せいぜいネット取引でポチポチと端末を叩いているが、とても彼らの敵ではないであろう。PCを用いた取引をしても、彼らのスピードにはかなわない。普通のヘッジファンドのコンピュータも、ゴールドマン・サックスのコンピュータにしてやられているのである。

私の知人は、外為取引でコンピュータを用いて数千万の情報を処理して、為替予測をする研究をしている。それによると、裁定機会(損失無しに利益を上げるチャンス)が、ごく短時間存在するという。株や先物、外為のデイトレードでは、コンピュータはこの機会をとらえてもうけることができる。

知能増強(IA)による人間の超知能化

超知能には二つの方向性が考えられる。人間の知的能力を増強する方向と、機械自体が知能を獲得する方向である。前者を知能増強(Intelligence Amplification=IA)とよび、後者を人工知能(Artificial Intelligence=AI)とよぶ。

人間の知能はコンピュータを用いて増強することが出来る。ここで知能とは、端的には知能検査で測られる能力だとする。知能検査で測られる能力とは、問題を解決するスピードである。知能テストでは、様々な難易度の問題を提示して、制限時間内にどれだけの問題が解決できるかで、個人の知能を測定している。だとすれば、問題解決の速度が速くなると言うことは、知能が増強されたということと同じである(もっとも知能とは、知能検査の問題解決能力よりは、もっと一般的な問題解決能力であるとするのが妥当であろうが)。

その意味での知能は、現在でも、たとえばグーグルの検索を利用すれば、増強が可能だ。膨大な知識が短時間で得られるからである。これは過去には不可能であったことだ。未来には、もっと積極的に、知能を増強することが出来るだろう。人類を生物学的に改造する方向がその一つである。しかし、もっと妥当な方向は、人間とコンピュータの接触を、現在よりもっと頻繁に、もっと高速にする手法であろう。

映画「攻殻機動隊」「イノセンス」が描く世界はそのようなものだ。人々(暴力団ですら)は小さな電脳をインプラントしており、それは無線ないしはジャクインすることで、ネットと繋がっている(ジャックインとは、ネットと脳を直接、接続することで、ウイリアム・ギブソンの長編サイバーパンクSF「ニューロマンサー」に出てくる)。「イノセンス」の登場人物は、さまざまな警句を吐くが、すべてネットから即座に検索してきたものだ。この程度のことなら、電脳のインプラントは別として、直ぐにでも実現しそうである。

コンピュータを人間の知能増強に使うという方向の進歩は、人間にとって好ましいことであり、精力的研究が行われている。体を改造するジャックインは過激であるので、脳波でコンピュータと接続する方向が実験されている。

人工知能(AI)による人類支配

人類の知性を増強するために、特異点を積極的にもたらそうとしている人々がいる。特異点研究所などがその例である。しかしその人々も、超知能の危険性は認識している。コンピュータが意識を持ったとすればどうなるだろうか。ここで意識とは何かという、ややこしい問題がある。意識を持ったコンピュータとは、チューリングテストを通過したものであると定義して、カーツワイルはそれが2025年頃に可能であろうと予測している。

特異点後の、人類よりはるかに賢くなった超知能が、人類に友好的であるという保証はどこにもない。「マトリックス」や「ターミネーター」、古くは「地球爆破作戦」の描く世界である。ジェームズ・ホーガンのSF「未来の二つの顔」は、まさにそれが主題である。

そもそも現在ですら、人間は殺人ロボットを作っている。いみじくもプレデター(捕食者)と名付けられた、米軍の無人機は、パキスタンで女子供を含む人々を殺し続けている。(ところでプレデターといえば、これもシュワちゃん主演の映画「プレデター」で有名になった。映画では宇宙人が人間を狩猟して楽しむ)。プレデター無人機はまだ人間の支配下にあるが、何時暴走するか分からない。現代ですら、こんな物騒なものをアメリカ人(人類)は平気で作っているのだ。プレデターはアメリカ人以外には、全く友好的ではない。プレデター無人機の後継機が意識を持ったとき、アメリカ人に対しても友好的であると、どうして信じられるのだろうか。

コンピュータが人類に反抗するという主題のSFで、その解決の多くは、コンピュータの電源を破壊するとか、メモリーを抜く(「2001年宇宙の旅」)という方法であった。しかし現代のロボットですら、電気がなくなるとコンセントを探して自分で充電することができるものがある。こんな奴の末裔が、どれほど恐ろしいものになるか、計り知れない。

さて特異点問題に戻って、わたしがなぜ特異点を恐れないかと言えば、そのときまで生きていないだろうからだ。若い人たちは、それまで生きて、コンピュータの支配下に入るであろう。今から心の準備をしておくのがよい。