技術的特異点と超知能
詳細- 詳細
- 2014年8月18日(月曜)00:11に公開
- 作者: 松田卓也
「2045年問題・・・コンピュータが人類を超える日」
私は2013年1月に表記の本を廣済堂新書として出版した。幸いにその本は好評をはくし、そのテーマは新聞、雑誌、テレビ、ラジオなどに取り上げられた。
2014年になって、特異点をテーマとする二本の映画が公開された。「トランセンデンス」と「her 世界で一つの彼女」である。人工知能学会で「トランセンデンス」とのコラボが行われ、私はそこで講演した。またトランセンデンスの試写会でトークショーも行った。
「トランセンデンス」は天才的人工知能学者ウイル博士が、テロリストに襲われ、余命宣告を受ける。そこで同じく人工知能学者である妻のエヴリンと友人が、ウイル博士の精神だけでも助けようと、ウイル博士の意識をコンピュータ上に「マインドアップローディング」する。コンピュータの中で生まれ変わったウイル博士は、超知能に変身し、病気の人々を救ったり、環境を浄化したり、数々の奇跡を成し遂げる。それに脅威を感じた米国政府(FBI)は、テロリスト、ウイル博士の指導教官、友人、妻まで巻き込んで、ともにウイル博士を倒そうとする。
「her」では、恋文代行業をしている冴えない男セオドアが主人公だ。彼は新しいオペレイティング・システムをPCとスマホにインストールする。それはiPhoneに搭載されている人工知能Siriを遥かに賢くしたようなバーチャル・アシスタントである。名前をサマンサという。セオドアはサマンサに世界を見せて教育し、二人は恋愛関係に陥る。二人は声だけで愛を語るのだ。結局、セオドアは妻と離婚してサマンサを選ぶ。しかし最期には、サマンサが知能爆発を起こして、遠くに行ってしまう。
技術的特異点、トランセンデンス、知能爆発
これらの言葉は基本的に同じことを指している。人間より遥かに知能が高い存在、超知能が出現する時点、ないしは現象を技術的特異点と言う。2045年頃のこととされている。この言葉は1980年代にアメリカの数学者でSF作家のバーナー・ビンジが使い始めたものだ。
トランセンデンス(超越)という言葉は、映画「トランセンデンス」の中で、ジョニー・ディップ扮する人工知能学者ウイル博士が「普通は特異点というが、私はトランセンデンスとよぶ」と述べている。人間が人類を超越した知能を持つ超人類(トランスヒューマン)になることを言う。
知能爆発とは1965年に英国の数学者グッドが使った言葉である。彼は論文の中でこう述べている。「超知能とはいかなる賢い人をも遥かに凌ぐ知的な機械である。そのような機械の設計も知的活動なので、超知能はさらに知的な機械を設計できるだろう。こうして知能爆発が生じて、人類はおいて行かれる。超知能の発明が人類最期の発明である」
二種類の人工知能
人工知能は弱い人工知能と強い人工知能に分類できる。あるいは狭い人工知能と、汎用人工知能とも呼ばれる。弱い(狭い)人工知能とは、たとえばチェスや将棋をする人工知能、クイズ番組でチャンピオンを破ったIBMのワトソン、それに前述のSiriなど、特定目的の人工知能である。現行の人工知能はすべて弱い人工知能である。
弱いという意味は、賢くないという意味ではなく、人間のような意識や常識を備えた、汎用的な人工知能ではないという意味であり、特定分野では人間より遥かに強い。強い人工知能が出現するまでの間、多分、現在から2029年まで、あるいは2045年まで、弱い人工知能は猛烈な発展をとげることが予想される。それは人間生活に非常に大きな影響を及ぼす。例えば、今後10-20年で、現在ある職業の半数はなくなるという。しかし本論の主題は、弱い人工知能ではなく、強い人工知能である。
強い人工知能とは、まさに人間のような意識と常識を備えた、汎用の人工知能である。これはまだ出現していない。アメリカの未来学者カーツワイルは、強い人工知能が出現するのは2029年のことと予測している。
強い人工知能が出来ると、それはいずれ知能爆発を起こして超知能に発展すると予想される。カーツワイルはそれが2045年に起きると予測している。本稿の目的は、超知能はどのように作られるか、出現するとしたらいつか、それは人類にどのような影響を及ぼすかを論じることである。
さまざまな超知能の作り方
超知能とは現在の人間よりもはるかに知能の高い存在と定義すると、それは必ずしも人工知能(機械知能)とは限らない。次のような方法が考えられる。
1) 知能強化: 現在の人間の知能を、薬とか脳に電流を流すとかで知能強化する。このような研究も進んではいるが、現在の人間の知能を遥かに凌駕することは難しいだろうと思われる。
2) 超人類: 現在の人間より知能の高い人間を生み出す。そのためには高い知能をもった男女を掛け合わせて、さらに知能の高い人間を生み出す。この方法は確実ではあるが、子供が生まれて成人するには最低でも20年はかかるので、何世代も掛け合わせるには60-100年もかかる。それを避けるために、高知能の男女の精子と卵子を取り出して試験管の中で掛け合わせる。胎児が出来たら、優れた物を選別し、その胎児の細胞からさらに精子と卵子を作り出し、かけ合わせる。このようなことを繰り返すと、非常に速く世代交代が進む。しかしこのような方法でも、知能指数を例えば数10上げることは可能であろうが、100上げることはなかなか困難であろう。
3) サイボーグ化: 人間の脳とコンピュータを直接接続して知能強化する。つまり人間がサイボーグになる方法である。
4) 集合知能: 三人よれば文殊の知恵というように、衆知を集めると全体としての知能は高くなる。これは会社、国家などの組織がそれである。現代社会はコミュニケーション技術が昔より遥かに進んでいるので、そのため組織の知能は昔より高い。組織の意思の疎通をうまく計って、超知能を実現する。この方法では、現在の人間を遥かに凌駕する知能を実現するのは難しい。また衆知どころか衆愚に陥る危険性もある。例えばネットの議論などを見ていると、その恐れは強い。
5) 人造脳による集合知能: 4の方法は普通の人間を集めただけだが、遺伝子技術が進歩すれば、脳だけ幹細胞から作ることも可能になるであろう。優秀な人間の遺伝子からクローン技術を使って、多数の脳を作り、それを格子状に配置する。脳同士は生物的なニューロンではなく、電線とか光ケーブルでつなぐ。この方法は脳だけの人間に人権はあるのかといった倫理的問題があるので、政治的に難しいだろう。つくるとすれば密かにである。
6) マインドアップローディング(精神転送): コンピュータの上に人間の意識・精神・魂を転送する。これがうまく行ったとしても、元の人間の知能を超えるはずは無いと思うかもしれないがそうではない。機械脳のクロックサイクルは例えば1GHzで、生身の人間が100Hzだとすれば、機械脳は生身の人間より1000万倍も頭の回転が速いのである。つまりそれだけ知能が高いことになる。マインドアップローディングにも様々な方法がある。
6.1) 全脳エミュレーション: 死んだ人の脳をガラス化して、それを薄くスライスして、顕微鏡で写真を撮り、ニューロン、シナプスなどの接続の3次元構造を調べる。それと同じ接続を持つ回路をハードウエアで作る。
6.2) 人間の脳の働きを解明して、それが動くハードを作る。そして個人の意識をコンピュータに転送する。これは映画「トランセンデンス」で行われた方法である。
7) 人工知能(機械知能): これは生物としての人間とは全く関係のない人工の知能である。現状のノイマン型コンピュータ、あるいは全く違うタイプ、例えば脳を模したニューロ・モルフィック・チップを使った認知コンピュータ、あるいはこれら両者のハイブリッド・コンピュータをつくり、その上で人工の知能を実現する。現状、これがもっとも研究されているアプローチで、実現の可能性も高いだろう。
超知能の3分類
先にいろんな種類の超知能を紹介したが、ここでは別の分類を行う。
- 速い超知能: これは先に説明したようにクロック速度が速い、つまり頭の回転の速い超知能である。例えば千万倍速いとすると、超知能が1秒で考えることを、人間なら千万秒つまり150日ほど寝ずに考え続ける必要がある。
- 並列処理の超知能: 集合知能であるが、自分と同じ知能指数の人間を例えば千万人集めた会社、研究所を考えれば良い。仕事は細部に分割して並列処理できる場合がある。そのように場合は、並列にすると仕事ははかどる。例えば飛行機を設計する仕事を考える場合、多数の仕事に分割できる。速い超知能は、並列処理と同じ仕事をこなすことが出来るし、仕事には並列に出来ない物もあるので、速い超知能の方が優れている。
- 深い超知能: 先の超知能は、並の人間の思考が速くなったものだが、考えが深い訳ではない。難しい数学の問題で、凡人が一生考えても分からないものもある。しかし天才的な数学者なら、パッと分かる場合がある。これは思考が深いのである。鉄砲は千万集めても大砲にはならない。凡人を千万人集めても、一人の天才にかなわない場合が多い。ただし、深い思考の人工知能をどうやって作るかは見当がつかない。機械にやらせるしかないであろう。
特異点はいつおきるか
人工知能学者の多くは技術的特異点が21世紀中に起きるだろうと予測している。先に紹介したカーツワイルは、強い人工知能が2029年、超知能が2045年に出来ると予測している。
人工知能学者のいくつかの世論調査では、特異点が発生する、つまり超知能が発生する時点として、2020年代前半とする人が10%程度、40-50年とする人が50%、21世紀中とする人が90%である。もちろん、そんなことは起きないとする人も10%はいる。
人間に取って重要なことは、超知能が出来た時にどうなるかである。つまり人間が超知能を使いこなすのか、あるいは滅ぼされるのか。これも専門家の意見分布だが、超知能ができることは人類にとって
1)極めて良いことだ:20%、2) まあ良いことだ:40%、3)中立:15%、4)かなり良くない: 15%、5)極めて悪い:10%である。
カーツワイルは楽観論で、人類がマインドアップロードして超人類になることにより、人類のほとんどの不幸の源泉は解消すると主張している。たとえば人間が不死になるというのだ。逆に、超知能ができると人類は滅ぼされる可能性があるので、作るべきでないと主張する本もいくつかある。その場合の安全策に関しても様々研究されている。
超知能に危険性があるとして、安全策を取るには時間の余裕が必要である。人間並みの人工知能はそれほど危険ではないだろうが、人間の知能を遥かに凌駕する人工知能は危険かもしれない。人間並みの人工知能が出来てから、超知能に進化することを離陸と呼ぶ。離陸の期間がどのくらいかに関して3つに分類できる。
- 速い離陸: 1分、1時間、1日
- 中間的離陸: 1月、1年
- 遅い離陸: 10年以上
カーツワイルは15年程度の離陸期間を想定しているので遅い離陸に分類できる。速い離陸の場合、人間に対処する余裕は無い。どこかの地下の秘密研究所で人間並みの人工知能ができたとする。そこでそれのコピーを作ることを考える。その人工知能がスーパーコンピュータでしか走らないとすると、コピーを作るのは高いので、おいそれとは出来ない。しかしPC程度で十分とすると、ある程度の予算で多数のコピーを作ることが出来る。そしてその多数の人工知能に、自分自身の改良の研究を平行してさせる。すると以前の物より少し賢い人工知能が出来るだろう。そのコピーをまた多数作り、次の世代の人工知能を作らせる。このようにして人工知能は代を経るごとに賢くなって行く。この場合、速い離陸となるであろう。気がついた時には、もはや制御不能になっている可能性がある。
超知能の政治的、社会的意義
超知能は人間より遥かに知能が高いので、もしそれを制御できるか、あるいは人間のために働いてくれるなら、ほとんど無限の富が創出できるだろう。人間は働く必要がなく、一生遊んで暮らせるかもしれない。
しかし人間より遥かに賢い存在が、人間の言うことを聞いてくれる保証は無い。人間は動物を飼っているが、生殺与奪の権は人間が握っている。猫や犬には愛情を注ぐが、牛や豚、鶏は殺して食べてしまう。現状では人間は食物連鎖のトップにいるのだが、それが機械に取って代わられるのである。
しかし超知能の開発を止めることは出来ないだろう。私は超知能とは核のような物だと考えている。つまり諸刃の剣なのである。核は平和利用すれば原子炉としてエネルギー、つまり富を創出する。しかし核兵器となると、人類を滅ぼす可能性もある。そんな危険な物をなぜ開発したのか。それは米国がドイツの核開発を恐れたからである。原子爆弾を開発したとき、一部の科学者は、核爆発を起こすと、地球の空気がすべて連鎖反応を起こし爆発してしまう危険性を警告した。もちろん現在の知識では、そんなことは起きないことは分かっているが、当時はその危険性はあった。しかし米国の軍部は核実験を強行した。それは、やらなければやられるからだ。
超知能も同じことだ。うまく利用できれば、無限の富を生むことが出来る。アメリカのIT大企業であるグーグル、アップル、フェイスブック、アマゾン、IBM、マイクロソフトなどは、最近、膨大な投資を人工知能とロボットに対して行っている。
また軍事利用すれば、敵対国にたいして絶対的な優位性を獲得できる。アメリカがやらなければ、中国やロシアがやる。そこで米国防省高等研究局は人工知能とロボットの開発に多大な投資をしている。アメリカでは国家安全保障という言葉はマジカルな言葉で、何でも出来てしまうのだ。つまり金儲けと軍事、標語的に言えばウオールストリートとペンタゴンがある限り、人工知能開発は止められない。
歴史を振り返ると20世紀前半までの、世界覇権の武器は戦艦であった。日本は日露戦争において戦艦でロシアに打ち勝った。第一次大戦でも戦艦は大きな役割を果たした。その後、米英日は世界覇権国家になり、戦艦の建艦競争を繰り広げた。しかし第二次大戦において、戦艦ではなく航空機の優位性が明らかになった。原子爆弾もそうである。そこで20世紀後半には、米ソを中心とする大国は、核兵器、航空機、ロケットの開発競争を行った。筆者の意見では、21世紀の世界覇権を握る武器はもはや核兵器ではない。人工知能とロボットである。
超知能と核の類似性について述べた。核開発の歴史を少し振り返ってみよう。19世紀の終わり頃にベクレルやキュリー夫妻が放射能を発見した。20世紀に入り、量子力学や原子物理学が急速に進んだ。核に関して言えば1938年のウラン核分裂の発見が大きい。その発見を受けて、アメリカでは国家の総力を挙げて核開発計画であるマンハッタン計画を行った。そして4年後の1942年にはシカゴ大学で初の原子炉が出来た。さらに3年後の1945年には広島と長崎で原子爆弾が爆発して、日本は降伏した。核開発の速さと、その威力はすごいものだ。
もしカーツワイルの予測が正しいとすれば、1945年のちょうど100年後である2045年には、原子爆弾の爆発ではなく、知能爆発が起きるのだ。そして日本は再び敗戦するだろう。原子爆弾の開発に完全に遅れをとったように、超知能の開発にも、全く遅れをとっているからだ。
超知能開発における各国の取り組み
つぎに超知能開発における各国、各企業の取り組みを見てみよう。まず政府レベルではEUのヒューマン・ブレイン・プロジェクトを上げることが出来る。これは2013年から10年間、総額1600億円ほどを投じて、スーパーコンピュータで人間の脳の活動をシミュレーションしようと言うものだ。大脳を構成するコラムという組織の中で生じる現象を化学反応のレベルからシミュレートしようという野心的な計画だ。
それに対してアメリカはオバマ大統領が同じくらいの予算を投じてブレイン・イニシャティブを行うと2014年に宣言した。この計画では脳の活動が詳細に研究される。同じアメリカでIBMは国防省高等研究局の予算援助を受けて、シナプス計画で脳の活動を模倣したニューロ・モルフィック・チップの開発を行っている。2014年にはノース・ゲートというチップが出来たと大々的に発表した。このチップは従来のノイマン型のコンピュータではなく、ニューロンの活動を模したもので、認知コンピューティングに最適だと言う。
企業レベルでトップを走っているのはグーグルである。実際、グーグルの取り組みは予算の面から見ても、政府レベルの研究を遥かに凌駕している。グーグルは自社開発の他に、他の会社の吸収合併に膨大な予算を投じている。今まで年平均1500億円ほど投じてきた。昨年から今年にかけてのグーグルの動きは凄まじい。昨年はボストンダイナミックス社を含むロボットの会社8社を買収した。そのなかには東大発のベンチャーも含まれているのだ。また人工知能入り火災報知器の会社を数千億円で買収した。英国の人工知能の会社ディープマインド社を数百億円で買収した。この会社は人工知能の最新理論である深層学習の研究者が12人いると言われている。この会社はまだ製品を発表していないのだ。その創始者が天才的な人物であるので、創始者と社員の才能を買ったのだろう。天才と言えば、グーグルはカーツワイルを雇った。自社の研究所所長に据えたのだ。さらに深層学習の創始者のヒントンを雇った。これからの世界は頭脳の勝負である。天才をどれだけ集めたかで勝負が決まる。またグーグルは世界初の商業用量子コンピュータD-wave2を買って、NASAの構内に量子人工脳研究所を設立した。
グーグルは最近、人工衛星の会社、監視カメラの会社も買った。その意図は多分、世界のあらゆるデータを監視して取り込んで、それを売るためであろう。ジョージ・オーウェルの小説1984では、世界を監視するビッグ・ブラザーという人物が登場する。その現代版はアメリカ政府の情報機関NSAであろう。これは国民を監視しようと言う悪意を持った監視機構である。それに対してグーグルは多分、悪意がなくてビッグブラザーになろうとしているのだろう。私はグーグルの目標は世界支配にあるとおもう。それもアメリカ政府のように悪意をもった世界支配ではなく、善意の無邪気な支配であろう。聖書にこういう言葉がある。「地獄への道は善意で敷き詰められている」。
他の会社も負けてはいない。フェイスブックはディープマインド社の買収合戦では、グーグルに破れた。そこで仮想現実用のヘッドマウント・ディスプレーを開発したオキュラス仮想現実社を数千億円で買収した。IBMはワトソンやシナプス計画で人工知能とニューロ・モルフィク・チップに投資している。マイクロソフトも最近は人工知能に投資している。アマゾンはロボットのキバ・システムを買収した。アマゾンは巨大なコンピュータセンターを運営している。
これらの米国の民間企業の競争を見ていると、その投じる予算は米政府やEUより遥かに巨額である。また国家機関では意思決定は何重もの委員会の議論を通らなくてはならない。しかしグーグルではCEOのラリー・ペイジがやると一言言えば、出来るのである。超知能を初めて作り出すのは、政府の予算で運営される研究機関ではなく、グーグルのような民間会社ではないかと思う。
ロシアではドミトリ・イツコフという大金持ちが私費を投じてグローバル・フューチャー2045という組織を立ち上げ、世界中の著名な人工知能、ロボット研究者を集めて国際会議を開いている。また自前の研究所を作り、アバター計画というものを作り上げた。その計画ではマインド・アップローディングを行おうとしている。中国では百度という検索会社がシリコン・バレーに人工知能研究所を作った。
日本の取り組み
それでは日本の取り組みはどうであろうか。私の知る限り、政府と大企業の取り組みはゼロである。政府は1980年代に第5世代コンピュータ計画という野心的な人工知能計画を世界に先駆けて行った。しかし結果は大失敗であった。大きな予算を投じた割には、なにも有用なものが出来なかったのである。多分それに懲りたのであろう。研究者の個人レベルの細々とした研究以外は、日本政府も大企業も超知能には全く興味を示していない。このことが私が日本が1945年の100年後の2045年に、再度敗戦するであろうと予測する理由である。もっとも第二次世界大戦中、日本も細々と原子爆弾開発は行っていた。理研と京都大学においてであった。しかしその規模は微々たるもので、マンハッタン計画とは全く比較にならない。現在の日米の超知能研究のレベルの比較も同様である。
日本は1960-70年代に高度経済成長を遂げて、1980年代にはジャパン・アズ・ナンバーワンと言われるまでになった。ところが1990年代に入り突然、失われた10年とか20年といわれる停滞期に入った。そして2011年の東北大震災と福島原発事故を契機とするかのように、急速な衰退を始めた。その原因の一つは少子高齢化による生産年齢人口割合(労働力人口比)の減少であろう。つまり国民に占める労働者の数が減少し続けているのである。
生産量は労働者数と生産性の積であるので、労働者人口が減っても生産性を上げれば、取り戻せるはずである。その生産性を上げるのが人工知能化、ロボット化である。超知能をもし開発することが出来て、それを制御することが出来たとすれば、ほとんど無限の生産性向上が見込める。超知能の出現は危険かもしれないが、しかし先に述べたように、日本がやらなくても、米国はやるのである。このまま座して滅びるのを待つか、一か八にかけるか。日本の指導者層の決意にかかっているのである。しかし日本の指導者層は、このことに全く気づいていないように見える。日本の原子爆弾の開発中にある軍人は研究者に聞いたという。「いったい日本に原子はあるのか?!」
それでも現在の日本で全く望みがないかと言えば、そうでもない。私が人工知能学会に参加して知ったのが「全脳アーキテクチャー勉強会」である。これは産総研、富士通、東大の若手研究者が主導して、2013年の暮れに発足した。勉強会の参加者は300名ほどにもなっている。私も参加した。
人間の大脳のアーキテクチャーを研究して、それをもとに超知能を2020年代の前半までに作ろうという野心的な計画である。主導者の主張によると、人間の大脳は複雑なようだが、その動作機構はかなり分かってきた。ベイジアン・ネットワーク、深層学習、強化学習であるという。問題は人材集めだ。最も重要なものは知能であり才能だ。パラダイムシフト、ブレークスルーを起こすのは天才的な若者なのである。鉄砲は百丁集まっても大砲にはならない。大砲が必要なのだ。