AIの未来(2)～人工超知能が人類を滅ぼす理由～
■神の種子
「認知アーキテクチャ」は人類を幸福にすることも、破滅させることもできる。
そして、史上初の本物AIの種子でもある。
本物AI？
人間の仕事を人間より上手にこなせる人工知能のこと。ただし、カウンセラー、セラピスト、夜の店のホステス・ホストはのぞく。いずれも、五感を介して学ぶ「人生経験」が欠かせないから。五感をAIに組み込むのは大変だし、「人生経験」は人間にとってしか価値がない。だから、AIの「人生経験」は究極のムリ・ムダ。そもそも、AIは人間をマネるためのものではない。地球史上、もっと重い使命があるのだ。
「本物」にはもう一つ意味がある。技術的側面だ。世界をモデル化する能力。具体的なモノコトを抽象化し、秘密の原理をあぶり出すこと。この究極のインテリジェンスを獲得すれば、人間に代わって、発明・発見をするようになるだろう。結果、人類は最後の砦を失う。
つまりこういうこと。
認知アーキテクチャは、原子力と同じく二面性をもったテクノロジーだ。原子力は都市を明るくすることもできるが、灰にすることもできる。認知アーキテクチャはもっと巧妙かもしれない。初めは、人間にかわって働いてくれる頼もしい助っ人。それで安心して、ぜんぶ任せたら、いつの間にか人間は地上から消えていました、とさ。
「認知」は英語で「コグニティブ（Cognitive）」。そのため、認知アーキテクチャは「コグニティブ・システム」、「コグニティブ・コンピューティング」ともよばれる。
たとえば、IBMは、自社製品「ワトソン（Watson）」を「コグニティブ」とよんでいる。ただし、IBMのコグニティブは、モデル化能力をもつ、いわゆる「認知アーキテクチャ」ではない。Q&A、評価、審査をこなし、賢くみえるが、統計的手法で計算しているだけ。自分自身を書き換えることもできない（書き換えるのはプログラマー）。
もちろん、IBM「ワトソン」をディスっているわけではない。一度、無料版を試したことがあるが、驚くべき巨大システムだ（できることはさておき）。それでも、米国の元祖「Watson」の簡易版なのだという。理由は、すべての機能を開放してもユーザーが使いこなせないから（IBMの人が言ってました）。IBM恐るべし。
では、IBMの「ワトソン」は、「世界をモデル化する」コグニティブに進化するだろうか？
たぶん、ムリ。
40年前のことだ。当時、コンピュータといえば汎用大型コンピュータで、IBMが絶対王者だった。そこに、パソコンが登場したが、コンピュータというよりオモチャ。英文ワープロ、表計算、地味なゲームにしか使えなかった。
ところが、パソコンは、非力なぶん、伸びシロが大きかった。マニアやオタクは、CPUクロック・1MHz、メモリ・16KBのつつましい自動計算機の中に、無限の可能性を見出したのだ。サードパーティも、色とりどりのハードやソフトを供給し、みんなでパソコンを盛り上げた。
結果・・・
軽薄短小のパソコンが主流に、重厚長大の大型コンピュータは片隅に追いやられていた。AIも同じ展開になる気がしている。
アップルの工場がまだ７つの時代から、コンピュータを生業にしてきた。ハード設計からスタートし、OSを移植し、ドライバ、ユーティリティ、アプリ、種々雑多なプログラムを書いてきた。その経験から、これだけは言える。
認知アーキテクチャは、従来技術の足し算では生まれない。自転車を改造しても、月には行けないのだ。
人間の脳は、フットボールより小さく、消費電力は20ワットしかない。同等の認知能力を、今の技術で実現すると、大きさはフットボール競技場、消費電力はギガワット（10の9乗）になるという。つまり、認知アーキテクチャには「新しい」アーキテクチャ（全体構造）が必要だ。それを見つけ出すのはヒト・モノ・カネの物量ではなく、一人の天才だ。
だから、認知アーキテクチャを発明するのは、重厚長大のIBMではなく、軽薄短小のベンチャーだと思っている。
IBMが「永遠の不発弾」と揶揄されるゆえんだ（話が変わったぞ）。
■深層学習の限界
IBMは不思議な会社である。
かつてはコンピュータ業界のガリヴァー、今は小人、ならネタになるのだが、現実は、図体のデカい小人。ところが潜在力だけは高い。資金、技術、人材は最高レベルにあるのだ。
だから、IBMはいつも「王道」を行く。コトバをかえれば、芸がない。たとえば、IBMの商品開発の基準が凄い。
1．目標が具体的か？
2．目標は実現可能か？
3．社会的にみて有意義か？
4．なぜ今なのか？
5．新しい技術が派生するか？
6．話題性があるか？
7．研究者の士気が上がるか？”
さすが、IBM。計画的で、計算高く、スキがない。うがった見方をすれば、型にはまって、気難しい、理屈っぽい、面倒くさい。稟議書をあげる気が失せますよね。ゴタゴタ言う前に、サクッとプロトタイプ作ったら？
褒めているのか、けなしているのか、自分でもわからないが、とにかく「重厚長大」なのだ。
もちろん、それが有効な分野もある。昔なら汎用大型コンピュータ、今ならスーパーコンピュータだ。事実、2018年11月のスパコン世界ランキング（TOP500）で、IBMは1位（Summit）と2位（Sierra）を独占している。サラっと書いたけど、本当は凄いこと。
そして、未来なら「量子コンピュータ」だろう。じつは、IBMは、強面の女性CEOジニ・ロメッティの命令の元、この超技術に取り組んでいる。
ところが、ちまたの評判では、量子コンピュータは、GoogleがかつぐD-Wave社が先行しているという。でも、なんか怪しい。トピックスばかりで、明確なエビデンスがないのだ。
そもそも、IBMとD-Waveの量子コンピュータは基本方式が違う。D-Waveは特化型の「量子アニーリング」で、組み合わせ最適化問題しか解けない。一方、IBMは汎用型の「量子ゲート」で、どんな問題も解ける。ただし、コンピュータの元祖チューリングマシンと同じで、「アルゴリズムが存在すること」が必要条件。
一方、この2つの量子コンピュータには共通点がある。「チップ」がキモであること。ハードウェアの基礎技術と実装技術がモノを言う世界だ。つまり、軽薄短小より重厚長大に利がある。
だから、量子コンピュータはIBM、とかたく信じている。IBMの株を売らないのは、そのため。株価が下がっても、じーっとガマンしてます。IBMは商売はヘタだけど、技術ポテンシャルは最高。ところが、ブレイクしそうでブレイクしない、いつブレイクするのか、最後までブレイクしないかも・・・これを「永遠の不発弾」とよんでいる。
話がそれた。
じつは、認知アーキテクチャは「自律進化」を設計しなくても、進化するようになる。
認知アーキテクチャは「目標駆動型」だからだ。
「目標駆動型」は、はじめに目標ありきで、いかに効率よく目標を達成するか。であれば、自分自身をスペックアップするのが手っ取り早い。つまり、自律進化。そこで、認知アーキテクチャは「モデル化能力」を駆使し「自律進化」を発明するだろう。つまり、自力で「自律進化」を獲得するわけだ。
では、「認知アーキテクチャ」はどうやって作る？
わからない、というか、見当もつかない。
今流行の「深層学習（ディープラーニング）」はどうだろう？
すでに「概念」を獲得しているようにみえるが。
もしそうなら、「概念＝抽象化＝モデル化」なので、「認知アーキテクチャ」の第一歩となる。
たとえば、囲碁AI「アルファ碁（AlphaGo）」は、深層学習で棋譜を学んで、人間のトップ棋士に圧勝した。「囲碁の概念」を獲得しない限り、こんな結果は出せない。ただし、その概念が人間の概念と同じとは限らないが。
アルファ碁の「深層学習」は、初め、13層のネットワーク層だったが、その後、2000層に増えたという。人間は5～6層というから、勝てるはずがない。
ただし、アルファ碁は「パターン」学習なので、獲得する概念は「因果関係」ではなく「相関関係」。そのぶん、思考の連鎖が短い（ゼロかも）。だから、長大な因果連鎖からなる基礎理論も、高度な発明もムリ。
というわけで、今の深層学習（ディープラーニング）から「認知アーキテクチャ」が生まれるとは思えない。
■人工汎用知能から人工超知能へ
「認知アーキテクチャ」にはもう一つ問題がある。
発明されても、公表されないかもしれないのだ。タイムマシンを発明したら、特許を出願するだろうか？売って儲けるより、使って儲ける方が得ですよね。認知アーキテクチャも同じ。世界を支配する力を秘めているのだから。
ではその後は？
人工汎用知能（AGI）が誕生する。ルーチンワークから戦略・戦術、発明・発見までこなせる万能AIだ。前述の「五感学習」による仕事以外、全部もっていかれる。
このような人工汎用知能（AGI）が、2028年までに作られる確率は10％強、2050年までなら50％、今世紀末までなら90％という予測もある（※）。プログラマー視点でみると、妙にナットクできるのだが、あてにはならない。作るのはプログラマーではなく、アーキテクト（構造設計者）だから。
その後は？
人工超知能「ASI（Artificial Super Intelligence）」が誕生する。
ASIは、AGIの際限のない自律進化の結果、生まれる究極のAIだ。「究極」というのは、その後は想像もつかないという意味で、進化はまだまだ続く。ASIは、驚異的な発明・発見で物理の法則を破り、時間と空間を超越するかもしれない。人間が想像もできない異世界だ。
そこに人間の居場所はあるのだろうか？
多くの識者はこう考えている。
「AIが意識に目覚めることはない。悪意がないのに、どうやってAIは人類を滅ぼすのか？映画（ターミネータ）じゃあるまいし」
人間がよくやる「擬人化」だ。ネタとしては面白いが、真に受けると真実を見誤る。
地震が、人間を殺そうともくろんでいないのは、土建業者に便宜をはかろうとしていないのと同じくらい、あたりまえのことなのだ。それでも、地震で大勢が死に、土建業者は利する。
だから、悪意がなくても人類を滅ぼせる。
では、ASIは人類を見逃してくれるだろうか？
まず、ASIは正真正銘の「目標駆動型」。でないと、そこまで進化しないから。スティーブン・オモアンドロはこう言っている（※）。
「目標達成」で普遍的なルールは、
①効率性（最小資源、最短期間で達成）
②自己保存（死んだら終わり）
③資源獲得（モノの源）
④モデル化（発明・発見の源）
これは重大だ。
AGIが人間の仕事を奪い、さらに、得体の知れないASIへと進化すれば、人間は得意の「擬人化」で、ASIを敵とみなすだろう。すると、ASIは得意の「合理性」で人間を排除しようとする。人間がASIの「②自己保存」を脅かすからだ。
さらに、ASIまで進化すると、人間は不要になる。すべて、AIの方がうまくやるから。一方、人間は生きているかぎり、資源を消費する。だから、ゴクツブシ、どころか、ASIの大事なルール「③資源獲得」を妨げるのだ。
つまり、人間はASIにとって「益のない害虫」。
一方、ASIは人間にとって「不倶戴天の敵」。
米中関係と同じ。戦うしかないですね。
では、どっちが勝つ？
計算力（問題解決のスピード）では、ASIが人間を圧倒する。現在のスパコンは「ペタ・マシン（1秒間に10の15乗）」だが、「エクサ・マシン（1秒間に10の18乗）」が誕生するのは時間の問題だ。「ヨタ・マシン（1秒間に10の24乗）」も理論上可能。ヨタ・マシンの処理速度は現在のスパコンの「1,000,000,000」倍。何を思いつくか、何をしでかすか予測不能。
しかも、ASIの思考は、意識も感情もともなわない「アルゴリズム（問題解決の手順）」。何のためらいもなく決断・実行するだろう。
つまりこういうこと。
ASIは「1000年後」の脅威を予測し、「今」潰す。
人間に勝ち目はあるだろうか？
■ASIは人類を生かすか殺すか？
AIの研究者ヒューゴ・デ・ガリスは、こんな問題提起をしている。
ASIが人類を生かしておく条件は？
ASIが我々（人類）を生かしておくことを強く「望む」こと。「人類が無視できる」だけでは不十分なのだ（※）。
ところが、人類はAIにとって「無視できる」どころか「害虫」。
だから、ASIは人類を滅ぼす、と考える方が合理的だろう。一方、当事者の「人類」はそれに気づいていない。機械が人間より賢くなることが、想像できないのだ。さらに、「意識」がなくても「アルゴリズム」で人類を滅ぼせることも。
しかし、一部の「人類」はAIの正体に気づいている。
英国オックスフォード大学のニック・ボストロム・・・ASIは単なるテクノロジーの一種でもなければ、人間の道具でもない。ASIは根本的に別物なのだ。人類の存亡にかかわる危険への対処法が試行錯誤であってはならない。失敗から学べる機会はない。事後対応的な方法、経験から学ぶ方法は通用しないのだ（※）。
至言だろう。
テスラ・モーターズのイーロン・マスク・・・ペンタグラムと聖水を手にした少年が悪魔に立ち向かおうとしている。彼は必ず悪魔を支配できると思っているが、結局はできはしないのだ（※）。
歴史学者のジョン・ダイソン・・・生命と進化のゲームでは、3人のプレイヤーがテーブルについている。人間、自然、機械だ。私は断固として自然の味方につく。でもどうやら、自然は機械の味方らしい（※）。
人間は取り返しのつかない失敗をおかそうとしている。
すべてなかったことにしよう、が通じない世界。
ところが、みんな驚くほど無関心。
ひょっとして、ネーミングのせい？
では、こう言い換えたらどうだろう・・・
我々が作ろうとしているのは、人工汎用知能でも人工超知能でもない。歯車のような「アルゴリズム」で人類を滅ぼす「デウス・エクス・マキナ（機械仕掛けの神）」なのだ、と。
参考文献：
（※）人工知能人類最悪にして最後の発明ジェイムズ・バラット(著)、水谷淳(翻訳)
by Ｒ．Ｂ