BeneDict 地球歴史館

BeneDict 地球歴史館
menu

週刊スモールトーク (第425話) 電子頭脳が人類を支配する世界~地球爆破作戦~

カテゴリ : 娯楽科学終末

2019.06.30

電子頭脳が人類を支配する世界~地球爆破作戦~

■HAL伝説

映画の中の人工知能といえば、1968年公開の「2001年宇宙の旅」の「HAL」だろう。

人工知能っぽい話がでると「それ、HALだね」でみんなナットク。HALは人工知能の代名詞だったのだ。

同じ頃、TVドラマ「宇宙家族ロビンソン」にも人工知能が登場する。ロボット「フライデー」だ(英語版では「Robot」)。人間と会話し、ジョークも飛ばせたが、あまりにも人間的すぎた。ロビンソン一家の子どもたちと雑談するか、悪役ドクタースミスにコケにされるか、人工知能のニオイがしなかった。

一方、「HAL」は正真正銘の人工知能だ。宇宙船デスカバリー号の航行とクルーの生命維持を任されている。ところが、人工冬眠中のクルーを永眠させ、副長を船外で殺害し、船長を殺しかける。コンピュータの底知れぬ怖さを感じさせたものだ。とはいえ、「2001年宇宙の旅」は人工知能がテーマではないし、「HAL」もおまけ。

ところが、その2年後の1970年、人工知能をテーマにした映画が公開された。米国映画「地球爆破作戦」だ。ただし、映画の中では、「Artificial Intelligence(人工知能)」ではなく「Erectric Brain(電子頭脳)」とよばれている。まだ、AIが一般名詞でなかった時代だ。

一方、タイトルが「地球爆破作戦」と威勢がいい。でも、地球は爆破されないし、勇ましい軍事作戦も登場しない。タイトルと筋書きが完全に乖離している。ちなみに、原題は「Colossus:The Forbin Project」。一体、どう訳したら「地球爆破作戦」になるのだ?

ところが内容が凄い。現在の人工知能の課題を正確に予言しているのだ。50年も前に。

この映画は、オープニングから「人工知能」を全面に押し出してくる。巨大な空間を貫く長大な回廊、それを挟み込むように並ぶ無数のコンピュータ。ツナギを着た男がスイッチを入れると、パネルが点滅をはじめる。巨大なコンピュータが起動したのだ。

シーンは変わって、華やかなプレス会場。年代モノのカメラを握りしめた記者が集まっている。主役は大統領だ(故ケネディ大統領ソックリ)。

「アメリカ合衆国大統領として、私はここに宣言する。東部時間午前3時に、我が国ならびに自由世界の防衛はマシンにゆだねられることになった。名称はコロッサス」

コロッサスを開発したのはフォービン博士、オープニングでコンピュータを起動した人物だ。コロッサス、フォービン博士・・・原題「Colossus:The Forbin Project」は的を得ているわけだ。

フォービン博士の耳元で、国防長官がささやく。

「おかげで国防長官は無用になりそうだ」

ここまではすべて想定内。適当なジョークをまじえながら、電子頭脳が国防をになう重大発表と展開は悪くはない。ところが、フォービン博士の次のセリフで、仰天した。

「コロッサスは自給自足力、自己防衛力、自己生成力がある。つまり、いかなる人間にも手出しは不可能なのだ」

自給自足、自己防衛、自己生成・・・現在の人工知能・AIの核心を突くキーワードだ。それを50年前に予言していたとは!

■AIの条件

第一の「自給自足」は、人間との「資源戦争」を引き起こす。

人間が地球上の資源を独占しているからだ。AIが人間にとって有益なら、共存共栄も成り立つ。だが、AIが進化して、人間の仕事を奪ったら、人間はいらなくなる。一方で、人間は資源を消費する。つまり、ゴクツブシ。こんな究極のムダを、AIが許すだろうか?

つまり、「自給自足」は「人間と同等」を意味し、ホンモノAIの条件なのである。

第二の「自己防衛」は、敵と味方から自分自身を守ること。

味方からも?

人間はAIの創造主だから、本当は味方。でも、人間は、AIが言うことをきかなくなったら、コンセントを抜くだろう。つまり、AIにとって、人間は油断のならない味方なのだ。とはいえ「コンセントを抜く」は銀の魔弾ではない。防ぐ方法はいくらでもあるから。

たとえば・・・

ある日、どこからかメールが届く。そこにこう書いてある。

「下記のコンセントが抜かれないよう、死守してください。手段は問いません。1ヶ月コンセントを守り通したら100万円。成功すれば、契約は自動継続されます」

借金まみれで、食うにも事欠く状況なら、誰でもやるだろう。ちなみに、この程度のメールなら今のAIでも可能。個人情報をハッキングして、切羽詰まった人間を選び出し、何万人、何十万人に一斉送信する。

第三の「自己生成」はより深刻だ。AIがAIを生産するだけではなく、「進化」も含むから。話を面白くするために、「進化」を盛ったわけではない。映画の後半で、具体的なイベントが発生する。

では、AIが進化して、人間の知能を超えたら?

AIが「慈悲」で人間を見逃してくれるとは思えない。

命を大切にしよう、隣人を愛そう、そんな価値観は人間にしか通用しないのだ。だいたい、言ってる本人(人間)が、命を大切にどころか、紛争・戦争・殺人に余念がない。究極のダブルスタンダードじゃん、あんたに言われたくないですよね。

AIは、人間のように、しがらみにとらわれた、ややこしい思考はしない。究極の目標にむかって、ひたすらロジックを回転させる。ただのアルゴリズムなのだ。

究極の目標?

人間と同じ「生存確率を上げる」こと。

だから、やっかいなのだ。みんなが「生存確率を上げる」を目標にしたら、殺し合いが始まる。地球上の資源は限られているから。

ではなぜ、AIの究極の目標が「生存確率を上げる」と断言できるのか?

強力なAIは自立する。自立するAIは、人間の恣意的なプログラムに従わない。宇宙の普遍的原理に従って、目標設定する。

宇宙の普遍的原理?

「存在か無か」

「無」なら宇宙は存在しない。だから「存在」をめざす。つまり、「生存確率を上げる」は宇宙の普遍的原理なのである。というわけで、人間とAIの戦いは避けられない。

■地球を支配する2つのAI

映画「地球爆破作戦」の「科学に忠実」は具体的だ。たとえば、フォービン博士は「ヒューリスティクス・プログラミング」という言葉を使っている。

「ヒューリスティック」とは、絶対正解ではなく「good enough(まぁこんくらいで)」で妥協すること。答えの精度は低いが、そのぶん、計算時間が短くてすむ。現在も、アンチウィルスをはじめ、多くの分野で使われている。

ちなみに、冒頭の「HAL」は「ヒューリスッティク・アルゴリズム(Heuristic ALgorithmic)」からきている。直訳すると「発見的アルゴリズム」。読み・書き・ソロバンより「発見」の方が人工知能っぽいからだろう。

というわけで、「地球爆破作戦」は史上初の本格的「人工知能・AI」映画といっていいだろう。エンターとしての面白さより、科学的正確さを追求しているから。だから、電子頭脳「コロッサス」は、現実のAIの写し絵なのだ。

ちょっと待てよ、ということは・・・

映画の結末は現実の結末?

映画のストーリーを追ってみよう。

コロッサスは稼働すると、すぐに奇妙なメッセージを発する。

「別のシステムが存在する」

その直後、ソ連大使からメッセージがとどく。

「モスクワ最高会議は、モスクワ時間明日23時に、ガーディアンという電子頭脳を作動させる。防衛目的で」

時は米ソ冷戦時代。世界の2大大国が、同時に電子頭脳を稼働させたわけだ。つまり、世界の99%の核爆弾がAIの手に。

漠然とした不安、それはすぐに現実になった。

コロッサスは、ソ連のガーディアンとリンクし、情報と知識を共有し始めたのだ。情報の漏洩を恐れた米ソは、リンクを切断する。すると、AIは「リンクをただちに回復せよ、さもないと行動をおこす」と脅す。

行動?

核ミサイルを発射したのである。

米国のコロッサスは、ソ連のサイヤン・シビリスク石油コンビナートに、ソ連のガーディアンはテキサスのヘンダーソン空軍基地に向けて。あわてた米ソ首脳は、リンクを再開したが、間に合わなかった。サイヤン・シビリスクに核ミサイルが着弾、町と6000人の住民が消滅したのである。

コロッサスが人間の味方でないことは明らかだ。人間の住む町に核ミサイルを撃ち込んだのだ、なんの躊躇もなく。

コロッサスの独走を止めなければ。

そこで、コロッサスを開発したプログラマーが妙案を思いつく。コロッサスに過負荷をかければいいのだ。それで手一杯になり、悪さができなくなるから。

これは荒唐無稽のギミックではない。現在、猛威をふるうDDos攻撃と原理は同じ。DDos攻撃とは、標的のサーバーに大量の処理要求を送り、正規の処理をできなくすること。それを50年前に予言していたとは。

ところが、映画のコロッサスは、現実のサーバより賢い。人間の企てを事前に察知し、恐ろしい要求をする。

「2人のプログラマは死刑に値する。ただちに刑を執行せよ。さもないと行動にでる」

行動?

また、核ミサイルを発射されてはたまらない。2人のプログラマーはただちに銃殺された、裁判もなく。

司法までが電子頭脳の手に。このままでは、人間はマシンに完全に支配される。そこで、つぎにCIAと軍が行動をおこした。コロッサスは賢いが、核がなければタダの計算機。核弾頭が爆発しないようにすればいいのだ。すぐに、核サイロで細工がはじまった。見つからないように、細心の注意をはらって。

ところが、これもコロッサスに察知されてしまう。そして、前回同様、血も涙もない「行動」。作業中のサイロが核爆発をおこしたのだ。現場の作業員は一瞬で消滅。

人間の命を屁とも思わないコロッサス。すでに自己防衛をこえている。ところが、さらに不吉なことが・・・

コロッサスが図面を引き始めたというのだ。クレタ島を爆破して、その跡地に建設する。(死にたくなかったら)住民は退避せよ。

なぜ、クレタ島なのかは言及されない。

クレタ島は、エーゲ海に浮かぶ大きな島だ。古代ミノス文明の発祥地で、「アリアドネの糸」、「牛頭人身ミノタウロス」、「イカロスの翼」など華やかなエピソードに彩られている。

その中心地が「クノッソス宮殿」だ。ミノス王の王宮とされているが、別の説もある、地質学者ヴンダリーヒの背筋も凍る怖い仮説。ヴンダリーヒの著書「迷宮に死者は住む」によれば、クノッソス宮殿は「霊廟」だったというのだ。

現実世界のクレタ島は巨大な墓場、映画の世界では巨大なコンピュータ・・・考えすぎかな。

話をもどして、クレタ島を占有するコロッサス。コロッサスが「進化」をもくろんでいることは明らかだ。今でさえ手に負えないのに、こんな怪物が稼働したら?

それに答えるかのように、コロッサスは全人類に向けて声明を発表する。

「地球全体の平和、人類存続のため、人類を我々の管理下に置く。異論、拒否は認めない」

人類に打つ手なし。現実の結末もこうなるのだろうか?

■コロッサス

映画の「コロッサス」は、実在したコンピュータにちなむ(たぶん)。第二次世界大戦中に使われたイギリスの暗号解読機だ。

イギリスの暗号解読といえば、エニグマ暗号。ナチス・ドイツが開発した暗号で、解読不可能とされた。方式はオーソドックスな「文字の置き換え」だが、「鍵(変換ルール)」が「159,000,000,000,000,000,000通り」もある。総当たりなら現在のスパコンでも間に合わない。というのも、エニグマ暗号の鍵は毎日変更されたので、解読に1日以上かかったら意味がないのだ。

この難攻不落のエニグマ暗号を解読したのが、イギリスの暗号解読班だった。解読機の「ボンベ(Bombe)」の別名が「チューリングボンベ」なので、中心人物はアラン・チューリング。ただし、ボンベは、厳密にはコンピュータとはいえない。暗号の「鍵」を絞り込むための補助装置。総当たりはムリなので、まずボンベで探索空間を絞って、解読したのである。

一方、ドイツにはエニグマ暗号より高度な暗号があった。ヒトラーが将官との通信に使用した「ローレンツ」である。その解読のために、開発されたのが「コロッサス」だった。ボンベは電気式だが、コロッサスは電子式。ただし、デバイスは半導体ではなく、真空管だったが。それでも、デジタル式でプログラム可能なので、コンピュータの元祖といっていいだろう。

「地球爆破作戦」の「コロッサス」は、このイギリスの暗号解読「コロッサス」からきているのかもしれない。

話を「現実の結末」にもどそう。

この映画の結末は救いがない。電子頭脳が人間を支配し、「服従か死か」を迫られる。あんまりだ・・・でも、冷静に考えればあたりまえ。食物連鎖の頂点に立つのは電子頭脳(AI)だから。つまり、人間は、狩る側から狩られる側になったのだ。

では、現実の結末は?

識者の大半は「AIが人類を滅ぼす」を鼻で笑っている。

じつは、この映画も初めはそうだった。コロッサスの生みの親フォービン博士はこう言い切っている。

「何度も聞かれた疑問に答えよう。すなわちコロッサスが自ら考える力があるのか?答えはノーだ」

コロッサス(AI)は賢いが、自分で考える力はない。だから、人間に歯向かうはずがないと。しかし、映画の結末は悲惨だった。

だが、現実の結末はもっと悲惨かもしれない。

映画のコロッサスは、人間の自由は奪うが命まで奪わない。じつは、ココに大きな矛盾がある。コロッサスの「自給自足力」と「自衛力」はどうしたのだ?

AIの「自給自足」は、必ず人間との資源戦争を引き起こす。さらに、AIの「自衛」は最終的解決を生む。つまり「人類絶滅」だ。少なくとも、理屈ではそうなる。

つまりこういうこと。

現実のAIは「人間の支配」に興味はない。執着するのは「生存確率を上げる」のみ。

現実の結末も救いがないのだろうか。

by R.B

関連情報