BeneDict 地球歴史館

BeneDict 地球歴史館
menu

週刊スモールトーク (第577話) ASIとターミネーターとフランケンシュタイン

カテゴリ : 社会科学終末

2024.12.09

ASIとターミネーターとフランケンシュタイン

■3年後の世界

2024年、暮れも押し迫った昼下がり、未来がかいま見えた、低解像度の怪しいモノクロ映像で。

2027年前後にAGI(人工汎用知能)、その1年以内にASI(人工超知能)が誕生する。

ただし、時間軸が縮んでいる。

まず、AGIは2025年かもしれない。

ことの発端は、オープンAIのサム・アルトマンCEOの不用意な発言。

2024年、アルトマンとYコンビネータ社CEOのギャリー・タンの対談し、Youtubeで配信された。

ギャリー・タン :2025年、あなたは何に興奮していますか? 何が来るのでしょう?

サム・アルトマン:AGIです。AGIに興奮しています。

AIのトップランナーが、AGIは2025年と公言したのだ。

だが、アルトマンの勘違いかもしれないし、嘘をついているか、裏がある可能性もある。

では、真実は?

サム・アルトマン率いるオープンAIは、AIのトップランナーだ。2024年末、AGIに最も近いとされる。そのCEOが勘違いでしたはないだろう。さらに、1年でバレる嘘をつく理由も見当たらない。一方、「AGIが来るぞ」を触れ回れば、資金調達で有利になるから、それが裏と言えないことはない。とはいえ、1年でバレバレなら、オオカミ少年よばわりされるのがオチ。

というわけで、サム・アルトマンの予言が的中する可能性は高い。

くわえて、AI業界のリーダーたちのAGI誕生予測は、2025年~2027年に集中している。最も保守的なアンソロピックCEOのダリオ・アモデイでさえ、2027年説なのだ。

これは一大事だ。

人類の長年の夢「AGI(人工汎用知能)」まで、あと1年!?

もっとも、AGIといっても定義があいまいだから、2025年はプレビュー版、プロトタイプの可能性が高い。とはいえ、フルスペックのAGIも、10年後までずれ込むことはないだろう。

つぎに、AIの進化が加速している。

かつて、IT業界のレジェンド、レイ・カーツワイルはこう予言した。

「2029年に、AIが人間なみの知能を獲得し(AGI)、2045年には、シンギュラリティーに達するだろう(ASI)」

「シンギュラリティ」とは「技術的特異点」を意味する。

ブラックホールを連想させる恐ろしい響きがあるが、あたらずとも遠からず。

ブラックホールは、光さえ脱出できない強い重力がかかる世界。その異世界と我々の世界との境界を「事象の地平面」という。「技術的特異点」と同じニオイがする。

■時代の巨大波

では、これから何がおこるか、具体的に予測してみよう。

AGIが誕生すると、それが何万個、何十万個もコピーされ、AI開発が並列に同時進行する。人間ではなく、AI自身が「再帰的な自己改善」で開発するのがミソ

再帰的な自己改善?

「自己改善」は自分で自分を改良すること。

「再帰的」は繰り返しだが、ただの反復ループではなく、「入れ子」の繰り返し。

入れ子?

まずは、視覚的に説明する。

2つの鏡を向かい合わせると、鏡の中に無限に続く鏡像が映し出される。鏡の中に鏡があって、その鏡の中に鏡があって、さらに・・・入れ子になっている。これが「再帰的」である。

つぎに、プログラミングで説明する。

じつは、プログラマーなら一撃で理解する例がある。

たとえば、nの階乗は・・・

n!=n×(n-1)×(n-2)×・・・×1

で表される。

見方をかえると、

n!=n×(n-1)!=n×(n-1)×(n-2)!=n×(n-1)×(n-2)×(n-3)!

お気づきだろうか、階乗(n!)の中に、階乗(n-1)!、階乗(n-2)!、階乗(n-3)!が入れ子になっている。プログラミングでは、これを再帰プログラミング(リカーシブコール)という。

最後に、言語化する。

再帰的とは、同じルールをつかって、2次元的なループではなく、入れ子の3次元のループを繰り返すこと。先の「視覚的」と「プログラミング」を考え合わせれば「再帰的」は理解できたと思う。

話をもどそう。

無数のAGIが、再帰的に自己改善を繰り返すと、1年以内にASIが誕生する可能性が高い(元OpenAIのアッシェンブレナー)。

一方、1年以内どころか、数時間という説もある。

では、どっち?

後者だろう。

2024年後半、OpenAI、アマゾン、メタ、xAIは、1兆円規模のAIデータセンターを建設している。日本とは桁違いの投資だが、これには強力な動機がある。

第一に、大規模言語モデル(LLM)は、巨大化するほど進化する(スケール則という)。

第二に、進化のゴール「AGI一番乗り」が世界を丸取りする(2位じゃダメなんです)。

であれば、採算も予算も度外視して、脇目も振らず猪突猛進金するしかない。

ところが、日本のAIデータセンターは、AIクラスタ(AI集団)というより、AIパソコン(スタンドアローン)に近い。

一体、何を考えているのだ?

時代はAIだから、勝ち目うんぬんの前に、やるっきゃないでしょ。それに、こじんまりしたAIデータセンターでも、当面は稼げるし。

お気づきだろうか?

どれも、詰めが甘すぎて、根拠にならないし、論理としても成立していない。

戦後、日本企業は米国企業にくらべ、長期視点に立つ経営で知られた。それも遠い昔の話。

それはさておき・・・

AI予測は早い方にベットした方がいいです。

■働かずに食べていけるディストピア

ここで、AI予測を総括しよう。

AGIは遅くとも2027年、その後間をおかず、ASI(人工超知能)が覚醒する。

巨大な時代の波が迫っている。

それが通り過ぎたあとは、旧世界が消滅し、見たこともない新世界が姿を現す。

では、新世界とは?

人間が働かなくても食べていける世界。

シンギュラリティ、ブラックホール、巨大な時代の波・・・勇ましい言葉のあとに、なんとものどかな。

大丈夫、最後にどんでん返しが待っています。

まず、人間が働かないなら、誰が働くのか?

AI+ロボット=マシン。

マシンは、ハイスペックで、何をやらせても、人間よりうまくやる。それに、ストライキはしないし、残業が多いとか、給料が安いとか、仕事が面白くないとか、文句一つ言わない。電気を切らない限り、24時間365日、黙々と働き続ける。雇い主が、人間とマシンどっちを選ぶかは、明らかだ。

では、その行き先は?

マシンがモノやサービス(価値)を生産し、人間は消費する世界。人間が長らく待ち焦がれた「ベーシックインカム」が実現するわけだ。

一見するとユートピアだが、うまい話には裏がある。

まず、国民に支給されるモノやサービスは必要最低限のレベル。働かず、食う寝る遊ぶなので、文句は言えない。

つぎに、格差が極大化する。

資本家階級は、資産があるので、それで有料の高級品を享受できる。この頃、AIは癌をはじめほとんどの病気を克服している。驚異的な長寿、若返り、不老不死も夢ではない。さらに、メタバースを駆使する夢のような娯楽も実現するだろう。ただし、すべて有料(しかも超高額)なので、不労所得がない旧労働者階級は手に入らない。

命の沙汰も金次第というわけだ。

問題はまだある。

人間からマシンへの労働移行は業種別におこるので、失業も段階的にすすむ。結果、ベーシックインカムまでの過程で、食うや食わずレベルの格差が生まれる。治安は悪化するだろう。

また、怠け者にはハッピーだが、働くことが大好きな人間にはディストピアだ。

趣味や娯楽に精を出せばいいのでは?

趣味はしょせん趣味、自己満足の世界で、やってもやらなくても同じ。仕事とは迫力が違う、と考える人は意外に多い。仕事があるうちが華というわけだ。

さらに、人間を支配することに生き甲斐を感じるサイコパスには地獄だろう。この手の人間は、天国の下僕より、地獄の支配者を望む。ところが、社会を支配するのはマシンで、人間に空きポストはない。夢も希望もない・・・

■猿は人間を調教できるか?

もっと、深刻な問題がある。

それは、ソフトバンクGの孫正義代表の発言に隠されている。

彼は、2024年、ASIを熱く語った。

「人間の叡智の1万倍の人工知能がやってくる。そのASIを実現するために僕は生まれてきた」

ASIの光明面がキラキラだが、暗黒面もある。

ASIは、人間の叡智の1万倍!?

1万倍の根拠は不明だが、1万倍か1億倍かは重要ではない。

1ミリでも優秀なら、食物連鎖の頂点は、人間ではなくASIになるからだ。

だから?

これまで、人間が頂点で、2番目がおサルさんだった。

ここで質問。

猿は人間を調教できるか?

ムリ。

では、人間はASIを調教できるか?

・・・

ということで、ASIはデウス・エクス・マキナ(機械仕掛けの神)で、言葉をかえれば「怪物」なのだ。

もっとも、警戒してもムダ。猿が仕掛けた罠に、人間がかからないのと同じで、人間が仕掛けた罠にASIがかかるはずがないから。ところが、AIが暴走したら、コンセントを抜けばいいと得意げに主張する専門家がいる。これには、ビックリだ。ASIが、そんな間抜けな罠にかかるはずがないではないか。

脅威はまだある。

AGIは、人間を学習してつくられたから、人間の延長にある。ところが、ASIは違う。ASIは、AIがつくるから、人間のような概念や価値観をもつとは限らない。

偏見を捨て、普通に考えれば、ターミネーターのスカイネットでは?

■フランケンシュタイン博士の後悔と懺悔

ではなぜ、そんな危ない目にあってまで、AIを開発するのか?

自分がやらなくても、他の誰かがやるから。

さらに、先が見通せない専門家は、AIはリスクはあるが、当面は人間の助けになると擁護する。

これにはビックリだ。

2024年、AIの基本原理「ニューラルネットワーク」でノーベル物理学賞を受賞したジェフリー・ヒントン博士は「AIが人類を滅ぼす可能性」に言及し、警告を発している。

ニュースはちゃんとチェックした方がいいです。

AIは、人間が興味本位で始めたが、徐々に脅威があらわになり、やがて人間の手に負えなくなる・・・まるで怪奇小説「フランケンシュタイン」ではないか。

この小説は女性小説家メアリー・シェリーが書いたが、世間の印象と実体が乖離している。

何度も映画化された結果、醜悪な怪物が次々と人間を襲うスリラー、パニック作品にされてしまったのだ。

だが、本当は違う。

小説を一読すればわかるが、怪物を創造してしまったフランケンシュタイン博士の後悔と懺悔の物語なのだ。

誤解はまだある。

この怪物は、本当は優しく、人間社会に溶け込もうとしていた。しかも、哲学者なみの知性をもち、人生を悩み続ける。

だから、小説フランケンシュタインは、スリラーでもパニックでもない。人間の素性と人生の本質を問う純粋な文学なのだ。20歳のうら若き女性が書いたとは思えない。

話をもどそう。

AI開発をこのまま続ければ、いつかはスカイネットかフランケンシュタイン・・・

そんな大きなリスクがあるのに、なぜAI開発を止めないのか?

誰かがやるから、当面役立つから・・・一見成立するが、表層的な理由にすぎない。

真の理由は、人間の素性に起因する。

それは、社会の構成員の30%に潜む、誰も意識していない、ダークコア(闇の気質)である。

《つづく》

by R.B

関連情報