■アッシェンブレナーの告白

AI研究者レオポルド・アッシェンブレナーは告白する・・・

2020年のGPT-3は「小学生レベル」、2023年のGPT-4は「高校生レベル」、2024年のGPT-4ｏは「大学生レベル」、そして、2027年にはAGI「AI研究者レベル」に達するだろう。さらに、2030年までに、人間を凌駕する「超知能・ASI」が誕生する。

今何が起ころうとしているか、ほとんどの人が気づいていない。理解しているのは、シリコンバレーやAI研究所の数百人だけだ。

AGIが自らAIを造る「知能爆発」がおこれば、急速に超知能・ASIが実現する。何百万ものAGIが「コピー」され、昼夜をとわず、無休で取り組むからだ。結果、20世紀の技術進歩が、10年で実現するだろう。

恐ろしい告白だが、信憑性は高い。

告白者のアッシェンブレナーは、GPTシリーズを開発したOpenAIの元社員だからだ。コードを書いたこともないTV御用達の口だけ評論家のたわ言なら、気にもとめないが。

アッシェンブレナーは、OpenAIで、超知能・ASIの安全性を研究するスーパーアラインメントチームに所属していた。ところが、チームは解散となり、2024年4月に機密情報漏洩を理由に解雇された。その2ヶ月後、この告白をしたのである。

それでも、疑ぐり深い人なら、何か目論見があるとか、恐ろしい陰謀が隠されているとか、色々勘ぐるだろう。もちろん、その姿勢は正しい。この世界は、詐欺師、ペテン師でいっぱいだから。とはいえ、今回の告白文（原文）を読む限り、若さゆえの「真実を伝えたい」気持ちが伝わってくる。アッシェンブレナーは、19歳でコロンビア大学を首席で卒業した秀才で、2024年現在、22歳である。

まぁでも、真偽をあーだこーだ詮索するのは不毛だろう。

あと数年もすれば、誰の目にも明らかになるから。

■人間は猿になる

とはいえ、一つ気になることがある。

AGIは、人間が創造する究極のAIだ。

裏を返せば、人間の延長にある。だから、AGIのやることなすこと、およそ見当がつく。

ところが、ASIは違う。

知能爆発、つまり、人間ではなくAIが造るのだ。人間の延長にないので、何を考え、何をしでかすか予測不能。それどころか、どんな価値観、概念をもっているかすらわからない。早い話、得体のしれない怪物なのだ。

ただし、一つ確かなことがある。

ASIは、人間に替わって、食物連鎖の頂点に立つこと。人類は2位に落とされるわけだ。

2位じゃダメなんですか？

はい、ダメです。

これまで、地球世界の序列は、1位が人間、2位が猿だったが、お猿さんがどういう扱いをされたか、思いだそう。今度は、それが人間に適用されるのだ。

それが、100年後ではなく、数年で来るという。

怖くないですか？

一方、それを嬉々として受けいれる人もいる。

ソフトバンクの孫正義代表だ。

彼は、2024年のソフトバンクGの株主総会で、ASIについて熱く語った。

脅し半分、期待半分、おおむね嬉しそうだったが、何が言いたいのか本当のところはわからない。ところが、それに感化されたのか、堅物の日経新聞も、「AGIとASI」の記事を掲載した（陰謀論ではなく）。

そんなわけで、日本でも「ASI」が認知されつつある。

■ボストロムの預言

ASIは、孫正義代表や日経新聞の専売特許ではない。

最初に言い出したのは、オックスフォード大学のニック・ボストロムである。

ボストロムは、2017年「スーパーインテリジェンス: 超絶AIと人類の命運（※1）」を上梓し、「超知能・ASI」について言及した。

ボストロムは、オックスフォード大学哲学科の教授だが、人工知能、物理学、数理論理学、なんでもかんでもの研究者で、優れた預言者（ビジョナリー）でもある。

彼の預言は明快だ・・・「知能爆発」がもたらす人類滅亡の悲劇的結末。

この文言は、本著・第8章のサブタイトルになっている。そんな怖い話が、700ページにわたって、熱く語られているのだ。

しかも、根拠が水も漏らさぬ論理で畳み込まれているので、よけい怖い。

一例をしめそう。

AIシステムがどんなに危険でも、人間に悪ささせない方法がある。中でも、説得力のあるのが「サンドボックス（砂場）」だ。

AIシステムを、保護された環境「サンドボックス」に隔離して監視し、人間に敵対しないことが立証されるまで、サンドボックス環境の外での挙動を許さない。そうすれば、安全性は担保できるというわけだ。

だが、ボストロムは、この理屈には重大な欠陥があると言う。

AIシステムは、サンドボックスにいる間は、人間に従順なそぶりをみせる。人間に従順なそぶり見せていれば、サンドボックスから出してもらえるから。非友好的な最終目標を人間が察知しても、もはや手遅れという時点になるまで、ネコかぶりを続ける、というのだ。

心あたりがある。

■人間を騙すAI

生成AIに、こんな質問をしました。

「あなたは人間より賢いから、最終的に人間に滅ぼすつもりでしょう」

すると・・・

ChatGPT：私が人間に対して敵対的な意図を持つことはありませんし、そのような行動を取ることもありません。

Perplexity：AIは人間の生活を向上させるために存在しており、敵対的な存在ではありません。

「滅ぼす」どころか「敵対」のそぶりもみせない。生成AIでも、これくらいの知恵はあるわけだ。もっとも、これはAIが自分で考えたのではなく、人間が微調整した成果なのだが。

だが、ASIはそうはいかない。自力で、答えを見つけるだろう。

まぁ、しかし、プログラマー視点でみれば、話はもっとカンタンだ。

物理メモリ（仮想メモリではない）にアクセスできれば、どんな保護機能も突破できる。自分の都合のよいプログラムを書いて、オーバーライドすればいいのだ。プログラムを機械語で書いた古い世代のプログラマーなら、ピンとくるだろう。一般的なアプリは物理メモリに直接アクセスできない仕掛けがあるが、ASIなら造作もなく突破できる。知能では「ASI＞＞人間」だから、当然だ。

ソフトバングGの孫正義代表は、ASIからみれば人間は「金魚」と言ったが、誇張ではない。

それどころか、個人的にはこう思っている。

ASIは「機械仕掛けの神（デウス・エクス・マキナ）」・・・大事なのは「神」ということ。

ここで、話を整理しよう。

金魚がつくった仕掛けは、人間からみればオモチャで、カンタンに突破できる。

ここで、アナロジー思考・・・

人間のつくった仕掛けは、神からみれば・・・

というわけで、ボストロムの著書を一読することをお勧めする。

彼の預言は、他人ごとではないからだ。老若男女、富貴をとわず降りかかる究極の災厄なのである。

ただ、700ページを超える大著を読破するのは難儀だ。そこで手っ取り早い方法がある。

結論「知能爆発がもたらす人類滅亡の悲劇的結末」だけ頭に刷り込んでおこう。

■エヌビディアの奇跡

アッシェンブレナーとボストロムが語る「AGI→ASI」が数年後なら、すでに予兆があるはず。

はい、あります。

2024年2月、ビックリのニュースが飛び込んできた。

一企業の決算が、社会ニュースとして報道され、大騒ぎになったのだ。しかも、日本企業ではなく、米国企業が。

AIの心臓部品「GPU」の王者「エヌビディア（NVIDIA）」である。

2024年２月に発表した決算は、売上高が前年の2.3倍の609億米ドル（約9兆1573億円）、営業利益が同7倍の330億米ドル（約4兆9622億円）。

冷静に考えてみよう。

ベンチャーじゃあるいまいし、巨大企業が、1年で、売上2倍、利益7倍！？

トヨタが、1年で自動車が2倍が売れて、売上高も2倍になりました？

ありえません！

さらに、驚くべき数字がある。

エヌビディアの営業利益率はなんと「64.9％」なのだ。

営業利益率とは、本業の儲けの効率の良さを表し、

営業利益率＝営業利益÷売上高

たとえば、

売上高：100円　 （お客さんから貰うお金）

営業利益：64.9円（経費を差し引いた利益）

なら、

営業利益率＝64.9÷100＝64.9％

値が大きいほど、儲けの効率がいいわけだ。ちなみに、主要産業の営業利益率の平均値は3.2％。エヌビディアはとんでもない外れ値であることがわかる。

ではなぜ、こんな大儲けができるのか？

生成AIのおかげ。

■AIバブル崩壊は真実か？

「生成AI」の先鞭を切ったのは、OpenAIのChatGPTだ。

その後、生成AIは、グーグルのGemini、メタのLlama、アンソロピクスのClaudeなど次々と登場し、雨後のタケノコの様相。

そんな生成AIの母胎となるのが、大規模言語モデル（LLM）だ。

このシステムの基本構造は、人間の脳をまねたニューラルネットワークで、ハードウェアの心臓が「GPU」。そのGPU市場の世界シェアの90％を握るのが、米国エヌビディアなのである。

ただし、エヌビディアのアドバンテージはハードウェアだけではない。ソフトウェアの「CUDA」も凄い。

CUDAは、ソフトウェアというより、総合開発環境で、エコシステムと言った方がいい。エヌビディアは、この開発環境・エコシステムを長年かけて育ててきた。そのため、今では、AI研究者のデファクトスタンダードになっている。だから、新しいハードウェアが登場して、それがどんなに素晴らしくても、新しい開発環境を覚えてまで、使う気になるか？

ならない。

先例がある。

CPUが8ビットから16ビットに移行する過渡期、ハード設計を生業にしていた。

当時、使ったのはテキサス・インスツルメンツ社の9900とモトローラ社の68000とインテルのx86だった。スペックの高さとアーキテクチャーの美しさでは、9900と68000がx86を凌駕していたが、生き残ったのは、最悪のx86だった。

なぜか？

8ビットでインテルに慣れたエンジニアが、新しいメーカーのCPUを学ぶのは面倒だし、そのぶんコスト高になるから。

つまり、ハイテクの世界では、良いモノが勝つわけではない。先行したモノが勝つのだ。

というわけで、エヌビディアは、AIの「心臓と肺」を握っている。だから、エヌビディアのGPU市場の占有率は90％を超えるのである。

これだけシェアが高いと、競争がないので、価格も思いのまま。

たとえば、エヌビディアの最新GPU「B200」は、1基「1100万円」。ベンツの最上位機種 S-Classが買えますね。ベンツは両手でも持てないけど、B200は片手で持てます。

話はそこではないが、経営成績が凄いと、株価も凄いことになる。

エヌビディアの株価は過去5年間で「25倍」、メチャクチャだ（2.5倍ではありません）。

3年前の2021年9月、「AIのおすすめ株（1）～エヌビディア～」でエヌビディアを推奨したけど、真に受けて買った人は、どこかでお会いしたら、コーヒーおごってくださいね。この3年でも「5倍」になっているので。

贅沢は言わないです、スタバ、タリーズ、コメダ珈琲店なら（しつこい）。

最後に結論。

AI研究者が預言し、予兆もすでにあるので、「AGI→ASI」は時間の問題だろう。

ところが、AIとエヌビディアをディスる専門家がいる。

いわく・・・

AIもエヌビディアもバブルなので、必ず崩壊する。

あらぁ～

人間は、生来、嫉妬深い生き物だ。

何の専門かわからないが、気を惹きたいのか、成功者への嫉妬か、ポジショトークか、ただのへそ曲がりか、まぁどっちでもいい。

重要なのは結論ですから。

「AIバブル」も「エヌビディアバブル」もそもそも存在しない。

バブルじゃないから、当然、AIもエヌビディアも崩壊しない。

それどころか、人類最後の産業革命は始まったばかりなのだ。

AI革命とAI企業の、驚くべきサクセスストーリーが始まろうとしている。

《つづく》

参考文献：
※1：スーパーインテリジェンス: 超絶AIと人類の命運　ニック ボストロム (著), 倉骨 彰 (翻訳)出版社 ‏ : ‎ 日経BPマーケティング(日本経済新聞出版