BeneDict 地球歴史館

BeneDict 地球歴史館
menu

週刊スモールトーク (第591話) 2つの未来~誰かがそれを作れば、全員が死ぬ~

カテゴリ : 社会科学終末

2025.10.27

2つの未来~誰かがそれを作れば、全員が死ぬ~

■AIに対するただボンヤリした不安

その日は、朝から気分がブルーだった。

人類の未来に対するただボンヤリした不安・・・まるで芥川龍之介の遺書だが、そんな深刻な話ではない。芥川は自死、こっちはただの逡巡、ただし、その先にあるのは機械仕掛けの神(デウス・エクス・マキナ)が支配する世界だ。

さて、気分ブルーの件だが、チャットGPT(大規模言語モデル)が出た頃、AIはそれほど深刻ではなかった。

コトバの意味もわからず、次に来るコトバを予測し、つないでいるだけ。それで、どうして、あんな立派な文章が作れるのか不思議だった。よく耳にする言説は・・・そもそも大規模言語モデルはブラックボックスなので。実際は、人間とは違うやり方で、コトバの意味を理解していたのだ。であれば、タネも仕掛けもあるわけで、よくある新発明のたぐいではないか。

一方、大規模言語モデルは、論理にめっぽう弱く、算数をガメ暗記の国語で解く始末(カンタンな足し算も間違えることも)。そんなわけで、大規模言語モデルは「コトバ職人」の域をこえなかった。

ところが、reasoning(推論)が実装されると、状況が一変、数学や物理学のような論理的な問題も解くようになった。

ただし、まだ第一級の論文はムリ。

たとえば「ニュートンの万有引力の法則」。その発見プロセスは、ドラマチックだが、理工系大学の教養課程で学ぶことができる。

そのプロセスはこうだ。

まず、ヨハネス・ケプラーが、ティコ・ブラーエの惑星の観測データから3つの法則を発見した。

第1法則(楕円軌道の法則):惑星は太陽を焦点の一つとする楕円軌道を描く(円ではない)。

第2法則(面積速度一定の法則):惑星と太陽とを結ぶ線分が単位時間に進む面積は一定。

第3法則(調和の法則):惑星の公転周期の2乗は、軌道長半径の3乗に比例する。

これが「ケプラーの法則」だ。

このようにデータから一般法則を導く方法を「帰納法」という。

つぎに、アイザック・ニュートンは、ケプラーの法則から、さらに根源的な宇宙の原理を発見した。

「惑星が楕円軌道を描くのは、太陽と惑星が引きあう力があるから」という仮説を立てて、微分方程式を使って証明したのである。

それが万有引力の法則で、シンプルな算術式で表せる。

距離r離れた質量m1と質量m2の物体が互いに引き合う力(引力)は、

F=G✕m1✕m2÷rの2乗(G:重量定数で宇宙のどこでも同じ)

つまり、引力は、2つの物体の質量に比例し、距離の2乗に反比例する。

この力は、太陽や惑星に限らず、質量をもつ2つの物体間で成立する普遍的な法則である。

このように、既存の法則を前提にして、別の法則を論理的に導き出すことを「演繹法」という。

つまりこういうこと。

ニュートンの万有引力の法則は、帰納的着想から始まり、演繹的推論で完成したのである。

というわけで、帰納法と演繹法は、人間式論理的思考の二大手法になっている。

■論理的思考を獲得したAI

大規模言語モデルは、学習(Training)に帰納法、推論(Inference)に演繹法を使う。

ここでいう推論(Inference)は、学習済みのAIモデルを使って、質問に答えることで、論理的思考のreasoning(推論)とは別もの。英語は区別しているので、日本語も「論理推論」ぐらいに言い換えた方がいいかもしれない。

今のところ、AIは、帰納法と演繹法を使い分けるほど論理的ではない。それを決めているのはまだ人間だ。

とはいえ、AIの論理的思考は、着実に進化している。

チャットGPTが、データを学習し、言語をマスターしたように、reasoning(推論)は、データから「アルゴリズム(処理手順)」を学ぶ。論理的思考を獲得したと言っていいだろう。

具体的な成果もあがっている。

2025年9月、エヌビディアがロボット・シミュレータ「NeRD」を発表した。

エヌビディアが推進する「物理AI(フィジカルAI)」の一つで、ロボットの動作をシミュレーションする。これを使えば、リアルなロボットを作って実験しては壊し、のムダを省くことができる。コンピュータ上で、実験を何千回、何万回も繰り返すことができるから。

ただし、ロボット・シミュレータはこれまでにもあった。

では、NeRDは何が違うのか?

シミュレーションは、現実世界をコンピュータ上で再現するソフトウェアだ。そのため、現実世界のルール、ロボットなら、物理法則を、人間がプログラミングしていた。つまり、アルゴリズム(処理手順)は、人間が作成していたのである。

ところが、NeRDは、データを学習し、自ら物理法則を発見し、実装する。つまり、アルゴリズム(処理手順)をつくるのは、人間はなく、NeRDなのだ。

重要なカラクリは2つ。

まず、ハイブリッド予測フレームワーク。

たとえば、ロボットがA地点からB地点に歩行するとき、始めと終わりだけでなく、途中の手足の関節の動きの内部情報も学習に利用する。これで、訓練データに含まれていなかった未知の情報も獲得でき、応用力が格段にあがる。

つぎに、絶対座標ではなく相対座標を使う。

絶対座標は、ロボットと環境をいっしょくたにした座標系。一方、相対座標は、ロボットと環境の座標系を分離し、ロボットからみた相対座標で環境の座標を定義する。これなら、環境がかわっても、ロボットの動きのロジックはそのまま使える。

どちらも、新しい技術ではないが、シミュレーションには有功だ。

一方、エヌビディアのライバルGoogleも負けていない。

「AlphaEvolve」を発表し、世界に大きな衝撃を与えた。

AlphaEvolveは、NeRDのようにアルゴリズム(処理手順)を自動生成するが、土台となるアルゴリズムは、人間がつくる点が違う。つまり、アルゴリズムを一からつくるのではなく、既存のアルゴリズムを改良するのである。

ただし、アルゴリズムの改良は、全く新しいアルゴリズムの発見と等価である。

すでに大きな成果があがっている。

カリフォルニア大学の研究チームは、AlphaEvolveのオープンソース版「OpenEvolve」を用いて、大規模言語モデルを効率化する新しいアルゴリズムを発見した。この手法はADRSとよばれ、AIの判断でコードを書き換え、人間が設計した最先端のアルゴリズムを最適化する。その成果は驚異的だ。ADRS製アルゴリズムは、人間製より、5倍以上高速だったという。

アルゴリズムの最適化は、今後、AIが担うのだろう。

人間の仕事がまた一つ奪われた・・・

■2つの未来

アルゴリズムの設計は、論理的思考を意味する。

その先にあるのは、人類が築きあげた科学技術の再発見・再発明だ。すでにテキスト、画像、動画、音楽あらゆるコンテンツがAIに呑み込まれている。

それどころではない。

ゲーム、映画、TV、小説、あらゆるメディア、プラットフォームが消滅する。

すべて、AIに向かって、こんなの作って、ですむからだ。

つまり、すべてのメディア、プラットフォームはAIに呑み込まれるわけだ。

話をもどそう。

科学技術まで奪われたら、人間は遊んで暮らすしかない。AIがそれを大目に見てくれればの話だが。

では、いつAIは人間を超えるのか?

2027年~2030年、AGI(人工汎用知能)が誕生するとき。そこが、人類文明の分水嶺になるだろう。

シナリオ1:そこでAI開発をやめれば、人類はユートピアに行ける。

シナリオ2:そこでAI開発を続ければ、ディストピアが待っている。これ以降、AIの開発方法の根本が変わる。無数のAGIがコピーされ、同時に並列処理で開発される。AGIからASIへの進化は、半年と予測されているが、もっと早いだろう。

理由は2つ。

第一に、ASIが誕生する時点を人間は知ることができない。AIが気づかれないように、人間を騙すから。

第二に、指数関数的な知の爆発が始まるから。アルゴリズムがどれだけ最適化されるか、計算資源(データセンター)の規模によるが、その頃には、100GWを超えるので、あっと言う間だろう。ちなみに、1GWはデータセンターに供給する電力で、中規模の原子力発電所1基分だ。最新のGPUなら数十万個に相当する。

その100倍!?

想像を絶する計算力だ。

いつ、何が起こるかは予測不能。

AGIは、人間が作るAIだが、ASIは違う。マシンがつくった機械仕掛けの神(デウス・エクス・マキナ)なのだ。人間を凌駕する、異質の知性といっていい。

そのとき、人間の科学者も技術者も、頭を突き合わせて履歴書を書く羽目になる・・・なんて悠長なことを言っていられない。頂点捕食者が人間からASIにかわるのだ。

檻に入るのは猿ではなく人間?

檻の中なら、まだ生きていられる。

2025年9月、リトル・ブラウン社から新著が出版された。タイトルは「If Anyone Builds It, Everyone Dies(誰かがそれを作れば、全員が死ぬ)」。ここで「it」は「ASI」をさしている。

この著書の中で、AI研究者が描くのは、人類の滅亡のシナリオだ。

by R.B

関連情報