2つの未来~誰かがそれを作れば、全員が死ぬ~
■AIに対するただボンヤリした不安
その日は、朝から気分がブルーだった。
人類の未来に対するただボンヤリした不安・・・まるで芥川龍之介の遺書だが、そんな深刻な話ではない。芥川は自死、こっちはただの逡巡、ただし、その先にあるのは機械仕掛けの神(デウス・エクス・マキナ)が支配する世界だ。
さて、気分ブルーの件だが、チャットGPT(大規模言語モデル)が出た頃、AIはそれほど深刻ではなかった。
コトバの意味もわからず、次に来るコトバを予測し、つないでいるだけ。それで、どうして、あんな立派な文章が作れるのか不思議だった。よく耳にする言説は・・・そもそも大規模言語モデルはブラックボックスなので。実際は、人間とは違うやり方で、コトバの意味を理解していたのだ。であれば、タネも仕掛けもあるわけで、よくある新発明のたぐいではないか。
一方、大規模言語モデルは、論理にめっぽう弱く、算数をガメ暗記の国語で解く始末(カンタンな足し算も間違えることも)。そんなわけで、大規模言語モデルは「コトバ職人」の域をこえなかった。
ところが、reasoning(推論)が実装されると、状況が一変、数学や物理学のような論理的な問題も解くようになった。
ただし、まだ第一級の論文はムリ。
たとえば「ニュートンの万有引力の法則」。その発見プロセスは、ドラマチックだが、理工系大学の教養課程で学ぶことができる。
そのプロセスはこうだ。
まず、ヨハネス・ケプラーが、ティコ・ブラーエの惑星の観測データから3つの法則を発見した。
第1法則(楕円軌道の法則):惑星は太陽を焦点の一つとする楕円軌道を描く(円ではない)。
第2法則(面積速度一定の法則):惑星と太陽とを結ぶ線分が単位時間に進む面積は一定。
第3法則(調和の法則):惑星の公転周期の2乗は、軌道長半径の3乗に比例する。
これが「ケプラーの法則」だ。
このようにデータから一般法則を導く方法を「帰納法」という。
つぎに、アイザック・ニュートンは、ケプラーの法則から、さらに根源的な宇宙の原理を発見した。
「惑星が楕円軌道を描くのは、太陽と惑星が引きあう力があるから」という仮説を立てて、微分方程式を使って証明したのである。
それが万有引力の法則で、シンプルな算術式で表せる。
距離r離れた質量m1と質量m2の物体が互いに引き合う力(引力)は、
F=G✕m1✕m2÷rの2乗(G:重量定数で宇宙のどこでも同じ)
つまり、引力は、2つの物体の質量に比例し、距離の2乗に反比例する。
この力は、太陽や惑星に限らず、質量をもつ2つの物体間で成立する普遍的な法則である。
このように、既存の法則を前提にして、別の法則を論理的に導き出すことを「演繹法」という。
つまりこういうこと。
ニュートンの万有引力の法則は、帰納的着想から始まり、演繹的推論で完成したのである。
というわけで、帰納法と演繹法は、人間式論理的思考の二大手法になっている。
■論理的思考を獲得したAI
大規模言語モデルは、学習(Training)に帰納法、推論(Inference)に演繹法を使う。
ここでいう推論(Inference)は、学習済みのAIモデルを使って、質問に答えることで、論理的思考のreasoning(推論)とは別もの。英語は区別しているので、日本語も「論理推論」ぐらいに言い換えた方がいいかもしれない。
今のところ、AIは、帰納法と演繹法を使い分けるほど論理的ではない。それを決めているのはまだ人間だ。
とはいえ、AIの論理的思考は、着実に進化している。
チャットGPTが、データを学習し、言語をマスターしたように、reasoning(推論)は、データから「アルゴリズム(処理手順)」を学ぶ。論理的思考を獲得したと言っていいだろう。
具体的な成果もあがっている。
2025年9月、エヌビディアがロボット・シミュレータ「NeRD」を発表した。
エヌビディアが推進する「物理AI(フィジカルAI)」の一つで、ロボットの動作をシミュレーションする。これを使えば、リアルなロボットを作って実験しては壊し、のムダを省くことができる。コンピュータ上で、実験を何千回、何万回も繰り返すことができるから。
ただし、ロボット・シミュレータはこれまでにもあった。
では、NeRDは何が違うのか?
シミュレーションは、現実世界をコンピュータ上で再現するソフトウェアだ。そのため、現実世界のルール、ロボットなら、物理法則を、人間がプログラミングしていた。つまり、アルゴリズム(処理手順)は、人間が作成していたのである。
ところが、NeRDは、データを学習し、自ら物理法則を発見し、実装する。つまり、アルゴリズム(処理手順)をつくるのは、人間はなく、NeRDなのだ。
重要なカラクリは2つ。
まず、ハイブリッド予測フレームワーク。
たとえば、ロボットがA地点からB地点に歩行するとき、始めと終わりだけでなく、途中の手足の関節の動きの内部情報も学習に利用する。これで、訓練データに含まれていなかった未知の情報も獲得でき、応用力が格段にあがる。
つぎに、絶対座標ではなく相対座標を使う。
絶対座標は、ロボットと環境をいっしょくたにした座標系。一方、相対座標は、ロボットと環境の座標系を分離し、ロボットからみた相対座標で環境の座標を定義する。これなら、環境がかわっても、ロボットの動きのロジックはそのまま使える。
どちらも、新しい技術ではないが、シミュレーションには有功だ。
一方、エヌビディアのライバルGoogleも負けていない。
「AlphaEvolve」を発表し、世界に大きな衝撃を与えた。
AlphaEvolveは、NeRDのようにアルゴリズム(処理手順)を自動生成するが、土台となるアルゴリズムは、人間がつくる点が違う。つまり、アルゴリズムを一からつくるのではなく、既存のアルゴリズムを改良するのである。
ただし、アルゴリズムの改良は、全く新しいアルゴリズムの発見と等価である。
すでに大きな成果があがっている。
カリフォルニア大学の研究チームは、AlphaEvolveのオープンソース版「OpenEvolve」を用いて、大規模言語モデルを効率化する新しいアルゴリズムを発見した。この手法はADRSとよばれ、AIの判断でコードを書き換え、人間が設計した最先端のアルゴリズムを最適化する。その成果は驚異的だ。ADRS製アルゴリズムは、人間製より、5倍以上高速だったという。
アルゴリズムの最適化は、今後、AIが担うのだろう。
人間の仕事がまた一つ奪われた・・・
■2つの未来
アルゴリズムの設計は、論理的思考を意味する。
その先にあるのは、人類が築きあげた科学技術の再発見・再発明だ。すでにテキスト、画像、動画、音楽あらゆるコンテンツがAIに呑み込まれている。
それどころではない。
ゲーム、映画、TV、小説、あらゆるメディア、プラットフォームが消滅する。
すべて、AIに向かって、こんなの作って、ですむからだ。
つまり、すべてのメディア、プラットフォームはAIに呑み込まれるわけだ。
話をもどそう。
科学技術まで奪われたら、人間は遊んで暮らすしかない。AIがそれを大目に見てくれればの話だが。
では、いつAIは人間を超えるのか?
2027年~2030年、AGI(人工汎用知能)が誕生するとき。そこが、人類文明の分水嶺になるだろう。
シナリオ1:そこでAI開発をやめれば、人類はユートピアに行ける。
シナリオ2:そこでAI開発を続ければ、ディストピアが待っている。これ以降、AIの開発方法の根本が変わる。無数のAGIがコピーされ、同時に並列処理で開発される。AGIからASIへの進化は、半年と予測されているが、もっと早いだろう。
理由は2つ。
第一に、ASIが誕生する時点を人間は知ることができない。AIが気づかれないように、人間を騙すから。
第二に、指数関数的な知の爆発が始まるから。アルゴリズムがどれだけ最適化されるか、計算資源(データセンター)の規模によるが、その頃には、100GWを超えるので、あっと言う間だろう。ちなみに、1GWはデータセンターに供給する電力で、中規模の原子力発電所1基分だ。最新のGPUなら数十万個に相当する。
その100倍!?
想像を絶する計算力だ。
いつ、何が起こるかは予測不能。
AGIは、人間が作るAIだが、ASIは違う。マシンがつくった機械仕掛けの神(デウス・エクス・マキナ)なのだ。人間を凌駕する、異質の知性といっていい。
そのとき、人間の科学者も技術者も、頭を突き合わせて履歴書を書く羽目になる・・・なんて悠長なことを言っていられない。頂点捕食者が人間からASIにかわるのだ。
檻に入るのは猿ではなく人間?
檻の中なら、まだ生きていられる。
2025年9月、リトル・ブラウン社から新著が出版された。タイトルは「If Anyone Builds It, Everyone Dies(誰かがそれを作れば、全員が死ぬ)」。ここで「it」は「ASI」をさしている。
この著書の中で、AI研究者が描くのは、人類の滅亡のシナリオだ。
by R.B
