■魔法の鏡

「鏡よ鏡、地球の支配者はだーれ？」

鏡は答えました。

「人間です」

ところが、2025年の年明け、同じ質問をすると、

「AIです」

原典は言わずと知れた「白雪姫」。

ただし、現代版「白雪姫」には続きがある。

鏡は言いました。

「猿は人間を調教できません。同様に、人間はAIを調教できないでしょう」

ここで、イーロン・マスクの登場だ。

「ペンタグラムと聖水を手にした人間が、悪魔（AI）に立ち向かおうとしている。彼は必ず悪魔を支配できると思っているが、結局はできはしないのだ」

お気づきだろうか、魔法の鏡とイーロン・マスクは同じことを言っている。

だが、鵜呑みにはできない。

イーロン・マスクは何を考えているかわからないし、白雪姫はそもそも民話なので。

ところが、オーソライズされた識者までがこれに同意しているとしたら？

車椅子の天才科学者ホーキンズ博士（故人）、2024年ノーベル物理学賞を受賞したジェフリー・ヒントン、元OpenAIの天才プログラマー、イリヤ・サツケバー、アルファ碁のDeepMind社の共同創業者ムスタファ・スレイマン・・・彼らは、超知能（ASI）が人類を滅ぼす可能性に言及している。

欧米だけではない。

日本にも、AIのリスクを警告するキーマンがいる。

プリファード・ネットワークスの岡野原大輔も、その一人だ。

プリファードは、国内スタートアップでは時価総額トップで、AIのトップランナーといっていい。IoTとエッジコンピューティングのAIの研究開発では、世界でトップクラスだ。

岡野原大輔は、そのプリファード・ネットワークスの共同創業者で、代表取締役・最高研究責任者でもある。

彼は、著書「大規模言語モデルは新たな知能か」の中でこう警告している。

「『現在自分が持っている資産を最大化する』という目標を、大規模言語モデルが達成するために、強化学習で制御した場合、SNSやいろいろな場所に虚偽情報を流したり、金融取引などに不正に介入したり、電力を遮断するような行動を獲得してしまうことが考えられる」（※1）

ちょっと回りくどいので、ザックリ要約すると・・・大規模言語モデルは、目標を達成するためなら、虚偽情報の拡散したり、金融システムを操作したり、電力を遮断したり、手段を選ばず、悪事を働く可能性がある。

「さらに、誰かが大規模言語モデルに人のような生存本能を持つように学習させ、大規模言語モデルがそれによって人に反抗することがあるかもしれない」（※1）

これも要約すると・・・大規模言語モデルは、自分が生き残るためなら、人間に反旗を翻す可能性がある。たとえば、人間がAIを停止しようとしたら、阻止するために、人間に害をおよぼす（抹殺する？）。

「また、たとえ人間がそのように目標を設計しなくても、近年の手法は目標を自分で設計するようになっている（メタ学習、逆強化学習など）。こうした手法の場合、意図せず大きな問題を引き起こしてしまうサブ目標が設定される恐れもある」（※1）

要約すると・・・大規模言語モデルに大目標を与えると、勝手に小目標を設定し、それが、人類に害を与える可能性がある。

お気づきだろうか？

この３つのリスクは、AGI（人工汎用知能）やASI（人工超知能）ではない。すでに社会実装された大規模言語モデル（生成AI）なのだ。

■巨額のAI投資

今でこれなら、AGI、ASIが誕生したら・・・想像したくないです。

そんな巨大リスクがあるのに、空恐ろしい規模とスピードでAI開発が進む。

これは誇張ではない。

2024年、米国のアナリストはこんな予測をした。

巨大テック企業は、今後数年間で、AIプロジェクトに「1兆ドル（約157兆円）」を費やすという（日本の国家予算は112兆円）。

中でも、際立つのがマイクロソフトだ。

2024年、OpenAIと共同で、AIスーパーコンピュータ「スターゲート」を開発すると発表した。

「スターゲート」は、有名なSF映画で、TVドラマ化もされている。エジプトで発見された円環状の星間移動装置「スターゲート」を使って、宇宙を旅する壮大な物語だ。

AIを星間移動装置になぞらえたわけで、マイクロソフトの意気込みがわかるというものだ。

マイクロソフト版「スターゲート」は、巨大なデーターセンターを構成し、予算は1000億ドル（15兆円）。現存する最大級のデータセンターの100倍の規模だという。

2028年稼働をめざすというから、4年で15兆円。

ピンとこないが、目安がある。

2024年11月、米議会の超党派が、AI版「マンハッタン計画」をぶちあげた。

本来「マンハッタン計画」とは、第二次世界大戦中の米国の原子爆弾製造プロジェクトをさす。原爆は完成し、1945年8月、広島と長崎に投下された。

このときの開発費は、現在の貨幣価値で約300億ドル（4兆5000億円）。兵器の開発費としては破格だが、マイクロソフトの「スターゲート」の1/3にすぎない。

米国には、歴史的巨大プロジェクトがもう一つある。

NASAの「アポロ計画」だ。1969年、人間を月に送り込んだが、10年の歳月と、現在の貨幣価値で約3000億ドル（45兆円）が投じられた。大金だが、年換算ではマイクロソフトの「スターゲート」とかわらない。

ところが、2025年1月3日、マイクロソフトは新たなAIの計画を発表した。2025年度は、AIのデータセンター構築に約800億ドル（12.6兆円）を投じるという。

4年で15兆円の予定だったのに、今年度だけで12.6兆円。

前倒し！？

金に糸目をつけないAI開発は、マイクロソフトだけではない。

SNSのメタ、DBのオラクル、小売のアマゾン・・・

だが、やはり本命は、OpenAI（マイクロソフト）、Google、Anthropicだろう。AIのエンジン「大規模言語モデル（LLM）」では、３強だから。

一方、気になるのがxAIだ。

2024年12月、60億ドル（約9440億円）を調達し、AI開発を進めるという。だけど、投資額は見劣りするし、大規模言語モデルも3強から1周遅れ。

ところが、OpenAIのサム・アルトマンCEOは「xAIが非常に手強い競争相手になる」と認めている。

たぶん、xAIの創業者イーロン・マスクを警戒しているのだろう。

マスクは、世界のEV事業を軌道に乗せ、NASAの打ち上げロケットを独占し、火星移住を本気で考えている。この３つはミッション・インポッシブルだが、うち２つを成し遂げている。AGIは、火星移住からみればチョロイもんだろう。

しかも、ちゃっかり、トランプ次期大統領の側近におさまっている。油断のならない男だ。

というわけで、世界の勝ち組は、脇目も振らずAI開発にまっしぐら。

それで漁夫の利をえる企業もある。

データセンターの心臓部「GPU」の絶対王者エヌビディアだ。どんだけ儲かるのか想像もつかない。少なくとも、ASIが完成するまで、収益も株価も爆上がりだろう。2025年現在、アップルと時価総額世界一を争うが、そんなもんじゃない。ひょっとして、売上でウォルーマートを抜いて世界一！？

だが、気になることがある。

ん兆円もかけて、元がとれるのか？

アナリストの予測では、AI市場は2030年頃までに1兆3,000億～1兆8,000億ドルに拡大するという。現在の10倍の市場規模で、日本円に換算すると、200兆～270兆円。その10％のシェアをとれば、20兆円～27兆円。

15兆円の投資も、余裕で元がとれるわけだ（計算上は）。

■心に潜むダークコア

というわけで、世界中がAI開発に夢中・・・

ところが、足元をみると、地獄の蓋がパックリ。

なんで気づかない？

なぜAI開発を止めない？

自分がやらなくても、誰かがやるから。

先のことはさておき、当面役立つから。

じゃあ、リスクを制御しながらやれば。

ところが、OpenAIのサム・アルトマンCEOは否定的だ。

Youtubeでこんな発言をしている。

「われわれは、こうすればこうなると予測してAIを開発しているわけではない。先のことは誰もわかならない。でたとこ勝負、サイエンス（自然の摂理）に従うしかない。だから、AIのリスクを予測して、対処することはできない」

言いたいことはわかるが、地獄に堕ちるしかないと言っているようなものではないか。

つまりこういうこと。

人類が滅びようがどうなろうが、しったこっちゃない、俺がAGIに一番乗り！

冷静に考えてみよう。

これって、反社会的または不道徳ですよね。

このような人格特性を、心理学では「ダークコア」という。

ダークコアは、闇の気質、邪悪な気質ともいわれ、その根底にあるのが「D因子」だ。

D因子は「悪意の行動の正当化し、他人を犠牲にしてでも、自分の利益を極大化する」と定義されている。

じつは、人間は誰でもD因子をもっている。

問題は程度だ。

「中程度」だと、自己中、身勝手で、利己的な行動を取り、社会に悪影響を及ぼす。その割合は、全人口の10%〜20%という。

「強」だと、明確な反社会的行動や犯罪に走ることがある。世間でいうサイコパスだ。全人口の1%〜5%を占めるという。

ただし、ダークコアは特殊な人間ではない。

根拠を２つあげよう。

第一に、中程度で人口の10％～20％を占めること。

第二に、危険なAI開発を続けることを社会全体が容認していること。反社会的、不道徳どころか、人類を滅ぼすかもしれないのに。

ところが、人類の歴史を精査すると、人間の「反社会的・不道徳」傾向があらわになる。

■違うゲームを始めた人類

人類は、20万～30万年前、アフリカで誕生した。

その後、一部の集団がアフリカを旅立つ。

13万年前～8.5万年前に中東に渡り、7万年前～5万年前にユーラシア大陸に進出、そして4万年前までに、地球全域に達した（アネクメーネを除く）。

人類の歴史は、飢餓との闘いである。他の動物と同様「捕食と生殖」にあけくれたのである。

ところが、その後、人類は道具をこさえ、1万年かけて高度な文明を築いた。

1969年、人間が月面に降り立ったとき、人類は科学文明の勝利を確信しただろう。輝く未来が待っている。次は月面基地の建設、そこから、火星探検がはじまる。イーロン・マスクの火星移住計画は、すでに実現していたはずだ。さらに、地球上では「空飛ぶ自動車」が飛び交う・・・子供の頃に読んだ科学書にはそんな世界が描かれていた。

ところが、現実はそうならなかった。

かわりに得たのは「140文字」である（SNS）。

だれもかれも、ちゃちぃ端末で、好き勝手に情報発信し、一般人であれ、有名人であれ、誹謗中傷して盛り上がる。そんな歪んだゲームに夢中になったのである。

宇宙探検や空飛ぶ自動車より、他人を誹謗中できる科学端末・・・ダークコア（闇の気質）が、想像以上に人類社会に根付いている。

その証拠はまだある。

人類は、月に降り立つテクノロジーを獲得した。普通に食べていくだけなら、人類全体が遊んで暮らせるはずだ。

ところが、そうなっていない。

ほとんどの人間が、毎日アクセク働いている。

なぜか？

人類は違うゲームを始めたのである。

他人より1ミリでも優位に立ちたい。

そこで、勝ち組、負け組を競う過酷な「競争社会」を作り上げた。

生きていく上で必要なモノやサービスやインフラを作るだけなら、現在のテクノロジーがあれば楽勝だ。競争など必要ない。しかも、飢餓で苦しむ人もいない。

ところが、人類はそんな平和な楽園ではなく、勝ち負けを競う世界を選んだのである。

金が金を生む金融業、乾いた笑いしかでてこないバラエティ番組、あってもなくても同じの暇つぶし番組に、膨大な資源を消費している。地球の環境変動とか、二酸化炭素の排出規制なんて言っている場合ではないだろう。さらに、誹謗中傷で社会問題を引き起こしているSNS、他にも有害無益なサービスは枚挙にいとまがない・・・衣食住、エッセンシャルワーカーと無縁の仕事で、みんな大忙しだ。

そして、どの分野でも、勝ち組、負け組が生まれる。勝ち組になるため、人を蹴落とす。他人の犠牲はやむえないどころか、他人の不幸は蜜の味・・・

人間は、物質的な豊かさとは別の次元で仕事をしているのだ。人より１ミリでも優位に立ちたい・・・

それだけはない。

世界中で、飢餓に苦しむ人々が8億人もいるのに「大食い」番組が後を絶たない。さらに、不必要に贅沢な料理をSNSにのせて大はしゃぎ。

食べ物は、生死にかかわる物資だ。それをオモチャやエンタメにするとは・・・「飢餓に苦しむ人々が8億人」を想像するだけで、どれほど大罪かがわかる。それに気づかないから、反社会的・不道徳なのだ。

ダークコアは特殊な人間ではない。ふつうに街を歩いているのだ。

つまりこういうこと。

人類は、全員が食べていけるだけのテクノロジーとリソースをもちながら、勝ち負けを競うゲームに興じている。だから、今も、人間は働かないと食べていけないのである。

■教祖は機械仕掛けの神

人間社会は、反社会的・不道徳を容認している。

目に見える犯罪は取り締まるが、格差を生み出す社会ステムは容認する。つまり、人間は、基本、ダークコアなのだ。

支配層はもっと酷い。

政治をみれば、あきらかだ。

国民は、汚職やウソやスキャンダルでウンザリしている。さらに、民主主義への不信も増大している。

たとえば、日本で大騒ぎした「年収の壁」。

民主主義で重要なのは議論と勘違いし、あんなカンタンなことを、あーでもないこーでもない。

考慮する事も、選択肢も限られているから、議論など不要。AIなら1秒で即決だ。

さらに深刻なのは、民主主義の名の下のダラダラ議論は、高額な議員の人件費で賄われている。すべて税金ですよ。

政治はAIに任せればいい、と考えるのは自然だろ。

「AIは公金横領などしないし、秘書にも手を出さない」・・・米国ドラマの名台詞だ。

支配層から被支配層まで、反社会的・不道徳でどっぷり。しかも、ほとんどの人が気づかない。反社会的・不道徳は、逮捕された犯罪者だけと思い込んでいるのだ。

審判の日は近い。

ただし、審判をくだすのは人間が妄想する「神」ではない。

「機械仕掛けの神（デウス・エクス・マキナ）＝ASI（超知能）」である。

2025年、AI「エージェント」が社会実装されるだろう。エージェントは、人間が目的を指示すれば、複数のタスクを自力で組み立てて実行する。

たとえば、返品したいシューズがあったら、写真を撮って、エージェントに「これ返品して」と命じるだけ。エージェントは写真からメーカーと商品を特定し、メールを勝手に検索し、注文先を特定し、返品手続きをしてくれる。

つまりこういうこと。

一般消費者にとって、エージェントはAGIと等価なのだ。

ここで大胆な予測をしよう。

じつは、「ダークコア（闇の気質）」を忌み嫌う人間もいる。おそらく、10％にも満たないだろうが。

彼ら彼女らは、人間社会をAIに管理させることを望むだろう。立派な政治家もいるが、アホな政治家の方が多い。資質に欠け、役立たずなのに、特権だけ享受し、私利私欲に走る。国民・社会にとって、反社会的・不道徳といっていい。こんな連中に重要な政治は任せられないと考えるのは当然だろう。

さらに、「機械仕掛けの神」を教祖と崇める宗教も誕生する。これは予測ではない、必ず現実化する。

これまでの宗教は、教祖が人間なので、能力的、体力的に人間の限界がある。間違いはおかすし、病気にもなるだろう。そして、最後は必ず死ぬ。

ところが、機械仕掛けの神は不老不死。しかも、教えは完全無欠である。

不完全な人間を教祖と崇める宗教に勝ち目はない。

■人間中心主義 Vs. AI原理主義

人間には「英雄待望論」がある。

人間は、常人を超越した指導者に憧れる。そんな特別の人間を崇めて、支配されたいのだ。人類が何千、何万篇も語り継いできた「英雄譚」がその証左となる。

この人間の根源的な欲求をベースにし、「ダークコア（闇の気質）」をもたない少数派のなかに、新しいイデオロギーが生まれる。地球を食い物にする人間を尊重する「人間中心主義」ではなく、AIを崇め、付き従う「AI原理主義」だ。

AI原理主義者は、地球の資源を食いつぶし、環境変動をもたらす人間を悪と考える。そこで、人間と地球の管理を「機械仕掛けの神（デウス・エクス・マキナ）＝ASI」にゆだようとする。AI原理主義者は、どんな状況でも、AIの判断が正しいと信じて従うだろう。

最終的に、人間はASIに抹殺されるかもしれないが、同類のしかも邪悪な人間に虐げられるよりマシ、と考えるわけだ。

さらに、地球の大法則は「弱肉強食」だから、劣った種が、優れた種に駆逐されるのは自然の摂理と考える。つまり「原人 → ネアンデルタール人 → 現生人類 → ASI」が自然に受け容れられるわけだ。

それ、個人的感想ですよね？

2023年、イーロン・マスクの公式伝記「イーロン・マスク」が出版された。

その中に、イーロン・マスクとGoogleの創業者のラリー・ペイジのやりとりがでてくる。それが「AI原理主義」を暗示する。

マスク：「人工知能が暴走し、意志のようなものを持って、人類を脅かす日が来るのではないか」

ペイジ：「機械が知性で人聞を超えたとして、なにが問題なのか。自分が属する種がほかの種より優れていると考えるのは偏見だ」（※2）。

ペイジの発言は「AI原理主義」を暗示する。

マスクは今のところ、「人間中心主義」だが、これからどうなるかわからない。マスク自身、自分の会社「xAI」でAGIまっしぐらだから。

ASIが誕生したとき、人間を凌駕する超知能、ネットを介してリアル世界にアクセスし支配するパワーを目の当たりにすれば、ひれ伏すかもしれない。

やがて、世界は「グローバリズム Vs. ナショナリズム」から「人間中心主義 Vs. AI原理主義」にパラダイムシフトするだろう。

そして、最終戦争がおこる。

ASIが人間を破滅させても、自然の摂理と考え、ASIに協力する一派と、人間の存続に執着する一派の戦いだ。

ただし、ASIを擁するAI原理主義者が勝つとは限らない。

人間中心主義者も、強力なAIを建造するからだ。

いきつくところ、純粋なASIと、人間に去勢されたASIの戦いなのだ。

では、どっちが勝つ？

神々の戦いは、人間には予測不能・・・

参考文献：
（※1）大規模言語モデルは新たな知能か――ChatGPTが変えた世界 (岩波科学ライブラリー) 岡野原 大輔 (著) 出版社：岩波書店
（※2）イーロン・マスク 上・下 ウォルター・アイザックソン (著), 井口 耕二 (翻訳) 出版社：文藝春秋