■AIの説明責任

「AI（人工知能）の説明責任」が問われている。

AIがどうやってそんな結論を出したか説明せよ、というのだ。

先導するのは、ユーザーではなく、AIを熟知しているメーカーや識者。これには、ビックリだ。

だってそうではないか。

アインシュタインに、相対性理論をどうやって導き出したか、わかるように説明しろ、と迫るようなもの。アインシュタインはこう答えるに違いない。

「あんたの知ったこっちゃない（It’s　none　of　your　business!）」

あんな温厚な顔して、そんなキツいこと言う？

「偉人の名言集」によると、アインシュタインはこんな言葉を残している。

「無限なものは2つある。宇宙と人間の愚かさだ（Two　things　are　infinite:the　universe　and　human　stupidity.）」

じつは、相対性理論が正しいことはわかっている。実証データがいくつも見つかっているから。正しいとわかっていて、なんで説明しなければならないのか？

「論より証拠」では？

そもそも、説明されてもわからんでしょう。

じつは、AIもそうなのだ。

現在主流の「特化型AI」は、人間脳を真似たニューラルネットワーク。何層ものネットワーク層を介して、段階的に学習・思考する。ところが、どういう仕組みで学習・思考するのか説明できない。

でも、オリジナル（人間脳）を考えればあたりまえ。

人間脳は巨大な神経細胞ネットワークだ。約2000億個の神経細胞が数百兆個のシナプスを介してつながっている。人間の偉大な発明・発見・創造も、神経細胞の「信号のやり取り」にすぎない。つまり、「AIの説明責任」とは、人間脳でたとえるなら・・・数式を見てもサッパリの相対性理論を「信号伝達の具合」で説明せよ。

絶対ムリ。

たとえ、千歩譲って説明できたとしても、聞いてる方はサッパリ、何の意味もない。ただし、例外もあるようだ。量子力学を行列で体系化し、31歳でノーベル物理学賞を受賞したヴェルナー・ハイゼンベルクだ。

ハイゼンベルクは「部分と全体―私の生涯の偉大な出会いと対話」という長ったらしいタイトルの自叙伝を残している。その中のドイツ人学生の雑談が面白い。ハイゼンベルクの友人のオットーがこんな恐ろしいこと言っている。

「相対性理論は非常に簡単だから、われわれはそれを本当に理解できる。しかし、原子の理論はまだ混沌としているようにみえる」(※1)

やはり、「V2ロケット」を開発した国は違う。日本が、ゼロ戦の燃費と旋回性能を誇っているときに、V2ロケットは成層圏を突き抜けて熱圏に到達していたのだ。自分の大学時代とくらべると、意識も頭の造りも違う。同じ生物種とは思えない。ドイツ人恐るべし！

それ、民族の違いではなく、個体差では？

・・・・

それはさておき、このような不毛の解析を、リバースエンジニアリングとよんでいる。

■ブラックボックスを解明する愚かさ

リバースエンジニアリングの原点は、17世紀の「還元主義」にさかのぼる。複雑なモノコトも、部分に分解し、部分さえ理解すれば、全体も理解できる、という考え方。たとえば、機械時計は、ゼンマイ、調速装置、脱進機など部品の動きがわかれば、全体の動き（時を刻む）もわかる。

たしかに。

でも、脳はムリ。2000億個のノードが、数百兆のリンクを介して、信号をやりとりする・・・その積み上げで、相対性理論を説明する！？！

このように、部分の和で、全体を説明するのが困難な世界を「複雑系」とよんでいる。

つまりこういうこと。

神経細胞ネットワークもニューラルネットワークもブラックボックスで、中身はわからない。ただし、わかっていることもある。何を入力すれば、何が出力されるか。つまり、「入出力関係」が唯一のエビデンスなのだ。であれば、不毛の説明責任（妄想）より、入出力データにフォーカスし方がいいのでは？

ただし、AIに説明責任はない、と言っているわけではない。

得体の知れないマシン（AI）に、命をあずけるのは不安だろうから。

それを象徴するような事件があった。

2018年10月から半年の間で、ボーイングの新型旅客機「737MAX8」が2度も墜落したのだ。原因はコンピュータにあるという。自動制御システム「MCAS」が、強制的に機首を下げ、そのまま墜落したというのだ。パイロットが必死に機首を持ち上げようとしたが、かなわなかったという。怖ろしい話だ。

やっぱり、コンピュータ（自動制御）は信用できない？

そうではない。人間がミスをするから自動制御が必要なのだ。酔っ払って操縦するパイロットもいるのだから。というわけで、当面は、人間とコンピュータの協業でミスを防ぐしかない。

あと10年もすれば、旅客機は完全にAI化され、パイロットは不要になるだろう。旅客機だけではない。航空機はすべてドローンになるのだ。

飛行機も自動車も船も潜水艦も、すべてAIが操縦するようになる。AIの進化は際限なく続くのだ。

■自律進化のカラクリ

ここで、AIの未来を予測しよう。

まず、どこかで誰かが「自律進化型AI」を書く。自分で自分を改造し、進化し続けるAIだ。ただし、前より良くなればいい、というわけではない。構造が「再帰的」であること。それがないと「継続的」進化は望めないから。

再帰的？

アルゴリズムが自分自身を呼び出し、それが延々と続くこと。アルゴリズム（処理手順）が「入れ子」になっていると考えるとわかりやすい。

ゼンゼンわからん。もっと詳しく！

「自律進化型AI」で考えてみよう。

「自律進化型AI」は進化するアルゴリズムで、入力と出力がある。「自律進化型AI」に現在の「自律進化型AI」を入力すると、新しい「自律進化型AI」が出力される。出力された「自律進化型AI」は、入力された「自律進化型AI」より、わずかに進化している。つぎに、出力された「自律進化型AI」を再び入力すると、さらに進化した「自律進化型AI」が出力される。この出力をさらに入力して・・・これを延々と繰り返すわけだ。

自分自身を呼び出しているから、処理そのものが「入れ子」になっている。プログラマーなら「リカーシブ」というとピンとくるだろう。だから、一度、自律進化型AIを作れば、あとは勝手に進化していく。1回で進化するのが「０.001％」でも、100万回繰り返えせば「2万倍」。100万回というと、気が遠くなるが、コンピュータなら一瞬だ。地球の生物進化と比べれば、「進化の爆発」といっていいだろう。

ところが、肝心の元祖「自律進化型AI」が、まだできていない。真の「自律進化」を実現するには、データではなくアルゴリズムを変える必要がある。つまり、自分自身を書き換えるプログラムだ。これは、とてつもなく難しい。一つ間違えても、フリーズ（暴走）するから。それに、「自分自身を書き換える」プログラムの開発環境がない。読みにくさでは天下一品のLispぐらい？道具がないのだから、あたり前田のクラッカー。

そこで、開発環境そのものを作った人がいる。米国のトマス・S・レイだ。彼の人工生命「ティエラ」は、プログラムそのものが進化する。ただし、ダーウィン式「生物進化」を模したもので、高度なアルゴリズムは生まれない（事実、成功しなかった）。

あと、ヒューゴ・デ・ガリスの「ダーウィン・マシン」というのもある。その名のとおり、自律進化するAIだが、ニューラルネットワークと遺伝的アルゴリズムを組み合わせたもの（らしい）。コトバのいいとこ取りで、安直すぎて、うまくいく気がしない。

■世界をモデル化するAI

私見だが、「自律進化」はアルゴリズムのブレイクスルーが欠かせない。とはいえ、アルゴリズムとは問題を解くための手順で、上から下へ記述する。つまり、コンピュータ・プログラムの発想から抜けていない。思考の次元は一次元、マルチスレッドを考慮しても、せいぜい二次元だろう。

だから、真の「自律進化」には三次元的発想が欠かせない。つまり、一次元、二次元的な「アルゴリズム」ではなく、三次元的な「アーキテクチャ」。つまり、「手順」ではなく、全く新しい「構造」を生み出す必要がある。

では、どんな構造？

それがわかれば、苦労はない。今ごろは、お金持ちになって、憧れの「球体飛行船」を作ってますよ。とはいえ、必要条件なら見当がつく。

「世界をモデル化する能力」

これがないと、発明・発見はおぼつかないから。

たとえば・・・

リンゴは大地に落ちるが、人工衛星は地上に落ちない。太陽系の惑星は、すべて太陽を中心に回っている。大砲を撃つと大きな反動がある。これらは別々のモノコトにみえるが、すべて共通の原理に従っている。それを数式で表したのがニュートン力学なのだ。つまり、具体的なモノコトを抽象化し、秘密の原理をあぶり出すこと。これが「モデル化」なのだ。この能力がないと、画期的な発明・発見はムリ。ましてや、自律進化など望むべくもない。

このような「モデル化する能力」をもつAIを「強いAI」とよんでいる。より具体的に「認知アーキテクチャ」とよぶ人もいる。じつは、これが真のAI（人工知能）の第一歩なのだ。

真のAI？

最近、やっと、日本でも認知されるようになった人工汎用知能「AGI（Artificial　General　Intelligence）」だ。

人工汎用知能とは、その名のとおり、なんでもできる汎用型。現在主流の一つのことしかできない特化型とは一線を画す。政治、経済、軍事、科学、技術、あらゆる分野で人間に取って代わる可能性がある。AIは人類最後の発明、といわれるゆえんだ。

というわけで、世界中で、国、企業をとわず、様々な組織が「認知アーキテクチャ」に取り組んでいる。

なぜか？

認知アーキテクチャには、先行者利益があるから。つまり、一番乗りが一人勝ちする。しかも、政治、経済、軍事、科学技術、あらゆる分野で。中国の習近平、ロシアのプーチンがAIに執着する理由はココにある。

《つづく》

参考文献：
（※1）「部分と全体―私の生涯の偉大な出会いと対話」W.K.ハイゼンベルク(著)山崎和夫(翻訳)出版社:みすず書房
（※2）人工知能人類最悪にして最後の発明ジェイムズ・バラット(著)、水谷淳(翻訳)