AIは「人類の最終兵器」・・・イーロン・マスクはそう信じている。

高度なAIが戦略・戦術を立てれば、人間は気づくことも、理解することもできない。プロ棋士が囲碁AI「AlphaGo」の手を理解できないように。

しかも、AIは世界中のモノとつながっている（「IoT」という）。ドローン、自律運転車、原子力発電所、核ミサイル・・・こんな危険なモノを、地球全域で瞬時に使えるわけだ。つまり、人類の全破壊にリーチがかかっている。

画像認識、音声認識、自動運転・・・で騒いでいるうちはカワイイものだ。しょせんは「パターン認識」だから。

だが、AIがグランドデザインが描けるようになったら、政治・外交・軍事はもちろん、戦術・兵器もAI化されるだろう。

「AI戦争」に消耗戦はない。ほんのわずか、0.00001％でも優るAIが、一瞬で勝利する。人間は、戦争が始まったことも終わったことも気がつかないだろう。主導するのは、人間ではなくAIだから。

ただし、この時点ではAIは人間の道具にすぎない。本当に恐ろしいのはその後だ。

現在のAIは専門バカ「弱いAI」だが、やがて汎用知能「強いAI」に進化する。そこから、「AIの自律進化」がはじまる。自分自身をコピーし、強化学習とシミュレーションで凄まじいスピードで進化し続ける。結果、「人工超知能」が生まれるだろう。それは、人間の知能とは似て非なるものだ。発想も思考方法も概念も意識も人間のモノとは異質。最新の囲碁AI「AlphaGoZero」がそれを暗示する。

ところが、多くのAI専門家はこう言う。

「AIが意識をもつことはない。ターミネータのスカイネットじゃあるいまいし。SFネタだよ」

では、マルウェアは一体何なのだ？

AIにはほど遠い、ちっぽけなプログラムが、どれほど人間社会を害しているか。

ところが、専門家はこれにも反論する。

マルウェアは意識をもっているわけではない。ただ処理をしているだけ・・・これも根本が間違っている。コンピュータの「意識」は、人間の「意識」と同じとは限らない。「意識」とは目的をもって行動すること、「自律」に他ならないのだ。だから、自分を複製する、データを改ざんする・・・も立派な「意識」だろう。

冷静に考えてみよう。

真の脅威は、人間型の「賢さ」ではない。機械式の「賢さ」、つまり、「処理能力」と「つながり」なのだ。

14世紀のペスト流行は、世界の人口の1/4の命を奪った。人と人とが道でつながっていたから。ところが、現在のインターネット・IoTの「つながり密度」は14世紀の比ではない。

そして、肝心なのは・・・ペストに「人間を痛い目にあわせてやろう」という「悪意」がなかったこと。ペストが生存確率を高めようとしたことが、人間には「悪意」に映ったのである。つまり、意識とは「見え方」にすぎない。

いつか、マルウェアは完全にAI化されるだろう。それが、「人工超知能」の域に達したら・・・スカイネットが現実になる。

知人の商社マンがコワイ話をしていた。

「○○って子が、AIで世界征服をもくろんでいる」

じつは、○○は女子高生・・・ただし、知能の偏差値は上位2％。笑えそうで、笑えない。ロシアも中国も米国も、IT企業も同じことをもくろんでいるから。

「AIのリスクに悲観的になることはない」（フェースブックのザッカーバーグ）なんて、のんきなことを言っている場合ではないのだ。