■NHKが人工知能にロックオン

今、世間では、AI・人工知能が熱い。

これにNHKが反応した。「人工知能」のスペシャル番組を連発しているのだ。

第一段は、2017年5月15日のNHKスペシャル「天使か悪魔か、羽生善治、人工知能を探る」

テーマは囲碁AI。DeepMind社が開発した「アルファ碁」が、世界ナンバー2の棋士イ・セドルを破ったのだ。番組のつくりは絢爛豪華、アルファ碁の開発者のデミス・ハサビスと将棋の羽生名人を対談させる・・・NHKしかできない大技だ（内容はさておき）。

でも、なんで世界ナンバー2？

ナンバー1はどうした？

世界ナンバー1は中国の柯潔（カケツ）九段だが、この番組のあとアルファ碁に完敗している。

対局するまでは、

「囲碁AIはイ・セドルに勝てても、私には勝てない」

と余裕をかましていたが、フタをあければ柯潔（カケツ）の3連敗。1勝もできなかったのだ。

それから5週間後の6月25日(日)、今度は、NHKスペシャル「人工知能、天使か悪魔か、2017」。囲碁のつぎは将棋である。

羽生名人を破った佐藤天彦名人と最強の将棋AI「ポナンザ」が対局したのだ。結果は、ポナンザの2連勝。

囲碁も将棋もコンピュータに完敗。一体何が起こっているのだ？

NHKが秘めた？メッセージは・・・AI・人工知能は人間を凌駕している、何をどうしようが人間に勝ち目ない、絶対に。

マスコミにありがちな「煽り」にもみえるが、本当だろう。

■怪物は生まれた

じつは、アルファ碁もポナンザも、すでに人間を相手にしていない。

自分のコピー（分身）と対局を繰り返し、生物の何億倍というスピードで進化している。人間とAIは、同じ盤面で向き合っているが、じつは別の時空で戦っているのだ。共有しているのは盤面とルールだけ。つまり、囲碁も将棋も人間のゲームではなくなっている。

でも、ふと思う。AIは打ってて楽しいのかな。

知のゲームについて考えみよう。

オセロ、チェス、将棋、囲碁・・・ゲームの難しさは、「局面の総数」のn乗に比例する（nの値は専門家でないのわからない）。

それぞれのゲームの「局面の総数」は、

1．オセロ：10の60乗（「0」が60個並ぶ）

2．チェス：10の123乗

3．将棋：10の226乗

4．囲碁：10の360乗

オセロは、ルールがシンプルで局面の総数も少ないので、完全に解析されている。つまり、必勝法がある。必勝法をマスターした者同士が対局すると、必ず後手が勝つ。だから、面白くもなんともない。

チェスは、1997年5月、IBMのスーパーコンピュータ「ディープブルー」が、世界チャンピオンのガルリ・カスパロフを破った。

その後、パソコン版コンピュータチェスが商品化されたが、ハンパなく強い。ディープブルーにも勝った「フリッツ（Fritz）」を購入し、プレイしたところ、勝ったのは一度だけ。それも、「待った」を散々繰り返して（インチキ）。

勝つと、グランドマスターらしきおじさんが「お前はカスパロフだ」と褒めてくれる。また、悪手を打つと「それはやめとけ」とアドバイスしてくれる。一生かかっても、まともには勝てないだろうから、お買い得のアプリだ。

一方、将棋は、かなり前から羽生名人も勝てないといわれていた。ところが、囲碁は別格。局面の総数が「10の360乗」もあるから。一説によると、宇宙に存在する水素原子より多いという。

最近、HDDの大容量化がすすみ、1TB（テラバイト）があたりまえになった。そのT（テラ）は「10の12乗」。さらに、現在制定されている最大の情報単位が「Y（ヨタ）」で、「10の24乗」。ところが、囲碁は「10の360乗」・・・凄まじい。

これをすべて計算していたら、スーパーコンピュータでも何億年もかかる。そこで、直感とか閃きがモノを言うわけだが、これなら人間がコンピュータに優る。そのため、囲碁ソフトはプロ棋士にあと10年は勝てないと言われていたのだ。ところが、1年もたたないうちに圧勝。

どういうこと？

AI・人工知能の進化が「加速」しているのだ。

これは憂慮すべき事態だ。加速がかかると、予測が困難になるから。人間にとって最大の恐怖は、この先何がおこるかわからないこと・・・それが現実になりつつあるのだ。

■AIの進化は加速している

冷静に考えてみよう。

人間を凌駕する怪物が生まれつつある。

その怪物が、囲碁や将棋にうつつをぬかしている間はいいが、他に興味をもったらどうするのだ。

AI・人工知能が、人間を完全に超えるのは時間の問題だ。それがカーツワイルが言う「シンギュラリティ（技術特異点）」なのだ。それを境に、人類の歴史は一変するだろう。人類は食物連鎖の頂点から転げ落ち、マシン（AI+ロボット）に取って代わられる。

ではそのとき、マシンは何をするのか？

人間は自分の「創造主」だから、尊重してくれる？

ムリ。

我が身を振り返ろう。

モグラは、哺乳類、ひいては人類の祖先だが、人間に尊重されているだろうか？

地下鉄をつくるとき、モグラの棲み家を一つ一つ訪ねて、許可を取っているなんて話は聞いたことない。許可どころか、モグラを棲み家もろとも押しつぶしているではないか。

理由はカンタン、能力差が巨大だから。つまり、人間はモグラを虫けらほどにも思っていないのだ。そして、この関係は人間とマシンにもあてはまる。

では、あらためて・・・マシンが人間を超えたら、何をするか？

人間を超える知性体なら、野蛮なことをするはずがない。合理的に対処してくれるだろう。たとえば・・・能力に応じて働き、必要に応じて取る。つまり、マシンは働いて、人間は遊んでくらす、人類に幸あれ！

んなわけない。

動物だろうが、人間だろうが、マシンだろうが、地球上のルールは一つしかない。弱肉強食、適者生存だ。地球のリソース（資源）は限られているからあたりまえ。

■AIは道具ではない

というわけで、AI・人工知能は人間にとって脅威である。しかも、地球温暖化のような、なまぬるい脅威ではない。取って喰われるかもしれないのだ。

ところが、そう考える人は少ない。

物理学者のホーキンス博士、テスラ・モーターズのイーロン・マスク、マイクロソフトのビル・ゲーツは、AI・人工知能の開発に制限をかけるべきだと主張しているが、少数派。

大多数はこう考えている。

AI・人工知能が人類を滅ぼすって？

バカバカしい、映画じゃあるまいし（ターミネーター）。AIは道具にすぎない。トンカチやスパナが人類を滅ぼすって？アタマ大丈夫？

本当にそうだろうか。

人間の歴史を振り返ると、かつて、奴隷という道具が存在した。道具とはいえ、生身の人間なので、知力も体力も「道具（奴隷）」を使う側の人間と変わらない。だから、反乱と革命が繰り返されたのだ。

歴史上、最初の大規模な「道具」の反乱は、スパルタクスの反乱だろう。紀元前73年から紀元前71年にかけてローマ帝国で起こった「見世物剣闘士＝奴隷＝道具」の反乱である。はじめは、ローマ軍は連戦連敗。もし、反乱軍の頭領スパルタクスが野心家だったら、ローマ帝国は滅んでいた可能性もある。

さらに、イスラム世界でも奴隷の大反乱がおこっている。ザンジュの乱である。ザンジュとは東アフリカ海岸のアラビア語名で、この地からアフリカ人奴隷がイスラム世界に送られていた。奴隷貿易は大航海時代の前から存在したわけだ。

869年、アリー・ブン・ムハンマドという軍人がアフリカ人奴隷を率いて、アッバース朝に反乱をおこした。奴隷を次々と吸収し、一大勢力にのしがあり、バグダードの東方に首都まで建設したのである。

何が言いたいのか？

人間と同レベルの「道具」でさえ、社会を転覆させる可能性がある。人間を超える「のびしろ（伸び代）」をもったAI・人工知能が、「道具」に甘んじるはずがないではないか。

もし、人工汎用知能「AGI（Artificial　General　Intelligence）」が発明されたら、生物の何億倍のスピードで進化するだろう。その先に待っているのは人工超知能「ASI（Artificial　Super　Intelligence）」・・・人間とは異次元の能力をもつ怪物だ。だから、何を考え、何をしでかすかは予測不能。

荒唐無稽のSF？

とんでもない。

■モリスのワーム事件

「人工汎用知能（AGI）→人工超知能（ASI）→人類の危機」には、エビデンスがある。マルウェアだ。

マルウェアは、災いをもたらすコンピュータプログラムの総称だが、大きく2種類ある。一つは、コンピュータウイルスで、寄生種のように、消極的、静的に感染する。もう一つがワームで、自分をコピーして、積極的、動的に感染する。

現在、マルウェアが人間社会を混乱に陥れているのは周知だ。ところが、マルウェアは人間を困らせようとか、社会を破滅させようとか、そんな大それた「意識」は持っていない。それどころか、最初にマルウェアを作った人間でさえ、悪意はなかったのだ。

今から30年前・・・

1988年、秋が深まったある日、コーネル大学の大学院生ロバート・モリスは、面白いプログラムを思いついた。自分をコピーして、ネットワーク上のコンピュータに身を隠すプログラムである。この時代、インターネットはまだなく、外に開かれたネットワークはARPANET（インターネットの前身）ぐらい。

モリスはプログラムを実行させ、夕食にでかけた。そして、キャンパスにもどって、コンピュータに向かうと、ログインできない。じつは、この間に、プログラムは増殖し、ネットワーク上のすべてのコンピュータに感染していたのである。

たかが、自己増殖。ところが、際限のない増殖は、CPUを占有し、メモリと外部記憶を食いつぶす。結果、全米で数千台もの軍事用、企業用、大学用のコンピュータがダウンしたのである。

もちろん、モリスに悪気はなかった。とはいえ、被害は甚大である。モリスは有罪判決をうけ、400時間の社会奉仕を命じられた。「コンピュータ・オタク、知識を悪用して、新手のコンピュータ犯罪に手を染める」と世間を騒がせたが、やがてほとぼりもさめた。そこで、モリスは友人と会社をつくり、成功した後、数千万ドルで売却した。小銭を稼いだ後は、MITのコンピュータサイエンスの教授におさまった。

人生塞翁が馬・・・ではなく「意識」の話。

つまり、社会に害を及ぼすのに、意識（悪意）は重要ではない。コンピュータプログラム、それを書く人間、どちらに意識（悪意）がなくても、災いは起こせるのだ。

■AIは二面性がある

「自己増殖」しかできない単純なプログラムが、これほどの災いをもたらすのだ。もし、マルウェアが「機械学習と自己進化」を獲得したらどうするのだ？

人間の手に負えなくなる。

ましてや、人間を真似たAI・人工知能は、マルウェアとは桁違いのパワーと可能性を持っている。

でも・・・

もしそうなら、人間の助けになるのでは？

たしかに・・・医療、法務、会計・税理で大きな成果をあげている。近々、自動運転、人事、教育、さらには軍事にも進出するだろう。AI・人工知能が社会に役立つことは間違いない。

AIは原子力と同じく、二面性をもったテクノロジーだ。原子力は都市を快適にすることもできるし、灰にすることもできる。

つまり、使い方次第。それなら、人間がAIを管理すればいいのでは？

それはムリ。

AIは管理するための「道具」だから。

もし、管理者が暴走したら、誰がとめるのか？

だから、AIは人類が遭遇した最大の脅威なのである。

参考文献：
（※）つながりすぎた世界、ウィリアム・H・ダビドゥ（著）ダイヤモンド社