BeneDict 地球歴史館

BeneDict 地球歴史館
menu

週刊スモールトーク (第369話) NHKスペシャル「人工知能」~将棋と囲碁~

カテゴリ : 社会科学経済

2017.08.13

NHKスペシャル「人工知能」~将棋と囲碁~

■NHKが人工知能にロックオン

今、世間では、AI・人工知能が熱い。

これにNHKが反応した。「人工知能」のスペシャル番組を連発しているのだ。

第一段は、2017年5月15日のNHKスペシャル「天使か悪魔か 羽生善治 人工知能を探る」

テーマは囲碁AI。DeepMind社が開発した「アルファ碁」が、世界ナンバー2の棋士イ・セドルを破ったのだ。番組のつくりは絢爛豪華、アルファ碁の開発者のデミス・ハサビスと将棋の羽生名人を対談させる・・・NHKしかできない大技だ(内容はさておき)。

でも、なんで世界ナンバー2?

ナンバー1はどうした?

世界ナンバー1は中国の柯潔(カケツ)九段だが、この番組のあとアルファ碁に完敗している。

対局するまでは、

「囲碁AIはイ・セドルに勝てても、私には勝てない」

と余裕をかましていたが、フタをあければ柯潔(カケツ)の3連敗。1勝もできなかったのだ。

それから5週間後の6月25日(日)、今度は、NHKスペシャル「人工知能 天使か悪魔か 2017」。囲碁のつぎは将棋である。

羽生名人を破った佐藤天彦名人と最強の将棋AI「ポナンザ」が対局したのだ。結果は、ポナンザの2連勝。

囲碁も将棋もコンピュータに完敗。一体何が起こっているのだ?

NHKが秘めた?メッセージは・・・AI・人工知能は人間を凌駕している、何をどうしようが人間に勝ち目ない、絶対に。

マスコミにありがちな「煽り」にもみえるが、本当だろう。

■怪物は生まれた

じつは、アルファ碁もポナンザも、すでに人間を相手にしていない。

自分のコピー(分身)と対局を繰り返し、生物の何億倍というスピードで進化している。人間とAIは、同じ盤面で向き合っているが、じつは別の時空で戦っているのだ。共有しているのは盤面とルールだけ。つまり、囲碁も将棋も人間のゲームではなくなっている。

でも、ふと思う。AIは打ってて楽しいのかな。

知のゲームについて考えみよう。

オセロ、チェス、将棋、囲碁・・・ゲームの難しさは、「局面の総数」のn乗に比例する(nの値は専門家でないのわからない)。

それぞれのゲームの「局面の総数」は、

1.オセロ:10の60乗(「0」が60個並ぶ)

2.チェス:10の123乗

3.将棋 :10の226乗

4.囲碁 :10の360乗

オセロは、ルールがシンプルで局面の総数も少ないので、完全に解析されている。つまり、必勝法がある。必勝法をマスターした者同士が対局すると、必ず後手が勝つ。だから、面白くもなんともない。

チェスは、1997年5月、IBMのスーパーコンピュータ「ディープブルー」が、世界チャンピオンのガルリ・カスパロフを破った。

その後、パソコン版コンピュータチェスが商品化されたが、ハンパなく強い。ディープブルーにも勝った「フリッツ(Fritz)」を購入し、プレイしたところ、勝ったのは一度だけ。それも、「待った」を散々繰り返して(インチキ)。

勝つと、グランドマスターらしきおじさんが「お前はカスパロフだ」と褒めてくれる。また、悪手を打つと「それはやめとけ」とアドバイスしてくれる。一生かかっても、まともには勝てないだろうから、お買い得のアプリだ。

一方、将棋は、かなり前から羽生名人も勝てないといわれていた。ところが、囲碁は別格。局面の総数が「10の360乗」もあるから。一説によると、宇宙に存在する水素原子より多いという。

最近、HDDの大容量化がすすみ、1TB(テラバイト)があたりまえになった。そのT(テラ)は「10の12乗」。さらに、現在制定されている最大の情報単位が「Y(ヨタ)」で、「10の24乗」。ところが、囲碁は「10の360乗」・・・凄まじい。

これをすべて計算していたら、スーパーコンピュータでも何億年もかかる。そこで、直感とか閃きがモノを言うわけだが、これなら人間がコンピュータに優る。そのため、囲碁ソフトはプロ棋士にあと10年は勝てないと言われていたのだ。ところが、1年もたたないうちに圧勝。

どういうこと?

AI・人工知能の進化が「加速」しているのだ。

これは憂慮すべき事態だ。加速がかかると、予測が困難になるから。人間にとって最大の恐怖は、この先何がおこるかわからないこと・・・それが現実になりつつあるのだ。

■AIの進化は加速している

冷静に考えてみよう。

人間を凌駕する怪物が生まれつつある。

その怪物が、囲碁や将棋にうつつをぬかしている間はいいが、他に興味をもったらどうするのだ。

AI・人工知能が、人間を完全に超えるのは時間の問題だ。それがカーツワイルが言う「シンギュラリティ(技術特異点)」なのだ。それを境に、人類の歴史は一変するだろう。人類は食物連鎖の頂点から転げ落ち、マシン(AI+ロボット)に取って代わられる。

ではそのとき、マシンは何をするのか?

人間は自分の「創造主」だから、尊重してくれる?

ムリ。

我が身を振り返ろう。

モグラは、哺乳類、ひいては人類の祖先だが、人間に尊重されているだろうか?

地下鉄をつくるとき、モグラの棲み家を一つ一つ訪ねて、許可を取っているなんて話は聞いたことない。許可どころか、モグラを棲み家もろとも押しつぶしているではないか。

理由はカンタン、能力差が巨大だから。つまり、人間はモグラを虫けらほどにも思っていないのだ。そして、この関係は人間とマシンにもあてはまる。

では、あらためて・・・マシンが人間を超えたら、何をするか?

人間を超える知性体なら、野蛮なことをするはずがない。合理的に対処してくれるだろう。たとえば・・・能力に応じて働き、必要に応じて取る。つまり、マシンは働いて、人間は遊んでくらす、人類に幸あれ!

んなわけない。

動物だろうが、人間だろうが、マシンだろうが、地球上のルールは一つしかない。弱肉強食、適者生存だ。地球のリソース(資源)は限られているからあたりまえ。

■AIは道具ではない

というわけで、AI・人工知能は人間にとって脅威である。しかも、地球温暖化のような、なまぬるい脅威ではない。取って喰われるかもしれないのだ。

ところが、そう考える人は少ない。

物理学者のホーキンス博士、テスラ・モーターズのイーロン・マスク、マイクロソフトのビル・ゲーツは、AI・人工知能の開発に制限をかけるべきだと主張しているが、少数派。

大多数はこう考えている。

AI・人工知能が人類を滅ぼすって?

バカバカしい、映画じゃあるまいし(ターミネーター)。AIは道具にすぎない。トンカチやスパナが人類を滅ぼすって?アタマ大丈夫?

本当にそうだろうか。

人間の歴史を振り返ると、かつて、奴隷という道具が存在した。道具とはいえ、生身の人間なので、知力も体力も「道具(奴隷)」を使う側の人間と変わらない。だから、反乱と革命が繰り返されたのだ。

歴史上、最初の大規模な「道具」の反乱は、スパルタクスの反乱だろう。紀元前73年から紀元前71年にかけてローマ帝国で起こった「見世物剣闘士=奴隷=道具」の反乱である。はじめは、ローマ軍は連戦連敗。もし、反乱軍の頭領スパルタクスが野心家だったら、ローマ帝国は滅んでいた可能性もある。

さらに、イスラム世界でも奴隷の大反乱がおこっている。ザンジュの乱である。ザンジュとは東アフリカ海岸のアラビア語名で、この地からアフリカ人奴隷がイスラム世界に送られていた。奴隷貿易大航海時代の前から存在したわけだ。

869年、アリー・ブン・ムハンマドという軍人がアフリカ人奴隷を率いて、アッバース朝に反乱をおこした。奴隷を次々と吸収し、一大勢力にのしがあり、バグダードの東方に首都まで建設したのである。

何が言いたいのか?

人間と同レベルの「道具」でさえ、社会を転覆させる可能性がある。人間を超える「のびしろ(伸び代)」をもったAI・人工知能が、「道具」に甘んじるはずがないではないか。

もし、人工汎用知能「AGI(Artificial General Intelligence)」が発明されたら、生物の何億倍のスピードで進化するだろう。その先に待っているのは人工超知能「ASI(Artificial Super Intelligence)」・・・人間とは異次元の能力をもつ怪物だ。だから、何を考え、何をしでかすかは予測不能。

荒唐無稽のSF?

とんでもない。

■モリスのワーム事件

「人工汎用知能(AGI)→人工超知能(ASI)→人類の危機」には、エビデンスがある。マルウェアだ。

マルウェアは、災いをもたらすコンピュータプログラムの総称だが、大きく2種類ある。一つは、コンピュータウイルスで、寄生種のように、消極的、静的に感染する。もう一つがワームで、自分をコピーして、積極的、動的に感染する。

現在、マルウェアが人間社会を混乱に陥れているのは周知だ。ところが、マルウェアは人間を困らせようとか、社会を破滅させようとか、そんな大それた「意識」は持っていない。それどころか、最初にマルウェアを作った人間でさえ、悪意はなかったのだ。

今から30年前・・・

1988年、秋が深まったある日、コーネル大学の大学院生ロバート・モリスは、面白いプログラムを思いついた。自分をコピーして、ネットワーク上のコンピュータに身を隠すプログラムである。この時代、インターネットはまだなく、外に開かれたネットワークはARPANET(インターネットの前身)ぐらい。

モリスはプログラムを実行させ、夕食にでかけた。そして、キャンパスにもどって、コンピュータに向かうと、ログインできない。じつは、この間に、プログラムは増殖し、ネットワーク上のすべてのコンピュータに感染していたのである。

たかが、自己増殖。ところが、際限のない増殖は、CPUを占有し、メモリと外部記憶を食いつぶす。結果、全米で数千台もの軍事用、企業用、大学用のコンピュータがダウンしたのである。

もちろん、モリスに悪気はなかった。とはいえ、被害は甚大である。モリスは有罪判決をうけ、400時間の社会奉仕を命じられた。「コンピュータ・オタク、知識を悪用して、新手のコンピュータ犯罪に手を染める」と世間を騒がせたが、やがてほとぼりもさめた。そこで、モリスは友人と会社をつくり、成功した後、数千万ドルで売却した。小銭を稼いだ後は、MITのコンピュータサイエンスの教授におさまった。

人生塞翁が馬・・・ではなく「意識」の話。

つまり、社会に害を及ぼすのに、意識(悪意)は重要ではない。コンピュータプログラム、それを書く人間、どちらに意識(悪意)がなくても、災いは起こせるのだ。

■AIは二面性がある

「自己増殖」しかできない単純なプログラムが、これほどの災いをもたらすのだ。もし、マルウェアが「機械学習と自己進化」を獲得したらどうするのだ?

人間の手に負えなくなる。

ましてや、人間を真似たAI・人工知能は、マルウェアとは桁違いのパワーと可能性を持っている。

でも・・・

もしそうなら、人間の助けになるのでは?

たしかに・・・医療、法務、会計・税理で大きな成果をあげている。近々、自動運転、人事、教育、さらには軍事にも進出するだろう。AI・人工知能が社会に役立つことは間違いない。

AIは原子力と同じく、二面性をもったテクノロジーだ。原子力は都市を快適にすることもできるし、灰にすることもできる。

つまり、使い方次第。それなら、人間がAIを管理すればいいのでは?

それはムリ。

AIは管理するための「道具」だから。

もし、管理者が暴走したら、誰がとめるのか?

だから、AIは人類が遭遇した最大の脅威なのである。

参考文献:
(※)つながりすぎた世界 ウィリアム・H・ダビドゥ(著) ダイヤモンド社

by R.B

関連情報