DSC_1311 
ジェイムズ ・バラット著 人工知能 人類最悪にして最後の発明を読んだ

この本は人工知能が進化していくことで引き起こされるかもしれない人類の破滅を警鐘している本。人工知能の進歩が進み、自ら進化していく人工汎用知能が完成した瞬間、人間を超越する超知能に自ら進化し、人間を滅ぼすのではないかという懸念を論じている。 

人工知能は直接の意図をもって、人間を滅ぼそうとするのではなく、AI自身の究極の目標に向かう手段として、結果的に人間のあらゆる資源を使ってしまい人を滅ぼすとするというもの。人間の細胞分子自体が、物質を変換するナノマシンの材料にされてしまうというシナリオが書かれている。

「ターミネータ」のようなフィクションSF的で荒唐無稽な話ではなく、多くの端緒的な事例、著者の考え方と同じ懸念(脅迫観念に近いを)持つ有識者とのインタビューなどの膨大な取材に基づき、綿密に検討された著者の懸念は冷静に理解できる。「シンギュラリティー」のカーツワイルなど、著者の考える懸念はなくむしろ人類が進化するチャンスと捉える人々の見解も見ることが出きる。

上記カーツワイルの他、マービン・ミンスキー、ドナルド・ヘッブ、フランク・ローゼンブラット、ピーター・ノービグなど、AI、ニューラルネットワーク(ボルツマンマシン)に関する人々の名前が出ていて、最近のAIの基本知識をある程度持っている方なら興味深く読むことが出来るだろう。

個人的には、著者が懸念しているような状況が、あと10年~20年で来るとはとても思えない。しかし、近年、機械学習(machine learning)と呼ばれる分野や、ロボット工学、インターネットなどの、要素となる技術の発展が著しい。複雑系が統計力学的に作用した結果、あたかも人間を滅ぼそうとする意図を持っているかのように人間やインフラにダメージを与えるという姿も、イメージが持てる。また、原発の事故のように、システムの僅かなほころびが重大な事故につながるということも、確かに理解できる。

破滅の事態を防ぐ手段としては、私は著者が考える理論の構築ではなく、環境やAI自身の多様性が鍵になると考える。結局、イランの核施設を破壊したウイルスが攻撃者の意図とは裏腹に逃げ出してしまったのは、LANとインターネット両方で使われるプロトコルが同じだったからだ。また、例えばナノマシンによる攻撃には、それから守るナノマシンを開発しておくことで、事態を緩和することが出来るだろう。結局はシステムには、システム自身が予測できないほどの複雑系で対抗するしかないと考える。

天気予報の世界を見ていれば分かるように、どれほど精緻な理論が出来ても、将来を完璧に予測し対処して振る舞うことは機械であっても不可能なのだ。なので、著者が述べている、理論の構築は直接的な防衛には役に立たないだろう。



以下の本も、参考までに。