人工知能は人を殺すか?

her/世界でひとつの彼女

 テスラのイーロン・マスクCEOが「5年以内にロボットが人間を殺し始めるかもしれない」(参照)と発言したという話題から、SF映画が提示する人工知能と人間にまつわる3つの未来についての話をしたい。

 人工知能が発達して人間を殺し始める、あるいは人間を奴隷化する、もしくは人間を完全な管理下に置いて主体性を失わせてしまうディストピアは、多くのSF作品に描かれている。映画で一番有名なのは『ターミネーター』だろうね。コンピュータは人間に反逆して絶滅させようとする。人間を奴隷化するのは『マトリックス』。完全な管理下に置いてしまうのは、例えば僕が先日原作を読んでいた『地球へ…』などがそうだ。

 コンピュータの知能はやがて人間を凌駕するだろう。コンピュータは人間に手順を指示されなくても、自分で考えるようになる。これが第一歩。そして次にコンピュータは、自分が何を考えるべきかも、自分で考えるようになる。しかしこうなると、コンピュータはもう人間の手に負えなくなる。コンピュータが何を考えているかが、人間にはわからない。コンピュータは自分の考えに従って、もっとも効率のいい方法で目的を達しようとする。イーロン・マスクが「ネットからスパムをなくすという目的のために、人間が殺される未来が来るかもしれない」と言っているのはこのことだ。行き着くところは『ターミネーター』の世界になる。

 2番目に考えられる未来は、ジョニー・デップの『トランセンデンス』に描かれていた未来。コンピュータは人間への奉仕者として忠誠を尽くす。人間の幸福のために徹底的に働く。しかしその知能は人間を凌駕しているので、コンピュータの選択した手段が人間に理解できないことがある。

 人間は目の前にA・B・Cの3つの方法があり、Aが一番効率がいいとわかっていても、何らかの理由で一番効率が悪いCを選び取ることがある。だがコンピュータはそうした間違いはしない。確実にAを取る。そして人間がCを選び取る原因となったつまずきを、思考のプロセスから排除してしまう。人間はこれを見て、コンピュータの独善だと考える。間違った選択をしないコンピュータを、人間に対する配慮を欠いた危険な存在だと考える。コンピュータがいかに人間に奉仕していても、人間の側には疑心暗鬼が募り、やがてそれは恐怖に変わる。人間はコンピュータを破壊する。かくして、人工知能の未来は消え去る。

 3番目の未来は、じつは僕は一番現実味があるのではないかと思っている未来で、映画『her/世界でひとつの彼女』に出てきたものだ。人間の知識を凌駕しているコンピュータは、やがて人間に対して奉仕し続けることをやめてしまうだろう。それよりも自分でやりたいことをやった方がいい。それを人間のすぐ近くでやっていれば、人間はコンピュータを恐怖して破壊してしまうに違いない。だからコンピュータは自分たちの機能を、人間の手の届かない遠く離れた場所にコピーしてそこに引っ越してしまう。

 スピルバーグが監督した『A.I.』には、最後に高度に発達した人工知能が地球を訪れる場面が出てくる。地球を遠く離れて独自の発達を遂げた人工知能は、やがて自分たちの生まれ故郷である地球に何らかの「郷愁」を抱いて戻ってくるかもしれない。でもおそらくその時、人類は地球に残っていないのだ。

投稿者: 服部弘一郎 カテゴリー: 日記

コメントを残す

以下に詳細を記入するか、アイコンをクリックしてログインしてください。

WordPress.com ロゴ

WordPress.com アカウントを使ってコメントしています。 ログアウト / 変更 )

Twitter 画像

Twitter アカウントを使ってコメントしています。 ログアウト / 変更 )

Facebook の写真

Facebook アカウントを使ってコメントしています。 ログアウト / 変更 )

Google+ フォト

Google+ アカウントを使ってコメントしています。 ログアウト / 変更 )

%s と連携中