シンギュラリティーより怖いもの

AI(人工知能)が発達すると、いつかAI自身がAIを開発し進歩させるようになる。するとAIの進歩は飛躍的に加速し、ついには人間の知能を超え人間が太刀打ちできなくなる日、つまりシンギュラリティーが訪れると警告する専門家がいる。

SFやマンガでは、高度なAIを搭載して意思や感情を持つようになった人間そっくりなロボットが登場するが、今でもすでにAIは人間の問いかけに応えたり相槌を打ったりする。将来、AIが発達すれば本当に人間と話しているのと変わらないレベルで受け答えができるようになるだろう。人間同士の会話よりAIとの会話の方が話がはずむ日が来るのも遠くはないかもしれない。

とはいえ、AIは決して人間の言葉を理解して会話をしているわけではない。人間の言葉の中のキーワードを選択し、そうした言葉が出る場合にはどのような答を相手が望んでいるかを推論して答えているだけなのである。つまり、AIが「意思」を持っているわけではなく、あたかも意思を持っているかのごとく会話してくれるだけなのだ。実はAIは意味を理解することが非常に苦手なのである。

人間には簡単でもAIが苦手とすることは他にもいくらでもある。ディープラーニングの登場で画像認識能力が飛躍的に進歩したと言われているが、まだとても人間にかなうレベルではない。人間の感覚や感情などを理解することは、事実上AIにはまだ無理なのだ。

そもそもAIのベースとなっているニューラルネットワークは脳の神経細胞の働きを簡略化し、脳の働きの一部をコンピューターで計算できるようにモデル化したものに過ぎない。実際の人間の脳の仕組みははるかに複雑で、われわれ自身、そのほんの一部を理解しているに過ぎない。それを完璧にモデル化し人間と同じような「意思」を再現することなどとても不可能だ。従って今のAIの性能がいくら向上したところで人間の脳に近づくことはない。

とはいえ、目的によってはAIの能力は人間よりはるかに優れている。近い将来、車の運転を始め人間のやっている多くのことをAIが代行してくれるようになるだろう。問題は現代のような競争社会を勝ち抜くためにAIは強力な武器になるということだ。金融、マーケティング、軍事など、あらゆる分野でいかに優れたAIを開発するかが勝負の決め手になるだろう。その際、ヒトラーのような人物が最強のAIを手にするようなことも十分あり得るのだ。

AIが出す答を人間が理解できないのも問題である。AIは経験から学習していくので、その答に人間が考えるような理由はないのだ。だが、AIが間違える場合もある。AIに任せておいて気がついたら世界が取り返しのつかない事態に陥っていたということも十分起こり得る。

AIが人間の知能を超えるという意味でのシンギュラリティーは簡単には起きそうもない。だが、AIの性能向上が進めば、人間の欲望はそれを利用して極端な力の格差を生み出しかねない。はたしてそれにどう備えていくのか。われわれはすでにそうしたAI社会に一歩踏み出しているのである。

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です