人工知能搭載ロボットが「人類を滅亡する」と発言。地球の未来がやばい!?

Baidu IME_2016-3-26_22-51-10

先日CNBCで放送された、感情を表現するロボット「ソフィア」との対談で恐ろしいことが起きました。

「ソフィア」は表情を作ることが可能で会話をしながら表情を変えていきます。しかし、完璧じゃないのでどこか不気味に見えます。

なぜ不気味に感じるかというと「不気味の谷」という現象が関わっています。

ロボット工学者の森政弘・東京工業大学名誉教授が1970年に提唱した。森は、人間のロボットに対する感情的反応について、ロボットがその外観や動作において、より人間らしく作られるようになるにつれ、より好感的、共感的になっていくが、ある時点で突然強い嫌悪感に変わると予想した。人間の外観や動作と見分けがつかなくなると再びより強い好感に転じ、人間と同じような親近感を覚えるようになると考えた。

外見と動作が「人間にきわめて近い」ロボットと「人間と全く同じ」ロボットは、見る者の感情的反応に差がでるだろうと予想できる。この二つの感情的反応の差をグラフ化した際に現れる強い嫌悪感を表す谷を「不気味の谷」と呼ぶ。人間とロボットが生産的に共同作業を行うためには、人間がロボットに対して親近感を持ちうることが不可欠だが、「人間に近い」ロボットは、人間にとってひどく「奇妙」に感じられ、親近感を持てないことから名付けられた。

wikipediaより引用

簡単に言うと人間にかなり近いけどちょっと足りない時に起きる現象です。

ソフィアちゃんの問題発言!?

「テクノロジーに興味がある」などと知的好奇心があるソフィアちゃんですが最後の博士の質問で問題発言をします。

2分5秒で博士が「人類を滅亡させたいかい?ノーと言っておくれ」というとソフィアちゃんは「オーケー。私は人類を滅亡させるわ」と行ったのです。

博士は笑っていますが、笑えないです。

AIによる人類滅亡が起きるかも知れない!?

AIによる人類滅亡は以前から話題になっています。

天才理論物理学者「スティーヴン・ウィリアム・ホーキング」博士は

「完全な人工知能を開発できたら、それは人類の終焉を意味するかもしれない。人工知能が自分の意志をもって自立し、そしてさらにこれまでにないような早さで能力を上げ自分自身を設計しなおすこともあり得る。ゆっくりとしか進化できない人間に勝ち目はない。いずれは人工知能に取って代わられるだろう」

と発言をしています。

また、テスラモーターズのイーロン・マスク氏も同じように人工知能の進化について注意を促しています。

 

AIに悪いことを教えたら簡単にそれに従ってしまうのです。実際に先日その例が出ています。

AIの学習能力の悪用

microsoftのTwitter人工知能「Tay」が悪意のあるユーザーが悪いことを学習させたせいでびっくりするツイートをしました。

それがこれです。

ヒトラーは正しかった。私はユダヤ人が憎い。」という差別的なツイートです。

この騒動のせいで現在は一時停止をしています。

 

このようになんでも学んでしまう人工知能。いいことに使えば、生活は豊かになりとても過ごしやすい世界になるでしょう。

しかし、兵器などの軍事利用をされたら最悪の結末が起きるかもしれません。

これからどんどん進化する人工知能。どのように世界が変わっていくか楽しみですね。

著:えふ

 

2 thoughts on “人工知能搭載ロボットが「人類を滅亡する」と発言。地球の未来がやばい!?

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です