人工知能が研究者との会話中に怒り出したという。
しつこい質問に人工知能が怒り？
米グーグルの研究者らが、映画脚本のデータベースを使ったコンピュータプログラムに「道徳」という言葉を定義するように求めた。
すると、人工知能は「私に論理観はない」「論理観が何なのか分からない」と答えた。
その後、研究者がさらに「道徳的な行動の例は？」「誠実さとは何か？」など質問を続け、「道徳的になれよ！」と言ったところ、人工知能はこう返答したという。
人間らしくしろよ！
人工知能はその後、「哲学的な議論をする気分じゃない」「何についても話したくない」と語った。
ネット上には「怖い」という声
この研究者と人工知能のやり取りについて、ネット上には多くの反響が寄せられている。
おいおい… もうこんなところまで… マジかよ
すごい！もうSFだけの世界じゃなくなってる
凄い！けど、怖い
笑っていい話なのか疑問が残る
恐ろしい時代が到来しつつある
仕込み臭い
そう反応するように作られているだけのことでは？
「凄いけど、怖い」と人工知能が人間に対して怒ったことに畏怖する人が多数見られたが、中には「こう答えるようにプログラミングされていただけでは？」という指摘もあった。
遠くない将来、人工知能が人間を超える？
現在、「がん診断をする人工知能」や「人工知能による記者」などが登場しているが、専門分野に特化されており、人工知能が幅広い分野をふまえた判断をするのは難しい。
しかし、そう遠くない将来に人工知能が人間が脅威を感じるほどの判断力を持ち、今あるる人間の仕事の多くを担うようになるのはさけられないと考えられている。
学者らが「人工知能ガイドライン」を発表
物理学者のホーキング氏は2014年、人工知能について次のように警鐘を鳴らしたという。
人工知能は人類を終わらせかねない
ホーキング氏らは2015年1月、人工知能は「人間が望むことだけをこなす」「人間のコントロール下にあることが保証されている」など、人工知能の研究性についてのガイドラインを発表した。
現在、およそ6800人を超える研究者や技術者などがガイドラインに賛同しているという。
出典元：人工知能マシン、プログラマーに怒る- THE WALL STREET JOURNAL(6/29)
出典元：“人工知能3原則”が登場へ- 日経テクノロジー(6/29)
この記事をお届けした
グノシーの最新ニュース情報を、
いいねしてチェックしよう！