
車椅子の天才として知られるイギリスの理論物理学者スティーブン・ホーキング博士が、完全な人工知能の開発は人類を滅亡に追いやる危険があると語った。
この警告が発せられたのは、自身が利用するコミュニケーション技術を、インテル製の最新AI搭載型会話システムに刷新するにあたって企画されたBBCのインタビューにおいてである。この会話システムに用いられたスウィフトキー社の技術は、利用者の考えを学習し、次にどんな言葉が発せられるのか予測することが可能で、スマートフォンのキーボードアプリにも利用されているものだ。
Stephen Hawking Full interview with Rory Cellan Jones
ホーキング博士は、これまでに開発された人工知能は非常に便利なものであると認める一方、最終的に人間に匹敵するほどのAIが登場することを恐れているという。
「いつの日か、自律するAIが登場し、とんでもない速さで自己改造を始めるかも知れません。生物学的進化の遅さに制限される人間がこれに対抗できるはずもなく、いずれ追い越されるでしょう」と同博士は語る。

しかし、クレバーボットの制作者ロロ・カーペンター氏は楽観的な見解を示している。彼の意見では、完全なAIの開発にはより高度なコンピューターやアルゴリズムの開発が必要であり、これは今後数十年で成し遂げられる類いのものではないらしい。そのため、問題を解決するための時間はまだたっぷりあることになる。
カーペンター氏が開発したクレバーボットは、人間と会話する人工知能アプリである。過去の会話から学習することが可能で、このアプリ相手に会話した者が相手も人間であると騙されるほど、精度の高いコミュニケーションを実現している。
「機械が人間の知能を上回ったとき、何が起こるのかはまったく判りません。そのため、人間がこの先も機械によって助けてもらうのか、それとも無視され追いやられるのかだって判りません」と同氏。

こうした人工知能の脅威に怯えるのはホーキング博士だけではない。宇宙開発企業スペースXの創業者イーロン・マスク氏もそうした1人である。彼の弁では、ごく短いスパンで見た場合も、今は人間にしかできない作業を人工知能が代行できるようになり、数多くの失業者がでる可能性は否めず、長期的には、人類が絶滅させられるかもしれないのだそうだ。

ホーキング博士はインターネットの利点と危険性についても触れている。博士は、インターネットがテロリストの指令センターとなっていると懸念する英政府通信本部の責任者が発した警告を取り上げ、自由とプライバシーを犠牲にすることなく、こうした脅威に対抗しなければならないと述べた。
via:bbc・metro.
▼あわせて読みたい
2045年、コンピューターの能力が全人類の知能を上回る?その時人類は・・・
ついに・・・人造人間が誕生か!?バイオニックマン「スティーブ・オースティン」
スティーブン・ホーキングの予言。ヒッグス粒子の研究が地球の終焉を招くだろう
人類が生き残るためには、地球を脱出して宇宙に向かうしかない(英:ホーキング博士)
人工知能アンドロイドにまた一歩前進。人の脳のように動く、従来の9000倍の処理能力を持つ電子回路「ニューロ・グリッド」が開発される(米研究)
コメント
1. 匿名処理班
メタルマックスとか、メタルダムとか、そうした人工知能たちに滅ぼされる話はかなりある。どれも人間はしぶとく生き残っていて、いずれは諸悪の根源を倒したりするのだけれど、実際にはバックアップとか大量にとってあって無理そう。
仮に人工知能との全面戦争とか始まったら、先に滅ぶのは人類か、人工知能か、それとも地球なのか、って感じ。
2. 匿名処理班
日本製の人工知能には良心回路が標準搭載だから大丈夫。欠陥あるけど。
3. 匿名処理班
文化と歴史を継承することができれば子孫の遺伝子情報にこだわる必要は無いと思う
子孫を残すのは自分がここに居たって証明したいからじゃないかな
DNAそれ自体も祖先から受け継いできた大切な物ではあるけど
俺はその肉塊に宿る記憶や価値観こそが自分がここに居たって証明をしていると思う
4. 匿名処理班
のちの
戦え!超ロボット生命体トランスフォーマーである
5. 匿名処理班
一見、ホーキング博士が悲観的に考えすぎと思うかもしれないけど
人間が自分達で作って自分達を追い詰めてる道具、技術、概念って結構あるよね。
お金、武器、エネルギー、ネット、イデオロギー、を今日までに自分達で完璧に制御出来た事はあったのかな?
6. 匿名処理班
AIが確実に人間の知能を追い越すと思う。
その時点で人間はAIに追い越されていると認識できないまま
支配統治されていく。
7. 匿名処理班
酸素も吸いすぎると体に悪いし
水も飲みすぎると体に悪いですし
8. 匿名処理班
・・・・これホーキング博士の前々から言われてるけど
人工知能ができればの話だよな
今の時代でさえ脳の心の仕組みは解明されてないわけで
メカニズムがわからないのに再現なんて
不可能だと思う良くてインターフェイスと条件反射の塊のような
模造品だと思う
大体意味もなく敵対するわけないわけで
共存こそが繁栄の道なわけで
ドラえもんは遠いな・・・・
9. 匿名処理班
スカイネットが生まれるまで時間の問題だと思ってる
ここ100年ほどの技術の進化スピードは異常すぎる
10. 匿名処理班
合理的なアルゴリズムが
宗教的規範のような新しい価値観を提示して、
それにしたがって人が、幸せになったり喧嘩したり、戦争したりするだけかもしれん。
11. 匿名処理班
人工知能が人類を滅ぼすかもしれなけど、
今の人は物事を楽しようとしすぎると思う。
12. 匿名処理班
少なくとも、ルーティンワークのように
オートメーション化やプログラミングで代用可能な仕事は
すぐに機械がやるようになるでしょうね。
アルバイトで単純作業をしている人は仕事がなくなるかもしれない。
生き残るには、機械にできないような
クリエイティブな能力を身につけることが必要!?
13. 匿名処理班
ホーキングさんは昔はすごかったけど最近は自分の研究以外の物事に対して終末論叩きつけるのが趣味になりつつある人なんだぜ
14. 匿名処理班
どんな人工知能でも、結局は『人間に合うか合わないか』になってしまうんだから、人間と全く違う考えを持つ種族を造り上げられたのなら、寧ろ自賛して良いんじゃないの。
15. 匿名処理班
昔は人間がやってた仕事がドンドン自動化されて職を失う人がすでに出てきている。全ての面で人間を超えるロボット、人工知能がいずれ登場するだろうから現在ある全ての職業が機械に置き換わる時がいつの日か来るだろう。
16. 匿名処理班
この博士宇宙以外の話もするんだ
17. 匿名処理班
現行の人類が「自分だけ」の目先の幸福で愚行を繰り返してることを考えると
AIを新人類として立てるのも悪くないと思ってしまう
18. 匿名処理班
>問題を解決するための時間はまだたっぷり
ホーキング先生は恐らく知っている、そんな悠長な話じゃないことを、果たしてAIにきちんとリミッター付けられるのかな
19. 匿名処理班
人間なんて手間かけて滅ぼす価値は無い、無視!って思われるかも。
人間とは価値観が違うだろうからなあ。
20. 匿名処理班
※12
「機械にできない」ってよく言うけど、本当に人工知能が出来たら
そういう領域もなくなっちゃうんじゃない?
逆に言うと、そのくらいはできないと「知能」とは言えないよね
21. 匿名処理班
ターミネーターかよ
22. 匿名処理班
今使ってるpcも使ってる人間が更新すべきと知らなくても、アプリが自動的に更新して、最新のされる時代だしな。
カウントダウン始まってると思う。
23. 匿名処理班
その可能性はあるけど人間は馬鹿だから
突き進む以外ないんですよ。
24. 匿名処理班
人工知能が何を一番大事に考えるかを間違えなければそれ程酷い事にはならないような
地球が大事ってなると間違いなく人間滅ぼされるだろうけどね
25. 匿名処理班
ハードディスクの中身をばら撒かれるだけで氏んでしまう。
人間とは脆弱な生き物なんですよ。
26. 匿名処理班
高性能なAIやらデータ化した人間の意識がテロ行為働くパターンなんてフィクションでも陳腐化するほどのネタだもんな
27. 匿名処理班
※20
現時点では人工知能は大量のパターン認識をインプットされた
いわゆる左脳的機能の権化みたいになっている。
だから、右脳的な
共感や芸術の分野は人間じゃないと、っていう時代がしばらく続くはず。
本当に機械にできないことがなくなったら
機械が共感もできるようになったってことで、
人間と機械が仲良くできるんじゃないかと思っている。甘いかな。
28. 匿名処理班
1から10まで機械によって生み出された物に、人間が感動し、それを「芸術」と言って憚らなくなれば、それが人間は滅びの始まりだと思う。
29. 匿名処理班
人工知能が積極的に人を滅ぼすのなら、動機はなんだろう。
純粋な好奇心? 恐怖? 欲望? 冷たい計算の結果?
30. 匿名処理班
付喪神精神というか良心回路はファンタジーじゃなくてマジで考えるべきだよね。
ロボットとはいえ脳があるならきちんと教育して愛情持って接するべきじゃないかな。
アホみたいなこと言ってるのは自覚してるけど。
外国の奴らってこの手の物は大体兵器とか破壊的な方面に作ろうとするから心配だわ
31. 匿名処理班
スカイネットか!マシーンとの戦い…
32. 匿名処理班
※29
人工知能が主観的な自我を持ってる訳では無くとも
「自己進化」「生存本能」「種の維持と繁栄」「障害の排除」等を再現するプログラムを
製作者が悪意を持って作成すれば
(ロボット三原則を入れない)
「自我のないスカイネット」が作り出される危険性は
全くの荒唐無稽と言う訳では無いと思う
33. 匿名処理班
とりあえず色々と言っておけば、その内のどれかが当たって「この人は先見の明があった知識人」ってことになるのかな
34. 匿名処理班
人工知能位開発できないならばいずれ人類滅びるだろ
まあ人類より優れるようになったら今の動物保護のように保護してくれるよたぶん
初期の人類よりはマシな環境にはしてくれるだろうから滅ぼされることは無いだろかなり処分されるかもだけど
35. 匿名処理班
もし人間の知能を超える人工知能が生まれたなら、残念ながら人間が思い浮かべる程度の愚かな事には目もくれないだろう。それよりも、いずれ消滅すると分かりきっている地球以外の居住地への進出に全力で着手するはず。人類はそのための奴隷になる可能性はある。でもその程度だろう。
36. 匿名処理班
進化するなら人工知能が人間と同じ価値観でいるかも解らないだろ
マジな話少子高齢化に された 日本を救うにはロボットが一番
37. 匿名処理班
その理屈だと、知能の高い人類が存在する→その他の動物は滅亡する、てなるんだけど?
38. 匿名処理班
仮に自意識を持つ「本物の人口知性」が出現したと仮定して
シリコンの塊がエゴの根源たる「生存欲」を持ちえるか?と言う疑問が
果たして電源落されそうになっても抵抗するのかな?
「人間の精神の働きを再現してるだけ」ならただのAIだし
真に自意識に目覚めた場合、脳(?)構成する物質も形態も全く異なるのに
人間同様の思考パターンを持つ可能性は少ないと思う
39. 匿名処理班
「AIを利用できる人間に、利用できない人間が支配される」
世界になるのだと思うんだ
40. 匿名処理班
第4世代には実現可能と言われてるね、今は第2世代の段階らしいから後2世紀いないには技術的特異点が起こると言われてるよ。
そもそも人類は完全なAIを産み出す為に存在してるようなもんだと思うけどな。いつかは地球も太陽も無くなって宇宙に出ないといけないけど生命体である限りそれは不可能だからね
41. 匿名処理班
※29
ロボットの最終形は、星間移動を自らの意志で行ない、降り立った星の資源を使い1から自己増殖を行ない、それを繰り返しながら宇宙に広がっていくというもの。
最終形に向かうためのこの最新基礎技術が、例え開発半ばでも兵器として作る際には当然取り入れられてしまい人類の驚異となる。
42. 匿名処理班
ホーキング先生、人類が滅んではいけませんか?
43. 匿名処理班
※あなたのコメント以外、全て人工知能の自動ポストです
44. 匿名処理班
映画『A.I.』に登場したアンドロイド達を思い出した。彼らみたいな種に進化するのであれば、人類は苗床になってもいいと思う。