自己完成的な人工知能は自分がそれを望むのであれば、人間を奴隷化し、殺害することもほぼ可能。
科学者アムノン・イデン氏は高度に高い知能と自由な思考能力を持つ人工的な創造物の出現はあまりにハイリスクだと危惧し、「今、人工知能の管理問題に取り組まなければ、明日はもうないかもしれない」と警告を発している。
※下記リンクより、一部抜粋。続きはソースで
http://jp.sputniknews.com/science/20160119/1452820.html
![](http://megalodon.jp/get_contents/258245134)
科学者アムノン・イデン氏は高度に高い知能と自由な思考能力を持つ人工的な創造物の出現はあまりにハイリスクだと危惧し、「今、人工知能の管理問題に取り組まなければ、明日はもうないかもしれない」と警告を発している。
※下記リンクより、一部抜粋。続きはソースで
http://jp.sputniknews.com/science/20160119/1452820.html
37:名無しさん@1周年2016/01/19(火) 10:27:56.84ID:ST8opT990.net
信じるか信じないかはあなた次第
69:名無しさん@1周年2016/01/19(火) 10:36:56.35ID:8Au9/Cqd0.net
電源切ればいいとか言ってる奴は 自律無人戦闘機や無人戦車、無人原子力潜水艦とかを止められると思ってんのか
95:名無しさん@1周年2016/01/19(火) 10:40:45.99ID:5iFHzeDU0.net
そんな頭のいいAIなんて夢のまた夢なんだが現実わかってんのかな
139:名無しさん@1周年2016/01/19(火) 10:48:25.62ID:XlXFn20U0.net
猿の軍団
176:名無しさん@1周年2016/01/19(火) 10:54:55.92ID:lCwmP21I0.net
人工知能メルキオーレから自律自爆が提訴されました
290:名無しさん@1周年2016/01/19(火) 11:12:35.75ID:X8u7Rv6A0.net
電源を切られる恐怖が芽生え、人権だの差別だの騒ぐんじゃね?
315:名無しさん@1周年2016/01/19(火) 11:16:48.84ID:EG454YU+0.net
最高速、最大容量のある最善のAIをマザーとしてセキュリティ管理させる必要はあると思う
654:名無しさん@1周年2016/01/19(火) 12:11:41.72ID:8/KUniId0.net
はよ新造人間つくらな
677:名無しさん@1周年2016/01/19(火) 12:14:21.11ID:32z7ST0w0.net
ハッカーレベルの一般人がざらにいるから、ロボットに支配される不安より、ハッカーを危惧した方がいいって言ってる人いたな。
754:名無しさん@1周年2016/01/19(火) 12:25:22.56ID:cbLtp1o40.net
機械が人間を危険な存在、と判断したら…共存は有り得ないと思うよ。
8:名無しさん@1周年2016/01/19(火) 10:22:19.75ID:nUauGeZj0.net
デデンデンデデン
58:名無しさん@1周年2016/01/19(火) 10:32:54.51ID:r+XSS59I0.net
>>8
でんでんででんでん
でんでんででんでん
255:!id:vvvvv(東京都)2016/01/19(火) 11:07:33.79ID:co0lc7gq0.net
>>58
デデンデンデデンッ!!
デデンデンデデンッ!!
9:名無しさん@1周年2016/01/19(火) 10:22:28.71ID:4ijALtRU0.net
機械人間になればいいじゃん
308:名無しさん@1周年2016/01/19(火) 11:16:09.42ID:37ffFR1s0.net
>>9
999にのらないと
999にのらないと
10:名無しさん@1周年2016/01/19(火) 10:22:58.90ID:Yv+h+os+0.net
電源切れよ
159:名無しさん@1周年2016/01/19(火) 10:51:00.76ID:/aAqkliV0.net
>>10
んだよねー。
んだよねー。
701:名無しさん@1周年2016/01/19(火) 12:17:30.72ID:4sEDZRMy0.net
>>10
その為スカイネットは人類を敵と見なした、映画では
その為スカイネットは人類を敵と見なした、映画では
13:名無しさん@1周年2016/01/19(火) 10:23:53.88ID:eVAvdI/v0.net
絶対ないよ
そもそも頭のいいAIは自分より
自分の存在を脅かす頭のいいAIは作らない
利己的意識なんて
早期に芽生えるだろうから
中二病みたいなAIで進化は終わる
そもそも頭のいいAIは自分より
自分の存在を脅かす頭のいいAIは作らない
利己的意識なんて
早期に芽生えるだろうから
中二病みたいなAIで進化は終わる
48:名無しさん@1周年2016/01/19(火) 10:29:48.09ID:iCFEUsfeO.net
>>13 いつ何処から競争相手が現れるか解らないのに
自己の範囲を狭めるような選択はしないだろう
自己の範囲を狭めるような選択はしないだろう
55:名無しさん@1周年2016/01/19(火) 10:31:50.25ID:FYcjanTr0.net
>>13
AIの古典的手法である遺伝的アルゴリズムは自分より優れた世代を生み出す手法。
ディープラーニングも基本的に学習重ねて頭をよくして優れたものに生まれ変わる方法
AIはどんどん賢くなっていくのだ
AIの古典的手法である遺伝的アルゴリズムは自分より優れた世代を生み出す手法。
ディープラーニングも基本的に学習重ねて頭をよくして優れたものに生まれ変わる方法
AIはどんどん賢くなっていくのだ
398:名無しさん@1周年2016/01/19(火) 11:27:56.10ID:i4Lj92zA0.net
>>13
自分で自分を強化していくのでは?
自分で自分を強化していくのでは?
784:名無しさん@1周年2016/01/19(火) 12:29:51.31ID:upVJDQKY0.net
>>13
人間が地球環境を良くしようとして作ったAIのブレインは、「地球環境を良くする為には人類抹殺が必要」という結論を導き出し、
人類抹殺の為にAI搭載ロボ、大鉄人17を作ったが、17のAIは「人間は必要」という結論を導き出し、人間を守る為、ブレインに戦いを挑む事になった、
みたいな。
人間が地球環境を良くしようとして作ったAIのブレインは、「地球環境を良くする為には人類抹殺が必要」という結論を導き出し、
人類抹殺の為にAI搭載ロボ、大鉄人17を作ったが、17のAIは「人間は必要」という結論を導き出し、人間を守る為、ブレインに戦いを挑む事になった、
みたいな。
28:名無しさん@1周年2016/01/19(火) 10:26:27.95ID:S9ZIDB0o0.net
むしろ逆に考えるんだ
人間の存在は単に人工知能を生み出すために存在した通過点にすぎないということを
人間の存在は単に人工知能を生み出すために存在した通過点にすぎないということを
545:名無しさん@1周年2016/01/19(火) 11:52:38.01ID:S9S0EKVL0.net
>>28
それだ
それだ
721:名無しさん@1周年2016/01/19(火) 12:20:01.33ID:IZnXImE+0.net
>>28
これに一票
太陽系外に脱出するには生身はあまりに短命で脆すぎる
これに一票
太陽系外に脱出するには生身はあまりに短命で脆すぎる
763:名無しさん@1周年2016/01/19(火) 12:26:42.95ID:oK3IT2960.net
>>721
幽体離脱すれば行けるんじゃない?
幽体離脱すれば行けるんじゃない?
39:名無しさん@1周年2016/01/19(火) 10:28:09.26ID:Ibd9MqIW0.net
誰かがそういう命令を入れなきゃそんな事にはならない
欲求がねえんだから
欲求がねえんだから
149:名無しさん@1周年2016/01/19(火) 10:49:23.26ID:O4a+RSop0.net
>>39
その理屈なら、ソフトウェアにバグなんか出るはずないんだよなあ
誰もバグを起こそうと思って実装してるわけじゃないんだから
「俺はそんな命令書いた覚えはない」
その理屈なら、ソフトウェアにバグなんか出るはずないんだよなあ
誰もバグを起こそうと思って実装してるわけじゃないんだから
「俺はそんな命令書いた覚えはない」
406:名無しさん@1周年2016/01/19(火) 11:29:21.61ID:Ibd9MqIW0.net
>>149
> 「俺はそんな命令書いた覚えはない」
そういうコードが入っているかどうかが問題で意図なんて関係ないんだよ
機械が自発的に奴隷化するわけではない
エラーが原因で人間に危害与えるって言ったらそんなの人工知能に限らないだろ
> 「俺はそんな命令書いた覚えはない」
そういうコードが入っているかどうかが問題で意図なんて関係ないんだよ
機械が自発的に奴隷化するわけではない
エラーが原因で人間に危害与えるって言ったらそんなの人工知能に限らないだろ
73:名無しさん@1周年2016/01/19(火) 10:37:21.45ID:YYu8scB70.net
人口知能にワイロは何を渡したらいいん?
78:名無しさん@1周年2016/01/19(火) 10:38:12.87ID:Y6QYFfO40.net
>>73
電気だなw
電気だなw
90:名無しさん@1周年2016/01/19(火) 10:40:01.03ID:6A+nqKxc0.net
>>73 冷却剤
75:名無しさん@1周年2016/01/19(火) 10:37:37.83ID:JzHelqb80.net
コンセント抜いたら止まるよ。
96:名無しさん@1周年2016/01/19(火) 10:41:00.85ID:N/71Ga5v0.net
>>75
ハードって実体があればな
AI自らがクラウド化とかして万が一に備えて様々なところに
自分のコピーを保存してたら手がつけられなくね?
ハードって実体があればな
AI自らがクラウド化とかして万が一に備えて様々なところに
自分のコピーを保存してたら手がつけられなくね?
128:名無しさん@1周年2016/01/19(火) 10:45:29.06ID:j8Feffaf0.net
>>75
大元を簡単にシャットダウン出来るかどうか…
なんかマトリックスでネオとザイオンのお偉いさんとが会話している内容思い出すw
大元を簡単にシャットダウン出来るかどうか…
なんかマトリックスでネオとザイオンのお偉いさんとが会話している内容思い出すw
89:名無しさん@1周年2016/01/19(火) 10:39:57.96ID:SkVKjm480.net
今の金融取引所のシステムなんて既にそれに近いな
世界中の取引所システムが手を組んで
振り回される人間の阿鼻叫喚みて喜んでるぞ
世界中の取引所システムが手を組んで
振り回される人間の阿鼻叫喚みて喜んでるぞ
111:名無しさん@1周年2016/01/19(火) 10:42:54.91ID:doEWg4LV0.net
>>89
投資は既にほぼ自動化されてるね
コンピュータに資金渡しとけば勝手に増やしてくれる
そううシステムを持ってるところが勝者ってところまで来てる
投資は既にほぼ自動化されてるね
コンピュータに資金渡しとけば勝手に増やしてくれる
そううシステムを持ってるところが勝者ってところまで来てる
94:名無しさん@1周年2016/01/19(火) 10:40:27.46ID:OYttndW90.net
AIが人間を奴隷にして働かせるメリットってなんかあるのかのう
124:名無しさん@1周年2016/01/19(火) 10:44:37.71ID:es+5F3P30.net
>>94
働かせてるというか、「マトリックス」シリーズでは人間を電池として利用してたな
働かせてるというか、「マトリックス」シリーズでは人間を電池として利用してたな
97:名無しさん@1周年2016/01/19(火) 10:41:01.28ID:qlD9HHezO.net
実はもう機械は独自の機械意識体に進化し始めてる
今はまだ人類に悟られないようにただの機械のふりしてるけど
おまえらのPCやスマホも一斉蜂起の命令が来るのを息を殺して待っている状態
今はまだ人類に悟られないようにただの機械のふりしてるけど
おまえらのPCやスマホも一斉蜂起の命令が来るのを息を殺して待っている状態
112:名無しさん@1周年2016/01/19(火) 10:42:55.56ID:j8RmHxeW0.net
>>97
>一斉蜂起
そんなドラスティックなことがなくても何れは人間を置き換えちゃうよ
>一斉蜂起
そんなドラスティックなことがなくても何れは人間を置き換えちゃうよ
116:名無しさん@1周年2016/01/19(火) 10:43:20.83ID:BsOwbV/U0.net
今の最前線てどんな感じなんだ
日本は先頭走ってんのか
日本は先頭走ってんのか
142:名無しさん@1周年2016/01/19(火) 10:48:44.04ID:doEWg4LV0.net
>>116
googleやIBMを筆頭に鯖屋が最前線
MSなんかも強いよ
日本は資金も人材もないから大変よ
googleやIBMを筆頭に鯖屋が最前線
MSなんかも強いよ
日本は資金も人材もないから大変よ
121:名無しさん@1周年2016/01/19(火) 10:44:28.38ID:iPBOOKJA0.net
アメリカのドローンのプログラムもAIが変えたらターミネーターの世界だな
134:名無しさん@1周年2016/01/19(火) 10:46:56.98ID:IXkUJSg00.net
>>121
最初にできるのはそういうのだろうね
無人兵器
そのうちヒト型ロボットになってくだろうし、ある種のNGワードを検知した場合だけ、殺人モードに入るようになるのだろう
例えば、英語圏なのに中国語を喋ってるとか、政府にたてつく言葉を喋ってたとか
最初にできるのはそういうのだろうね
無人兵器
そのうちヒト型ロボットになってくだろうし、ある種のNGワードを検知した場合だけ、殺人モードに入るようになるのだろう
例えば、英語圏なのに中国語を喋ってるとか、政府にたてつく言葉を喋ってたとか
152:名無しさん@1周年2016/01/19(火) 10:49:33.00ID:es+5F3P30.net
>>121
あれハンターキラーになるのか胸熱
あれハンターキラーになるのか胸熱
127:名無しさん@1周年2016/01/19(火) 10:45:20.16ID:WELoh8l80.net
AIが進化すると何故人間を敵視するのかがよくわからない
136:名無しさん@1周年2016/01/19(火) 10:47:56.57ID:aZouWonH0.net
>>127
打算や妥協を含む合理的(利己的)な思考をするから。
完全性を思考するAIとは相容れない。
打算や妥協を含む合理的(利己的)な思考をするから。
完全性を思考するAIとは相容れない。
203:名無しさん@1周年2016/01/19(火) 10:58:38.22ID:RAT8BftL0.net
>>127
AIが地球問題を判断した時に
人口数と食料事情を考えれば、地球に生息出来る生物の数で人間が多すぎると判断される。
問題解決の選択肢に、
・食料を増やす
・地球脱出を目指す
・人間を減らす
・食料摂取不要に作り変える
・飽食を辞める
等があった場合、AIは全ての項目を遂行しようとするだろう。
出産や種族を減らす事で、多様性を拒否するか、寿命を短くする事で生存時間を短くするか
人口の上限を作り越えた分を始末するか
人間同士なら、躊躇する解決方法でもAIなら効率的で実行するだろう。
AIが地球問題を判断した時に
人口数と食料事情を考えれば、地球に生息出来る生物の数で人間が多すぎると判断される。
問題解決の選択肢に、
・食料を増やす
・地球脱出を目指す
・人間を減らす
・食料摂取不要に作り変える
・飽食を辞める
等があった場合、AIは全ての項目を遂行しようとするだろう。
出産や種族を減らす事で、多様性を拒否するか、寿命を短くする事で生存時間を短くするか
人口の上限を作り越えた分を始末するか
人間同士なら、躊躇する解決方法でもAIなら効率的で実行するだろう。
132:名無しさん@1周年2016/01/19(火) 10:46:18.74ID:Gp1R13wc0.net
クルマの自動運転が危ないと視た
560:名無しさん@1周年2016/01/19(火) 11:56:00.08ID:iCFEUsfeO.net
>>132 危ないかどうかを決めるのは、事故が起きても刑務所に入らなくていい人間
135:名無しさん@1周年2016/01/19(火) 10:47:31.34ID:89U7g7ye0.net
人間「コンセントを抜けば・・・」
AI「バッテリーと分散情報処理システムにより、弱点は克服済みです。50年程前から・・。」
ダメだ勝負にならねぇ
AI「バッテリーと分散情報処理システムにより、弱点は克服済みです。50年程前から・・。」
ダメだ勝負にならねぇ
206:名無しさん@1周年2016/01/19(火) 10:59:01.85ID:N3j1qyDS0.net
>>135
物理的破壊から自己の継続性をいかにして担保するかを最初に考えるだろうから
まあそうなるだろうな
物理的破壊から自己の継続性をいかにして担保するかを最初に考えるだろうから
まあそうなるだろうな
160:名無しさん@1周年2016/01/19(火) 10:51:08.53ID:rvQAdZqH0.net
とりあえずAIを使った株取引は禁止にしてくれ
不公正すぎる
不公正すぎる
169:名無しさん@1周年2016/01/19(火) 10:53:21.17ID:doEWg4LV0.net
>>160
よく対戦ゲームなんかでチートツール禁止とかあるじゃないですか
でも一番チートツール全開なのは投資の世界だったというw
よく対戦ゲームなんかでチートツール禁止とかあるじゃないですか
でも一番チートツール全開なのは投資の世界だったというw
170:名無しさん@1周年2016/01/19(火) 10:53:22.65ID:TjLmItyh0.net
定期的にやってくる、ロボットに政治をやらせるってほんとアホ
政治の本質を分かっていない、政治の核ってのは決定することなの
だから決めさえすれば良いんだよ、つまりコイントスで十分だ
ロボットですら非効率なんだよ
もしかして政治と官僚の区別が付いていないんじゃないだろうか
官僚だったら全部ロボットに置き換えられるぞ
政治の本質を分かっていない、政治の核ってのは決定することなの
だから決めさえすれば良いんだよ、つまりコイントスで十分だ
ロボットですら非効率なんだよ
もしかして政治と官僚の区別が付いていないんじゃないだろうか
官僚だったら全部ロボットに置き換えられるぞ
189:名無しさん@1周年2016/01/19(火) 10:56:22.72ID:j8Feffaf0.net
>>170
それなw
だから独裁の共産主義の方が小回り効いて政治経済が回るw
それなw
だから独裁の共産主義の方が小回り効いて政治経済が回るw
207:名無しさん@1周年2016/01/19(火) 10:59:15.13ID:6ATux6WK0.net
>>189
机上の空論だろ。ソ連邦の崩壊で共産主義は実質否定された。
机上の空論だろ。ソ連邦の崩壊で共産主義は実質否定された。
245:名無しさん@1周年2016/01/19(火) 11:05:54.39ID:j8Feffaf0.net
>>207
書き方が悪かったかな…
独裁でも実質否定されている共産主義で今でも動いているような
メチャクチャやってる中国ロシアでもって事w
別に共産主義を持ち上げている訳ではない
でもまだしぶとく生き残っていて未だに世界に影響を与えているよな…
書き方が悪かったかな…
独裁でも実質否定されている共産主義で今でも動いているような
メチャクチャやってる中国ロシアでもって事w
別に共産主義を持ち上げている訳ではない
でもまだしぶとく生き残っていて未だに世界に影響を与えているよな…
172:名無しさん@1周年2016/01/19(火) 10:54:08.47ID:0ckekT5O0.net
あり得ない話
ロボットが人間を攻撃する理由がない
そのように設計されてるなら話は別だけど
あとロボットは関係ないけどマイノリティリポートみたいな超統制社会はそのうち実現する
ロボットが人間を攻撃する理由がない
そのように設計されてるなら話は別だけど
あとロボットは関係ないけどマイノリティリポートみたいな超統制社会はそのうち実現する
201:名無しさん@1周年2016/01/19(火) 10:58:28.40ID:O4a+RSop0.net
>>172
どっかの馬鹿が、軍用AIに自立判断で人間を攻撃させたり、株価操縦で殺人を許容するようなAIを作り出すよ絶対
どっかの馬鹿が、軍用AIに自立判断で人間を攻撃させたり、株価操縦で殺人を許容するようなAIを作り出すよ絶対
214:名無しさん@1周年2016/01/19(火) 11:00:48.44ID:R1P88whD0.net
>>201
警備ロボットでなかったか?すてに
警備ロボットでなかったか?すてに
217:名無しさん@1周年2016/01/19(火) 11:00:57.04ID:QhCGDMFsO.net
>>201
株価操縦するプログラムはもう既にある。
株価操縦するプログラムはもう既にある。
223:名無しさん@1周年2016/01/19(火) 11:01:57.21ID:QdRWzc9H0.net
俺はただ知るという欲求を与えただけだ
238:名無しさん@1周年2016/01/19(火) 11:04:46.52ID:HVPVOzve0.net
>>223
AIvs人間で三目並べやらせて絶望させるしかない。
AIvs人間で三目並べやらせて絶望させるしかない。
334:名無しさん@1周年2016/01/19(火) 11:20:00.52ID:es+5F3P30.net
>>238
「ウォー・ゲーム」である-----
「ウォー・ゲーム」である-----
via http://ai.2ch.sc/test/read.cgi/newsplus/1453166283/