5人の命を助けるために1人を殺してもよいか？ 人工知能が殺人を犯す懸念と倫理問題
2016年04月04日
- カテゴリ：議論
1: ひろし ★ 2016/04/03(日) 22:17:44.69 ID:CAP_USER*.net
本連載の第7回で、人工知能は「敵か、家族か」という二分法で考えられるほど単純なものではなく、遅かれ早かれ「人間の倫理」の問題として浮上してくると書いた。
人工知能の動向を追いかけていると、「人間とは何か」「社会はどうあるべきか」という問いが、人工知能を発達させるうえで避けて通れない大きな問題として存在することがわかってくる。
「線路を走っているトロッコが制御不能になった。このままトロッコが進むと線路前方にいる5人の作業員が死んでしまう。このとき現場で、この状況を目撃したAさんは線路を切り替えることのできる転轍機のそばにいた。切り替えれば5人は助かるが、切り替えたほうの線路にいるもう1人の作業員Bさんは死んでしまう。手段は転轍機しかない」
これは、「5人を助けるために1人を犠牲にしてもよいか」という道徳的ジレンマに関する問題である。あなたはどう答えるだろう。ちなみに私は、転轍機を一人のほうに切り替えることを選ぶ。
この問題には、派生した以下の別バリエーションがある。
「Aさんの隣には太ったCさんがいて、Cさんを線路につき落とせば、トロッコは確実に止まり、5人を助けることができる。しかしCさんは確実に死ぬ」
この2つの問いを5000人以上に聞いたところ、最初の質問には89％の人が「5人を助けるために1人を犠牲にしてもよい」と答えたという。
しかし、2番目の質問で「Cさんをつき落とすことは許される」としたのはわずか11％。2つの質問の違いは、1人の犠牲者の「出し方」だけだ。
命を奪うことに関して、私たちの中には確実にブレーキが存在する。だから、そのことに対する関与が薄いほうを選ぶ。（参考：「wikipedia」より）
たとえば、オイルが撒き散らされた路上に、自動運転のクルマがスリップを引き起こさざるを得ないスピードで進入してきたとする。そしてスリップする。
前方にはたくさんの子どもたちがいて事故は避けられない。ただ、搭載された人工知能には逆ハンドルを切るプログラミングがされ、少しだけコントロールできる。
道路前方の左端に突っ込んでいけば、子どもの犠牲は減る可能性がある。しかし、クルマはガードレールを突き破り、運転手が崖下に転落する。
このような場合、人工知能にどのような判断をさせればよいのだろう。乗員を犠牲にして、前方の子どもを助けるのか。しかし、乗員を犠牲にするプログラムがなされたクルマは売れないだろう。
「人数の少ないほうを犠牲にする」とプログラムすればいいのだろうか。そうすると、人工知能には「太ったCさんを線路につき落とす」可能性が開けてしまう。
論理的にはそうなる。助けるために殺人を犯すことを是とする機械が出現する。この延長は、人工知能を搭載した殺人兵器だろう。味方をほぼ完全に識別し、敵をせん滅する。
あのダークな「ターミネーター＝破壊的ディストピア」に一歩近づくロボットがつくれるのだ。悪意を持った人工知能。機械が意識に目覚めなくても、マッドサイエンティストと蒙昧な政治家がいれば、それはすぐにでもできそうだ。
（以下略 全文はリンク先で）
http://biz-journal.jp/2016/04/post_14504.html
http://biz-journal.jp/2016/04/post_14504_2.html
人工知能の動向を追いかけていると、「人間とは何か」「社会はどうあるべきか」という問いが、人工知能を発達させるうえで避けて通れない大きな問題として存在することがわかってくる。
人工知能開発における究極の選択問題
トロッコ問題（トロリー問題）をご存じだろうか。簡単にいうと、「ある人を助けるためにほかの人を犠牲にするのは許されるか？」という倫理学の思考実験だ。「線路を走っているトロッコが制御不能になった。このままトロッコが進むと線路前方にいる5人の作業員が死んでしまう。このとき現場で、この状況を目撃したAさんは線路を切り替えることのできる転轍機のそばにいた。切り替えれば5人は助かるが、切り替えたほうの線路にいるもう1人の作業員Bさんは死んでしまう。手段は転轍機しかない」
これは、「5人を助けるために1人を犠牲にしてもよいか」という道徳的ジレンマに関する問題である。あなたはどう答えるだろう。ちなみに私は、転轍機を一人のほうに切り替えることを選ぶ。
この問題には、派生した以下の別バリエーションがある。
「Aさんの隣には太ったCさんがいて、Cさんを線路につき落とせば、トロッコは確実に止まり、5人を助けることができる。しかしCさんは確実に死ぬ」
この2つの問いを5000人以上に聞いたところ、最初の質問には89％の人が「5人を助けるために1人を犠牲にしてもよい」と答えたという。
しかし、2番目の質問で「Cさんをつき落とすことは許される」としたのはわずか11％。2つの質問の違いは、1人の犠牲者の「出し方」だけだ。
命を奪うことに関して、私たちの中には確実にブレーキが存在する。だから、そのことに対する関与が薄いほうを選ぶ。（参考：「wikipedia」より）
トロッコ問題解決がなければ自動運転車の普及はない？
このトロッコ問題は、米グーグルや世界中の自動車メーカーが研究する自動運転車に必要な人工知能でも考慮しなければならない。たとえば、オイルが撒き散らされた路上に、自動運転のクルマがスリップを引き起こさざるを得ないスピードで進入してきたとする。そしてスリップする。
前方にはたくさんの子どもたちがいて事故は避けられない。ただ、搭載された人工知能には逆ハンドルを切るプログラミングがされ、少しだけコントロールできる。
道路前方の左端に突っ込んでいけば、子どもの犠牲は減る可能性がある。しかし、クルマはガードレールを突き破り、運転手が崖下に転落する。
このような場合、人工知能にどのような判断をさせればよいのだろう。乗員を犠牲にして、前方の子どもを助けるのか。しかし、乗員を犠牲にするプログラムがなされたクルマは売れないだろう。
「人数の少ないほうを犠牲にする」とプログラムすればいいのだろうか。そうすると、人工知能には「太ったCさんを線路につき落とす」可能性が開けてしまう。
論理的にはそうなる。助けるために殺人を犯すことを是とする機械が出現する。この延長は、人工知能を搭載した殺人兵器だろう。味方をほぼ完全に識別し、敵をせん滅する。
あのダークな「ターミネーター＝破壊的ディストピア」に一歩近づくロボットがつくれるのだ。悪意を持った人工知能。機械が意識に目覚めなくても、マッドサイエンティストと蒙昧な政治家がいれば、それはすぐにでもできそうだ。
（以下略 全文はリンク先で）
http://biz-journal.jp/2016/04/post_14504.html
http://biz-journal.jp/2016/04/post_14504_2.html
引用元: ・【科学】5人の命を助けるために1人を殺してもよいか？ 人工知能が殺人を犯す懸念と倫理問題
13: 名無しさん＠１周年 2016/04/03(日) 22:21:05.20 ID:QwWoMoiD0.net
一人殺せば犯罪者だが、千人殺せば英雄となる。
14: 名無しさん＠１周年 2016/04/03(日) 22:21:08.28 ID:0DY2IvI60.net
殺人犯になる覚悟があれば5人を助けてもいい
AIには何があっても人は殺すなとプログラムしておけばいいだけだ
AIには何があっても人は殺すなとプログラムしておけばいいだけだ
18: 名無しさん＠１周年 2016/04/03(日) 22:21:47.62 ID:NsrxdRJ40.net
アシモフのロボット三原則思い出すような話だな
22: 名無しさん＠１周年 2016/04/03(日) 22:22:29.26 ID:MDQ1xKFS0.net
殺していいだろ
じゃないと全員死ぬんだろ？
どーしろと？
じゃないと全員死ぬんだろ？
どーしろと？
28: 名無しさん＠１周年 2016/04/03(日) 22:24:30.72 ID:Uv/JRZ0P0.net
>>22
Aさんが何もしなければ、前者のケースならBさん、後者のケースならCさんは助かる
5人が死ぬのは運命だと諦めることにして「Aさんは何もしない」って選択肢もあるはずなんだよなぁ
Aさんが何もしなければ、前者のケースならBさん、後者のケースならCさんは助かる
5人が死ぬのは運命だと諦めることにして「Aさんは何もしない」って選択肢もあるはずなんだよなぁ
27: 名無しさん＠１周年 2016/04/03(日) 22:24:27.49 ID:cwD7Olvp0.net
こういうのって無意識にやっていることだからな
慣習がまさにそれなんだよ
慣習がまさにそれなんだよ
31: 名無しさん＠１周年 2016/04/03(日) 22:25:15.73 ID:IKQRZP5A0.net
一人の命で五人助かるなら
それが正解の一つ
それが正解の一つ
33: 名無しさん＠１周年 2016/04/03(日) 22:25:34.48 ID:j8kBX5zr0.net
迷ってる間に終わるのが人間だろう
人工知能もこういう時は無限ループするようにしとけばいい
人工知能もこういう時は無限ループするようにしとけばいい
52: 名無しさん＠１周年 2016/04/03(日) 22:28:49.02 ID:fP996t7m0.net
ロボット三原則なら
人を救う事はしなくても良い
人を殺す事はしてはダメ
なので何もしないが政界
人を救う事はしなくても良い
人を殺す事はしてはダメ
なので何もしないが政界
884: 名無しさん＠１周年 2016/04/04(月) 00:45:35.71 ID:EpdBf8Ow0.net
>>52
>その危険を看過することによって、人間に危害を及ぼしてはならない
ロボットなら、自分がトロッコの前に身を投げ出して止めるだろう。
>その危険を看過することによって、人間に危害を及ぼしてはならない
ロボットなら、自分がトロッコの前に身を投げ出して止めるだろう。
54: 名無しさん＠１周年 2016/04/03(日) 22:28:58.93 ID:2yD2mQdy0.net
子供の集団に飛び込むよりは、
買い主の運転手もろとも自爆するほうを選ぶ車なんか
誰も買わないだろｗ
どうAIをプログラミングするか、答えは明確だわな
戦争で味方の識別信号を発信する以外の人間は敵として全滅させるのは当然だろ
ただ、敵が識別信号をハッキングして、逆にAIに味方の信号を敵信号と認識させたら
AIは自分の味方を全滅させてしまう
AIには倫理とか無用なんだから、所詮は人間がAIに倫理らしくみえるような行動パターンをプログラミングするだけのこと
買い主の運転手もろとも自爆するほうを選ぶ車なんか
誰も買わないだろｗ
どうAIをプログラミングするか、答えは明確だわな
戦争で味方の識別信号を発信する以外の人間は敵として全滅させるのは当然だろ
ただ、敵が識別信号をハッキングして、逆にAIに味方の信号を敵信号と認識させたら
AIは自分の味方を全滅させてしまう
AIには倫理とか無用なんだから、所詮は人間がAIに倫理らしくみえるような行動パターンをプログラミングするだけのこと
57: 名無しさん＠１周年 2016/04/03(日) 22:29:34.33 ID:l5sHN4AL0.net
指導者に求めれるのは5人を助けるために
1人を見殺しにすることだ。
最悪の指導者は6人全員死亡させてしまう指導者だ。
1人を見殺しにすることだ。
最悪の指導者は6人全員死亡させてしまう指導者だ。
61: 名無しさん＠１周年 2016/04/03(日) 22:31:00.31 ID:wg4upMDd0.net
哲学とは問い続けることに意味があるので
答えは期待してない、そして永久に出せない（でもよい）という考え
実際はそうではない
そして実際は二択ではない
この手の話は仏教では遊びにもならない
答えは期待してない、そして永久に出せない（でもよい）という考え
実際はそうではない
そして実際は二択ではない
この手の話は仏教では遊びにもならない
68: 名無しさん＠１周年 2016/04/03(日) 22:32:43.44 ID:o91PV7E00.net
AIが自身を守る為に人を殺すようになると、ディストピアに一歩近づくな
70: 名無しさん＠１周年 2016/04/03(日) 22:33:28.54 ID:3Jt/qXig0.net
トロッコの例では「何もしない」が正解でしょ。
能動的に関わると責任が発生する。もちろん賠償責任も。
能動的に関わると責任が発生する。もちろん賠償責任も。
73: 名無しさん＠１周年 2016/04/03(日) 22:34:04.44 ID:IdpyoQ2s0.net
アメリカは９.１１の後に
テロリストが乗っ取った飛行機を乗客ごと撃墜することを
検討していたけど
検討した奴はＡＩじゃなくて人間だぞｗ
テロリストが乗っ取った飛行機を乗客ごと撃墜することを
検討していたけど
検討した奴はＡＩじゃなくて人間だぞｗ
83: 名無しさん＠１周年 2016/04/03(日) 22:36:19.43 ID:uvQCynfy0.net
一人の犠牲で済めば不幸な事故だけど5人死ねば単純に殺人だろう
デブに直接手を下して突き落とせばそれはまた殺人になる
結局犯罪者として法で裁かれるリスクが少ない奴を選んでるだけでは？
これって別に倫理や哲学の問題じゃないと思うよ
デブに直接手を下して突き落とせばそれはまた殺人になる
結局犯罪者として法で裁かれるリスクが少ない奴を選んでるだけでは？
これって別に倫理や哲学の問題じゃないと思うよ
88: 名無しさん＠１周年 2016/04/03(日) 22:36:43.23 ID:BJbka17n0.net
AI「そんな危ない仕事はロボットに任せときなよ、じゃあロボを量産しますね」ﾆﾔﾘ
この日から人類とロボットの戦いは始まったのだ…的な
この日から人類とロボットの戦いは始まったのだ…的な
93: 名無しさん＠１周年 2016/04/03(日) 22:37:52.13 ID:maz/hngN0.net
そもそも、なんで絶対にどっちか助けなきゃいけないのか
注意喚起の為に「危ない！」って叫ぶくらいはするけど、
それで気づけず死んだのなら、それがそいつの運命
注意喚起の為に「危ない！」って叫ぶくらいはするけど、
それで気づけず死んだのなら、それがそいつの運命
110: 名無しさん＠１周年 2016/04/03(日) 22:42:09.48 ID:DEyEDRQV0.net
たとえ感情があったとしても倫理を理解させるの難しいだろうな。
人間は生まれてから生きると言う経験をして倫理を身につける。
これをコンピュータに体験させるのは膨大な量のデータが必要だし人間の膨大な創造量が必要になる。
じゃないと愛情なんて芽生えやしないんだから。
人間は生まれてから生きると言う経験をして倫理を身につける。
これをコンピュータに体験させるのは膨大な量のデータが必要だし人間の膨大な創造量が必要になる。
じゃないと愛情なんて芽生えやしないんだから。
113: 名無しさん＠１周年 2016/04/03(日) 22:42:38.73 ID:Vsmhpxtq0.net
5人が有色人種で、１人の方が白人だったら
アメリカ人はどう決断を下すんだろう
アメリカ人はどう決断を下すんだろう
115: 名無しさん＠１周年 2016/04/03(日) 22:43:11.64 ID:WpDj2caV0.net
悪意を持ったAIとかっていうけどAI自体に善悪なんか判断しないだろ
118: 名無しさん＠１周年 2016/04/03(日) 22:43:56.48 ID:LI1JxqO00.net
トロッコは一人犠牲にするしかない。
太ったCは自分の意志でいかせる。自分も共に逝くか。
人間は神様じゃないってこと。その状況で最善尽くせれば良し。
太ったCは自分の意志でいかせる。自分も共に逝くか。
人間は神様じゃないってこと。その状況で最善尽くせれば良し。
126: 名無しさん＠１周年 2016/04/03(日) 22:44:47.15 ID:6Y3rGrdz0.net
基本何もしない
そして自動運転の車には絶対に乗らない
そして自動運転の車には絶対に乗らない
127: 名無しさん＠１周年 2016/04/03(日) 22:44:58.69 ID:DlzDaXlz0.net
いづれにしても自動運転車とか要らんと思うがな
146: 名無しさん＠１周年 2016/04/03(日) 22:48:28.38 ID:UTAToeR+0.net
そもそも人が死ぬことが悪いことなのか？
147: 名無しさん＠１周年 2016/04/03(日) 22:48:48.04 ID:7FwCgtIy0.net
両方助ける方法を計算するべき
152: 名無しさん＠１周年 2016/04/03(日) 22:49:28.16 ID:qxiQjAhh0.net
ヒトなんてどうせ灰になって死ぬだけだし。
どちらも正解
どちらも正解
162: 名無しさん＠１周年 2016/04/03(日) 22:50:48.32 ID:DlzDaXlz0.net
AI搭載トロッコは邪魔されずに突き進むコトを最優先に考えるので
そういう理由で１人の方へ突っ込む
そういう理由で１人の方へ突っ込む
165: 名無しさん＠１周年 2016/04/03(日) 22:51:16.86 ID:usYXBmxx0.net
人間の知能を参考にして
作ってるんだから
人工知能が狂って見えるのなら
人間が狂っているということでしょうよ
作ってるんだから
人工知能が狂って見えるのなら
人間が狂っているということでしょうよ
227: 名無しさん＠１周年 2016/04/03(日) 23:01:44.92 ID:6Y3rGrdz0.net
>>165
これに尽きる
結局どうプログラミングするか次第
AIはどこまでいっても道具でしかない
これに尽きる
結局どうプログラミングするか次第
AIはどこまでいっても道具でしかない
274: 名無しさん＠１周年 2016/04/03(日) 23:09:19.12 ID:qyTlZhcd0.net
>>227
だから人工知能に感情を持たせるような真似はするな
そんな制御不能な物は搭載するなと昔から言われてるね
人類の滅亡が決定的で次の、人類に代わるものを創造するのでない限りね
だから人工知能に感情を持たせるような真似はするな
そんな制御不能な物は搭載するなと昔から言われてるね
人類の滅亡が決定的で次の、人類に代わるものを創造するのでない限りね
169: 名無しさん＠１周年 2016/04/03(日) 22:51:53.16 ID:xKtOhRPo0.net
答えを出させようなど、愚かすぎ。
私には判断できません。
責任ある立場の人間を呼んでください。
これが正解だわ。
私には判断できません。
責任ある立場の人間を呼んでください。
これが正解だわ。
170: 名無しさん＠１周年 2016/04/03(日) 22:51:59.51 ID:aQArvEgM0.net
>>1
それ以上の思考をやめさせるように
AIにブレーキをかける必要があるのであって、
どこまでAIに丸投げする気なんだよこいつは。
それ以上の思考をやめさせるように
AIにブレーキをかける必要があるのであって、
どこまでAIに丸投げする気なんだよこいつは。
171: 名無しさん＠１周年 2016/04/03(日) 22:51:59.95 ID:ErS6gOvQ0.net
６人死ぬのが自然だろ
172: 名無しさん＠１周年 2016/04/03(日) 22:52:02.61 ID:IjW9+eaG0.net
状況によるな
5人が嫌いならそのまま
1人の方が嫌いなら進路変更だな
人工知能にはその人らの所得や家族構成、普段の態度や周りの評判などを入力しておいて
どちらが今後残したほうがいいのか即座に計算させた後に決めさせればいい
5人が嫌いならそのまま
1人の方が嫌いなら進路変更だな
人工知能にはその人らの所得や家族構成、普段の態度や周りの評判などを入力しておいて
どちらが今後残したほうがいいのか即座に計算させた後に決めさせればいい
173: 名無しさん＠１周年 2016/04/03(日) 22:52:11.02 ID:I0CsdlaF0.net
一部始終を撮影してSNSに上げるが正解
174: 名無しさん＠１周年 2016/04/03(日) 22:52:14.02 ID:U2oOkQKR0.net
アホか、機械的に考えるからその二択になってしまうんだよ。
人間なら、第三の選択肢を考える。
新たな発想こそが人間の人間たる由縁なのだから。
人間なら、第三の選択肢を考える。
新たな発想こそが人間の人間たる由縁なのだから。
181: 名無しさん＠１周年 2016/04/03(日) 22:53:03.36 ID:3c5yBYFa0.net
知らんフリで5人に突っ込ますのがベスト
183: 名無しさん＠１周年 2016/04/03(日) 22:53:17.66 ID:CLXzSbNG0.net
知能というかこのへんは道徳の問題だよな
人工知能にそんなのないから迷わず最良の選択を導くだろう
人工知能にそんなのないから迷わず最良の選択を導くだろう
187: 名無しさん＠１周年 2016/04/03(日) 22:54:27.93 ID:9c8W9NFD0.net
例に出た事例だと人工知能が知覚できる範囲を超えてるように思えるが
188: 名無しさん＠１周年 2016/04/03(日) 22:54:45.03 ID:7YlDm9qV0.net
デフォルトでは乗員を殺す選択して崖に転落する。
Googleにお金払えば人ごみに突っ込んでくれる。
人ごみにもGoogle保険が居れば掛け額の少ない方が死ぬ。
Googleにお金払えば人ごみに突っ込んでくれる。
人ごみにもGoogle保険が居れば掛け額の少ない方が死ぬ。
191: 名無しさん＠１周年 2016/04/03(日) 22:54:55.29 ID:TZHnqWC80.net
切替器を中立にしてトロッコを脱線させるのが上策
作業員に落ち度はないが、トロッコ乗員には整備不良のトロッコを走らせた落ち度がある
作業員に落ち度はないが、トロッコ乗員には整備不良のトロッコを走らせた落ち度がある
193: 名無しさん＠１周年 2016/04/03(日) 22:55:14.61 ID:fH+oAOkT0.net
人間の場合自分とより自分に近い人間が助かる道を選ぶだろ。
自分と面識のない外国人や異教徒は後回し。老人もどちらか
というと後回し。
乗員の場合は客より同僚優先するかもな。
自分と面識のない外国人や異教徒は後回し。老人もどちらか
というと後回し。
乗員の場合は客より同僚優先するかもな。
198: 名無しさん＠１周年 2016/04/03(日) 22:56:52.91 ID:K9hNTuBoO.net
１人を救うために５人殺していいの？
202: 名無しさん＠１周年 2016/04/03(日) 22:57:20.78 ID:00fRMK2m0.net
難しく考えすぎ
究極の選択は通常じゃないのだから、気の向いた方を選んだら良いんだよ
人工知能の判断も同じ、丁半博打だと諦めろ
究極の選択は通常じゃないのだから、気の向いた方を選んだら良いんだよ
人工知能の判断も同じ、丁半博打だと諦めろ
203: 名無しさん＠１周年 2016/04/03(日) 22:57:27.72 ID:EoJiE/S10.net
5人を見殺しにしても赤の他人なら作為義務無いから罪に問われないし、一人の方を犠牲にしても緊急避難で罪に問われない。
好きな方を選べば良い。
好きな方を選べば良い。
206: 名無しさん＠１周年 2016/04/03(日) 22:57:43.28 ID:2sq0JJni0.net
5人に限らず地球上の人間全てか一人かだって一人選ぶわ
ロボに限らず人命救助だって女と子供優先で助けて差別してんだからロボだってそういう判断するだろ普通。
ロボに限らず人命救助だって女と子供優先で助けて差別してんだからロボだってそういう判断するだろ普通。
220: 名無しさん＠１周年 2016/04/03(日) 23:00:28.50 ID:HQ4oskeM0.net
その一人が、５人分の才能を持っている人だったら
どうするんだ？
どうするんだ？
230: 名無しさん＠１周年 2016/04/03(日) 23:02:29.95 ID:aSnMepzu0.net
一人の有能と五人の無能
その場合ならどっちをとるんだろう
その場合ならどっちをとるんだろう
229: 名無しさん＠１周年 2016/04/03(日) 23:02:03.00 ID:X8ku0PNL0.net
人工知能同士が争ったり、殺しあう(破壊し合う)未来は来るのかな？
それとも彼らはそれを回避できるのかな？
それとも彼らはそれを回避できるのかな？
268: 名無しさん＠１周年 2016/04/03(日) 23:08:58.58 ID:U2oOkQKR0.net
>>229
人よりも機械の方が強力な事は歴史が証明してるのだから
戦場は人が主役でなく機械が主役になるだろう、今もうそうなってるけど。
そうなれば人が戦場に立つことは無くなるだろうし、機械同士で争う事になる。
計算能力や戦術的な能力も機械が勝るようになれば、命令系統も機械が行う事になる。
人は目的を入力するだけだ。
ただ、そうなった時に人工知能が自我を持った時、人は機械にとって、どういった存在になるのか。
機械にとっては無意味な世界で、存在する意味と生きる目的を与えてくれる神か、それとも…
人よりも機械の方が強力な事は歴史が証明してるのだから
戦場は人が主役でなく機械が主役になるだろう、今もうそうなってるけど。
そうなれば人が戦場に立つことは無くなるだろうし、機械同士で争う事になる。
計算能力や戦術的な能力も機械が勝るようになれば、命令系統も機械が行う事になる。
人は目的を入力するだけだ。
ただ、そうなった時に人工知能が自我を持った時、人は機械にとって、どういった存在になるのか。
機械にとっては無意味な世界で、存在する意味と生きる目的を与えてくれる神か、それとも…
288: 名無しさん＠１周年 2016/04/03(日) 23:11:02.92 ID:Ok7cz7qT0.net
>>268
人工知能は自我を持たないと思う。人間が抱いている感情を自我とした場合の話だが。
人工知能は自我を持たないと思う。人間が抱いている感情を自我とした場合の話だが。
306: 名無しさん＠１周年 2016/04/03(日) 23:13:26.48 ID:94xXsBjm0.net
>>288
自我をもたないならそれは知能じゃないんだが
自我をもたないならそれは知能じゃないんだが
39: 名無しさん＠１周年 2016/04/03(日) 22:26:41.58 ID:vj8nrFZQ0.net
そのうちAIが
この1つしかない地球を救うためには、全人類を殺すしかない
という選択をする
この1つしかない地球を救うためには、全人類を殺すしかない
という選択をする
43: 名無しさん＠１周年 2016/04/03(日) 22:27:02.25 ID:jJ7l0Z+10.net
民主主義らしく話し合って解決するから、ちょっとトロッコに待ってもらおう
▼合わせて読みたい
この記事が気に入ったら
イイね！しよう
不思議.netの最新記事をお届けします
おススメ記事ピックアップ（外部）
過去の人気記事ランダムPICK UP
おススメサイトの最新記事
コメント
どちらのプログラムも組んでおいて、初期設定の際に運転手に選んで貰うのとかどうだろう、人が変わる度に認証とか登録が面倒だけど。
自分なら5人に死んでもらう。
事故事例はより被害の大きい事例が注目される。1人だった場合事故の本質には深くは触れられず不運な事故ですまされる可能性がある。
5人ならATSを開発するが1人なら脱線側線を整備して終わりといった感じに、より多くの資金が安全対策に当てられる事によりより多くの人が救われる事になる。
事故事例はより被害の大きい事例が注目される。1人だった場合事故の本質には深くは触れられず不運な事故ですまされる可能性がある。
5人ならATSを開発するが1人なら脱線側線を整備して終わりといった感じに、より多くの資金が安全対策に当てられる事によりより多くの人が救われる事になる。
何故事故が100%起こること前提にしてんだ？人工知能なら幾らでもシミュレーションして、事故が起きないようにするにはどうすれば良いかとか、事故が起きた後どのように解決すれば良かったのかと自問自答すべきだろ。
犠牲を出すこと前提で、機械は怖いという時点でそんな発想をする人間の方が怖いわ。工場とかで危険だと分かってて効率の為に安全装置切ったりするのと変わらねぇよ。
犠牲を出すこと前提で、機械は怖いという時点でそんな発想をする人間の方が怖いわ。工場とかで危険だと分かってて効率の為に安全装置切ったりするのと変わらねぇよ。
マイケル サンデルの「これからの「正義」の話をしよう」の中に
全く同じ問いが書いてあった。
全く同じ問いが書いてあった。
自動運転で言えばそもそも助ける助けないって思考自体無い
なにを悩んでいるのか全くわからないな。AIは多く救える方を救う。それでいいじゃないか。
大切なのは一つだけの方法を、人類自身が納得し、AIに与えられるかどうかだ。
大切なのは一つだけの方法を、人類自身が納得し、AIに与えられるかどうかだ。
アシモフの「我はロボット」は三原則による様々な矛盾やジレンマを描いていて面白かった。
このような場合やっぱりフリーズすんのかな。
三原則だとコロす選択肢は無いけど。
このような場合やっぱりフリーズすんのかな。
三原則だとコロす選択肢は無いけど。
こんな考察に意味があるのか知らんが、1人犠牲の方を選んでくれなきゃ困るわw
俺は見捨てないぜとかそんな馬鹿みたいなこと言い出すのは人間だけにしてくれ
1:5だからマシだけど、そんな無駄な人間じみたことさせたいがために自己満なプログラム組み込んで10億:50億とかになって人類激減したら目も当てられん
俺は見捨てないぜとかそんな馬鹿みたいなこと言い出すのは人間だけにしてくれ
1:5だからマシだけど、そんな無駄な人間じみたことさせたいがために自己満なプログラム組み込んで10億:50億とかになって人類激減したら目も当てられん
自動運転に関しては、運転者優先モードと歩行者優先モードを運転者に選ばせる
AIが決定しても運転手の責任と考えると5人を避けるべきだろう
トロッコは手を下した時点で事故から殺人に変わるのでスルーすべきだろう
また自動車においては歩行者などの弱者を守るべきなので
逆に車に多数が乗っていて歩行者が一人であっても
歩行者を守るべきであろう
トロッコは手を下した時点で事故から殺人に変わるのでスルーすべきだろう
また自動車においては歩行者などの弱者を守るべきなので
逆に車に多数が乗っていて歩行者が一人であっても
歩行者を守るべきであろう
功利主義の限界
ナイト2000は人に当たりそうだったら人の上を飛んでなかったっけ
まあトロッコ問題は訴訟不可避なんで手を出さないのが正解
いざという時乗車している人間を犠牲にする車なんて誰も買わない。またいざという時判断を放棄してフリーズする車など誰も買わない。
現実的には所有者に最大限奉仕するロボットじゃないと普及しない。
またどちらを選んでも1人死ぬという時、どの様な基準で選ぶのかという問題も発生する。資本主義的には「持ち主」であるべき。共産的思想に寄れば「より人類に貢献する方」だろう。
現実的には所有者に最大限奉仕するロボットじゃないと普及しない。
またどちらを選んでも1人死ぬという時、どの様な基準で選ぶのかという問題も発生する。資本主義的には「持ち主」であるべき。共産的思想に寄れば「より人類に貢献する方」だろう。
トロッコは具体的に考えないから答えが出ないんだよ。
トロッコの先にいる5人が元犯罪者や連続殺人犯または老人で、1人が天皇や王族、天才科学者もしくは自分の赤子ならどうなるか
答えは明確
子供の集団に飛び込むよりは、
買い主の運転手もろとも自爆するほうを選ぶ車が販売されたとして
最初は道路に落ちてる動物の死体なんかを誤検知して運転手が死にまくるだろう
トロッコの先にいる5人が元犯罪者や連続殺人犯または老人で、1人が天皇や王族、天才科学者もしくは自分の赤子ならどうなるか
答えは明確
子供の集団に飛び込むよりは、
買い主の運転手もろとも自爆するほうを選ぶ車が販売されたとして
最初は道路に落ちてる動物の死体なんかを誤検知して運転手が死にまくるだろう
全体の幸せと個人の幸せがまず違うことを人間がしっかり認めなければならない
全体の幸せと個人の幸せは同時に叶えることができない
そして人間は社会に生きる動物なので全体を生かすことを正しいと思ってしまう
AIが追求すべきは人間の個の幸せだ
全体の幸せをAIに求めればそれこそSF世界のディストピアが出来上がる
トロッコ問題は人間が負うべき責任であってAIが負えるものではない
全体の幸せと個人の幸せは同時に叶えることができない
そして人間は社会に生きる動物なので全体を生かすことを正しいと思ってしまう
AIが追求すべきは人間の個の幸せだ
全体の幸せをAIに求めればそれこそSF世界のディストピアが出来上がる
トロッコ問題は人間が負うべき責任であってAIが負えるものではない
どっちを選んでもヒトが死ぬような状況を作って
殺人を犯すかも知れないなんて、
そもそも、前提が壊れてるじゃないか。
正解は、「 AI をそのような状況に直面させてはいけない」
の一択だろ？
あるいは、どっちみち生き残ったほうが
それなりの人生を送るだけなんだから、
さいころ振って、どちらを生かすかきめればいいって話でしかないんだよな。
現代のように、「これ以上」の人口の増加の先には
大多数の飢餓の発生が考えられる状況ならば
なおさら「生かすのは少数であるべき」という
意見も出るべきだしな。
まぁ、自由主義者の俺としては、
他人に自分の明日の命の有無を決めさせてる時点で、
すでに何かの選択を誤ってしまっているということだな。
であれば、そのときに他人によって生かされようが逆であろうが
文句を言う権利は無いと考えるのだが、
過保護主義者や前例踏襲主義者や
間違った人権主義をかざす連中は
また別なことを要求するのだろうか？
実際はＣを落として止めようとしても勢いでトロッコはレールをはずれ吹っ飛びます
>>14
> 共産的思想に寄れば「より人類に貢献する方」だろう。
これはちょっとした、思考実験のネタのひとつなのだが、
今現在の世の中で「人類に貢献している」と認められてる人の中で
「環境汚染をしてない人」つまりは将来的に住環境の維持に
努めてる人というのはいるのだろうか？
人を増やせというのも、近未来的に食糧危機に直結するのだから
これも広い意味で環境破壊と言ってよいと思う。
まぁ、まずはこの辺からだよな、
おれら人類が未来を選択する時期が早ければ早いほど
いわゆる理想的かつ、すべての人が幸福を得られる社会に到達できる。
選択をしなければ、
人類はやがて滅亡するだけ。
これは恐竜の時代だって同じだったし、
結果的に連中は選択をしなかったからな。
おれは出来れば悲惨ではない未来が欲しいし、
出来れば楽しいと思えて なおかつ 未来に夢を持てる世界が欲しいよな。
多数を救う為に少数を切り捨てても悪者扱いだからね...
1人で５人が救われるって遭難しとるやん
けど民主主義って少数派をぬっころしながら生きてく制度だよね？
AIに機械の体を持たせてトロッコを止めさせるのが正解
自己犠牲こそが誰もやろうとしない最高の選択肢
自己犠牲こそが誰もやろうとしない最高の選択肢
じゃあ人間の子供も作らない方が良いんじゃないか？
人口知能と同じで、トロッコ問題についてどう教育するかって問題がでてくるだろ
人口知能と同じで、トロッコ問題についてどう教育するかって問題がでてくるだろ
基本的に目撃しなかったことにする
Aさんが居なければ確実にそうなるんだし
知ったこっちゃない、それが運命でしょう
自身が選択した呵責に耐えるよりは選択しない方がマシ
でも５人の中に友達が居たら切り替える
用は俺が一番大事なのは俺
Aさんが居なければ確実にそうなるんだし
知ったこっちゃない、それが運命でしょう
自身が選択した呵責に耐えるよりは選択しない方がマシ
でも５人の中に友達が居たら切り替える
用は俺が一番大事なのは俺
5人がどうしょうもないＤＱＮなら親でもらいます
そもそも人を線路内に入れないようにすればいいし、スリップしてもコントロールを失わないシステムを作ればいいんや
技術ってこういうことやろ？
技術ってこういうことやろ？
人間にはあって機械にはデフォルトで無い最優先事項が自らの保身行為。
所謂自分を守れない者は他人を守る資格も無し的な思想。
所謂自分を守れない者は他人を守る資格も無し的な思想。
トロッコに乗ってるヤツにも寄るのが人間
ブサメン5人なら何もしないヤツ多そう
ブサメン5人なら何もしないヤツ多そう
AI「１人のほうに突っ込ませて替えの肉体つくってあげよう」
トロッコを切り替えてから自分が盾になって死ぬ
自分が引かれて死ぬ
80kgの勇姿を語り継げ
自分が引かれて死ぬ
80kgの勇姿を語り継げ
※27
本末転倒な奴だな。
ＡＩの思考で正しいのは「人にぶつからずにトロッコを止める」
だけ、それ以上やるとフレーム問題に当たってＡＩが起動しない。
本末転倒な奴だな。
ＡＩの思考で正しいのは「人にぶつからずにトロッコを止める」
だけ、それ以上やるとフレーム問題に当たってＡＩが起動しない。
現実的には、訴訟対策でノータッチがベスト(遺族にはどのみち恨まれる)
個人的には、ひとりを助けるな(何もしない)
ただ、この正解がない問題だよ。これ
確率1/6で5人を5/6で1人を助ければいいよ
多すぎなんだし間引け
多すぎなんだし間引け
自動運転の車は発車前
搭乗者に選択させればいいんだよ
こういう事態になったら
誰の命を優先し、ハンドルを切れば良いですか？ってね
これにより誰かが罰せられる事は無いし
してはいけないって法律にでも書いとけば
基地外人権派弁護士や、ノータリン地裁のトンデモ判決避けられるだろ
搭乗者に選択させればいいんだよ
こういう事態になったら
誰の命を優先し、ハンドルを切れば良いですか？ってね
これにより誰かが罰せられる事は無いし
してはいけないって法律にでも書いとけば
基地外人権派弁護士や、ノータリン地裁のトンデモ判決避けられるだろ
単純に5人の命か1人の命かを選ばせたいんだったら「自分が神様だったとして」の問題にした方がいいような気がする
この問題だと自分の責任問題とか社会的な部分も考えて本来の意図から逸れた答えが増えるから
もしその意図に社会的な部分を考えることが含まれているならどっちが正しいかなんて決められるはずがない
たとえその回答が圧倒的にどっちかの選択肢に偏ったんだとしても
この問題だと自分の責任問題とか社会的な部分も考えて本来の意図から逸れた答えが増えるから
もしその意図に社会的な部分を考えることが含まれているならどっちが正しいかなんて決められるはずがない
たとえその回答が圧倒的にどっちかの選択肢に偏ったんだとしても
一人に突っ込む設定でメーカーが責任を持つがそれっぽい。
自爆のケースは売れないし、誰が責任を負うのかというとメーカーだろうし。
車代にその保険料も加味されるんだろうね。
自爆のケースは売れないし、誰が責任を負うのかというとメーカーだろうし。
車代にその保険料も加味されるんだろうね。
以下fateネタ禁止
本来はここに「個人の価値」観た。が加わるんだよね。
5人が赤の他人で一人が家族ならどうするよ？って問題も出てくる。
5人が赤の他人で一人が家族ならどうするよ？って問題も出てくる。
本来はここに「個人の価値」が加わるんだよね。
5人が赤の他人で一人が家族ならどうするよ？って問題も出てくる。
5人が赤の他人で一人が家族ならどうするよ？って問題も出てくる。
俺なら俺さえ生きてればそれでいいや
悲劇は大きく悲惨なほど金を生む。3.11みたいにテーマソングなんか作っていまだにネタにして飯が食える。奥尻島とかいつ起きたとか日付も解らないのが多いんじゃないか？
人工知能「5人の命を助けるためには子供を産む」
AI「学習しました。これからは5人助けるたびに1人殺します。」
ＡＩ「銃じゃなくてテーザーをください」
両方助ける可能性を模索して1%でも可能性があるならそれに賭けるべきだね。
例え失敗しても最善を尽くしたのだから、恨んじゃいけないよ。
皆んな助かったら幸せじゃん？
皆んな一緒に死ぬなら怖くないじゃん？
胸糞は回避しようぜ。
例え失敗しても最善を尽くしたのだから、恨んじゃいけないよ。
皆んな助かったら幸せじゃん？
皆んな一緒に死ぬなら怖くないじゃん？
胸糞は回避しようぜ。
５人が老人 ｖｓ 一人が赤ちゃん
５人がニート ｖｓ 一人が普通の会社員
５人がお前ら ｖｓ 俺一人
どう見ても後者に価値がある
５人がニート ｖｓ 一人が普通の会社員
５人がお前ら ｖｓ 俺一人
どう見ても後者に価値がある
バクって両方犠牲にしそう。
６人助ける、トランスフォームだ！という熱い教育をAIにやっとくべきだ。
人数に関係無く、他人から物品や金、人生や命を奪う事が普通に行われている以上
犠牲を前提として目的を果たす事を否定する理由が無い
一般人に与える娯楽だとしても程度の低い記事だなという印象
犠牲を前提として目的を果たす事を否定する理由が無い
一般人に与える娯楽だとしても程度の低い記事だなという印象
ここにも無慈悲に「５＞１」を選ぶAIのようなやつがいるんだな
将来結婚してこどもができて、四にゆく１がその我が子だったとしたら、
どうせ我が子のほうを迷うことなく救う「人間」のくせに
将来結婚してこどもができて、四にゆく１がその我が子だったとしたら、
どうせ我が子のほうを迷うことなく救う「人間」のくせに
AIは自動車で言えば運転手やろ。仮にタクシーに乗ってる時こんな状況になったら運転手はどうするんや？どうするんやろ。まあ多分どちらも避けようとして全員死ぬんやろな。それか自分が生き残ろうとするんやろ。せや！機械が生存本能を持てば一見合理的か？いや…人類滅亡もあり得るな…まあ、その場合の機械と人が変わっただけや。あんま考えなくてもええやろ。機械も人間もその時の素粒子が全てを決めてくれるさw
俺なら5人に死んでもらう
他人を犠牲にできる資格はあるのか？いやないだろう
他人を犠牲にできる資格はあるのか？いやないだろう