自律走行車のブレーキが故障した場合に誰を助けるべきか判断するゲーム、プレイヤーはどう判断した? 49
ストーリー by headless
判断 部門より
判断 部門より
MIT Media Labは2016年、交差点に近づく自律走行自動車のブレーキが故障した場合に誰を助けるべきか判断するゲーム「Moral Machine」をオンラインで公開してデータを集めていたが、その成果がNatureに掲載された(MIT Newsの記事、
The Guardianの記事、
The Vergeの記事、
論文アブストラクト)。
Moral Machineはトロッコ問題の派生版で、乗客と横断者のどちらを助けるか、現在の車線の横断者と別の車線の横断者どちらを助けるかを判断するものだ。乗客と横断者には年齢や性別、職業などが設定されており、横断者には人間だけでなく動物も登場するほか、信号を守っているかどうかといった設定もある。
オンライン調査には233か国から200万人以上が参加し、4,000万回近くの判断が行われたという。その結果、全世界で多くの人が同意すると考えられる3つの要素が見つかったそうだ。3つの要素とは、他の動物の命よりも人命を救う、より多くの人命を救う、お年寄りよりも若い人を救う、といったものだ。
Moral Machineはトロッコ問題の派生版で、乗客と横断者のどちらを助けるか、現在の車線の横断者と別の車線の横断者どちらを助けるかを判断するものだ。乗客と横断者には年齢や性別、職業などが設定されており、横断者には人間だけでなく動物も登場するほか、信号を守っているかどうかといった設定もある。
オンライン調査には233か国から200万人以上が参加し、4,000万回近くの判断が行われたという。その結果、全世界で多くの人が同意すると考えられる3つの要素が見つかったそうだ。3つの要素とは、他の動物の命よりも人命を救う、より多くの人命を救う、お年寄りよりも若い人を救う、といったものだ。
参加者のうち491,921名は年齢や学歴、性別といったデモグラフィックデータを提供しているが、このデータで分けたグループごとの回答に傾向の違いはみられなかったという。一方、西方(西洋)・東方(東洋)・南方のように文化・地理的な大きな区分をすると、回答の傾向に違いが見つかる。たとえば、南方の国の人々は東洋の人々と比べ、お年寄りよりも若い人を助けようとする傾向が強かったとのこと。
このプロジェクトで研究グループは、自律走行車の倫理判断について人々が何を重視するか識別するためのデータを集めたかっただけでなく、人々が重要な社会的議論に参加するシンプルな方法を提供したかったのだという。そのため、こういった方法がより一般的になることを期待しているとのことだ。
テストだと思っていたら (スコア:2)
実は現実の自動運転車にリモートで回答しており…
いやそれはレスポンスタイム的にちょっと無理か
Re: (スコア:0)
某国の政治犯収容施設にて
「明日、死刑にするのはこいつに決まった。」
「どうやって決めたんですか?」
「ネット投票でね。」
これくらいならなんとか。
Re: (スコア:0)
普通は即日死刑なので、温情投票ということですね。
リモート可能なら遠隔操縦 (スコア:0)
人を撥ねそうな交通事故をリモートで判断させるよりも、
リモート可能なら遠隔操作のドライバーを雇う事が出来そうに感じます
自律走行には時間が掛かるでしょうが、遠隔操作であればそれなりにすぐ実現できるかも知れません
# フォードのコレ、どうなったんでしたっけ?
# https://wired.jp/2015/01/30/fords-remote-control-car/ [wired.jp]
木や電柱にぶつかって,自動車の人以外犠牲者を出さない (スコア:2)
という解はないのでしょうか。
なければいいのですが,それが存在して誰も選ばないようならば,やはり自家用自動車は禁止する方向に持っていくべきでしょう。
また,自立運転自動車の制御もそのようにすべきと思います。
233か国 (スコア:1)
国の数がそんなにあったっけ?と思って調べてみたら196カ国とのことですが・・・・
オンライン調査ができる国、ということだともっと少ないと思われる。
「自立走行車」について意味のある調査ができる対象となれば更に少ないか。
数え方によって国の数は変わる (スコア:2)
たとえば中国は台湾を国として認めてないので
中国からみた国の数は一つ少なくなります
日本だと北朝鮮はまだ国として認められていません.ですから日本政府は北朝鮮を国として数えません
こういう感じで国の数は一つに決まりません
日本政府が承認している国は196カ国あります
国連に加盟している国は193カ国あります(たとえば台湾は中国が反対しているのでまだ参加できてません)
国際規格であるISO 3166は249の"国と地域"に番号を振っています.
このように"国と地域"と呼ぶことで各国の事情に配慮する方法もあります
Re:233か国 (スコア:1)
abstractより、
"233の国と地域"
MIT Newsより
"200以上の国"
# なお、countryには、地域とかの意味もあるため、
# どこまでが国なのかがわからん。
Re: (スコア:0)
連邦国家とかもあるし。
# 旧ソ連が連邦構成国を含め国連で3ヶ国の議席を持っていた事は有名。
Re: (スコア:0)
countries は「地域」でしょ。
Re: (スコア:0)
これ見て [weblio.jp]
Re: (スコア:0)
カントリーロードとか
カントリークラブとか
カントリーマアムとか
カントリーミュージックとか
カントリーガールとか
カントリーガーデンとか
全部 カントリー=地域(地元) って意味だと思ってた・・・
Re: (スコア:0)
> カントリー=地域(地元) って意味だと思ってた・・・
土地的な意味で、田舎とか郊外とか地域の意味もあるし、
分野(IT分野とか介護分野とか)という意味もあるから、
全てがすべて"国"って意味ではないのです。
Re:233か国 (スコア:1)
日本語でも故郷や分野を指して「クニ」と言うことがあるのと似た感じかな。
Re: (スコア:0)
むしろ地域や地方の意味から転じて国と訳せるのだろう。
Re: (スコア:0)
ちなみにジーニアス英和大辞典によると、
「初13c;中世ラテン語 contrata(反対側の),「反対側の土地」が本義」
なんでそれがこうなるんだろう。
何に対する反対側なのやら。
Re: (スコア:0)
つまり、彼岸か!
Re: (スコア:0)
小学校の英語の教科書買ってきてもう一度勉強し直しな
Re: (スコア:0)
どれ(どこ)が「国」でどれ(どこ)が「地域」かをはっきりさせると政治的にやばい地域があるんだよ!!
具体的には台湾とか。
女性の恰好 (スコア:1)
女性がブルカやヒジャブで顔も隠さず生足晒して歩いてたりすると命の重さに影響する地域もあるんじゃないかと
誰のためのシステムか、だよね (スコア:1)
自動運転システムがその車を購入した個人のモノなら、乗員の保護が第一でなければおかしい。しかし実際には道路環境や他車との連携で運用されるものなので、おそらく全体の「被害」が最小と判断されるところに突っ込むことになる。
もし轢くなら人よりも動物、若者より年寄りで、できれば人数少ない方がマシってのはわかるけど、轢かずに自爆するって選択肢はなかったのか、あったけど選ぶ人いなかったのか、ってのはどうなんだろう。
Re: (スコア:0)
轢かずに自爆が一番被害が少ないよね。
自爆の仕方も計算したうえで行うなら、乗員の死傷も限定されると思う。
ちゅーか、法律で歩行者の保護義務があるわけで、
実際にそういう選択があるなら歩行者避けて自爆するのが基本動作になると思う。
※そして、飛び出しチキンレースして遊ぶ悪ガキが居る未来が来る、っと。
でも実際、自動車メーカーが自爆も考慮した上で自動運転を設計できるんだろうか。
自動車メーカーにそんな勇気はなさそうな。
Re: (スコア:0)
意図的な飛び出しと判断できるなら、轢き殺す。証拠は残るしね。自殺は自己責任という事で。
それはさておき、自爆は法律上の義務とするわけですよ。実装しないなら販売不可。
# 自爆といっても、火を付けるのは禁止ね。もちろん。
Re: (スコア:0)
現状の車も歩行者よりも乗員の人名や財産保護優先で作られてるしね
まあ、車に乗ってない奴らなんて自動車会社にとっちゃゴミに等しい価値しかないってこと
ひどいもんだよ
儒教が少しは影響してそうな (スコア:0)
南方の国の人々は東洋の人々と比べ、お年寄りよりも若い人を助けようとする傾向が強かった
儒教でお年寄り優先の感覚を持った国があるためにそのような傾向が見られた説は割とあると思います。
Re:儒教が少しは影響してそうな (スコア:1)
もしかしたら「日常でなんとか避けれてるだろうし、若者よりは避けれなそうな老人のほうが」みたいな判断もはいってたりして(設問的に助からないと思うけど)
# 回答者の年代とか生活環境とかもかなり影響しそうだな...
M-FalconSky (暑いか寒い)
Re: (スコア:0)
南方に比べて強いというだけで、若い人を助ける72%:年寄りを助ける15.3% みたいな話かもしれんよ
Re: (スコア:0)
南方の国の人々は東洋の人々と比べ、お年寄りよりも若い人を助けようとする傾向が強かった
儒教でお年寄り優先の感覚を持った国があるためにそのような傾向が見られた説は割とあると思います。
老人はヒットポイントが少ないのでワンチャン若い人を轢いたほうが生存可能性が高いとかそういう計算では?
実際のシナリオを見てるうちに (スコア:0)
ブレーキ故障時の自動停止メカニズムを開発しなければ、という強い感想。
・車内の人間か、前を歩く人間かどっちを殺すか選べは、車内の人間はエアバッグなどの安全装置があるから、歩行者よりは生き残る可能性が高いんじゃないか(シナリオでは車内みんな死ぬというちょっと無理めな前提)
・前を歩く人間・動物のどいつを殺すか選べに関しても、エンジンを停止して路側のガードレール的なものにぶつければなんとか止まれるんじゃないか
ゲームの主旨はそこじゃねえってことでしょうが、どっちも死なずに済む方法をまずは考えたい。
Re:実際のシナリオを見てるうちに (スコア:1)
現実的な対策としては
ブレーキ故障を検出するセンサーを開発する。
フット(油圧)ブレーキに異常が検出されたら、回生ブレーキ全開で減速する。
通常ブレーキとは異なる、非常用ブレーキも装備しておく。
あたりかなあ。
わざわざ非常用殺人アルゴリズムを作るくらいなら、非常用ブレーキ搭載する方が安上がりじゃね。
Re: (スコア:0)
いろいろと案は出てるけど、結局は何らかの形でブレーキを多重化するしかないだろうね。
小型車だとスペースが限られてる上に、元が軽いだけに上乗せ重量による燃費などの悪影響も大きい。
ブレーキ故障検出機構の方が壊れる可能性もあるわけで、異常を検出したときには「ブレーキの故障か検出系の故障か」の判断をどうするかとか、検出装置が拾えない形でのブレーキ故障もありうる。
まあこのへんはだいたい飛行機が通った道だけど、どんなに頑張っても100%の安全はない上に無限のコストもかけられないから費用対効果を考えて落としどころを探すことになる。
それじゃあコストを言い訳にして絶対実現しないかというと、エアバッグのようにけっこうコストがかかる上に義務化されたわけでもないのに日本ではほぼ100%装着が実現した例もあったりする。
Re: (スコア:0)
むしろサイドブレーキなくさない? 常用ブレーキは回生で。自動車に冗長性とか要らないでしょ。
Re: (スコア:0)
まあ少なくともATならPがあるからいいのかも、と思ったけど設計上はサイドブレーキほどの制動力はないため坂道などの停車では不十分らしい
Re: (スコア:0)
1) ハザードランプを点灯する。
2) 回生ブレーキで減速する。
3) 退避場所に向けて操舵する。
4) サイドブレーキをかける。
5) ギアを後退または駐車に入れる。
非常手順に"議論"が発生するのは、非常時と思うと人間が慌てて後から見ればバカみたいな行動を取るからで、設計する時に
決めれば一発で決まる。コンピュータは慌てないしそんなに深く思い悩んだりもしないんだから問題設定がそもそも無益。
この手の調査研究ってのは、調査手法自体の維持と、技術に対する社会からの見方を測るのが目的。
何を言ったところで本物の自動運転車とは関係ないし、あれこれ考えてすべきことも無いんだよ。
Re: (スコア:0, フレームのもと)
へー、えらいねー。で、その5番までやって全部ダメだったらどうすんの?
Re: (スコア:0)
保険が下りる。それ以上何をしろと?
Re: (スコア:0)
あなたの世界のリセットスイッチを押すことをお勧めするよ。
Re: (スコア:0)
保険額が違ってくるだろ
Re: (スコア:0)
車輪にモーターを内蔵させるのを義務化し、普段はアシストや慣性エネルギー回収ブレーキとして使い、主ブレーキ故障時には代わりに使うような多重化が必要かと。
結局何をしたい研究なの? (スコア:0)
ソース見てないけど倫理観の地域格差をみたいのかな?
なら自動運転に限らず色々な状況下でのものを回答させた方がいいでしょ。
#心構えがあって考えたらそういう助け方になるけど、実際遭遇したらあたふたするだけで何もできずに終わる
Re: (スコア:0)
とっさの行動をシミュレートしたいわけじゃなくて、とっさの選択を調べるアンケートなんで。
被験者が「正しい」と思う選択をしたと仮定した場合、「正しさ」に性差や地域差があるか、
あるいは性差や地域差に左右されない共通点があるか、っていう研究。
男女別も見てみたい (スコア:0)
被験者が男で犠牲者が若い女の場合と、性別逆にした場合を比較してみたい。
自律走行車は、そもそも誰を助けるか判断してはいけない(個人の見解です) (スコア:0)
真っ直ぐ(道なりに)進んで、出来るだけ短距離で停車する。
搭乗者の安全を優先してはいけない。
人の命を選択してはならない。
# 確実なら、自爆停止はあり。
# トロッコ問題は倫理観に関する思考実験でしかないのよね。実用性は皆無。
Re: (スコア:0)
自分なら下手に回避して大惨事になるくらいなら、そのまま直進だな。
本当にそれが出来るかどうかは分からないけど。
手塚漫画的に (スコア:1)
タイヤがばねでびよーんって伸びて車体が跳ね上がり前方の障害物を飛び越えるんですよ。
ψアレゲな事を真面目にやることこそアレゲだと思う。
Re: (スコア:0)
本体は分解されながら歩行者に突っ込んで、そこにいた人を散弾銃で撃たれたみたいにずたずたにするんですね?
Re: (スコア:0)
昔、高斎正だかの小説で、射出座席レグレーションのレースで、トンネル内で打ち出されたり、あれやこれやで誰もチェッカーフラッグを受けられなかったってのがあった気がする。
そうでなくても後続車群がパンクなどの事故の起こしそうなシステムは、危険。