Uberの自律走行タクシーによる歩行者の死亡事故はソフトウェアが歩行者を無視したのが原因との報道 25
ストーリー by hylom
「センサーが検知」はどのレベルだったのか 部門より
「センサーが検知」はどのレベルだったのか 部門より
headless曰く、
3月にアリゾナ州で発生したUberの自律走行タクシーによる歩行者の死亡事故について、ソフトウェアのチューニングが原因だったとThe Informationが報じている(The Verge、Ars Technica、SlashGear)。
自律走行車ではセンサーにより周囲の物体を検知し、回避が必要かどうかの判断を行う。たとえば、道路上で風に舞うコンビニの袋や、通常は動き出すことのない道路脇に置かれたゴミ箱などの物体は回避不要な物体にあたる。そもそも存在しない物体をセンサーが誤検知することもあるという。
Uberのソフトウェアには誤検知や回避不要な物体を無視する機能が備わっており、回避が必要かどうかの判断レベルを調整できるようになっている。The Informationの情報提供者2名によれば、センサーは歩行者を検知していたものの、ソフトウェアが反応不要と判断していたのだという。誤検知と判断されていた可能性もあるようだ。
センサーが検出した物体をより多く回避するよう調整すれば安全性は高まるが、ブレーキングや方向転換が頻発して乗り心地は悪くなる。一方、より多く無視するよう調整すれば乗り心地はよくなるものの、衝突事故の可能性が高まる。ソフトウェアを後者寄りにチューニングし過ぎたことで、歩行者に反応できなかったとUberの経営陣は考えているとのことだ。
プリミティブなセンシング (スコア:2)
センサーなんだから、閾値とか誤検出率とかいう問題は必ず発生する。しかし、この場合はセンシングのレベルが低すぎる。自動運転に要求されるのは、もっとインテリジェントで、対象をディープに把握する能力だと思う。道路の周りで起きていることを、かなり深いレベルで観察、解釈する必要があるはず。
#説明責任はないです
Re: (スコア:0)
Uberの技術力は日本勢やテスラより少し上程度で、ゴミ袋とゴミ袋を持った人間を区別できるような高度なものは作れない
Re: (スコア:0)
その区別ができない程度で公道走らせるって時点で頭おかしい
Re: (スコア:0)
Uberが頭おかしいのは今に始まったことじゃないし、人智を超えた囲碁を指すよりゴミ袋と人間を区別する方が難しいことが理解できないなら首突っ込もうとしても無駄
Re: (スコア:0)
以後よりゴミ袋と人間を区別する方が難しいかどうかなんて問題じゃない
公道を走るのに必須な「人間や障害物等の識別」ができていないのに公道を走らせるのがおかしい
Re: (スコア:0)
前に現在のAIなんて所詮昆虫の脳みそ程度の能力しかないだろって書いたことがあるんですが、この事件はまさしくそこらへんに問題がありましたね。
囲碁や将棋で人間を凌駕出来るのも、きわめて限定された事象しか起こらない世界に加えて、人間より桁違いの先読み処理能力があってのことです。
人間を単なるパターンではなく抽象的に認識できるようにならなければ、今後もこのような事故が起こるんじゃないかと思っています。
Re: (スコア:0)
モラベックのパラドックス [google.co.jp]な。給料が安い仕事の方が、知能が低くてもできる操作の方が、判断よりも認知の方が機械にも簡単だろうという思い込み。一番原始的で、技術水準の差が数百万年に及ぶ認知が一番難しいんだよな。
いいかえると (スコア:1)
「ボーッと、風景を眺めてたので気付かなかった。」
#と、ロボーットが申しております。
##「自、動、運、転、車!」「うるさい。おまえななロボットカーで十分だ」
これも実験 (スコア:0)
自動運転車が人を殺したらどうするべきかというのも、
テストケースとして含めておく必要があると思います
Re: (スコア:0)
なかなか怖いことを言いますね。つまりUberは生体実験をしたわけですね。アリゾナ州市民が被験体ですか。
Re: (スコア:0)
20xx年
あの頃はまだ誰も気がついていなかったんですよ、あれが後のスカイネットの最初の殺人だってね。
Re: (スコア:0)
その意味では、今回の場合オペレータのわき見運転であって彼が裁きを受けることになるだろうから、あんまりテストにならないな。
より多く回避するよう調整すれば安全性は高まる (スコア:0)
ユーザが設定可能にすればそれでOK
・がんがん行こうぜ
・命大事に
・電池を節約
存在しない物体 (スコア:0)
人間の五感では認識できない存在。自動運転カーの鋭敏なセンサーにだけ反応する存在。
という可能性はないだろうか(ない
Re: (スコア:0)
幽霊の存在が立証されるかも!
地縛霊がいると、そこでだけ必ず停止とか。
地縛霊無視機能を付けたら付けたで、死んでないのに幽霊よりも霊的な人や、幽霊なのに閾値より生きてるような霊もでてきたり?
Re: (スコア:0)
逆に人間には見えて自動運転カーには見えなさそうw
誤検知 (スコア:0)
運転補助の場合、誤検知が多いと運転者がシステムを切ってしまうので曖昧な場合は問題なしと判断する場合が多いのですが、
人が介入しない前提ならば、曖昧な場合でも危険アリと判断する方がいいように思います。
その辺の話が各国自動車技術会の自動運転ワークグループで出てないというのは考え難いのですが、
今回のはワークグループの指針通りなのか、そんな指針ないのか、指針を無視したのか、そもそも参加してないのか、どれなんでしょう。
Re: (スコア:0)
NHTSAとSAEのレベル定義を一笑に付したWaymoが世界最高峰の自動運転業界で、しかも法執行機関を小さめのライバル企業としか思ってないUberに対して、完全に蚊帳の外の自動車メーカーのWGが提言なんかできるわけないと思うんだけど
Re: (スコア:0)
公道で試験しているのですから、担当行政機関から認可を得ていると思うのですが、
その認可を得るのに、
俺が世界一だから他の連中の連中が決めた基準なんて必要ない。俺様の書いた書類だけ読んどけ。
で通るとも思えないのですけど。
Re: (スコア:0)
その担当行政機関が書いた書類が「機械さんは、疲れてきたら、やすむようにしましょう」みたいなデタラメで、ITの方から散々ネタにされたから、もう当分は書けないんじゃないかな。
Re: (スコア:0)
>曖昧な場合でも危険アリと判断する方がいいように思います。
んなことして、何もないところで急ブレーキかけたり、突然車線変更して幅寄せしてくる
車なんぞ、危険過ぎて公道を走らせられんぞ。
これは画像処理や制御プログラムの完成度が低すぎるという問題であって、
よく分からんものを危険ありと判断すれば解決するような単純な問題じゃないだろう。
Re: (スコア:0)
前提として記事中の"誤検知と判断されていた可能性もあるようだ。"とあるのを受けての書き込みです。
そういう場合の判定のしきい値は運転補助よりも安全方向に振った方がいいように思うけど、そういう方針は決まってないの?と言うことを意図しています。
どんなにセンサーと処理系が進歩しようと、検出してから挙動を決めるまでの時間内には判定できない事象は発生すると考えるべきで、その場合の話です。
いきなり変な挙動起こすのは誤判定の問題ではなく、あなたの言う通り完成度が低いという問題で、それは私の意図している事柄ではありません。
機械にとって人間は (スコア:0)
ノイズや不確定要素を生み出すジャマな存在なだけだからな
Re: (スコア:0)
それを言うなら世界そのものがノイズ原だぞ
事故は起こるさ (スコア:0)
歩行者を轢くなんてのはまあ大抵は歩行者を無視してるわけなのですが…
人間の場合は「その時、その人のあやまち」として完結していくのに対し
自動走行車は「統一され、意図された処理」として実行されたとも考えられるので、
おなじ惨事に対しておなじように許容できるものなのかどうか、
トロッコ問題のような倫理学的な難しさはありますね。
たとえば白と灰色のストライプ模様の服にまつわる犠牲者が出たとして、
「障害物としての差分をセンサーで認識できなかった」のと
「道路の一部として一律にフィルタリングしていた」のでは
受け手の感想にいくらか異なりが生じるかと思います。
人間の運転では曖昧にされてきた所までむしろ倫理的に追及されるでしょう。