パスワードを忘れた? アカウント作成
13505806 story
軍事

自律型ロボット兵器が戦場で適切な判断を下すのは難しい 26

ストーリー by hylom
判断せずにただ殺すのなら簡単かも 部門より
taraiok曰く、

自立型ロボット兵器の専門家によると、戦場で自律型、もしくは準自律型のロボットが適切な判断を下すのは難しいという(Bulletin of the Atomic ScienitistsSlashdot)。

米国で自律型ロボット兵器に関するガイドライン「国防総省指令3000.09」を制定したワーキンググループに所属していたPaul Scharre氏によると、武装勢力やゲリラの紛争では、兵士が難しい判断を行う場面がたくさんあるという。こういった状況では、プログラムによって「致命的的な力」を使う判断をさせるのは難しいと氏は語っている。実際、国防総省指令3000.09でも「自律的もしく半自律的な兵器システムは、指揮官や運営者が力の使用について適切なレベルの判断を行えるように設計されなければならない」と規定されているという。

なお、外敵が送り出す自律型兵器との戦いは避けられないかという質問に対してCrowder氏は「技術的にはあり得る」と答えた。すでに自律兵器に必要な技術はどこにでもあり、有能なプログラマであればガレージで自律兵器を作ることも難しくはないという。自律兵器にに関しては非拡散体制をとるという考えは現実的ではなく、最低限、テロリストや不正な政権による使用は発生すると予測することを考える必要はあるとのこと。

関連リンク

  • コストの問題を解決すれば、バンザイアタックで使うには十分効果的という事ですな。最後は自決自爆で機密保持。

    ここに返信
  • by Anonymous Coward on 2018年01月18日 16時15分 (#3347031)

    人間でもテンパったり気がつかないことがあったりで適切な判断ができるとは限らない。
    人間が判断を誤る理由と、AIが判断を誤る理由は必ずしもイコールではないから、相互補完するのが最善じゃないかなぁ。

    ここに返信
    • by Anonymous Coward

      その辺は分かった上で、実用的であると偉い人や民衆が認めてくれるほどの”安全性”を担保するのが難しいよね、という話なんじゃないかなぁ。
      軍というか戦術・戦略は時に確率的な損耗を計算に入れて道具・兵器を使ったりするけど、
      「状況次第で0.2%くらいの確率で味方or民間人も撃っちゃう兵器」みたいなものはなかなか導入させてもらえない。
      「無差別に撃つ兵器」なら(使いところが限られる代わりに)使いようはあるのに。
      難しい。

      #いや俺だって嫌だけどねそんな兵器と一緒に行動する部隊とか。
      #まだ「たまに俺を狙う人間」の方が対処のしようがある気分(気分だけだけど)

      • by Anonymous Coward on 2018年01月18日 18時03分 (#3347082)
        いやレーダーとかマーカーで敵味方識別できないFPSを一度でもやったらそんなこと言えない
        人間の味方なんて下手すりゃ「たまに敵を狙う人間」でしかないから
        99.8%で敵撃ってくれる機械があるならもうそいつの後ろついてくだけで英雄になれるよ
        • by Anonymous Coward

          後ろついて行くと0.2%で撃たれかねないから離れてた方がいいんじゃないかなぁ。

    • by Anonymous Coward

      人間が判断を誤る→そいつの責任にすればいい
      ロボットが判断を誤る→導入した偉い人の責任になる
      ってことじゃない?

      • by Anonymous Coward

        ドッチにしても軽重あっても偉い人に責任被さるのは変わらん
        本当の問題はそこらに転がってる兵卒や尉官どもより貴重で替えの効かん開発チーム、企業や開発者へ及ぶ責任の範囲が従来兵器の比じゃないところでしょ。

    • by Anonymous Coward

      聴牌ってもう一つで自分が和がれる状態のことなのに、
      ヤバい状態で焦ってるのをテンパるって言うのはなんでだろうか。

      20年くらい前からずっと疑問なんだが誰も答えてくれない。

      • テンパイすると当たりが気になってしゃべらなくなるとか
        他人が鳴いたのに気付かないとか
        初心者のウチはそんな緊張状態になるじゃないですか
        その感じから頭が何かで一杯になってる人を
        「おまえテンパってんのか~?」
        とからかうところからきてんじゃないですかね

        それを自分に対しても使うようになったのかなと

      • by Anonymous Coward

        リーチをかけると手を変えられないから、他人のロン上がりに(捨て牌を)振り込んでしまうリスクが上がるから…とかだっけ?リーチかけずに聴牌しても、勝ちを焦って振り込みとかありそうだし。

      • by Anonymous Coward

        焦っているときに限定されず、普段と比べて挙動不審になっている状態をテンパるって言うんですよ。
        ダマテンしてるのに普段と様子が違いすぎてバレバレな人っているでしょ?

      • by Anonymous Coward

        聴牌ではなくtemperが語源だと聞いたことがあるが真偽不明

  • by Anonymous Coward on 2018年01月18日 16時24分 (#3347036)

    自立型ロボット兵器「いいぞ ベイべー!逃げる奴は敵だ!!逃げない奴はよく訓練された敵だ!!」

    ここに返信
    • by Anonymous Coward

      自立型大量虐殺兵器を開発させた人「誰の良心も傷めない、良い作戦なんだがな。」

  • by Anonymous Coward on 2018年01月18日 16時25分 (#3347037)

    ってlethal forceの事か。殺傷力とかの方が良くないかい?

    ここに返信
    • by Anonymous Coward

      そもそも、致命的的って何ですか?

      • by Anonymous Coward

        自律的に適切に判断してください。

      • by Anonymous Coward
        「ちめいてき まとぢから」 かもしれないが、
        「致命的っぽい力」 の方かな
  • by Anonymous Coward on 2018年01月18日 18時49分 (#3347098)

    もう手遅れだろ
    http://karapaia.com/archives/52252255.html [karapaia.com]
    判断もなにも
    ドローンじゃなくても
    普段から誤爆と言いながら民家狙い撃ちしてるのに
    しかも大勢けが人が搬送されたタイミングで病院が”誤爆”されるケースが増えてるし
    戦争自体を禁止しなければどうしようもないと思うよ

    ここに返信
    • by Anonymous Coward

      それらはほんとに誤爆だったと信じたいが、誤爆だったとすればなおさら、お前のとこの軍隊は、自律型のロボットが適切な判断を下すのは難しい(キリッとか言えるぐらい優秀なのかと言いたいよな。

    • by Anonymous Coward

      機械の方がまだ一貫性は期待できるかもしれん。

    • by Anonymous Coward

      自律型兵器を導入すると今より「誤爆」が増えそうって話なのでは。

  • by Anonymous Coward on 2018年01月18日 20時41分 (#3347172)

    人殺しに行ってる時点で適切な判断じゃないし

    ここに返信
  • by Anonymous Coward on 2018年01月18日 22時17分 (#3347220)

    嫌い!(IFF付きな分、自立型ロボット兵器はマシ)

    ここに返信
typodupeerror

最初のバージョンは常に打ち捨てられる。

読み込み中...