AIの専門家が殺人ロボットの開発を禁止するよう政府に訴え

　「殺人ロボット（キラー・ロボット）」という用語が定着しているほどにAIを搭載した武器の開発は進められている。かねてからスティーブン・ホーキング博士やイーロン・マスク氏やその危険性を訴えていた。

　最近、オーストラリアとカナダの大勢のAIの専門家が、AIの武器化を止めるよう政府に訴えた。彼らは、今行動しなければ、いずれ機械に生殺与奪の権利を与えることになると警告している。

AI専門家がオーストラリアとカナダの首相に宛てた書簡

　これは今月開催予定の「特定通常兵器使用禁止・制限条約に関する国連会議（United Nations Conference on the Convention on Certain Conventional Weapons）」を睨んだ行動だ。

　122名のAI学者が署名をした書簡はオーストラリアのマルコム・ターンブル首相へ、216名の署名が集まった書簡はカナダのジャスティン・トルドー首相に宛てられた。

致死的な無人兵器システムは、攻撃対象の妥当性を判断する権能を人間から奪う。そうした兵器を配備することは明らかな倫理違反でもある。機械には倫理も命もない。ゆえに人間を超える生殺与奪の力を与えてはならない。

というものだ。

AI自律兵器の開発は戦争の第三次革命のはじまりである

　専門家はまた、自律兵器システムの開発が「戦争の第三次革命」であり、「倫理面に一層配慮」されなければならないとも主張する。

　「仮に開発されてしまえば、未曾有の規模で、かつ人間が把握できないほどの早さで武力紛争が生じる」と。

　オーストラリア・ニューサウスウェールズ大学のトビー・ウォルシュ教授によると、専門家が懸念するAI兵器は”ターミネーター”のようなものではなく、もっとシンプルなものだという。

　SF映画のような姿でなくともその殺傷能力は一切遜色がないが、国際コミュニティに明かされぬまま数多くの国家で開発中である。これについては新たな軍拡競争も懸念される。



　「これらも大量破壊兵器だ。1人のプログラマーが軍隊全体を統括する。大量破壊兵器は化学兵器、生物兵器、核兵器すらも禁止されたが、ここにAI兵器も加えられねばならない」とウォルシュ教授。

　書簡は、スティーブン・ホーキング博士がロボットは「新しい生命の形」になりうると発言した2日後の11月2日にオーストラリアとカナダの両政府に送られた。

コンピューターウイルスを発明する人間がいるなら、自らを改良・複製するAIを発明する人間もいるはずだ（ホーキング博士）

　この時、ホーキング博士は「コンピューターウイルスを発明する人間がいるなら、自らを改良・複製するAIを発明する人間もいるだろう。これは新しい生命の形となり、人類を上回るようになる」と発言していた。

　ホーキング博士はこれまでもAIの危険性について懸念を表明している。今年3月には、世界の指導者に対して、手遅れになる前に科学技術を人間の管理下に置かねばならないと訴えた。

関連記事：世界政府を樹立しなければ、科学技術（ＡＩ）によって人類は滅亡に追いやられる、とスティーブン・ホーキング博士が警告

AI兵器は大量兵器、独裁者の手に渡ると大変なことに

　「超知能を備えたAIは目標実現に極めて優れているが、それが我々人類の目標とそぐわない場合、危険なことになる」と博士。

　また2017年8月には世界中の100名を超えるAIとロボット工学の権威たちが、国連宛にやはり自律兵器の禁止を求める書簡を送った。書簡では、”殺人ロボット”と大量兵器の類似性が述べられている。

　今回の書簡の署名には、テスラやスペースXのイーロン・マスクやアルファベットのムスタファ・スレイマンといった人物の名も連なっている。

　AI兵器については、独裁者やテロリストの手に渡る危険性も否定できない。「このパンドラの箱が開いてしまえば、容易には戻らない」と書簡にある。

　なおイギリスは国連への書簡が出されてすぐに、”殺人ロボット”への先制的な禁止に反対する旨を表明した。

　英国防省の報道官は、一切の科学技術が「きちんと管理下にある」と主張しつつ、イギリスはそうした禁止に賛同しないと発言している。

　2016年12月には国連加盟国123ヶ国がAI兵器について正式に議論することに同意。うち19ヶ国が禁止を支持した。しかし国連は、8月21日に予定されていた同問題を議題とする会議を資金不足を理由に延期した。

via:medianet / ottawacitizen / rt / yahooなど/ translated by hiroching / edited by parumo
あわせて読みたい
進化する人工知能ラブロボットに専門家が警告。ハッキングされたら所有者を襲う「キラー・ラブロボット」になる可能性


2045年までに技術的特異点が起きると人工知能の権威、レイ・カーツワイル氏が予測


サウジアラビア、世界に先駆けロボットに市民権を付与。アンドロイドロボットがインタビューに答える


ロボット戦争：AIの進化が世の中に社会不安を引き起こす（専門家）


世界政府を樹立しなければ、科学技術（ＡＩ）によって人類は滅亡に追いやられる、とスティーブン・ホーキング博士が警告