イーロン・マスクがAIの開発に警鐘を鳴らしているのはご存知でしょうか。このことを楽観視する専門家も多いですが、AIの急速な発展に危機感を持っているのは彼だけではありません。AIやロボット工学のエンジニアたちを含めた多くの専門家が、特に焦りの声をあげているのが自律型軍事ロボット、つまり殺人ロボットの開発です。
求められる国連主導の話し合い
二年前に、イーロン・マスクやスティーブン・ホーキングをはじめとする世界各国のテクノロジー、宇宙旅行、コンピューター、数学の分野に携わる1,000人以上の人々が「殺人ロボット」の開発競争を止めるよう求める公開書簡を提出したニュースを覚えている人も多いのではないでしょうか。専門家たちによるこういった動きによって、現在国連メンバーのうち123カ国が話し合いの機会を持つことに同意している状態です。しかし、「参加メンバーたちの資金未納によって話し合いは遅延され続けている」とThe Vergeは報じています。
規制についての具体策などが何も話されないまま2年が経ってしまいましたが、今回「人工知能に関する国際ジョイント・カンファレンス (IJCAI)」にあわせて、ふたたび専門家たちが署名する手紙が発表されました。手紙の内容と声明は、さらに緊迫感を増しています。以下は署名に参加しているClearpath RoboticsのCTOかつファウンダーであるRyan Gariepyの言葉です。
我々は「もしかしたら」という仮定のシナリオについて話しているのではありません。この手紙に署名している著名な個人や企業の数の多さがそれを物語っています。これはただちに何らかの対策をとることが必要な、非常に緊迫した懸念です。
AIが潜在的にどのように使われるようになるか、まだSFの分野を越えていないものも多くありますが、自律型兵器システムはそうではありません。自律型兵器システムは開発の最先端に位置しており、世界規模の不安定と一般市民に甚大な危害を加える可能性を大きく抱えています。この事実から目をそらすべきではありません。致命的な自律型兵器システムを開発することは賢明ではなく、非倫理的であり、国際規模で禁止されるべきです。
配備されつつある殺人ロボットたち
手紙と同時に公開されているプレスリリースには、実際に開発・導入されている自律型兵器システムの画像が多く紹介されています。「殺人ロボット」と聞くとターミネーターのような人型のものを想像してしまいますが、The Vergeが「ターゲットを自動で認識して射撃するマシンガン・ロボットは韓国のDodaam Systemsによってすでに配備されている」と指摘しているように、無人で自動で攻撃するという意味での殺人ロボットは着々と誕生しているのです。
自律型兵器には賛成の声も聞こえています。実際に戦闘に参加する兵士の数を減らすことで戦死者の数を減らせる、人間よりも兵士と一般市民の識別能力が高いロボットのほうが一般市民の犠牲者が減る、というものです。しかし同様の論理でもって自律型兵器がどんどんと開発され、結果的に世界に殺傷能力の高い兵器の数が増えることに対する批判の声も大きくあげられています。
スノーデン氏の暴露、そして今回のアメリカ大統領選挙で明らかになったのは、世界の軍事大国が常にお互いにハッキングを試みているという事実です。コンピューターによって制御される殺人ロボットの数がどんどんと増え、その殺傷能力を高めるにつれて国家間の緊張が高まるという指摘は現実的に感じられます。折しも先日、サイバー・セキュリティ企業のIOActiveが家庭用ロボットをハッキングして「ドライバーでトマトを刺す」というショッキングなビデオが話題になったばかり。自律型ロボット兵器がどんどんと開発されることで国際関係が不安定になるという事態は一般人にとっても想像しやすいですね。
現時点ではどの国も自律型兵器の開発の足を止める様子はありません。開発競争によって加速するこの現状に対して、専門家たちが述べている手紙の末文が切実です。
対処する時間はもう長くは残されていません。一度パンドラの箱が開けられてしまったら、閉じるのは困難でしょう。
Images: Future of Life Institute
Source: Future of Life Institute via The Verge, Wikipedia, Dodaam Systems
（塚本 紺）
