イングランドの警察が、容疑者の投獄と保釈の判断を委ねるAIを導入予定

　ロボコップの時代が到来しちゃったのか。

　イングランドの警察は、ヨーロッパ諸国に先がけ、容疑者を保釈した際の再犯リスクを評価するAIを導入する予定だそうだ。

　ダラム警察が今年の夏をめどに導入を進めている「ハート（Hart）」は、逮捕した者を釈放した場合の再犯リスクを低・中・高で評価する。判断材料となるのは、容疑者の性別、郵便番号、再犯歴といった要素だ。

拘留か？保釈か？その判断をAIにゆだねる

　ハートはケンブリッジ大学の研究者が開発したもので、2013年に最初の実地試験が行われた。以来、容疑者を2年以上監視し、警察によるリスク評価を支援。良好な結果が得られたようで、今回実践投入の運びとなった。

　最終的な決定を下すわけではなく、あくまで警察官の支援が目的である。またダラム州の警察データしか利用できないという制限もある。

　しかし同システムへの関心は高く、イギリス国内の4、5つの警察から打診があるという。システムの有効性は折り紙つきであり、リスクが低いと判断された場合の予測精度は98パーセントに達する。高リスクの場合でも88パーセントの的中率だ。

AIが決めることに関しての問題点

　むろん懸念を表明する専門家もいる。法律では、拘留の判断は人間がいくつもの要素を加味して下さねばならないことになっている。

　しかし、システムが導入されれば、実質的にその判断はAIに移譲されることになる。AIの判断に反する決定をした場合、間違いなく上層部から睨まれることになるだろう。

　またAIに挑まねばならない容疑者の弁護士にとっても難題だ。AIの判断は法廷での判断にどのような影響を与えるだろうか？ 準科学的な判断が過度に信奉され、絶対的な真実になってしまう危険を孕んでいるのである。

　さらに統計学には生態学的誤謬という問題がある。集団レベルで当てはまることでも、それが個人に当てはまるとは限らないのだ。

　ハートは郵便番号からも容疑者のリスクを判断するが、それがその個人に当てはまるとは限らない。アルゴリズムの過ちによって、多くの人々が法的なトラブルに巻き込まれる可能性がある。

　同様のシステムはアメリカでも稼働しているが、その信頼性については多くの議論がある。昨年発表された研究によれば、AIは人種差別的思想とまったく無縁ではなく、黒人の再犯率を2倍にも見積もるそうだ。

via:news.sky・theverge・rtなど/ translated hiroching / edited by parumo
▼あわせて読みたい
世界政府を樹立しなければ、科学技術（ＡＩ）によって人類は滅亡に追いやられる、とスティーブン・ホーキング博士が警告


ＡＩ（人工知能）は自らが劣勢に立たされた場合「超攻撃的」な振る舞いを見せる（英研究）


アメリカ国防総省は真剣にAIとの戦争を恐れている。”ターミネーター”の登場に備えるべく研究を進めるペンタゴン


人間の脳にAIを直結する技術で出現する新たなる特権階級


ビルゲイツ、10年以内に一部の知的分野で人工知能（AI）が人間を上回ると予測