「600億枚のAI顔認識で誤認逮捕、勾留164日」間違ったのはAIか人間か？
米テネシー州に住む50歳の女性が、1度も訪れたことのないノースダコタ州で起きた銀行詐欺事件の容疑者として逮捕された。
600億枚もの顔画像を持ち、物議を醸してきた顔認識AI「クリアビューAI」が、女性と容疑者を「一致」と判定。警察はその判定をうのみにしたようだ。勾留期間は5カ月以上に及び、女性は自宅、飼い犬、健康保険を失った。
これ以外にも、同様の顔認識AIはあり、捜査機関などで使われてきた。そして、AI判定による誤認逮捕は、今回が初めてではない。
問題はAIにあるのか、それを使う人間にあるのか。
●「AIソフトが容疑者は私だと判定」
2025年7月14日、私が4人の幼い子どもたちの世話をしていたところ、連邦保安官たちが私の家に現れました。保安官たちは銃を突きつけて私を逮捕し、連行していきました。（中略）その後、拘置所で何日も過ごしてようやく、ノースダコタ州ファーゴの警察が銀行詐欺事件を捜査していたことがわかりました。偽の軍人IDを使った女性が、ファーゴの銀行から数万ドルを盗んでいました。警察が監視カメラの映像を顔認識ソフトにかけました。そのAIソフトが、容疑者は私だと判定したのです。
アンジェラ・リップス氏（50歳）は、クラウドファンディングサイト「ゴーファンドミー」に公開した手記で、こう述べている。
地元テレビ局「WDAY」の報道によると、米南部のテネシー州中北部に暮らすリップス氏は2025年7月14日、銀行詐欺事件の容疑者として、4件の個人識別情報の不正使用と4件窃盗で訴追されていた。
事件の現場は、リップス氏が「行ったことすらない」という、北西に1,400キロ以上離れた中西部、ミネソタとの州境にあるノースダコタ州の街、ファーゴだった。
1996年のカンヌ映画祭で監督賞、1997年のアカデミー賞で主演女優賞・脚本賞を受賞したコーエン兄弟の映画のタイトルにもなった、「ファーゴ」だ。
リップス氏はテネシー州の拘置所に108日間勾留され、10月30日にノースダコタ州の拘置所に移送された。
そこでついた弁護士はリップス氏の銀行に記録を照会した。すると、ファーゴで銀行詐欺が行われたのと同時刻に、リップス氏がテネシー州の自宅付近で銀行に小切手を預金し、ガソリンスタンドでタバコやピザを買い、決済アプリでウーバーイーツを注文していたことを突き止めた。
12月19日にファーゴ署の初めての事情聴取が行われ、5日後のクリスマスイブにリップス氏は不起訴となり釈放されたという。逮捕から164日目のことだ。
私は夏服のまま、ノースダコタの冬の中に放り出された。コートもなければ、乗り物もなく、帰る手段もなかった。ファーゴ署は私を助けるために何もしなかった。
上述の手記で、リップス氏はそう述べている。
地元の弁護士らがホテル代と食費を渡し、地元の受刑者支援団体によって、リップス氏はイリノイ州シカゴまで送ってもらった、という。
だが、この164日の間、支払いや手続きができなかったために、家、家具、保険、飼い犬まですべて失った、という。
●「600億枚の顔データベース」
CNNやニューヨーク・タイムズ（要購読）の報道によれば、リップス氏の誤認逮捕で使用された顔認識システムはニューヨークのAIベンチャーの「クリアビューAI」だった。
「クリアビューAI」はフェイスブック、インスタグラム、Xなど、ウェブ上のあらゆる公開画像を本人の同意なくスクレイピング（自動収集）し、「600億枚を超す顔画像のプラットフォーム」をうたう。
2021年12月の投資家向け資料の中で「世界中のほぼすべての人が識別可能になる」（ワシントン・ポスト［要購読］）と述べていたといい、後述のように、米国内外で物議を醸してきた。「クリアビューAI」による2022年2月の公表資料では、サービス提供先として全米3,100を超す法執行機関を挙げている。
ファーゴの西隣のウェストファーゴ署は、「クリアビューAI」を導入済みだった。ウェストファーゴ署の管内でも類似の銀行詐欺事件があり、事件の監視カメラ映像を同署が「クリアビューAI」にかけたところ、「リップス氏と類似した特徴を持つ容疑者候補を特定した」という。
この情報が、ファーゴ署にも共有された。
ファーゴ署では、担当刑事が「クリアビューAI」の判定結果とリップス氏のフェイスブックとインスタグラムのアカウント、運転免許証を照合。リップス氏の顔の特徴、体型、ブロンドがかった茶色の髪から、「容疑者である可能性が高い」と判断したという。
リップス氏の弁護士は、ニューヨーク・タイムズの取材に対し、ノースダコタの警察当局が顔認識に依存しながら、「その特定を裏付けるための他の努力は一切行わなかった」と指摘している。
ニューヨーク・タイムズによれば、「クリアビューAI」は声明の中で、「このシステムは手がかりを提供するものであり、身元特定、結論の導出、逮捕の勧告を行うものではありません」「クリアビューAIのプラットフォームを使用する際には、訓練を受けた法執行機関の専門家による独立した裏付けが必要です」と述べているという。
「クリアビューAI」は2020年1月、ニューヨーク・タイムズが、FBIや警察などで使用が広がる実態を報道（要購読）。これをきっかけに、その大規模な顔画像収集の手法から、プライバシー侵害を巡る懸念が米国の内外で沸き起こり、訴訟や制裁などが続いてきた。
※参照：SNS投稿30億枚から顔データベース、警察に広がるAIアプリのディストピア（01/19/2020 新聞紙学的）
米国では2020年5月に、米自由人権協会（ACLU）がイリノイ州の生体情報プライバシー法（BIPA）に基づいて提訴。2022年5月の和解には、「クリアビューAI」に対して米国内の民間企業や個人への提供を恒久的に禁止することが盛り込まれた。ただし、法執行機関や政府機関への提供は継続可能とされた。
また、2025年3月にはやはりイリノイ州の生体情報プライバシー法違反を巡る集団訴訟で「クリアビューAI」との和解が成立。想定される対象者は 6万5,000人から12万5,000人に上るという。
特に欧州では、各国で制裁が相次いだ。
ギリシャの調査報道メディア「ソロモン」の2025年4月の報道によると、イタリア（2022年2月）、ギリシャ（2022年7月）が各2,000万ユーロ、フランス（2022年10月）が2,520万ユーロ、オランダ（2024年9月）が3,050万ユーロの制裁金を、プライバシー保護法である「一般データ保護規則（GDPR）」違反により、それぞれ科した。英国も2022年5月、「英国一般データ保護規則（UK GDPR）」違反で約755万ポンドの制裁を命じた。
英国のケースもユーロ換算すると、制裁金の総額は1億ユーロ（約184億円）を超す。
※参照：SNSから収集、30億枚の顔データベースが主張する「権利」（03/22/2021 新聞紙学的）
※参照：ネットから「顔」100億枚、AI顔認識に規制当局が削除命令（11/05/2021 新聞紙学的）
※参照：「違法に顔収集」26億円払え、100億枚AI企業に制裁へ（12/02/2021 新聞紙学的）
だが「ソロモン」によれば、「クリアビューAI」はこれらの制裁金を支払っておらず、欧州の規制当局による市民のデータの削除命令にも従っていないようだ、という。「クリアビューAI」は欧州に拠点がないため、制裁の執行ができない状態が続いているのだという。
この状況を受け、オーストリアのデータ保護活動家として知られる弁護士のマックス・シュレムス氏が創立した人権擁護団体「noyb」は2025年10月、同国の検察当局に「クリアビューAI」への刑事告訴をしている。
●誤認逮捕、これまでにも
リップス氏のケースは、AI顔認識による誤認逮捕の最新事例だ。
こうした事件は2020年ごろから繰り返し報告されてきた。米国では被害者のほとんどが黒人男性で、人種的偏りが指摘されてきた。
米国立標準技術研究所（NIST）が2019年12月に公開した報告書は、189の顔認識アルゴリズムを評価。黒人やアジア系の顔は白人と比較して、誤って一致と判定される確率が10倍から100倍に達することが確認された。顔認識の精度は人種によって大きく異なり、その格差が誤認逮捕を生む構造的な背景となってきた。
全米科学・工学・医学アカデミー（NASEM）が2024年にまとめた報告書でも、性能の向上は認められるものの、「人種、民族、性別などに基づいて一般的に区別されるものを含む、特定の表現型を持つ個人に対しては、依然として性能が劣る」としている。
今回、誤認逮捕されたリップス氏は、白人だが女性だ。
米国での主な誤認逮捕事例は次のとおりだ。
2020年1月、ミシガン州デトロイトのロバート・ウィリアムズ氏（黒人男性）が、顔認識AIの誤判定を根拠に逮捕され、30時間拘束された（ワシントン・ポスト［要購読］）。公に報告された誤認逮捕として米国で最初の事例とされる。逮捕時、妻と幼い娘2人の目の前で連行された。ウィリアムズ氏はデトロイト市と後に和解した。この時に使用されたのはミシガン州警察の「SNAP」と呼ばれる顔認識システムだった。
※参照：「コンピューターが間違ったんだな」AIの顔認識で誤認逮捕される（06/25/2020 新聞紙学的）
同じくデトロイトのマイケル・オリバー氏（黒人男性）も顔認識AIによる誤認逮捕（2019年7月）の被害を受けた。CBSニュースによれば、サウスカロライナ州の「データワークス・プラス」という企業の顔認識AIによるものと分かったのは、誤認逮捕から1年後のことだった。裁判への出頭が続く間に職を失い、家も車も手放したという。
2022年11月にはジョージア州でランダル・リード氏（黒人男性）が誤認逮捕された。「クリアビューAI」の顔認識が使われていた、と見られている。「バイオメトリック・アップデート」の2025年6月の報道によれば、このケースは20万ドル（約3,000万円）の和解で決着した。
この他にも、ニュージャージー州でのニジェール・パークス氏の誤認逮捕（2019年1月、NBCニュース）、メリーランド州でのアロンゾ・ソーヤー氏の誤認逮捕（2022年3月、ワイアード［要購読］）などが報じられている。
米国外でも事件は起きている。
ガーディアンによると英国では2026年1月、顔認識AIを使い、犯行現場から100マイル（約160キロ）離れた場所に住むアジア系の男性、アルヴィ・チョードリー氏が窃盗容疑で誤認逮捕され、10時間にわたって拘束されたという。使用されたのは、ドイツの顔認識企業「コグニテック」のシステムで、英国全土の警察のデータベースに保存されている約1900万枚の顔画像に対して、毎月約2万5000件の検索を実行している、という。
●間違ったのはAIか人間か
AIは調査の出発点を提供してくれる。しかし、それで調査を終わらせていいという許可を与えるわけではない。リップス氏の事件では、彼女が逮捕された時点ですでに銀行取引記録が存在していた。それにもかかわらず、何ヶ月もの間、誰もそれを確認しようとしなかった。
デジタルフォレンジックでキャリアを積んだラース・ダニエル氏は、フォーブスへの2026年4月1日の寄稿で、「すべての問題は、完全に人間の責任だった」と述べている。
機械の出力を人間が過信する傾向を「自動化バイアス」と呼ぶ。不用意なAI依存が、問題を引き起こすことは間違いない。リップス氏のように、捜査機関の場合、問題は特に深刻だ。
一方で、ソーシャルメディアなどから無断収集した「600億枚を超す」顔認識データベースの存在は、80億人の人類が、1人当たり7.5枚の顔写真を蓄積されている計算になる。「世界中のほぼすべての人が識別可能になる」という「クリアビューAI」のうたい文句も、あながち誇張とは言えない。
それが捜査機関に使われた場合、誰もが誤認逮捕の標的になる可能性がある、ということだ。
しかも、同様のシステムを運用しているのは、「クリアビューAI」だけではない。
AIで「できること」だけが加速し、社会にとっての歯止めが効かなくなっている。
（※2026年4月6日付「新聞紙学的」より加筆・修正のうえ転載）
