「AIが神格化した世界」はディストピアか？　AIの誤判定で“3万人超”の人生狂わせたオランダ政府の事例

ITmedia NEWS / 2023年7月3日 8時5分

AIは人類を滅ぼすのか？

　5月、AIの安全性に関して発信しているNPO団体「Center for AI Safety（CAIS）」から、ある声明が発表され注目を集めた。それは「AIリスクに関する声明（Statement on AI Risk）」。「AIは人類を滅ぼす」とするセンセーショナルな内容と、生成AI「ChatGPT」の開発企業、米OpenAIのサム・アルトマンCEOなどが署名していることから大きな話題を呼んだ。

　この声明にはAIが人類を滅ぼす具体的な根拠は書かれていないが、CAISのWebサイトではいくつかのシナリオを提示している。「AIが武器化する」「AIによって偽情報が拡散される（それによって社会が崩壊する）」「AIによって生活が便利になり過ぎ、それに甘えた人類が衰退してしまう」などだ。

　今回の声明に対する賛否は専門家の間でも分かれており、議論の決着はついていない。しかし、人類が滅ぶとまではいかなくても、既にAIはさまざまな形で私たちの生活に実害をもたらすようになっている。特に大きな被害が出た事件はオランダで起きた“不正検知AI騒動”だ。

　この事例ではどんな技術を使っているか詳細を明かしていないため、記事内では“機械的なアルゴリズム”という広い意味でAIと表現する。

●自殺者まで出したAIのアルゴリズム

　CAISの声明に先立つことおよそ1カ月前の4月。レナーテ・ウォルバースさんという女性とそのパートナー、ユルン・ウォルテリンクさんの2人が、オランダ政府を相手に起こした民事訴訟で勝利を収めた。訴訟内容は、オランダ政府が彼らを児童手当の不正受給者と誤認し、その返済で厳しい生活を強いたというものだった。

　レナーテさんとユルンさんは収入が乏しかったことから、2005年から児童手当を受け取っていた。ところが08年末、オランダ当局は突然、彼らの申請が不正ではないかとの疑いを持った。10年には不正受給であったと正式に認定し、彼らに児童手当と関連諸経費の返済を求めた。

　報道によれば、その総額は9万2000ユーロ（およそ1400万円）にも達したという。もともと児童手当が必要だったほど家計が苦しかったレナーテさんたちは、その返済に大きな犠牲を強いられることになる。1週間の食費が10ユーロ（およそ1500円）しかないこともあったほどの苦しさで、5人の子供のうち上の2人は、ホストペアレントに引き取られることになった。彼らのもとに生まれた孫2人の顔も、まだ見られていないという。

「AIが神格化した世界」はディストピアか？ AIの誤判定で“3万人超”の人生狂わせたオランダ政府の事例

この記事に関連するニュース

トピックスRSS

ランキング

ITトピックス ITトピックスFeed

「AIが神格化した世界」はディストピアか？　AIの誤判定で“3万人超”の人生狂わせたオランダ政府の事例