１０億円かけた虐待判定ＡＩ、こども家庭庁が導入見送り…ミス６割で「実用化困難」
完了しました
虐待が疑われる子どもの一時保護を巡り、人工知能（ＡＩ）にその必要性を判定させるシステムについて、こども家庭庁が導入見送りを決めたことがわかった。国が２０２１年度から約１０億円をかけて開発を進め、最終的な判断を下す児童相談所の職員を補助する役割が期待されていたが、テスト段階で判定ミスが６割に上った。ＡＩは虐待の判断にはなじまず、実用化は困難と結論付けた。
同庁によると、システムは慢性的な人手不足に悩む全国の児相での利用を想定し、搭載したＡＩに約５０００件の虐待記録を学習させた。傷の有無や部位、保護者の態度など９１項目に情報を入力すると、虐待の可能性が０～１００の点数で表示される。
試作モデルがほぼ完成し、今年度に計１０自治体の児相に協力してもらい、過去の虐待事例１００件のリスクを判定させる検証を行った。精度を各児相の幹部が確認したところ、１００件中６２件で「著しく低い」などの疑義が生じたという。
ある事例では、子どもが「母に半殺し以上のことをされた」と証言。「服をつかまれて床に頭をたたきつけられた」と訴えていたにもかかわらず、点数は「２～３」だった。あざなどがなかったためとみられる。
同庁は今年度の導入を目指していたが、「児相に提供するのは時期尚早」として開発を保留して見送りを決定。ＡＩの発展状況を見ながら、再開するかどうかも含め検討するという。
開発が頓挫した理由について、複数の専門家は、事例ごとに態様が異なる虐待をＡＩが高精度で判定することの難しさを指摘する。ＡＩの学習には膨大な量の記録が必要だが、今回の約５０００件では少なかったとも分析している。
同庁関係者は「子どもの体重減少といった重要な項目が抜け落ちていた」と説明。また、９１項目には該当の有無を入力するだけで、ケガがあった場合でもその程度や範囲まで記入する仕組みにはなっておらず、精度が低くなったとしている。
国立情報学研究所の佐藤一郎教授は「ＡＩは何でもできる『魔法の
◆ 一時保護 ＝児童福祉法に基づき、虐待などが疑われる１８歳未満の子どもについて、児童相談所の判断で家庭から引き離す措置。期間は原則２か月以内で、２０２２年度の虐待による一時保護件数は２万９８６０件。こども家庭庁によると、同年度に全国の児相が虐待の相談を受けて対応した件数は、過去最多の２１万４８４３件だった。
