子どもの虐待リスクをAIで判定するシステムの導入が、こども家庭庁によって見送られました。約10億円を投じて開発されたこのシステムは、深刻な人手不足に悩む児童相談所の職員を支援する目的で開発されましたが、テスト段階での判定ミスが6割に上り、実用化は困難と判断されました。本記事では、AI導入見送りの背景、課題、そして今後の展望について詳しく解説します。
AI判定システム導入の背景と目的
児童相談所は、児童虐待に関する相談対応件数の増加に直面し、慢性的な人手不足に悩まされています。2022年度には、全国の児童相談所が対応した虐待相談件数は過去最多の21万4843件、一時保護件数は2万9860件に達しました。こうした状況を改善するため、国は2021年度からAIを活用した虐待リスク判定システムの開発に着手しました。このシステムは、職員の負担軽減と迅速な対応を可能にすることが期待されていました。
児童虐待相談対応件数の推移
AI判定システムの仕組みと検証結果
開発されたシステムは、約5000件の虐待記録をAIに学習させ、傷の有無や部位、保護者の態度など91項目の情報を入力することで、虐待の可能性を0～100点で表示する仕組みです。
今年度、10自治体の児童相談所が過去の虐待事例100件を用いて検証を実施しました。しかし、その結果、62件で「著しく低い」などの疑義が生じ、判定ミスの多さが浮き彫りになりました。例えば、子どもが「母に半殺し以上のことをされた」「服をつかまれて床に頭をたたきつけられた」と証言したケースでも、あざなどがなかったため、点数は「2～3」と非常に低く評価されました。
導入見送りの理由と専門家の見解
こども家庭庁は、検証結果を受け、「児相に提供するのは時期尚早」として開発を保留し、導入見送りを決定しました。複数の専門家は、事例ごとに状況が異なる虐待をAIが高精度で判定することの難しさを指摘しています。また、AIの学習に使用された約5000件の記録は、十分な量ではなかったとの分析もあります。さらに、こども家庭庁関係者は、システムに子どもの体重減少といった重要な項目が抜け落ちていたり、ケガの程度や範囲を入力する仕組みがなかったことが精度低下の原因だと説明しています。国立情報学研究所の佐藤一郎教授は、「AIは万能ではない。開発前に実現可能性を綿密に検討し、制度設計することが重要だ」と指摘しています。
今後の展望と課題
こども家庭庁は、AI技術の発展状況を見ながら、システム開発の再開についても検討していく方針です。AIによる虐待リスク判定は、児童相談所の業務効率化に大きく貢献する可能性を秘めていますが、精度の向上、個人情報保護、倫理的な側面など、解決すべき課題も多く残されています。今後の開発においては、より多くのデータを用いた学習、専門家との連携強化、多角的な視点からの検証が不可欠となるでしょう。
一時保護とは
児童福祉法に基づき、虐待などが疑われる18歳未満の子どもについて、児童相談所の判断で家庭から引き離す措置。期間は原則2か月以内。
