こども家庭庁　一時保護を判定するAIの2024年度導入を見送りに

児童相談所では、児童虐待が疑われる子どもを一時保護するかどうかを判定します。こども家庭庁は、児相による判定をサポートするためのAI（人工知能）システムの開発を2022年度にスタートさせました。AIシステムは、児相の負担軽減や判断の向上を図り、全国の児相での利用を想定していました。2023年度末には、総額約10億円をかけた試作モデルがほぼ完成しました。試作モデルには、全国の児相から提供された約5000件の虐待事例を学習させました。児童虐待が疑われる子どものケガの有無や部位、保護者の態度、過去の虐待歴など91項目の情報をシステムに入力すると、0～100点でリスクを示すスコアが表示されるというものです。

こども家庭庁は、2024年度、神奈川県横須賀市などの10自治体の児相に協力してもらい、過去の虐待事例100件の虐待リスクを試作モデルに判定させる検証を行いました。その検証結果が、2024年12月26日に開催されたこども家庭審議会・児童虐待防止対策部会に提出されました（資料は≪コチラ≫です。）。資料では、AIシステムが算出したスコアと児相幹部クラスの所感とを比較すると、100件中62件で疑義が生じました。具体的には、児相幹部の所感よりAIの方が一時保護の必要性が高いと出たものが13件、低いと出たものが41件、スコアの幅が広くて判断に活用できないものが8件でした。その原因として、判断に必要な情報であるにもかかわらず該当する入力項目がないこと、該当項目はあっても有無のみを記入するため程度や範囲の指定ができないこと、が挙げられています。ある事例では、子どもが「母に半殺し以上のことをされた」「服をつかまれ床に頭部を叩きつけられた」と訴えていたにもかかわらず、アザなどの痕跡が残らなかったためAIが考慮せず、一時保護を不要と判断したケースがありました。

こども家庭庁は、2024年中に自治体への導入を目指していました。しかし、現状の91項目では判定に必要な情報として十分ではないが、これ以上の項目追加は入力負荷の観点から現実的ではないとしています。そして、2025年3月に入って、精度が十分ではなく誤った判断を招くおそれもあり時期尚早として導入を見送ることとしました。