AIによる虐待判定ミス6割・・・子どもの命を守れぬ
児童虐待防止への啓発活動は我が社のライフワークです。
年端も行かぬ児童、年間50名以上が親の虐待によって死亡しています。
如何なる事情があろうと、許されることではない。
もちろん、国も放置しているわけではない。
悲惨な事件が起きるたび、国会が動き、対応策が議論され、過去3度に
渡り「児童虐待防止法」が改正されている。その中核を担うのは児童相談所（児相）、所管は厚労省だが、新設された子ども家庭庁に移管された。
我が社では、防止を啓発する一つの手段として、「虐待だと思ったら189番」運動を日本全国34都道府県で発行する1300万部の「地域みっちゃく生活情報誌」の紙面を使って認知度を上げる取り組みを行なっている。
事件や事故・火事なら110番・119番に通報することは誰でも知っている。
学校で教えるからである。しかし、児童虐待かと疑われる場合・189番に通報すれば、最寄りの児相に直結・24時間以内に、行政・警察と連携・当該家庭に踏み込む仕組みの国民への浸透はまだまだだ。
もちろん・学校・幼稚園・保育園や病院・警察などで異常が見つかれば、
児相に通報され実態を把握・対処されるのだが、昨今では189番への通報も増えている。年間38万件に及ぶ。その数になると、予算的な処置を講じても、人手不足もあって児相の負担が増加、後手に回るケースも・・・
そこで厚労省が導入したのが、虐待だと疑われる子どもの一時保護の必要性を人工知能（AI）に判定させるシステムの導入である。システム開発は21〜23年度10億円の予算でNTTデータと野村総研が受注した。
約5000件の虐待記録を学習したAIが児童の傷の有無・保護者の態度など91項目の情報を基に虐待の可能性を点数化する仕組みである。「児童虐待対策」を厚労省から引き継いだ子ども家庭庁が、このシステム開発を検証した結果。100件のリスク判定で62件が過小評価したり過大評価だったりで機能していないことが判明。同庁は「子どもの命を左右する場面で誤った判断を招きかねない」として
計画していた昨年度の導入を見送った。
検証はAIの専門家による委員会を設けて実施した。結果は児童の複雑な心理を読み取る難しさが判断ミスに繋がったとした。今後はアルゴリズム（問題処理の算法）を分析するなどして専門的な見地から原因を調べる。児相でも新たなAIの活用法についても議論することになった。
AIに判定を求める、そんな手法を導入したことを否定するものではない。
しかし、6割以上の判定ミスは異常である。業者に問題があるのではないか？
そんなことがあるとは思えないが、報道の背景に厚労省との癒着が見え隠れする。万が一、恣意的な何かがあるとしたならば・・・児童の命をビジネスにしていることになる。であれば許せない。
子ども家庭庁は、あまり先ばしらないで欲しい。
児童虐待防止・啓発活動の一つである国民的に「189番」の認知を徹底させるのが第一ではないか。「虐待度合いのAI認定」を急ぐよりも10億円の予算を使って国民的な大キャンペーンを張れば、認知度は一気に高まる。
そのことに必死になっている我が社としては・・・
この問題は複雑であり、最終的には貧困にまで行き着く、
非常に難しい問題であると認識している。
しかし、まずは虐待を未然に防ぐことから始めることだと思っている。
「子ども家庭庁」にぜひ、頑張って欲しい。連携できればと思う。Goto
コメント