【虐待判定AI】10億円かけ、こども家庭庁が導入断念…ミス６割で「実用化困難」 [蚤の市★]

虐待が疑われる子どもの一時保護を巡り、人工知能（ＡＩ）にその必要性を判定させるシステムについて、こども家庭庁が導入見送りを決めたことがわかった。国が2021年度から約10億円をかけて開発を進め、最終的な判断を下す児童相談所の職員を補助する役割が期待されていたが、テスト段階で判定ミスが６割に上った。ＡＩは虐待の判断にはなじまず、実用化は困難と結論付けた。

　同庁によると、システムは慢性的な人手不足に悩む全国の児相での利用を想定し、搭載したＡＩに約5000件の虐待記録を学習させた。傷の有無や部位、保護者の態度など91項目に情報を入力すると、虐待の可能性が０〜100の点数で表示される。

　試作モデルがほぼ完成し、今年度に計10自治体の児相に協力してもらい、過去の虐待事例100件のリスクを判定させる検証を行った。精度を各児相の幹部が確認したところ、100件中62件で「著しく低い」などの疑義が生じたという。

　ある事例では、子どもが「母に半殺し以上のことをされた」と証言。「服をつかまれて床に頭をたたきつけられた」と訴えていたにもかかわらず、点数は「２〜３」だった。あざなどがなかったためとみられる。

　同庁は今年度の導入を目指していたが、「児相に提供するのは時期尚早」として開発を保留して見送りを決定。ＡＩの発展状況を見ながら、再開するかどうかも含め検討するという。

　開発が頓挫した理由について、複数の専門家は、事例ごとに態様が異なる虐待をＡＩが高精度で判定することの難しさを指摘する。ＡＩの学習には膨大な量の記録が必要だが、今回の約5000件では少なかったとも分析している。

　同庁関係者は「子どもの体重減少といった重要な項目が抜け落ちていた」と説明。また、91項目には該当の有無を入力するだけで、ケガがあった場合でもその程度や範囲まで記入する仕組みにはなっておらず、精度が低くなったとしている。

　国立情報学研究所の佐藤一郎教授は「ＡＩは何でもできる『魔法の 杖つえ 』ではない。開発前に実現可能性を吟味し、綿密に制度設計しなければうまくいかない。ＡＩの活用は官公庁でも進むとみられるが、今回の失敗を他省庁や自治体とも共有し、今後に生かす必要がある」と指摘する。

　◆ 一時保護 ＝児童福祉法に基づき、虐待などが疑われる18歳未満の子どもについて、児童相談所の判断で家庭から引き離す措置。期間は原則２か月以内で、2022年度の虐待による一時保護件数は２万9860件。こども家庭庁によると、同年度に全国の児相が虐待の相談を受けて対応した件数は、過去最多の21万4843件だった。(以下有料版で，残り:529文字）

読売新聞　2025/03/03 05:00
https://www.yomiuri.co.jp/national/20250302-OYT１T50076/

https://www.yomiuri.co.jp/national/20250302-OYT

>>1
データ不足なだけじゃないの？

>>71
センシティブな問題だからねぇ。子供の証言と外観だけで判別に必要なデータが取れるか疑問
1＋n＝m の等式が成り立つとき、mの値を求めよみたいなもんや

>>1
そんなの無理に決まってんだろｗｗｗ
責任転嫁前提やめろやｗｗｗｗ
子供家庭庁廃止でｗｗｗ

>>1
子供は正直に嘘を付くんですよw
人にしか出来ない事もあるんですwww

>>1
役所の窓口などの係員を半分位
ペッパー君にしたら？
浮いたお金有効活用できるっしょ

>>1
AI「俺を作った業者名特定はよ！はよ！」

>>1
税金ジャブジャブ野郎ばかりだな

>>1
失敗は発明のもと
次行こう

>>1
まぁ、中抜きと無駄遣いが目的だからな・・・

>>1
5000件じゃねぇ…。ばらつき位大きい側のそれだし。

>>1
やはりボディーの場合判定が難しいのか…

>>1
ミスではなくて的確過ぎるんだろうなあ

>>1
税金で遊ぶねー
なんの責任もないから楽しそう

>>1
こんな庁解体して子供に直接金配ると年間１千万払えるらしいな
さっさと解体しろ中抜き省庁

>>1
同じ事を複数の企業に依頼しろよ
相見積もりじゃなくて別の思想のエンジニアに問題を考えさせてみろ
5000件のデータは少な過ぎるなんてやる前から分かりきってるから、それに対してどうやってデータ増やす処理を実現したかが重要で、データの増やし方に問題があったってこと
1番難しくて発明が必要な部分だから手法が見えていない人間には作れない

>>737
5000もあればデータ増やすなんていらんぞ
こんなのは将来の癌リスク予測と一緒でどの因子にどれくらい重みつけるかってだけ
たった90項目しかないわけで手作業でもいけるわ

問題なのは評価テストでフリー記述のワードを重視して判定していて、そもそもフリーワードは学習に入れてねーわってだけだと思うぞ

関わってる全員がAI素人なんだろw

>>1
ラーニングが適切じゃねえからだろ

>>1
知ってた
子供を人質
中抜利権庁

金あるやんけ

これ中抜きだろ
実際は1億くらいしかかかってなくてあとの9億は政治家の懐

>>11
中抜きしてるのは大手Sier

>>11
直接行かないだけでまあキックバックで
献金として還流はするから
全く外れではない

どこに発注したかわからないけど、納品できなかったんだろ？そんなのしっかり損害金を取れよ。
まあどうせお友達に発注してるからそんなことをやらないんだろうけどな。

>>12
おれもやったことあるけど
大体PoC止まり

日本ってAI技術低いから無理では？

>>13
日本のAI技術が低いのは事実だけど
そもそも人間でも十分に柔軟に状況を精査しないと判別の難しいことも多い虐待のようなデリケートな事柄を
人間並に柔軟に判断できるようにはまだAIはできてない
現在のAIのトップ技術でも難しいと思うよ
むしろこれができたらいよいよ人間は完全に存在意義失う

>>317
精度の問題はあるけど作るのは余裕だろ？
無料のYouTube見てこいよ
初学者が10時間目に作るAI学習モデルでも30万の変数を扱ってんだぞ？
てか勝手にディープラーニングしてくれるから

>>341 使う技術を誇っても

>>317
ジャッジが難しいもんな。
ただそこは人間も正解だすとは限らないが。

AIだとデータありきでやるから感情あり細かいニュアンスを見れる人間とどちらが正解率高いのかだね。

仕草などで感情、思考まで読み取れる機能きたら人間マジでいらなくなるかもな。日本じゃ実用化できるレベルまではできないだろけど

>>317
つまり開発するには時期尚早？

>>13
もちろんAIは発展途上だけど
虐待の場合、そもそも判別できるだけの情報を取るのが難しいんじゃないかな（虐待されてる子どもですら親を庇って嘘をついたり）

下請けの下請けの下請けの下請けの下請けの下請けの下請けが1000円で作ったAI

どうせ9割はチューチューしてんだろ？

>>15
9割で済むかなぁ

>>780
わろた

99%、吸ったろうなw

中抜きうめえ

まぁ無理だよね
AIにみんな期待しすぎてると思う

>>18
実用までいけるかはともかくまともに作れば６割外れなんてことはない
例によってなんのノウハウも実績もないお友達企業に発注したんだろうよ

>>169
ほんとそれ

>>18
学習データが少なすぎただけ

>>258
学習なんかしてないとおもう
人が基準決めてスコア付けてるだけ

>>258
データどれぐらい必要なんだよって話
データが揃ったとしてどれだけ精度が出るんだって話
それすらやってみないとわからん

>>296
最低でも１００万件は欲しいゾ。

>>258
普通にまともに作れば5000件も学習すれば実用からはまだ遠いにしても6割外れはちょっと考えがたい
最初だいたいそれっぽい答えを返せるようになるまでは結構早いんだよ
そこから数パーセントあげるのが地獄だけど

>>304
明らかに設問が間違っていたとしか思えないよね。

>>304
ハズレの定義の問題なんじゃねえかなと思うけどね

>>304
エビデンスレベルが低い
と言うより、医学的エビデンス何ソレ？な人が開発してる
学術用語のエビデンスと、それ以外のエビデンスの意味が真逆なんだよな
エビデンス 説得力が本質
学術用語のエビデンス 説得力に左右されない、説得力を左右しないもの
科学的エビデンス データに基づかない純粋な理論
医学的エビデンス 理論に基づかない純粋なデータ
ちなみに医者が扱うエビデンスは医学的エビデンスでは無く、説得力のエビデンス

この辺りは文系の教養を修めてないと理解出来ない
理系だと全く知らない概念
だから中高一貫からリベラルアーツを学ばせるコースを国が推し進めてる

>>258
データ量の問題なら、中止にはしない。

全国の過去事例を読み込ませれば良いだけ

>>542
記載されているのは職員の主観でしょう？

>>18
未だに世間の半分くらいはAIが無から何でも創り出せると思ってる

公務員に金を持たせてはいけない

AIに金かけるより人雇った方が安い
マイナンバー導入の効果薄と同じ

子供家庭庁を解体して水道管直そうぜ

>>22
それだ

たったの10億円の開発費ねぇ
ゲームソフト以下じゃん

>>24
ゲームソフトとの違いわかっとるんか？

親より賢いAIは作れないから仕方ないよ

>>27
賢い親ばかりなら苦労はないのだが、ごく一部のDQNが問題

技出力の低さが原因

aiは育てないと。

そもそもこども家庭庁自体が天下りNPOや統一に税金を横流しするためのシステム。男女共同参画のおかわり

スゲーよな、これで働いたつもりとか
ニートの方がナンボでもマシ
下手な労働休むに似たり

>>32
まじでこれ

グラディウスみたいなシューティングゲームをと依頼したらXDR(X-Dazedly Ray)みたいなものができた感じ？

中抜きウマーだな。失敗した責任誰が取るんだよw

10億で出来るわけねーだろ

でも安倍政権の
コロナ接触アプリcocoaや
ワクチン予約サイトの不具合は
擁護してたよね

AIを使わずに人が判定しても6割ミスして子供を見殺しにしてるやろｗ
その判定方法をＡＩに学習させても、ミスしか起きないわな

>>39
そのかろうじて見逃されなかった4割のうちAIはさらに6割を見逃すのだが

財源あるじゃん
どういうことよこれ

点つけるやり方ならそもそもエクセルで十分やろ…

７兆円も予算あるなら子供た作ったら１０００万やるってのをやればいいのに、どうせ変な施策打って裏で電通からキックバックねらいなんだろ

残りの6割だけ調べ直せばいいんだから、人手不足には役立つんじゃないか？

>>46
とれが正しいのかすらわからんのやから全部調べ直しやろ

>>46
当たってる4割と外れてる6割を選別するために全件人力で再検証しなきゃならん。

>>46
出力がどういう形か分かんないけど、出力が疑い有り/無しで
「判定ミスが６割」なら、コイントスして決めるより精度が悪いことにならん？

>>116
それはない。データによる判断ではあるから記事にあるように「あざないから」で点数が低かったと書いてあるだろ。

受注したのどこだよ。

>>47
児童相談所におけるAIを活用した緊急性の判断に資する全国統一のツールに係るAIアルゴリズムの開発・テスト業務に関する工程管理支援等業務一式(令和5年度)
落札会社(株)野村総合研究所
落札金額65,454,546円

児童相談所におけるAIを活用した緊急性の判断に資する全国統一のツールに係るAIアルゴリズムの開発・テスト業務一式(令和5年度)
落札会社(株)エヌ・ティ・ティ・データ
落札金額330,000,000円

児童相談所におけるAIを活用した緊急性の判断に資する全国統一のツールに係るAIアルゴリズムの開発・テスト業務一式(令和6年度
落札会社(株)NTTデータ
落札金額394,000,000円

児童相談所におけるAIを活用した緊急性の判断に資する全国統一のツールに係るAIアルゴリズムの工程管理支援等業務(令和6年度)
落札会社(株)野村総合研究所
落札金額104,000,000円

令和6年度児童相談所におけるAIを活用した緊急性の判断に資する全国統一のツールに係る運用・保守業務一式
落札会社(株)NTTデータ
落札金額179,700,000円

>>441
Kaggleに何故あげなかった？
頭おかしい
NTTデータや野村はこんなにレベル低いのか
そりゃ買収も失敗続きだわ
いい加減にしろ

>>441
酷い開発だな
たった学習データがたった5000件しかないのに何に金使うんだ

>>441
スゴイ
オレもこんな案件でチューチューしたい

>>805
お茶いれるだけで、時給2万5000円のほうがラクでしょ

“お茶汲み”する職員に1日20万円…五輪費用3.6兆円オーバーの“裏側”　組織委元職員が告白

ファンファーレ・エージェンシー 鈴木泰和 社長「6社、6番目かそれ以下じゃないか。
オリンピックに関してはベースとなる金額がよくわからない。
間に何社入っていて、どのくらい抜いているのかというのはあくまでも予測でしかない」

>>805
公金チューチューするには？
毎年天下りを受け入れ1人に付き年俸2000万～、運転手付き送迎車
退職時に退職金1億～を出さないといけない

ちなみに、ジャニーズ事務所には守護神として警視庁から天下りがあって
未上場でこれだけ出せる資金力が凄い
ジャニーズ事務所は年商1500億と言われていたからね

>>441
これが全部使い物にならなくてオジャンなのかよw
初めからまともに作る気ないだろw
つーか、諦めるのが早すぎね？
初めからそういう筋書きだと疑われてもおかしくないね

>>829
昔からの役人仕事だよ
予算がつけば8割成功
それが上手くいこうが失敗しようが知ったこっちゃない
決算あるわけないし赤字でも潰れない。税金だからな
それが役人

人間の判定だとどんくらいの精度なんや？

なんか、金が欲しかっただけのようにも見えてしまうな

そもそもこの庁が必要ないだろ

10億もかかるわけないこんな失敗作作るのに
AIなんて作るのは殆どプログラマーの人件費だけだから10億だと2年費やしたとしても年5億8割人件費だとしたら平均年収800万で計算したって50人もプログラマー使ってることになるありえんわ金返せ

>>55
AIのデータサイエンスとプログラミングはまったくの別物でデータサイエンティストは高い。年収800万の人材を使おうと思うと、払う側は倍くらいになる。

金の流れをはっきりさせろ

🤖「人間が判定をミスってるデータで学習してるんだから、わいもミスるだけやで」

人間が判断したくないだけ

こういうのマジで責任者にきちんと責任取らせようよ
私財没収して補填させないからめちゃくちゃな事やってるふりして中抜きするのが無くならないのよ

ai虐待判定作るぞ！→予算成立→電通やら天下り95%吸いまくる→残り滓予算でテキトーなのつくらせる→うまくいかなかったわー、しょうがないわぁー

>>60
そんな事業ばかりだよな

どこに中抜きされたんだ？
ハッキリ企業名を出さないと誰も納得しないぞ

ほとんど中抜きに使われましたが…

クソみたいな金の使い方だな

10億円のうちいくら中抜きされたんだろ？

>>66
9億9千9百万円

まあ、精度が低い理由がわかるのは悪くはないだろ。とりあえずデータ増やして変化見ていく話ではあるし、開発自体に文句言ってもね。
とりあえず開発先は進捗状況とかちゃんと管理してんのか？とはなるが。

失敗しましたとしっかり言えるだけ偉いと思ってしまったわ

国防費とか自分が欲しいからという理由で増やしたり、ラピダスとかいう企業の税金ストローに比べたらまだ許せるわ

日本国民が求めてるのはAIではなくDOGEなんだな

町のPR動画五分くらいの作って博◯堂に３０００万とられたらしいからなあ

日本の省庁に手を出せるレベルじゃない
まず１０億でなんとかなるプロジェクトじゃないしどうせその１０億も大半が間で抜かれてんだろ？
日本では理系は奴隷だからな。
直接的に関われる技術者なら日本にいる意味ないからこれで集まる技術者は奴隷相応だろうし

事実　虐待
判定　虐待
職員　うーんこれは虐待じゃないね

ってことじゃねえだろうな？

無駄遣いの天才だなｗｗｗ

トライアンドエラーは仕方ない
悪い判断ではなかったけど、心の部分は人間でも難しいから

その結果をフィードバックしていって精度を高めるのがAIなんじゃねえの？

ちょっと早かったな

これ仕様検討段階に虐待の知見がある自治体職員一人入ってたら気づけた問題じゃん

こことスポーツ庁がなくなればだいぶ浮く

>>84
あとデジタル庁と観光庁な

この庁ってやることなすこと税金垂れ流しだな

>ある事例では、子どもが「母に半殺し以上のことをされた」と証言。「服をつかまれて床に頭をたたきつけられた」と訴えていたにもかかわらず、点数は「２〜３」だった。あざなどがなかったためとみられる。

これ、判定した専門家の方が間違ってるんちゃう？

>>86
子供が大げさに言ってる可能性もある

>>90
大袈裟に言ってるだけだからー

はい虐待見逃した

>>98
その辺考慮して2〜3点なんじゃねえの
0点なら見逃してだろうけど

>>135
100%聞き取りしなきゃならない案件なのに何言ってんだお前
これ100点満点で2点とか出てんだぞ？
使い物になるかこんなの

>>147
だから運用の問題だろ
0点じゃなきゃそれだけの疑いがあるんだろ
全部聞き取りしろよ

>>159
全部の聞き取りしたいなら児相増やすしかないが？
それが出来ないって前から言われてんだろ

>>166
本来AIが判定した人数を児相が全て判定して、
そっから聞き取りすべきかの判断してんだろ

その最初の判定部分をAIに任せて、スコアの高い順に上から聞き取りとかにすりゃ有効活用できるだろうが

>>240
そのふるいが信用できないって話なんだよ。

>>262
児相のチェックは完璧だとでもいうのかよ
併用から始めて育てろよ
そんなんだからシステム化に遅れるんだよ

>>86
実際アザなければ虚言もあるしな

>>86
あざ等の身体的な痕跡　→　一時保護
学習データがそうなってるのかも

予定より多く中抜きしちゃったから開発費自体足りなくなって失敗したとかいってるだけ

中抜き大成功だな

人間なら91項目聞き出す前にわかるだろ
時間と金の無駄

ver0.2の開発を始めます

虐待かどうか機械で判別させるなよw

>>93
それな
とりあえずこの庁もそこに居る人間も脳みそ空っぽすぎて要らんわ

政治資金とも関係するが、中抜きは桁が3つも4つも違うからな　年間10兆円、10年100兆円は中抜きされている

アメリカの企業に開発まかせたほうが半分の値段で作っちゃいそうだけど

責任誰も取らないから楽だよな

税金大量投入して失敗してもテヘペロで済む公務員様さすがです

こども家庭庁って税金を無駄遣いする為に作られた省庁なの?

>>110
現存省庁の3割は天下りと中抜きのためだけに新設された

何処の誰が作ったのかが知りたいわ

AI「これ無限に中抜き出来んじゃん💦｣

たった10億円じゃまともなAI作れないだろｗ

もっと虐待事例欲しいってことか？
なんという皮肉