Embed Notice

4歳の女児が虐待されて死んだ。

児童相談所は問題を把握していたが、AIが"保護率39%"と評価したこともあり「一時保護せずに定期的な見守り」判断していた。

"政府が昨年9月に公表した児童虐待防止に向けた総合対策では、児相の負担軽減のため、一時保護の必要性の判断にAIを活用することが盛り込まれた。"

星コメント：
「人を救うか、救わないか」をAIで選別する行為は倫理に反します。EUは法律で禁止する方向です。

機械学習に基づくAIはときどき間違える。そしてAIは間違いの責任を取れない。改めて注意喚起を。

国連人権高等弁務官は21年9月、人権に影響するAI利用の一時停止（モラトリアム）を各国に求めています。またEUが24年以降の施行を目指すAI法（AI Act）は、AIによる人に不利な顔認識やスコアリングやプライバシー侵害を禁止しています。
https://digital.asahi.com/articles/ASR7B5F6NR7BONFB009.html