Japão: menina de 4 anos morre após IA do governo apontar que ela estava segura; mãe está presa
Ferramenta foi introduzida em 2020 após ser 'treinada' com dados de 6 mil a 13 mil registros sobre violência desse tipo
A polícia do Japão confirmou que deixou de prestar atendimento a uma criança baseada em recomendações feitas por uma ferramenta de Inteligência Artificial (IA). A mãe está sob custódia por suspeita de lesão corporal que levou à morte de sua filha, que tinha apenas 4 anos de idade.
O caso aconteceu na cidade de Tsu, na província de Mie, próximo de Nagoia, onde foi utilizado um programa de IA introduzido em 2020 após ser “treinado” com dados de 6 mil a 13 mil registros sobre violência desse tipo. As autoridades locais adotaram o serviço com intuito de que o programa ajudasse a reduzir a carga sobre os centros de consulta infantil, que prestam serviços de proteção à criança no Japão.
“Os números da IA são apenas para referência. Não estamos em posição de tirar uma conclusão se o método de utilização desses dados usado desta vez foi 100% bom”, afirmou o governador da província de Mie, Katsuyuki Ichimi, em entrevista coletiva nesta terça-feira, destacando a necessidade de julgamento dos responsáveis pela vítima.
Antes da morte da criança, o programa utilizado pelo governo teria determinado para o caso uma taxa de proteção necessária de “39%”. Com isso, a mãe da menina foi procurada e, segundo o portal Asahi Shimbun, mostrou-se disposta a ouvir conselhos de um especialista em orientação pedagógica.
Mãe e a filha se reuniram com funcionários do centro de consulta infantil em fevereiro de 2022, após testemunhas denunciarem a presença de hematomas no corpo da criança. Baseada nas recomendações da ferramenta, porém, as autoridades locais optaram por não colocar a menina sob custódia temporária, com intuito de seguir apenas acompanhando o caso.
Com a ajuda da IA, foi decidido que seriam feitas visitas ocasionais à família, com a menina permanecendo com a mãe. A ferramenta teria feito um “cálculo” de segurança, apontando que os hematomas não eram causados por abuso e que a mãe mostrou disposição em cooperar.
A criança, no entanto, deixou de ir à escola por longos períodos, mas a ferramenta não recomendou que uma visita, por exemplo, fosse feita. Segundo o Japan Times, o centro de consulta infantil falhou em verificar a situação da garota ao longo de um ano. Números de 2019 apontam que o serviço de IA estava presente em cerca de 6.250 creches em todo o país.