ChatGPT: China faz primeira prisão após homem supostamente usar plataforma para gerar fake news

Suspeito disseminou informações falsas sobre um acidente de trem que teria deixado nove mortos

A polícia chinesa prendeu um homem que supostamente usou o ChatGPT para gerar notícias falsas e divulgá-las online no que pode ser a primeira detenção do país relacionada ao uso do bot.

Segundo o jornal South China Morning Post, de Hong Kong, o suspeito de sobrenome Hong foi detido por “usar tecnologia de inteligência artificial para inventar informações falsas”.

De acordo com um comunicado da polícia de Gansu, no noroeste da China, Hong combinou elementos de várias histórias em voga e inseriu no ChatGPT para gerar notícias falsas sobre um acidente de trem. A fake news informava que o acidente ocorreu no dia 25 de Abril e havia causado a morte de nove pessoas.

Os oficiais de segurança cibernética do condado de Kongtong encontraram o artigo publicado simultaneamente por mais de 20 contas no Baijiahao, uma plataforma estilo blog administrada pela gigante chinesa de mecanismos de busca Baidu.

A história recebeu mais de 15.000 cliques até que chamou a atenção dos oficiais. A polícia disse ter rastreado a origem do artigo até uma empresa de propriedade do suspeito, que operava plataformas de mídia social registradas em Shenzhen, na província de Guangdong, no sul do país. Cerca de 10 dias depois, uma equipe policial apreendeu o computador de Hong e o deteve.

O departamento de segurança pública de Gansu disse que Hong era suspeito do crime de “provocar brigas e problemas”, uma acusação que normalmente acarreta uma pena máxima de cinco anos.

Mas em casos considerados especialmente graves, os infratores podem ser presos por 10 anos e receber penalidades adicionais, informou o jornal.

Esta é a primeira vez que o público toma conhecimento de uma prisão pelas autoridades chinesas depois que as primeiras disposições de Pequim para regular o uso da tecnologia “deepfake” entraram oficialmente em vigor em janeiro, disse.

De acordo com o jornal, citando o comunicado da polícia, Hong confessou ter contornado a função de verificação de duplicação de Baijiahao para publicar em várias contas que adquiriu. Embora o ChatGPT não esteja diretamente disponível para endereços de IP chineses, os usuários ainda podem acessar seu serviço se tiverem uma conexão VPN confiável.

As empresas chinesas de TI estavam experimentando suas versões do ChatGPT depois que a Microsoft e o Google anunciaram suas inovações.

A China monitora de perto suas mídias sociais por meio de firewalls, especialmente o Sina Weibo, que tem mais de 592 milhões de usuários, para garantir que não haja conteúdo crítico contra o Partido Comunista da China (PCC).

O principal regulador da Internet da China há muito expressa preocupação com o desenvolvimento descontrolado e o uso de tecnologia de síntese profunda possam levar ao seu uso em atividades criminosas, como golpes online ou difamação.

Como o ChatGPT se tornou viral nos últimos meses, as agências policiais da China expressaram repetidas suspeitas e até mesmo advertências sobre a tecnologia.

Em um dos primeiros comentários sobre o chatbot feito pelo aparato de segurança chinês, a polícia de Pequim alertou especificamente o público, em fevereiro, para ter cuidado com os “rumores” gerados pelo ChatGPT, informou o Post.