Justiça Eleitoral remove publicações irregulares com IA, e 'deepfakes' sexuais são investigados

Parte das ações, no entanto, são negadas, pela avaliação de que não houve uso da ferramenta

O uso irregular de inteligência artificial (IA) nas eleições está na mira da Justiça Eleitoral, que já deu ao menos cinco decisões considerando que houve utilização irregular da tecnologia e determinando a remoção de conteúdos ou mesmo de perfis.

Além disso, alguns casos extrapolaram a seara eleitoral e chegaram à área criminal: três candidatas mulheres já registraram queixas por serem alvos de deepfakes — conteúdos manipulados ou inventados — de teor pornográfico.

Em meio à dificuldade de conceituação o que é ou não IA, também há casos em que o uso da ferramenta é alegado, mas a Justiça considera que a acusação não procede — 12 pedidos tiveram uma liminar negada ou foram julgados improcedentes.

As decisões de remoção seguem a resolução do Tribunal Superior Eleitoral ( TSE), aprovada em fevereiro, que proibiu o uso de deepfakes e determinou que outras aplicações da IA devem ser identificadas.

Um vídeo do presidente Luiz Inácio Lula da Silva (PT) foi adulterado para parecer que ele criticava Welligton França (PP), candidato em Santa Luzia (MA), e a versão falsa circulou no WhatsApp. A Justiça determinou a exclusão da peça.

"Não demanda muito esforço cognitivo para a conclusão de que o vídeo foi manipulado, ante a grosseira edição realizada no conteúdo", avaliou o juiz Bruno Barbosa Pinheiro.

Em Monsenhor Gil (PI), um perfil do Instagram foi suspenso até o primeiro turno das eleições, por publicar desinformação, incluindo com o uso de deepfakes. Em uma delas, o vice-prefeito Evandro Abreu (PSD), que concorre à prefeitura, aparece em um vídeo fazendo o número de um dos adversários com as mãos.

Em outra postagem sobre Abreu, a página fez piada com o uso da IA: "Eles vão reclamar do vídeo de inteligência artificial, mas não reclamam de deixar a garagem da prefeitura abandonada".

Para o juiz Silvio Valois Cruz Junior houve um "escárnio" ao admitir a utilização da tecnologia. "Importante aduzir que as deepfakes são simulações que levam as pessoas a acreditarem no que não existe, a partir da utilização de vídeos e áudios com montagens descontextualizadas, produzindo informações distorcidas da realidade, sendo obrigado o aviso do uso de IA na propaganda eleitoral, a fim de informar a sociedade se a imagem veiculada é verdadeira ou não", afirmou.

O trecho de uma propaganda do horário eleitoral gratuito foi suspenso em Araguaína (TO) porque houve a utilização de inteligência artificial, sem a devida identificação, para retratar um projeto de construção de uma Unidade de Pronto Atendimento (UPA).

A defesa do candidato Jorge Frederico (Republicanos) admitiu no processo o uso de IA, mas afirmou que "se limitou à criação de uma visualização aprimorada do projeto" e que "em nada afetou o conteúdo principal da mensagem ou a compreensão do público de que a imagem não era ilustrativa".

Entretanto, para o juiz Deusmar Alves Bezerra, "a propaganda levada a efeito com essas irregularidades tem potencialidade de influenciar o eleitorado local, de modo a causar o desequilíbrio injusto do pleito eleitoral".

Um vídeo de Golbery Lopes (União Brasil), candidato a vice-prefeito de Cupira (PE), foi editado para incluir um áudio no qual outra pessoa diz: "não sou de fazer, sou de falar". O dono do perfil que divulgou o vídeo foi multado em R$ 5 mil.

"A utilização de montagem que distorça a realidade do fato ultrapassa a liberdade de expressão e pode causar desinformação e desconstrução de figuras políticas capazes de levar o eleitor a erro", avaliou o juiz Cristiano Araújo.

Em Juruena (MT), também ocorreu a remoção de um vídeo porque o uso de IA não foi identificado. "O uso de IA para ocultar a autoria de conteúdos acusatórios, como no presente caso, não é admissível", afirmou o juiz Gezicler Luiza Sossanovicz Artilheiro.

'Simplesmente colagens'
Por outro lado, também há diversas ações em que os pedidos foram rejeitados. "Não há indícios do uso de inteligência artificial, mas simplesmente de colagens digitais que podem ser facilmente percebidas como tal", escreveu a juíza Ana Carolina da Silva ao analisar um caso de Laguna Carapã (MS).

Em Dilermando de Aguiar (RS), uma ação foi julgada improcedente porque o vídeo questionado seria de "de natureza infantil, sem qualquer evidência de utilização de inteligência artificial para manipulação, distorção de informações ou ataques pessoais".

Um direito de resposta foi negado em Palmas (TO) porque foi considerado que, sem uma perícia ou outro tipo de prova não seria possível comprovar o uso da IA. "A mera alegação de manipulação digital, desacompanhada de prova técnica ou pericial, não é suficiente para fundamentar a concessão de uma tutela de urgência", alegou o magistrado. Luiz Zilmar dos Santos Pires.

Para o advogado Ticiano Gadelha, especialista em direito da propriedade intelectual, é preciso definir de forma mais claras quais são os usos permitidos e proibidos do IA.

— Me parece que o TSE foi muito intenso na punibilidade, mas foi muito leve na parte dos conceitos. Então o que eu acho que a gente tem de desafio para esse ano é isso, do que está regulamentado, do que pode fazer e do que não pode — afirma, acrescentando: — A minha preocupação é você induzir o eleitor a erro. O resto, não vejo problema.

Carla Rodrigues, coordenadora do projeto IA com Direitos, da Data Privacy Brasil, alerta para tentativas de burlar a fiscalização, com conteúdos circulando em plataformas menos visadas:

— Há uma estrutura de comunicação de driblar essas normas, com a utilização de plataformas como Kwai, como o Discord, plataformas pouco rastreáveis,

Investigações abertas
Ainda há ao menos três casos de envolvendo deepfakes de caráter sexual. A prefeita de Bauru, Suéllen Rosim (PSD), e a candidata a vereadora no Rio de Janeiro Letícia Arsenio (Podemos) registraram boletins de ocorrência por imagens pornográficas, utilizando o resto delas enquanto a candidata a prefeita de São Paulo Tabata Amaral (PSB) apresentou uma notícia-crime pelo mesmo motivo. Os três casos ainda estão sob investigação.

No caso de Arsenio, foi descoberta uma pasta dentro um site pornográfico com 21 fotos e um vídeo com o rosto dela. O caso foi registrado na Polícia Federal (PF), que avaliou que o fato pode se enquadrar no crime de difamação eleitoral.

As fotos de Tabata foram encontradas na rede social X, após sua suspensão no Brasil. A campanha solicitou para o TRE de São Paulo a identificação dos responsáveis pela publicação. Já uma montagem com o rosto de Suéllen Rosim foi compartilhada pelo WhastApp. O boletim foi registrado na Polícia Civil.