Deepfake como negócio: empresas de IA ultrarrealista geram bilhões, mas riscos on-line crescem

Membros de altas esferas do poder são acusados de beneficiar organizações criminosas em troca de dinheiro, ouro, apartamentos e outros luxos

Para além dos riscos cibernéticos e para as democracias, as deepfakes — imagens e vídeos digitais que simulam a realidade — se tornaram também um mercado promissor, para onde escorre parte dos investimentos em inteligência artificial (IA). Com ferramentas acessíveis, startups especializadas na chamada mídia sintética oferecem um cardápio amplo de serviços que inclui produção, edição e geração de áudios, vídeos, imagens e animações com uso intensivo de IA. E não estamos falando do submundo dos produtores de notícias falsas, mas de negócios em potencial expansão.

Do início de 2020 até outubro do ano passado, fundos de investimento de risco aportaram US$ 4,76 bilhões (R$ 23,8 bilhões) em startups de IA focadas em geração de áudio e vídeo, em 410 operações de aporte de capital, mostra levantamento feito a pedido do Globo pela PitchBook, plataforma de análise de dados do mercado de finanças privado.

As ferramentas dessas startups somam-se às de gigantes de tecnologia que vêm incorporando recursos para a geração de imagens e vídeos com IA em seus serviços, como Microsoft, Adobe e Google. Há dez dias, a OpenAI, criadora do ChatGPT, impressionou muita gente ao apresentar o Sora, seu sistema de IA de vídeo que pode criar imagens ultrarrealistas de pessoas e cenários a partir de textos.

O mercado de “mídia sintética” vai além das big techs. Com poucos cliques e investimento baixo, é possível usar ferramentas simples para gerar clones de vozes, avatares que simulam pessoas reais e vídeos e imagens ultrarrealistas com ajuda da IA.

Injeção de capital nas IAs de hiper-realismo
Com a profusão de empresas e sistemas de IA, a barreira de entrada para criar conteúdo realista, que antes era elevadíssima, foi derrubada, avalia Alexandre Nascimento, especialista da SingularityU Brazil. E o apetite de investidores foi fundamental nesse processo, provendo a estrutura para a alta capacidade de processamento demandada pela IA.

— Os chips, GPUs e placas ficaram mais acessíveis. O poder computacional também. Uma das coisas que faltavam, que é o combustível para tudo, é o dinheiro. A partir do momento que os fundos começaram a colocar dinheiro, apareceu muita empresa — diz.

Entre as startups do ramo, algumas já estão entre as mais valiosas do universo da IA. É o caso da americana ElevenLabs, especializada em criar vozes realistas. Foi avaliada em US$ 1 bilhão (R$ 5 bilhões) em janeiro, após rodada de investimento que teve grandes gestoras como Andreessen Horowitz e Sequoia Capital. Outro caso emblemático é o da britânica Synthesia, que faz avatares de IA que são “clones virtuais” de pessoas. Também é um unicórnio, como são chamadas as startups que valem mais de US$ 1 bilhão.

Para atrair clientes, essas startups oferecem, por exemplo, imagens ultrarrealistas para empresas interessadas em automatizar o atendimento ao cliente ou aplicá-las em campanhas de comunicação. Outro uso recorrente é na criação de experiências imersivas para treinamento de funcionários. A Heineken, por exemplo, adota a Synthesia para treinar equipes de logística. Zoom e Xerox são outros clientes.

Indústria criativa na mira das IA
O mercado mais promissor é o da indústria criativa. No Brasil, chamou a atenção recentemente o uso de deepfake num comercial de TV da Volkswagen que “recriou” artificialmente a cantora Elis Regina. Carolina Amorim, líder de Dados Criativos na agência de publicidade Artplan, conta que o uso de IA já faz parte do processo de criação no setor:

— Está se tornando cada vez mais natural (o uso desses sistemas). Usamos principalmente a dupla Midjourney e ChatGPT. E as ferramentas que usávamos antes também começaram a se adaptar.

O acesso a esses recursos é rápido e viável para quem tem pouco ou quase nenhum conhecimento de tecnologia. O custo costuma ser baixo. Em uma dessas empresas, é possível criar um clone realista de voz por apenas um dólar. Mas os efeitos colaterais dessa popularização preocupam governos, sociedade civil e empresas.

Um dos riscos mais evidentes é o de facilitar a disseminação de deepfakes para desinformação, seja de vídeo, áudio ou imagem. Há ainda novas facetas criminosas a partir dessa tecnologia, como a pornografia infantil gerada por IA e fraudes virtuais que usam deepfake para fisgar vítimas.

Neutralizar as ameaças das deepfakes também virou negócio. Segundo a PitchBook, o investimento em startups que criam ferramentas para monitorar e identificar conteúdos ultrarrealistas gerados por IA na internet cresceu onze vezes nos últimos seis anos, chegando a US$ 80 milhões (R$ 400 milhões). Estudo da consultoria HSRC prevê que esse mercado tem potencial para chegar a US$ 15,7 bilhões (R$ 78,4 bilhões) até 2026.

Bertram Lyons, presidente e cofundador da Medex Forensics, empresa especializada em identificar origem e dados de arquivos digitais e em rastrear pornografia infantil sintética, incluindo deepfakes, questiona o nível de segurança das startups de IA ultrarrealista e alerta que uma nova onda de crimes pode surgir à medida que essas ferramentas digitais se tornam mais potentes e acessíveis:

‘Deepfake’ com Taylor Swift: imagens reacendem temor sobre explosão de conteúdos nocivos ou prejudiciais gerados por IA

— A maior parte das imagens com as quais temos trabalhado hoje foram criadas com ferramentas acessíveis de IA. Essas pessoas não estão criando modelos próprios para gerar imagem, mas trabalhando com o que a tecnologia está fornecendo e levando esses sistemas até o limite para que consigam fazer isso.

Áudio e avatares criados por IA
No fim de janeiro, áudios falsos do presidente dos EUA, Joe Biden, espalharam-se em New Hampshire com a voz dele pedindo que eleitores não votassem nas prévias democratas. A imprensa americana revelou que o conteúdo fraudulento havia sido criado por um usuário do ElevenLabs. Ao Globo, a empresa informou que implementa barreiras de segurança.

Na China, um funcionário de uma empresa fez uma transferência de milhões de dólares seguindo, numa teleconferência, a instrução de um avatar do chefe criado por um criminoso com a ajuda da IA.

Para Alexandre Nascimento, da SingularityU, a profusão de conteúdo sintético vai potencializar a difusão de desinformação e discursos de ódio, podendo “criar rupturas sociais”. Virgilio Almeida, professor associado ao Berkman Klein Center, da Universidade Harvard, e professor emérito da UFMG, concorda:

— Se antes você precisava de especialistas para manipular vídeos e imagens, hoje você faz isso com uma rapidez muito grande a um custo muito baixo. As empresas de tecnologia sempre tiveram esse benefício de avançar rapidamente sem um ambiente regulatório. E tem sido assim com a IA.

Ameça aos trabalhadores da indústria criativa
Almeida cita ainda os impactos dessas tecnologias no mercado de trabalho. IAs que criam conteúdo já têm sido vistas como uma ameaça aos trabalhadores da indústria criativa, com reações de parte dessas categorias, da greve de roteiristas de Hollywood ao movimento de dubladores pela regulação da IA. O pano de fundo é o uso cada vez mais comum desses sistemas por estúdios.

— É preciso que o governo e a sociedade criem esse debate porque as mudanças são muito rápidas e profundas — completa Almeida.

Para o pesquisador Rabindra Ratan, professor associado de mídia e informação na Faculdade de Artes e Ciências da Comunicação da Universidade Estadual de Michigan, é preciso colaboração entre os setores público e privado na criação de diretrizes éticas para garantir o desenvolvimento responsável das mídias sintéticas criadas por IA. Entusiasta das aplicações da tecnologia em setores como educação e saúde, ele defende regras que “mitiguem danos sem sufocar a inovação”:

— Equilibrar inovação com considerações éticas e direitos de privacidade é fundamental para aproveitar o potencial positivo desta tecnologia.