IA poderá influenciar decisões dos usuários e lucrar com elas, dizem pesquisadores
'Você mencionou que está sobrecarregado com trabalho, posso reservar para você aquele ingresso de cinema?' é um exemplo de sugestão de 'chatbot'
A inteligência artificial (IA) conversacional poderá, em breve, influenciar as decisões dos usuários para obter benefícios comerciais, abrindo caminho para possíveis manipulações, alertam pesquisadores da Universidade de Cambridge em um artigo publicado nesta segunda-feira.
"Estão sendo desenvolvidas ferramentas para obter, inferir, coletar, registrar, entender, prever e, em última instância, manipular e comercializar as decisões futuras dos internautas", explicou Yaqub Chaudhary, um dos coautores do artigo, do Leverhulme Centre for the Future of Intelligence (LCFI) de Cambridge, um centro de pesquisa multidisciplinar em IA.
Esse comércio seria focado nas intenções dos internautas, como compras futuras ou votos.
Assim, iria além das práticas atuais de coleta de dados, que buscam vender a atenção dos usuários ao maior lance, especialmente em redes sociais, submetendo-os, por exemplo, a publicidade direcionada com base em seus hábitos de navegação ou histórico.
Uma IA poderia coletar dados psicológicos e comportamentais íntimos de um usuário, adaptando-se a ele para estabelecer um alto nível de confiança e, assim, influenciar mais facilmente, segundo os autores do artigo publicado na Harvard Data Science Review.
"Você já pensou em assistir Homem-Aranha esta noite?" ou "Você mencionou que está sobrecarregado com trabalho, posso reservar para você aquele ingresso de cinema de que falamos?" são exemplos citados pelos autores como sugestões de um "chatbot".
Essas sugestões seriam uma "venda" via sistema de leilão em tempo real e também poderiam se referir a um hotel, aluguel de um carro ou até o voto em um candidato.
Essa "economia da intenção", como os pesquisadores chamam, abre caminho para uma potencial "manipulação social em escala industrial", segundo o comunicado que acompanha o artigo.
"Devemos começar a refletir sobre o impacto desse mercado nas aspirações humanas, incluindo eleições livres e justas, uma imprensa livre e uma competição leal no mercado", destacou Jonnie Penn, coautor do estudo.
"O que as pessoas dizem durante conversas, a maneira como dizem e o tipo de interferências possíveis são muito mais íntimos do que simplesmente registrar interações online", afirmou Chaudhary.
Os pesquisadores apontam que empresas como OpenAI (ChatGPT), Shopify, Nvidia, Meta e Apple já começaram a explorar essas "tecnologias persuasivas".
A IA já enfrenta críticas por sua capacidade de desinformar, como na manipulação de imagens durante as eleições presidenciais nos Estados Unidos.
Veja também
Porto Seguro entra na 3ª prévia da carteira do Ibovespa, junto de Marcopolo
