Twitter exclui algoritmo de recorte de imagem por viés contra minorias
A plataforma de mensagens revelou que descobriu que o algoritmo fornecia "tratamento desigual com base em diferenças demográficas", favorecendo usuários brancos e masculinos em vez de negros e mulheres, e um viés descrito como "olhar masculino", que se concentrava no peito ou nas pernas de uma mulher.
A notícia chega um mês depois que o Twitter lançou uma iniciativa de equidade algorítmica como parte de um esforço para reduzir os vieses de automação em sua plataforma.
Em 2018, o Twitter introduziu um algoritmo de relevância para o recorte de imagens, com o objetivo de melhorar a consistência do tamanho das fotos na linha do tempo e focar em seus elementos mais importantes.
Rumman Chowdhury, engenheiro-chefe de software do Twitter e especialista em ética e inteligência artificial, explicou que a empresa determinou após sua análise que é preferível deixar as decisões de recorte de imagem para os usuários.
"Nós consideramos as compensações entre a velocidade e a consistência do recorte automatizado com os riscos potenciais que vimos nesta pesquisa", declarou em uma postagem de blog.
“Uma de nossas conclusões é que nem tudo no Twitter é um bom candidato para um algoritmo e, neste caso, a maneira como recortar uma imagem é uma decisão que as pessoas tomam melhor”, acrescentou.
O anúncio ocorre em meio a uma preocupação elevada com algoritmos avançados que podem fornecer resultados tendenciosos devido à falta de dados sobre minorias ou outros fatores.
Esta semana, a Amazon anunciou que estava estendendo a proibição do uso de tecnologia de reconhecimento facial por agências de aplicação da lei em meio a temores de que suas falhas poderiam amplificar o preconceito racial.
A iniciativa do Twitter requer "assumir a responsabilidade" por decisões algorítmicas com o objetivo de "equidade e justiça de resultados", de acordo com a empresa.
Veja também
Projeções para o dólar nos Focus do BC sobem em 2024, 2025, 2026 e 2027
