O Twitter informou nesta quarta-feira (19) que desabilitou um sistema automatizado de recorte de imagens após encontrar um viés contra minorias no algoritmo que controla o recurso.
Com este sistema, as imagens muito grandes geralmente são recortadas e os usuários precisam tocar sobre as fotos para vê-las por completo.
A plataforma de mensagens revelou que descobriu que o algoritmo fornecia “tratamento desigual com base em diferenças demográficas”, favorecendo usuários brancos e masculinos em vez de negros e mulheres, e um viés descrito como “olhar masculino”, que se concentrava no peito ou nas pernas de uma mulher.
A notícia chega um mês depois que o Twitter lançou uma iniciativa de equidade algorítmica como parte de um esforço para reduzir os vieses de automação em sua plataforma.
Em 2018, o Twitter introduziu um algoritmo de relevância para o recorte de imagens, com o objetivo de melhorar a consistência do tamanho das fotos na linha do tempo e focar em seus elementos mais importantes.
Rumman Chowdhury, engenheiro-chefe de software do Twitter e especialista em ética e inteligência artificial, explicou que a empresa determinou após sua análise que é preferível deixar as decisões de recorte de imagem para os usuários.
“Nós consideramos as compensações entre a velocidade e a consistência do recorte automatizado com os riscos potenciais que vimos nesta pesquisa”, declarou em uma postagem de blog.
“Uma de nossas conclusões é que nem tudo no Twitter é um bom candidato para um algoritmo e, neste caso, a maneira como recortar uma imagem é uma decisão que as pessoas tomam melhor”, acrescentou.
O anúncio ocorre em meio a uma preocupação elevada com algoritmos avançados que podem fornecer resultados tendenciosos devido à falta de dados sobre minorias ou outros fatores.
A iniciativa do Twitter requer “assumir a responsabilidade” por decisões algorítmicas com o objetivo de “equidade e justiça de resultados”, de acordo com a empresa.
Um dos casos em que os usuários reclamaram deste algoritmo do Twitter aconteceu em setembro de 2020, perfis publicaram imagens com uma pessoa negra em uma ponta e uma pessoa branca na outra, invertendo a ordem em uma foto seguinte.
Antes de abrir a imagem completa, o algoritmo do Twitter mostrava a pessoa branca com mais frequência.
A rede social utiliza uma rede neural para realizar cortes automáticos nas prévias das fotos publicadas na plataforma desde 2018.
Uma rede neural é um modelo computacional que faz o reconhecimento de padrões.
No caso do Twitter, é utilizado um sistema que “prevê saliências em imagens para detectar pets, rostos, texto e outros objetos de interesse”.
Para realizar as previsões, esses sistemas são alimentados com bases de imagens para ensiná-los o que é um objeto de interesse.
Fonte: G1
