Zoom, Twitter atingido por alegações de preconceito racial em algoritmos, Twitter diz que trabalho a ser realizado

Zoom Twitter atingido por alegacoes de preconceito racial em algoritmos

No fim de semana, o Twitter e o Zoom foram identificados como tendo um viés racial em seus algoritmos visuais. Tudo começou quando alguém notou como o Zoom parecia estar removendo a cabeça de pessoas com uma pigmentação de pele mais escura quando elas usam um fundo virtual, enquanto ele não faz esse movimento em pessoas com uma pigmentação de pele mais clara. No tweet usado para relatar o problema do Zoom, foi ironicamente identificado que o Twitter também parece ter um viés racial quando cortou as miniaturas para favorecer o rosto de uma pessoa branca em vez de negra. O Twitter respondeu à indignação que surgiu, dizendo que estava claro que tinha mais trabalho a fazer.

O Zoom inicialmente parecia ter um problema com seus algoritmos de fundo virtual que se manifestam como um viés racial. Pesquisador Colin Madland publicado um tópico no Twitter no sábado que destacou o problema com o algoritmo de detecção de rosto que supostamente apaga rostos negros ao aplicar um plano de fundo virtual no aplicativo de videoconferência.

O Gadgets 360 entrou em contato com a Zoom para obter esclarecimentos sobre o algoritmo e foi informado pela empresa que estava investigando o problema. “Entramos em contato diretamente com o usuário para investigar esse problema. Estamos empenhados em fornecer uma plataforma que seja inclusiva para todos ”, disse um porta-voz da Zoom em um comunicado.

No mesmo tópico, com Madland postando fotos de cada usuário no chat, o algoritmo de corte de miniaturas do Twitter parecia estar favorecendo Madland em vez de seu colega negro.

Oferta de design do chefe do Twitter, Dantley Davis, respondeu às observações de Madland por dizendo “É 100 por cento nossa culpa. Ninguém deveria dizer o contrário. Agora o próximo passo é consertar.”

Logo depois, vários usuários do Twitter postaram fotos na plataforma de microblog para destacar o aparente viés. O CTO do Twitter, Parag Aggarwal, também reagiu à tendência:

Outro exemplo veio do engenheiro criptográfico Tony Arcieri, que no domingo tweetou as fotos do ex-presidente dos Estados Unidos, Barack Obama, e do líder da maioria no Senado, Mitch McConnell, para entender se o algoritmo da plataforma destacaria o primeiro ou o segundo. Arcieri usou diferentes padrões para colocar as fotos nas imagens, mas em todos os casos, o Twitter mostrou McConnell ao invés de Obama.

No entanto, assim que o engenheiro inverteu as cores das fotos, a imagem de Obama apareceu na tela recortada. A produtora interteórica Kim Sherrell também encontrado que o algoritmo ajusta a preferência quando a imagem de Obama é alterada com um sorriso de maior contraste.

Alguns usuários também descobriram que o algoritmo parece dar foco a tez mais brilhante, mesmo no caso de desenhos animados e animais. Diferentes clientes do Twitter, como Tweetdeck e Twitterrific, bem como visualizações em dispositivos móveis, aplicativos e desktops, mostraram prioridades diferentes para o corte de imagens, alguns usuários notado.

Liz Kelley, porta-voz do Twitter respondeu aos tweets que levantaram alegações de preconceito racial contra a plataforma e disseram: “Testamos o preconceito antes de lançar o modelo e não encontramos evidências de preconceito racial ou de gênero em nosso teste, mas está claro que temos mais análises a fazer. ” Ela acrescentou: “Abriremos o código do nosso trabalho para que outros possam revisar e replicar”.

Em 2017, o Twitter descontinuou a detecção de rosto para cortar automaticamente imagens na linha do tempo dos usuários e implantou um algoritmo de detecção de saliência que tinha como objetivo focar em regiões de imagem “salientes”. Engenheiro do Twitter Zehan Wang tweetou que a equipe conduziu alguns estudos de viés antes de lançar o novo algoritmo e, naquela época, descobriu que não havia “viés significativo entre etnias (ou gêneros)”. No entanto, ele acrescentou que a empresa revisaria o estudo fornecido pelos usuários do Twitter.


Apple Watch SE, iPad 8ª geração são os produtos perfeitos ‘acessíveis’ para a Índia? Discutimos isso no Orbital, nosso podcast semanal de tecnologia, que você pode assinar via Podcasts da Apple, Podcasts do Google, ou RSS, baixe o episódioou apenas aperte o botão play abaixo.

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *