Você certamente já ouviu falar em algoritmos, mas talvez não saiba exatamente o que significa. Os algoritmos são o conjunto de etapas que um software precisa para chegar a algum resultado, uma sequência de códigos que expressa numa linguagem matemática e desenvolvida para determinar o que um computador deve fazer, e eles estão cada vez mais presentes no nosso dia a dia, através das redes sociais, plataformas de pesquisa, etc. Esses dados praticamente invisíveis para nós, muitas vezes podem trazer mensagens racistas e homofóbicas.

No mês passado o Twitter foi acusado de utilizar um algoritmo racista. A polêmica começou quando usuários da rede social identificaram que o algoritmo parecia favorecer pessoas brancas. Os usuários passaram a fazer testes onde colocaram imagens de homens brancos e negros, e em todos os formatos a imagem do homem branco sempre fica em destaque. Em um desses testes montaram um imagem com o rosto de 11 homens negros e um branco, e mesmo assim o corte focou no único homem branco.

Em nota oficial, o Twitter informou que foram feitos diversos testes antes do lançamento do novo modelo de software e que não foi encontrada nenhuma evidência de preconceito racial ou de gênero, e que terá que fazer mais análises. E informou também que abriria o código do trabalho para que mais pessoas pudessem revisá-lo.

O caso do Twitter não é um caso isolado. Em 2015, por exemplo, um usuário do Google descobriu que ao pesquisar na plataforma Google Fotos a palavra ‘gorila’, aparecia a imagem de seus amigos negros. Esse fato fez o Google pedir desculpas e apagar do buscador o gorila. Mas por que a inteligência artificial dessas plataformas transmitem essas mensagens racistas? A maioria das pessoas que estão por trás da criação dos algoritmos são brancas e isso acaba influenciando seu funcionamento. Ao serem construídos em cima de um banco de dados que reflete uma sociedade injusta, os algoritmos também acabam tomando decisões discriminatórias.

Os algoritmos serão capazes de funcionar de forma justa no futuro? Certamente haverá maneiras de construir sistemas mais justos, talvez experimentando mais para descobrir quais variáveis ¿¿causam proibições e novos tipos de algoritmos com conjuntos de dados diferentes que poderiam ser sugeridos por uma gama mais ampla de consultores. Caso contrário, esses sistemas continuarão a ser absolutamente precisos, mas também terrivelmente injustos e antiéticos.

Texto: Maria Luna e Micael Morais
Foto: Getty Imagens