Uma vez vi um vídeo sobre como a empresa Kodak produzia um cartão com uma foto de uma mulher branca para calibrar seus filmes para melhor representar tons de peles. Esse ideal excluía uma infinidade de tons de pele e gerava uma uma baixa profundidade de cor para representação de peles não brancas. O resultado disso era que fotografar essas e obter boas imagens era muito mais difícil, quando não impossível.
O problema só começou a ser revisado quando empresa da indústria moveleira e de chocolates começaram a reclamar que não conseguiam fotografar todo os tons de seus produtos, e que muito deles acabavam ficando iguais entre si pela falta de profundidade de cor.
Esse é o caso de racismo tecnológico mais antigo que conheço e que me fez compreender ainda mais que toda a produção tecnológica tem o poder de reproduzir e intensificar estruturas opressoras que existem na sociedade e hoje tento sempre ficar o olhar mais atento.
Recentemente fiquei preso do lado de fora de uma conta por causa de um sistema que não reconhecia meu rosto por ele e meu dispositivo não atenderem ao ideal. Ao dar o exemplo de como a foto deveria ser feita, o padrão que sempre esteve ai se repete. Um rosto feminino de pele clara com uma qualidade de imagem e luz quase impossível de se obter em condições normais.
Com diversos lugares e sites aumentando o uso de reconhecimento facial como uma tecnologia de identificação, fico me perguntando sobre que tipo de rostos e peles esses sistemas apresentam sua melhor performance? Ao exigir uma qualidade de imagem e luz específica para funcionar, de que dispositivos e locais estamos falando? Qual é a margem para o reconhecimento correto? Qual o nível de exigência técnica da imagem de um sistema que permite a entrada e de outro que reconhece criminosos?
A pesquisadora Joy Buolamwini já desenvolve uma pesquisa uma sobre isso e tem um vídeo dela explicando um pouco das implicações que envolvem reconhecimento facial e racismo que elaboram muito melhor do que eu as questões desse texto. O vídeo é de 7 anos atrás, o que é muito tempo para tecnologia para datar o vídeo como antigo, mas não o suficientemente velho quando envolvemos questões éticas.
Nesse contexto a construção dessas tecnologias de reconhecimento repetem a mesma escolha da Kodak de não inserirem outros recortes raciais e sociais dentro do desenvolvimento de suas tecnologias. Não é um erro técnico apenas, é uma escolha dos seus engenheiros.
Não existe a condição ideal no mundo real, não existe apenas uma imagem de pessoa. O mundo perfeito das tecnologias não é o mundo que vivemos.