Você não parece a idade que tem e a inteligência artificial

Reflexões sobre a cognição humana e o machine learning


O avanço do desenvolvimento da inteligência artificial vem trazendo muitas questões sobre a mente humana e como é possível criar mente artificial, neutra, racional, pragmática e sem viés, baseado na inteligência dos homens. Nós somos feitos de crenças, culturas, religiões, sentimentos, experiências, como podemos ignorar tudo isso e ensinar uma máquina a pensar?

É neste momento do desenvolvimento das aplicações dos conceitos de inteligência artifical e maior alcance das soluções baseadas em IA que os padrões de pensamento e construções mentais humanas podem ser verificadas quando são repetidas pelas máquinas. E quando levamos em consideração que a maioria absoluta dos desenvolvedores, cientistas de dados e empresários de tecnologia são homens brancos, é possível afirmar que a inteligência artificial tende de repetir a lógica de construção de ideias e padrões de pensamento de pessoas brancas.  E isso tem um preço. 

Esta semana a febre foi o aplicativo de envelhecimento que projeta a aparência da pessoa com mais idade e de de súbito os velhinhos começaram a passar em nossos feeds. De maneira simples, o funcionamento de um aplicativo deste tipo é (muito basicamente), um algoritmo que uma grande quantidade de imagens de pessoas, identifica padrões e réplica nas fotos. O que eu notei, e muitos comentários disseram o mesmo, que após se verem com 60, 80 ou 100 anos, que o padrão de envelhecimento aplicado, ou seja, os padrões faciais que o algoritmo considera ser característico de pessoas mais velhas é o padrão de envelhecimento de pessoas brancas: enrugamento em excesso em todo o rosto, flacidez facial e um aumento do crânio fazendo a face parecer maior. Porém estas características não correspondem ao envelhecimento padrão de pessoas pretas e de melaninada. A idade de uma pessoa preta é sempre um mistério pois assim como o algoritmo nós fomos ensinados como deve parecer uma pessoa de determinada idade mas este padrão é branco.


Uma rápida busca no Google por questões relacionadas ao envelhecimento, é notório ver que 90% do que é produzido sobre envelhecimento da pele se referente a pessoas brancas e de pele clara. No caso são mulheres brancas o grande público de uma das maiores indústrias do capitalismo: a indústria anti-idade. Todos os dias mulheres brancas são bombardeadas com produtos e técnicas para milhões para lutar contra as marcas de envelhecimento, que segundo o algoritmo do aplicativo, é um padrão verificável.


O problema é que se limitar a um padrão determinado pode custar a eficácia de um produto tecnológico. Tarcízio Silva, Mestre e Pesquisador fundador do IBPAD comentou em suas redes sociais sobre outro aspecto do problema no FaceApp: o aplicativo de edição de selfies possui um filtro de embelezar as fotos e por padrão clareava a pele de pessoas pretas e de pele escura. Outra vez o algoritmo repete um modelo de pensamento branco onde para ser bonito alguém deve ter a pele clara. Segundo ele: “Ao mesmo tempo em que algumas posturas alegam que o “algoritmo em si” seria neutro, alegações como a de Goncharov são comuns ao fugir da responsabilidade sobre a seleção dos dados de treinamento, assim como aconteceu no caso citado anteriormente. Podemos evocar aqui como a invisibilidade do negro é "elemento importante da identidade do branco: ele não vê o negro. Uma reflexão sobre relações raciais pode explicitar um desconforto do branco diante da paradoxal constatação que ele não vê, não lembra, nunca pensou nos negros" (BENTO, 2002, p.91). Comumente aplicativos que buscam alcance global projetam seus consumidores apenas como brancos."


A diversidade na construção de produtos tecnológicos é essencial para execução do mesmo. imagine que este tipo de ferramenta de envelhecimento pode ser usada para localizar uma criança perdida e simular sua aparência depois de anos. Da forma como os algoritmos são alimentados atualmente, é grande a probabilidade de que se a criança for preta, a imagem não faça uma boa representação de sua aparência depois de anos e esta é apenas uma das hipóteses do quão problemática é a construção de ferramentas de inteligência artificial em equipes não diversas.
A próxima vez que você se surpreender com a idade de uma pessoa preta, pense, ela não parece mais jovem para a idade que tem, talvez seus dados não saibam reconhecer uma mulher preta com tal idade.





:: Efigenias ::
Black don't crack