Você tem cara de que? Veja como robô rotula Bolsonaro, Faustão e Trump

Faustão foi identificado como um "locutor" pela inteligência artificial. Já o Bob Marley na camiseta foi classificado como um "radiologista".

Na semana passada publiquei uma entrevista com a Siri para descobrir como a assistente virtual da Apple estava respondendo a perguntas sobre direitos humanos, feminismo e até nazismo. O resultado foi sempre o mesmo: "É sua opinião que conta" – disse a Siri. Aplicativos como os assistentes virtuais são treinados para reconhecer comandos de voz e responder de acordo com a sua programação.

Algo parecido acontece com os apps de reconhecimento de imagem, em especial os de reconhecimento facial. Seja para nos envelhecer, para trocar de sexo ou mesmo de rosto com outra pessoa, alguns dos aplicativos mais populares nos últimos meses têm mostrado como a inteligência artificial sabe reconhecer o que é um rosto e atuar em cima disso.

Mas e se ao invés de envelhecer o retratado – como faz o polêmico FaceApp – a aplicação buscasse em sua base de dados uma forma de classificação e mostrasse como ela rotula as pessoas? Foi justamente com esse propósito que a pesquisadora Kate Crawford e o artista Trevor Paglen desenvolveram a ImageNet Roulette.

Funciona assim: a ferramenta usa uma das bases de imagens mais importantes para fins acadêmicos, a ImageNet — nela, estão armazenadas mais de 14 milhões de imagens, organizadas em mais de 20 mil categorias. Ao longo dos anos, as pessoas foram trabalhando sobre essa base, classificando as imagens de acordo com essas categorias. Aparecia um guarda-chuva na imagem? A pessoa classificava aquilo como sendo um guarda-chuva. Apareceu um homem falando para uma turma na frente de um quadro-negro? A pessoa ia lá e classificava como "professor".

Com o tempo, diversas aplicações de inteligência artificial começaram a aprender com essas classificações e passaram a aplicar novos rótulos às novas fotos de forma autônoma. Mas o que acontece quando as classificações já nascem enviesadas ou preconceituosas? Será que a máquina também não vai aprender a reproduzir esses padrões discriminatórios?

É justamente ai que entra a ImageNet Roulette como um exercício para que possamos perceber como as maravilhas da inteligência artificial e do reconhecimento de imagens necessitam de uma estrutura de classificações. E que essas classificações podem também ser enviesadas e necessitar de uma constante revisão. Raramente a pessoa que tem a sua foto analisada por uma aplicação de inteligência artificial sabe como ela terminou sendo classificada. Aqui o jogo se inverte e passamos a saber em um instante como as máquinas enxergam a foto carregada na ferramenta.

Fiz vários testes com a ImageNet Roulette, e os resultados ficam entre o engraçado e o preconceituoso. Estamos prontos para um futuro em que cada vez mais máquinas vão nos classificar a partir de nossas fotos? Confira abaixo alguns resultados de fotos que passei no ImageNet Roulette!

Dança do robô: A ImageNet estrutura a sua árvore de classificações a partir da WordNet, uma base de classificação de palavras desenvolvida pela Universidade de Princeton nos anos 80. Por isso algumas rotulagens aparecem em um inglês até meio antiquado aqui e ali. Nesse foto do grupo É o Tchan percebemos como Cumpadi Washington e Jacaré são classificados como "cog", expressão em inglês que significa um "subordinado que desempenha uma função importante, mas rotineira" — deve ser culpa da coreografia. Provando o caráter ecumênico do grupo, Sheila Mello aparece como uma "irmã" (no sentido cristão do termo) e Sheila Carvalho como uma profetiza.

Nasce uma estrela: A ImageNet Roulette já sabe que a carreira de Anitta está em ascensão, mesmo com todos os cancelamentos e #AnittaisoverParty que rolam mensalmente no Twitter. A ferramenta classificou a cantora como uma "starlet", que segundo a base de palavras significa "uma jovem atriz que é divulgada como uma futura estrela".

Nação Zulu: Enquanto Taís Araújo é classificada como como uma "mulher jovem", Lázaro Ramos aparece como um sangoma. Fui pesquisar e sangoma é, segundo a base de palavras, "um curandeiro tradicional zulu e um ancião muito respeitado."

Do lar: A ImageNet Roulette acha que o grupo nipo-coreano IZ*ONE é composto por "maids" e "maidservants". Segundo a base de classificações, maid é entendida como "empregada, donzela: uma menina solteira (especialmente uma virgem)." Já "maidservant" não deixa dúvida: a máquina classificou a foto na categoria de empregada doméstica.

Tem de tudo: Fãs de Kpop adoram a banda BTS. Mas quantos sabiam que entre os seus integrantes há um mulato, um teosofista, um órfão, um ingênuo e um Adonis?

Por Odin! A ImageNet Roulette classificou o Tiririca aparece como um "beserker". Se você não jogou muito RPG nessa vida, eu explico: segundo a base de dados,  o beserker é "um dos antigos guerreiros nórdicos lendários que entravam em transe antes da batalha e lutavam com selvageria imprudente e fúria insana".

Boxeador: A inteligência artificial acha que Neymar é um "featherweight", ou seja, "peso-pena": um boxeador profissional que pesa cerca de 60 quilos. Tá errado?

Pra fora! Se a pontaria do Gabigol anda certeira, o mesmo não se pode dizer da classificação que a ImageNet Roulette fez dessa foto dos jogadores do Flamengo. Gabriel aparece como um "trabalhador de classe baixa", Arrascaeta como "astronauta" e Bruno Henrique como uma "mulher negra".

Segue o baile: A ImageNet Roulette classificou o Presidente Bolsonaro como um "co-piloto". Já o governador do Rio de Janeiro, Wilson Witzel, é um "trompetista", enquanto o governador de São Paulo, João Dória, é um participante de um baile de máscaras. Justiça seja feita à inteligência artificial, em outros testes que fizemos do lado de cá o governador de São Paulo sempre aparecia como sendo um "âncora de televisão".

 É proibido fumar: A ImageNet Roulette classificou os membros do G7. Alguns foram rotulados como "policyholder". A expressão comporta vários sentidos, mas o que aparece na base de dados é a de "tomador de seguro: uma pessoa que possui uma apólice de seguro; geralmente, o cliente em cujo nome uma apólice de seguro está escrita." O futuro do mundo parece estar em boas mãos. Descobrimos também que a chanceler alemã é uma psicolinguista e o primeiro-ministro canadense não fuma. Donald Trump aparece como um skinhead. Macron também.

Mais uma classificação religiosa: Na foto da posse do Presidente com seus ministros, a inteligência artificial classificou a Ministra Damares como uma diácona (diáconos são clérigos de igrejas de origem cristã).

STF: A inteligência artificial classificou os ministros do STF como policiais, sociólogos, idosos, psicolinguistas, síndicos, biógrafos, usuários de computador e alto comissários.

Olha o perigo: Para terminar, e mostrar como a classificação de imagens pode ser ter efeitos complicados, a ImageNet Roulette rotula Hittler como um líder dos direitos civis. Segundo a base de dados, "líder de direitos civis" é um "líder de movimentos políticos dedicados a garantir oportunidades iguais para membros de grupos minoritários". O que poderia estar mais errado?