"Você está ficando paranoico com esse negócio de privacidade" – é uma frase que talvez você já tenha ouvido quando colocou um adesivo na webcam do notebook, passou a usar a aba anônima do navegador ou ao se questionar sobre como os aplicativos do celular usam o acesso ao microfone para escutar as suas conversas. Não se preocupe: você não está sozinho.

O noticiário dos últimos anos não tem feito nada além de confirmar todas as nossas paranoias sobre privacidade. O caso Snowden, em 2013, abriu a porteira sobre o tema na mídia internacional ao revelar um programa massivo de espionagem governamental. Em 2018 veio o escândalo da Cambridge Analytica, diretamente ligado ao uso político de dados pessoais. O ano de 2019 começou com a febre do "desafio dos 10 anos" nas redes sociais, que prontamente levantou suspeitas de que poderia servir para treinar aplicações de reconhecimento facial especializadas em padrões de envelhecimento. Logo em seguida o aplicativo FaceApp fez muita gente envelhecer na internet e depois descobrir que a empresa russa poderia fazer o que bem entendesse com as fotos.

Em 2020 já temos a primeira confirmação de uma paranoia envolvendo privacidade: o surgimento iminente de um aplicativo que pudesse vasculhar uma infinidade de sites na internet para fazer reconhecimento facial. Aquela foto do seu perfil em um site que você não entra faz tempo? A foto de uma reunião de amigos que você nem mais se lembrava que alguém tinha tirado? Trechos de uma filmagem que subiram em um site de vídeos? Já imaginou se tudo isso pudesse ser usado para identificar você a cada momento em que se passa na frente de uma câmera?

Pois bem, já existe uma aplicação fazendo exatamente isso. E a má notícia é que ela foi desenvolvida por uma startup que não parece estar preocupada em adotar medidas para frear o potencial da tecnologia e preservar a sua privacidade. Ao contrário, ela já colocou a ferramenta no mercado, com foco específico em seu uso pelas autoridades policiais. Por um lado ela pode ser uma importante parceira para resolver crimes, mas será que essa aplicação tão poderosa possui condições de evitar o abuso e os potenciais danos gerados pela mesma tecnologia?

A matéria do New York Times sobre a ClearView AI, a empresa por trás dessa ferramenta, ganhou tons apocalípticos. Seria o fim da privacidade? Existe algo nessa história que vai além da preocupação com privacidade. Na medida em que o gênio está fora da lâmpada e essa tecnologia vai sendo aperfeiçoada, será que estamos preparados para lidar com as transformações comportamentais que isso vai causar?

O que muda em uma sociedade pautada pelo reconhecimento facial? De um lado você tem acesso mais fácil a produtos e serviços, que passam a dispensar outros meios de identificação. Você pagará com o seu rosto. Ao mesmo tempo, o anonimato desaparece e a sensação de que você está sendo filmado passa a ser permanente. Já imaginou ser filmado, reconhecido e ter suas emoções analisadas a todo instante na rua, no colégio, no trabalho e até dentro de casa?

A capacidade disruptiva do reconhecimento facial não é pequena. Na China já se experimenta o uso de câmeras de reconhecimento facial e de emoções em sala de aula para avaliar o interesse dos alunos e o desempenho dos professores. Em São Paulo, o metrô da Linha 4 foi obrigado judicialmente a desligar câmeras que fariam o reconhecimento das emoções dos passageiros para exibir publicidade. A marca de roupa Hering também testou em uma loja o uso de câmeras para captar a reação dos clientes aos produtos.

Um dos principais motores que impulsionam o desenvolvimento de reconhecimento facial é a segurança. A possibilidade de identificação de suspeitos e criminosos seria aumentada com a tecnologia. Ao mesmo tempo, não faltam histórias complicadas sobre falsos positivos e a dificuldade da tecnologia – em seu atual estado – de reconhecer rostos de negros e asiáticos. Chegamos então em uma encruzilhada: como fazer para resolver os gaps da tecnologia? Uma resposta simples seria alimentar as bases de dados com mais rostos de negros e asiáticos. Sendo assim, a solução para aprimorar a tecnologia seria expor um maior número de pessoas aos seus efeitos.

Outra solução poderia vir da atuação de governos e reguladores, que procurariam traçar diretrizes sobre como o reconhecimento facial poderia ser desenvolvido, estabelecendo garantias essenciais à proteção de dados e outros direitos individuais, buscando ainda coibir abusos. Como era de se esperar, a Europa parece estar caminhando nessa direção.

A agência Reuters recentemente teve acesso a um documento que revela que a Comissão Europeia estaria considerando ordenar uma suspensão de três a cinco anos na aplicação das tecnologia de reconhecimento facial em locais públicos. A medida seria implementada para viabilizar um debate mais informado sobre os potenciais benefícios e riscos da tecnologia, permitindo uma atuação mais segura por parte dos órgãos reguladores.

A revelação acontece logo após a proibição do uso de reconhecimento facial por autoridades públicas em algumas cidades norte-americanas, como Oakland, na Califórnia, e Cambridge, em Massachusetts.

O CEO do Google, Sundar Pichai, defendeu a existência de uma regulação sobre inteligência artificial. Em uma palestra em Bruxelas ele afirmou que "é importante que governos e reguladores tratem logo do assunto e criem regras. (…) Isso pode ser imediato ou talvez exista um período de espera no qual possamos refletir sobre como essa tecnologia está sendo usada."

Sundar chegou a comparar o desenvolvimento da inteligência artificial à descoberta do fogo e o debate sobre reconhecimento facial como demandante de um esforço internacional que se assemelha aos acordos sobre o clima. Mas em que medida o reconhecimento facial é o novo aquecimento global? Aqui vão alguns pontos de contato entre os dois temas:

• Percepção dos danos causados pelo desenvolvimento. Assim como no debate climático, a controvérsia sobre reconhecimento facial parte do pressuposto de que já existem evidências concretas sobre danos derivados do estágio de desenvolvimento alcançado. Discriminação algorítmica, falsos positivos em larga escala e risco de abuso por governos autoritários para controlar a população são alguns dos elementos usados para apontar que o estágio atual já é perigoso e que danos já estão ocorrendo.
• Preocupação com as futuras gerações. O debate sobre mudança climática está fortemente alicerçado na noção de que mundo queremos deixar para as próximas gerações. A controvérsia sobre reconhecimento facial passa pelo mesmo dilema: o que dirão as gerações futuras sobre a nossa geração, que poderia ter criado proibições, restrições ou salvaguardas sérias que pudessem controlar o uso desenfreado de reconhecimento facial, evitando o aniquilamento da privacidade e o sentimento de monitoramento permanente? Queremos que as próximas gerações aprendam pelos livros de história que houve um tempo em que se podia sair na rua e ninguém estava filmando o seu rosto e mapeando as suas emoções?
• Necessidade de cooperação internacional. Esse é o ponto levantado por Sundar Pichai. Assim como na crise climática, de nada adianta um país ou grupo de países fazer a sua parte e reduzir as emissões de carbono se não houver um esforço internacional coordenado. Caso a Comissão Europeia realmente siga adiante com uma suspensão do reconhecimento facial em locais públicos, a tecnologia continuará a ser adotada e aperfeiçoada em outros países, tornando menos eficaz a regulação europeia.
• Desequilíbrio entre países desenvolvidos e em desenvolvimento. Uma discussão sempre presente no tema da mudança climática é o fato de que o cenário atual é resultante de décadas de exploração de riquezas de modo nada sustentável pelos países desenvolvidos. Sendo assim, a conta deveria ser mais pesada para os mesmos, enquanto os países em desenvolvimento deveriam ter restrições mais brandas. No caso do reconhecimento facial, não será de se estranhar se a mesma lógica começar a aparecer: como a tecnologia foi criada e aplicada em massa por governos e empresas nos Estados Unidos, Europa e China, caberia aos mesmos arcar com as maiores restrições. Países da América Latina e da África que lutam para reduzir altíssimas taxas de criminalidade estariam sendo privados de usar uma tecnologia que poderia – em tese – facilitar as atividades de segurança. Além do mais, existem diversas aplicações benéficas que estão ancoradas em reconhecimento facial, como a busca por desaparecidos, por exemplo. Estaríamos privados de nos valer das vantagens trazidas pelo reconhecimento facial?
• Emergência de uma narrativa multidisciplinar. O engajamento no combate à mudança climática não nasce apenas da produção de artigos científicos ou da edição de leis em prol do meio-ambiente. Para além dos esforços da comunidade acadêmica e de reguladores pelo mundo afora, o tema vai ganhando tração quanto mais se leva em consideração os impactos econômicos da poluição e se cria uma cultura de sustentabilidade na sociedade. Essa junção entre desenvolvimento científico-tecnológico, uma regulação adequada, que tenha um olho na economia e outro na educação da sociedade também será cada vez mais relevante na discussão sobre reconhecimento facial.

É fácil imaginar, como dito, que o gênio já está fora da lâmpada e que agora não temos mais o que fazer a não ser buscar conter aqui e ali os danos que podem ser gerados pela implementação abusiva de reconhecimento facial. O ano de 2020 vai colocar essa percepção a teste. Podemos esperar que, enquanto ONGs fazem campanhas de conscientização e governos procuram regular os princípios que nortearão o uso de reconhecimento facial, nas universidades e nas empresas (grandes e pequenas) vão surgir novas aplicações dessa tecnologia que promete fazer o clima esquentar nos debates sobre o futuro da privacidade.