Tecnologia abre novo capítulo na manipulação de vídeos; imagina na eleição

Se as eleições brasileiras fossem uma série, todo season finale teria uma pista do que estaria por vir na próxima temporada. No final das eleições presidenciais de 2014, o candidato Aécio Neves soltou um vídeo, filmado na vertical, em que mandava um alô para o "pessoal desse grupo de WhatsApp". Na época aquilo soava igualmente estranho e inovador: o vídeo não tinha nenhuma produção especial, era filmado no celular e dava a impressão de que o político estava falando diretamente com os integrantes de um grupo do app de mensagens, até então visto como um espaço mais privado.

Era um sinal do que se transformaria o pleito eleitoral na internet. Uma enxurrada de mensagens, fotos, memes e vídeos dominaram os grupos de WhatsApp nas eleições de 2018. Mas qual seria então o sinal que a eleição passada mandou para os certames futuros quando se trata de internet e novas tecnologias?

Uma aposta segura vem dos últimos dias da disputa pelo Governo de São Paulo. Viralizou nos grupos de WhatsApp um vídeo que aparentava retratar o candidato João Dória participando em uma orgia. O candidato correu para desmentir o vídeo e perícias começaram a aparecer. Uma perícia afirmou que o vídeo foi adulterado com a inclusão de uma "máscara digital" sobre o rosto do homem para que ele emulasse o movimento da face do candidato. Outra afirmou que o vídeo não sofreu manipulação.

Essa controvérsia sobre o vídeo que aparentava retratar o então candidato do PSDB já revela uma característica dessa nova fase da desinformação: a checagem de fatos e de conteúdos dependerá cada vez mais de um conhecimento técnico. E quanto mais profissional for a manipulação, mais difícil pode ser identificar a adulteração com a velocidade que um vídeo viral demanda.

O caso desse vídeo, somado a tantos outros de natureza sexual em que se fazem montagens com pessoas diversas, levou à aprovação no Congresso Nacional, no dia 19 de dezembro de 2018, de uma alteração no Código Penal que transforma a prática em crime.

Art. 216-B.  Produzir, fotografar, filmar ou registrar, por qualquer meio, conteúdo com cena de nudez ou ato sexual ou libidinoso de caráter íntimo e privado sem autorização dos participantes:  (Incluído pela Lei nº 13.772, de 2018)

Pena – detenção, de 6 (seis) meses a 1 (um) ano, e multa.

Parágrafo único.  Na mesma pena incorre quem realiza montagem em fotografia, vídeo, áudio ou qualquer outro registro com o fim de incluir pessoa em cena de nudez ou ato sexual ou libidinoso de caráter íntimo.  (Incluído pela Lei nº 13.772, de 2018)

A criminalização da prática é um passo importante, mas existe um outro debate que tem tudo para pegar fogo nas próximas eleições. As plataformas na internet, sejam redes sociais abertas como Facebook ou Twitter, sites de vídeo como o YouTube e aplicativos de mensagem como o WhatsApp estarão cada vez em evidência e os seus protocolos sobre como agir quando um vídeo falso viralizar pode se tornar um assunto de comoção nacional.

Por um lado, a tecnologia de manipulação de vídeos, inserindo digitalmente o rosto de uma pessoa no corpo de outra, ou mesmo emulando a sua voz (os chamados deep fake) está se tornado cada vez mais popular e acessível. A Samsung acaba de apresentar uma tecnologia que permite criar um vídeo com movimentos de face de qualquer pessoa a partir de uma simples foto. Para provar o poder da ferramenta a empresa fez o teste até com pinturas famosas, como a Monalisa, que agora parece falar e mexer o rosto com naturalidade.

Por outro lado, vale perceber que não é preciso que se faça uma manipulação profissional e sofisticada para se atingir o candidato adversário, especialmente quando a audiência do vídeo está pronta para compartilhar qualquer ataque ou piada que possa enfraquecer o oponente.

"Pelosi gagueja durante entrevista"

Foi justamente isso que aconteceu nos Estados Unidos na semana passada quando um vídeo com velocidade levemente desacelerada de um discurso da presidente da Câmara dos Deputados, Nancy Pelosi (Partido Democrata), viralizou nas redes.

Não se trata exatamente de um deep fake, mas apenas de uma manipulação simples, com a redução da velocidade do vídeo de modo a parecer que a deputada estivesse drogada ou sob efeito de remédios, com a voz muito arrastada e gaguejando. Anote ai: são grandes as chances de que se faça algo com um candidato brasileiro em 2020. E vai ter gente compartilhando porque atinge o adversário e outros tanto difundindo porque acharam engraçado.

Do outro lado da tela estarão muitos que vão acreditar na versão editada do vídeo. Ainda mais quando políticos importantes também compartilham o vídeo falso, como foi o caso do presidente Donald Trump, que tuitou o vídeo com a legenda "Pelosi gagueja durante entrevista".

As perícias entraram em cena e ficou esclarecido que o vídeo havia sido adulterado. Emissoras de televisão de ambos os espectros políticos reconheceram a falsificação. O que fizeram as principais plataformas na internet? Mais uma vez o episódio americano serve de exemplo para o que pode se tornar o debate no Brasil.

O Google prontamente removeu o vídeo do YouTube. A empresa vem desenvolvendo continuadamente a sua tecnologia de identificação e remoção de vídeos, chamada ContentID. O Twitter se recusou a comentar, embora diversos usuários tenham instado a empresa a remover as postagens com o vídeo, inclusive aquela feita pelo presidente.

O Facebook, por sua vez, acionou a sua rede terceirizada de checagem de conteúdos sobre a autenticidade do vídeo antes de se posicionar. Depois de 32hs, com a confirmação de que o vídeo foi adulterado, a plataforma marcou todas as publicações com o vídeo, indicando que o mesmo era falso. A empresa reduziu também o volume de exposição do conteúdo, fazendo com que ele aparecesse com menos frequência para os seus usuários. Ou seja, o Facebook optou por não remover o vídeo, mas sim informar sobre a sua natureza e deixar que os seus usuários formassem a sua opinião sobre o conteúdo. Quem agiu certo nessa história?

Em entrevista para a CNN, Monika Bickert, vice-presidente do Facebook para políticas de produtos e antiterrorismo, argumentou que a política da empresa é apenas remover o vídeo quando existe risco de dano físico ou violência em decorrência do conteúdo.

O apresentador Anderson Cooper insistiu no fato de que se um vídeo é sabidamente falso, não deveria ele ser removido da plataforma? A VP do Facebook argumentou que a empresa tomou todas as medidas para indicar claramente a natureza do vídeo e que o recurso à checagem de fato terceirizada garante aos usuários da rede social uma visão independente sobre o conteúdo que nela circula, permitindo que os mesmos possam decidir no que acreditar.

Diferentes plataformas, diferentes soluções

Para além da discussão de fundo sobre como deveria a companhia agir está o debate sobre a própria natureza da rede social. Na entrevista para a CNN, o apresentador questionou se o Facebook, ao atuar no setor de mídia, não deveria ser regulado como tal. A VP do Facebook contestou dizendo que o Facebook não é uma empresa de mídia, mas sim de rede social.

Marietje Schaake, integrante holandesa do Parlamento Europeu, tuitou que "a principal questão é se plataformas tecnológicas estão essencialmente operando como plataformas de mídia e se deveriam ser reguladas como tal. Como a aplicação da lei pode ocorrer no mundo online. Os 'melhores esforços' do Facebook não são legítimos nem auditáveis." Mas será que as redes sociais são equiparáveis à mídia tradicional quando grande parte do seu conteúdo é produzido e compartilhado por seus próprios usuários?

Ainda no Twitter, o relator para liberdade de expressão na ONU, David Kaye, passou um dever de casa: "escrever a regra que proíbe vídeos falsos da Nancy Pelosi, mas protege sátira, discurso político, protestos, humor e etc. Não parece fácil, não é?" O professor Anupam Chander, da Universidade de Georgetown respondeu: "que tal essa regra? Quando a manipulação do vídeo é clara e ela é destinada a enganar a audiência sobre fatos, é melhor remover o vídeo e avisar a quem postou."

Imagine agora esse debate aterrissando no Brasil. Caso a plataforma adotasse a mesma postura com um vídeo de um político ou candidato por aqui, é bem provável que se buscasse uma ordem judicial que obrigasse a remoção do vídeo. Até ai tudo certo. O Poder Judiciário deve mesmo ser a instância que define sobre a licitude ou ilicitude de qualquer conteúdo (e não eu, você ou o partido político).

Acontece que o Marco Civil da Internet, no seu artigo 19, §1º, exige a "localização inequívoca do material" para a sua remoção. Os tribunais tem interpretado essa redação para exigir que se aponte exatamente as URLs que a vítima deseja que sejam removidas. O que se quer evitar aqui? Que as decisões judiciais sejam genéricas e que ordenem a instalação de filtros que impeçam toda e qualquer exibição do conteúdo impugnado.

Como se sabe, os filtros na Internet estão longe de serem precisos como às vezes imaginam os juízes que decidem nessa direção. Se o ContentID do Google funciona melhor do que a média, isso é o fruto de anos de investimento e aperfeiçoamento da tecnologia. Querer impor a mesma medida para outros sites não vai funcionar. O próprio Google, vale lembrar, já tirou do ar no YouTube canais inteiros sobre Pokémon Go porque confundiu com pornografia infantil.

Tudo isso sem falar que – como lembrou Jacqueline Abreu – caso a discussão estivesse sendo feita no Brasil muito provavelmente o vídeo ia circular bastante por WhatsApp, levantando mais uma vez o debate sobre o futuro da criptografia ponta-a-ponta no País.

Se uma simples desaceleração de um vídeo para passar a impressão de que a deputada estava bêbada já causou esse rebuliço, imagine quando os deep fake forem espalhados por todas as plataformas, distorcendo para valer a noção de realidade e desinformando quem assiste? Pode ir calibrando o seu desconfiômetro.

Revisão: Em uma primeira versão do texto incorretamente fizemos a referência de que Nancy Pelosi seria também pré-candidata nas eleições de 2020 pelo Partido Democrata. A informação foi suprimida na versão atual do artigo.