Por Homero Costa
No dia 9 de março de 2020, a Unidade Especial de Proteção de Dados e Inteligência Artificial, órgão do Ministério Público, com sede em Brasília (DF) instaurou um Inquérito Civil Público com o objetivo de analisar uma técnica chamada de deepfake, e seus possíveis impactos nas eleições municipais de outubro.
O inquérito civil é regulado pela Lei Federal nº 7347/85 e instaurado quando existem indícios de que um direito coletivo, social ou individual foi lesado ou tem a possibilidade de ser. A instauração de uma ação civil pública tem o propósito de colher provas para serem levadas à justiça. No caso específico, relativo às eleições municipais, objetiva compreender e estabelecer formas de combater o uso dessa técnica.
As preocupações do Ministério Público é que imagens e palavras podem ser usadas para prejudicar partidos e/ou candidatos, como constatado em outros países, como nos Estados Unidos.
O que deepfake? Etimologicamente é a junção das palavras deep learning e fake, que pode ser traduzido como aprendizagem profunda e falso. Trata-se de uma técnica que usa imagens e sons reais, utilizando inteligência artificial para substituir rostos e vozes em vídeos, com falas e ações descontextualizadas e manipuladas. O software foi desenvolvido para ajustar a movimentação do vídeo original ao novo rosto, incluindo expressões faciais e movimentos labiais.
No artigo Contribuindo com dados para detecção do deepfake, publicado no dia 24 de setembro de 2019 por Nick Dufour e Andrew Gully afirma-se que “desde sua primeira aparição no final de 2017, surgiram muitos métodos de geração de deepfake de código aberto, levando a um número crescente de clipes de mídia sintetizados. Enquanto muitos provavelmente pretendem ser engraçados, outros podem ser prejudiciais para os indivíduos e a sociedade”.
Para Evelyn Melo Silva, advogada, assessora parlamentar e consultora legislativa e membra da Comissão de Direito Eleitoral da OAB/RJ e da Academia Brasileira de Direito Eleitoral e Político no artigo Você já ouviu falar em deepfake e em shallowfake e como eles podem afetar a eleição de 2020? publicado no dia 20 de novembro de 2019, trata-se de uma nova modalidade de desinformação criada por meio de inteligência artificial e que é mais falso do que profundo. Afirma que o termo foi utilizado pela primeira vez por um usuário do Reddit (plataforma de compartilhamento de informações e fonte não-profissional de notícias na internet), que criou um fórum com o mesmo nome na plataforma em novembro de 2017.
E que deepfake é mais amplo que a simples notícias falsas (fakenews): “A desinformação engloba todas as formas de informações falsas, imprecisas, descontextualizadas ou enganosas projetadas, apresentadas e promovidas para causar intencionalmente danos públicos ou para fins lucrativos”. (https://www.migalhas.com.br/depeso/315545/voce-ja-ouviu-falar-em-deepfake-e-em-shallowfake-e-como-eles-podem-afetar-a-eleicao-de-2020).
Hoje, a maior parte do uso de deepfake nas redes sociais são de teor humorístico. A técnica é simples: sincronizam cenas de atores com discursos e editam com fatos que não se relacionam com as cenas, mas que são engraçados. É o caso, por exemplo, de uma imagem do presidente Jair Bolsonaro cantando a música de Zé Ramalho “Admirável gado novo” (…povo marcado, ê, povo feliz! …). Da mesma forma que também existem com outras pessoas conhecidas como Lula, Dilma Rousseff, Ciro Gomes, Sergio Moro, etc., com os respectivos rostos, mas cujas vozes ou são deles, em outro contexto, ou imitações. Enfim, são vídeos falsos, usando expressões e características das pessoas, utilizando fotos, gravações da voz, mostrando não apenas fazendo algo que não fizeram ou como dizendo algo que também não disseram ou fizeram ou disseram, mas em outro contexto e com outros objetivos.
Como diz Evelyn, originalmente a técnica foi usada para fazer montagens de vídeo com conteúdos pornográficos, geralmente usando a imagem de atrizes famosas e isso é feito editando por meio de cortes, alteração da velocidade (de palavras e atos), uso de Photoshop, duplicação de áudio ou adição ou exclusão de informações visuais.
Com o uso muito disseminado nos Estados Unidos, já existem vários processos em andamento movidos pelo Sindicato dos Atores de Hollywood em defesa dos direitos de seus representados, entre outras vítimas, as atrizes Gal Gadot, Taylor Swift, Selena Gomez, Ariana Grande, Emma Watson, Maisie Williams, Scarlett Johansson, Daisy Ridley, assim como existem também ações judiciais que visam responsabilizar não apenas quem elabora mas também os divulgadores, por atentarem contra a honra, a dignidade e credibilidade das pessoas.
Como mostra uma matéria publicada no site tecnoblog.net por Ronaldo Gogoni O que é Deep Fake e porque você deveria se preocupar , um vídeo postado em junho de 2019 no Instagram mostrou o criador do Facebook Mark Zuckerberg aparece afirmando: “imagine isso por um segundo: um homem, com controle total de bilhões de dados roubados, todos os seus segredos, suas vidas, seu futuro. Eu devo tudo isso à Spectre. A Spectre me mostrou que quem controla os dados controla o futuro”.
O problema é que não era ele e sim uma montagem feita por duas pessoas (Bill Posters e Daniel Howe) em parceria com uma agência de publicidade (Canny). O que fizeram? Reconstruíram o seu rosto de forma que o vídeo mostrando que sua expressão correspondia à fala do dublador. Como diz Gogoni “A própria agência revelou que o vídeo foi produzido com base no algoritmo Face2Face, das Universidades de Washington e Stanford. Além disso, eles usaram um trecho de um vídeo verdadeiro de Zuckerberg para treinar o algoritmo de inteligência artificial”. A Spectre, segundo informa “é o nome de um trabalho artístico que tenta chamar atenção para o risco de manipulação de pessoas por meio das redes sociais”.
No dia 7 de janeiro de 2020 o Facebook anunciou que iria remover vídeos com manipulações de sua rede social.
No entanto, mesmo conseguindo, como impedir que sejam usados, por exemplo, sobre ações de empresas, declarações de autoridades monetárias, ministros, presidentes etc., falsas, mas que podem ter impactos significativos na economia?
Outra questão relevante é saber como o processo democrático pode ser afetado por vídeos falsos. A manipulação de eleições, como se sabe, antecede o deepfake, mas podem ser muito mais eficazes por parecerem verdadeiras. Mas uma coisa são as celebridades vítimas de deepfake, que são crimes contra a honra e quando se trata de deepfake com intenções políticas?
O fato é que deepfake são instrumentos de persuasão eficazes. No livro Ganhar de lavada – persuasão em um mundo onde os fatos não importam (Editora Record, 2018), Scott Adams- autor que em agosto de 2015 afirmou que Donald Trump ganharia as eleições de novembro de 2016 com base em seus conhecimento de persuasão, no qual Trump se revela muito competente – e que não se demove alguém de suas crenças políticas fornecendo fatos. Para ele, são débeis instrumentos de persuasão e que em todas as coisas importantes, somos criaturas emocionais que primeiro decidem e depois racionalizam.
E eis o perigo do deepfake, de persuadir não com fatos, mas com manipulações e mentiras e mais: a maioria dos eleitores talvez não consiga identificar que se trata de uma montagem.
Nos Estados Unidos, em julho de 2019 circulou nas redes sociais dois deepfake que tiveram milhões de acessos: um com Nancy Pelosi, presidente da Câmara dos Representantes e que abriu o processo de impeachment de Donald Trump. Um vídeo foi editado em que ela parece estar bêbada durante um de seus discursos em sessão da Câmara (diminuição do ritmo de sua fala de forma intencional) e que foi retuitado na conta oficial do presidente Donald Trump e teve mais de 6 milhões de visualizações, com comentários ofensivos à deputada etc.
Outro foi com senador Bernie Sanders, que este ano foi candidato a candidato à presidente da República pelo Partido Democrata. Numa sátira que viralizou, em janeiro de 2020 um vídeo com o seu rosto foi sobreposto sobre outro, um dos candidatos do programa America’s Got Talent, fazendo com ele parecesse que estava cantando a música Bodies, da banda Drowning Pool (Ver tradução da letra em https://www.letras.mus.br/drowning-pool/bodies/traducao.html).
O ex-presidente Barack Obama que foi o primeiro presidente americano a usar o Twitter, fazer uma live no Facebook, assim como pioneiro também no uso de Snapchat, foi vítima de várias montagens falsas. Um dos vídeos que circulou bastante nas redes sociais, ele aparece afirmando que o presidente Donald Trump é um idiota completo. Embora muitos assim também o considere, foi uma montagem, como Obama afirmou, mas como ocorreu com outros vídeos falsos, mesmo que tenha sido informado que se tratava de montagem, não teve a mesma repercussão, fazendo com que muitos acreditassem na sua veracidade.
Além de deepfake, há também, como mostra Evelyn no citado artigo, o shallowfake . Em tradução livre, significa falsidade rasa e trata-se segundo ela de um “termo cunhado pelo ativista de direitos humanos Sam Gregory, gerente de programas da Witness, ONG que auxilia na utilização de vídeos feitos por ativistas e vítimas como ferramenta na defesa dos direitos humanos, para expor abusos, violações de direitos humanos e de denúncia de regimes autoritários para suprimir dissidências”.
Diferente da deepfake, são usados também vídeos falsos, mas são de uma falsidade superficial, grosseira “que não exige o uso da inteligência artificial para manipular imagem e som de um vídeo, mas que, basicamente, trabalha com a descontextualização, o que na prática, igualmente acarreta em desinformação do cidadão (…) dito de outra forma, são vídeos que foram manipulados com ferramentas básicas de edição ou colocados intencionalmente fora de contexto”.
O que fazer? Que mecanismos se dispõem para combater o deepfake? Ela informa que em setembro de 2019, o Facebook, a Microsoft, a Partnership on AI e os acadêmicos de sete universidades – Cornell Tech, MIT, Universidade de Oxford, UC Berkeley, Universidade de Maryland, College Park e Universidade de Albany-SUNY – lançaram o Deepfake Detection Challenge, desafiando pessoas ou grupos para criarem tecnologia capazes de detectar deepfake e que em colaboração com a Jigsaw e as Universidades Técnica de Munique e a Federico II, de Nápoles, Google lançou o FaceForensics, que é um programa que identifica essas manipulações.
Com um conjunto de dados formado ao longo de 2018, com imagens de atores para gravarem vídeos de deepfakes foram usados com o objetivo de mostrar seu uso e falsidade e assim servir para sua (possível) detecção.
Há um vídeo com Letícia Naísa e Luíza Pollo, repórteres do UOL TAB, que esclarecem alguns aspectos do uso de deepfake. Nele, afirma-se que ele foi criado com o objetivo de “quebrar as barreiras da língua” e cita uma propaganda que usa o jogador de futebol, o inglês David Beckhan, que grava um vídeo originalmente em inglês mas que aparece falando em outras línguas.(são nove idiomas para uma campanha publicitária, divulgada em 55 países, que alertava sobre os riscos da malária).
E o vídeo do UOL TAB alerta para as conseqüências que pode ter para as democracias que são preocupantes porque” mudam a noção de verdade” e assim, manipulando a possibilidade de influenciar a opinião pública.
Para o alemão Matthias Niesser, professor de computação gráfica da Universidade de Munique, em entrevista a revista Veja, afirmou que deepfake são o próximo passo das manipulações virtuais e que as criações digitais convincentes e com a possibilidade de forte impacto. (Deepfake o novo e terrível patamar das ‘fakenews’ por André Lopes, publicado no dia 18 de outubro de 2019).
No Brasil, a questão é como fazer para enfrentar essa nova modalidade de manipulação e desinformação? Como fazer, por exemplo, para evitar seu uso indiscriminado nas redes sociais, ou em grupos de whastsapp? Como foi comprovado nas eleições (e não apenas no Brasil), as redes sociais tem cada vez mais influenciado o comportamento eleitoral, usando vídeos, imagens etc., para atingir o eleitor não através da razão, com fatos, mas das emoções, com manipulações e mentiras e que tem se mostrado muito eficaz. Agora com o deepfake, amplia essa possibilidade, com imagens, vídeos e as mensagens de textos manipulados, descontextualizados e assim, , tem-se recursos e procedimentos de comunicação que certamente terão impactos significativos no processo eleitoral, influenciando a opinião pública.
Neste ano, a Comissão Parlamentar Mista de Inquérito (CPMI) tem se reunido para avaliar a divulgação (e financiamento) de fakenews nas eleições de outubro de 2018. Entre outros objetivos, deverá propor o aprimoramento da legislação para evitar que esse processo se repita nas próximas eleições. Se pelo menos conseguirem tornar público e especialmente resultar na punição dos financiadores, já será um grande passo.
O presidente da Câmara, Rodrigo Maia afirmou não ter “nenhuma dúvida” de que os ataques pelas redes sociais “têm um sistema de financiamento por trás, que será descoberto em algum momento” e disse existir “um grupo na internet (…) com pessoas que não são democráticas, que quer generalizar problemas que existem no Parlamento, no Supremo Tribunal Federal, no Superior Tribunal de Justiça e em qualquer área, desqualificando e diminuindo a importância desses Poderes. (…) Precisamos ter coragem para enfrentá-lo”.
Manipulações em eleições foram largamente utilizadas e não apenas no Brasil (como o uso do whatsapp nas eleições de outubro de 2018,objeto da referida CPMI) como o uso de dados das pessoas retiradas do facebook e utilizados na campanha de Donald Trump, mas o deepfake é uma ferramenta mais recente e que certamente será usada. O problema é: como fazer para combater seu uso? É possível? No Brasil, por exemplo, a Justiça Eleitoral tem condições de fazer alguma coisa que possa impedir seu uso e disseminação? Como? Que mecanismos jurídicos se dispõe para combater seu uso e proteger as pessoas?
Trata-se de punir não apenas os criminosos difusores de fakenews, como a atuação de milícias virtuais, com seus robôs e armas do mundo virtual, destruindo a honra e a reputação de pessoas, com o uso mais recente de deepfake. E, como diz a matéria da Veja “mais uma vez, o aperfeiçoamento de uma nova forma digital de manipulação põe em xeque os alicerces da democracia” e que “para os especialistas consultados (…) haveria duas maneiras de ao menos mitigar os efeitos: o desenvolvimento de algoritmos, por gigantes como o Facebook e a Google, que barrem os vídeos; e a via judicial, com a punição dos falsários”.
O fato é que sem medidas eficazes contra seus usos as democracias estão em risco porque, entre outros aspectos, podem colocar em xeque o que é central nesse regime político: a lisura dos processos eleitorais.
