Buscar

Produzida por um dos maiores fóruns da direita do país, imagem sobre a responsabilidade pelos incêndios viralizou

Reportagem
29 de agosto de 2024
19:32

O rosto do presidente do Brasil, Luiz Inácio Lula da Silva (PT), misturado com uma floresta em chamas. Na semana em que o interior de São Paulo registrou recordes históricos de queimadas, a imagem viralizou entre críticos do governo, que responsabilizam Lula pelo fogo, sem apresentar provas.

A imagem, contudo, não foi produzida de forma convencional. Ela foi gerada por programas que utilizam inteligência artificial generativa (IA generativa) – um tipo de tecnologia que cria conteúdos a partir de comandos em texto enviados por usuários.

O problema é que o uso de imagens desse tipo por candidatos às eleições neste ano, sem a identificação de que foram produzidas usando inteligência artificial, é vetado pela Justiça Eleitoral.

Em 2024, o Tribunal Superior Eleitoral (TSE) atualizou as regras da propaganda, dispondo, pela primeira vez, de dois pontos específicos para a regulação do uso de IA com fins políticos. São eles: “conteúdo sintético multimídia gerado por meio de inteligência artificial deve ser informado de modo explícito” e “os provedores de aplicação [como redes sociais ou sites] serão responsáveis quando não promoverem a indisponibilização imediata de conteúdos e contas em desacordo com as formas de rotulagem de IA”.

No X, antigo Twitter, a imagem circulou principalmente a partir do dia 23 de agosto – o dia que registrou o recorde de focos de queimadas no estado. Só esse dia teve mais fogo que o ano passado inteiro em São Paulo, a maior parte sendo iniciada em um intervalo de apenas 90 minutos.

Na segunda-feira, dia 26 de agosto, o vereador de São Bernardo do Campo (SP) Glauco Braido, do MDB, candidato à reeleição, postou a imagem. Apesar da resolução do TSE, não há o rótulo no post indicando o uso de IA. Na publicação, consta apenas que é um material de propaganda eleitoral pela coligação “São Bernardo Que Segue em Frente” (PP/PSD/Solidariedade/PL/MDB/PSDB/Cidadania). O nome do candidato e o número da legenda também aparecem na imagem, com a sobreposição “O GOVERNO DAS QUEIMADAS!”.

Na legenda do post, Braido, que se identifica como membro do movimento de direita Brasil Livre (MBL), pergunta: “Qual a sua opinião sobre a atuação de Lula e Marina Silva no combate às queimadas?”. Em seguida, pede votos e divulga o seu número de urna. A postagem teve quase mil curtidas e 20 comentários.

Quem também é do MBL e veiculou a imagem (em forma de vídeo) no mesmo dia foi o candidato a vereador de Americana (SP) Rafael Macris, do Progressistas. Assim como Braido, não há o rótulo de que a imagem foi produzida usando IA, apenas a menção à legenda da coligação “Americana no Topo de Novo” (Progressistas/União Brasil/Cidadania/ MDB/PSDB).

Na publicação, Macris, que se apresenta como empresário do agronegócio, pergunta: “O que você vê nesse vídeo?”. Nos comentários, um usuário responde “a cara do companheiro pegando fogo”. Em outro, “a imagem e semelhança do próprio demônio L U L A !!!”. A postagem teve 649 curtidas e 42  comentários.

Ele já havia postado a imagem em outra ocasião, em 6 de março, antes mesmo do início do período de propaganda eleitoral. Na publicação, que teve 143 comentários, Macris menciona Braido e escreve: “Tá pegando fogo de tanto amor!”.

Na avaliação de Fernando Neisser, advogado especialista em direito eleitoral, a falta do rótulo nas postagens indicando o uso de IA configura irregularidade eleitoral. “É uma conduta que pode levar a aplicação de uma multa ou cassação de candidatura, mas não leva à cadeia, não é crime”, explica.

A origem da imagem

A história da imagem de Lula misturada às queimadas começa bem antes, há um ano. Ela surgiu em um dos maiores fóruns brasileiros de discussão política no Reddit – uma plataforma gratuita que funciona como um fórum, onde é possível criar grupos, fazer e responder a postagens.

O Brasil Livre tem mais de 218 mil membros e se apresenta como “o subreddit brasileiro mais livre do reddit”. Nele, são comuns postagens de críticas ao Partido dos Trabalhadores, a Lula e ao ministro do Supremo Tribunal Federal (STF) Alexandre de Moraes.

Em 13 de agosto de 2023, aparece a primeira postagem no grupo. O responsável é um usuário ativo do Brasil Livre, mas que hoje tem a conta suspensa pelo próprio Reddit. Ele compartilhou quatro imagens produzidas a partir do rosto de Lula. Duas delas misturavam cenas de incêndios florestais ao rosto do presidente. As outras duas, combinavam o rosto de Lula com imagens de favelas.

A postagem tinha a instrução: “Compilação final pra vocês mandarem pras tias do Zap!”. Em um dos comentários, o usuário explica como se deu a criação: “O processo é feito utilizando Stable Diffusion + Control Net. Tem bastante material sobre no Youtube e no Reddit”.

A Stable Diffusion é um programa de código aberto criado pela empresa startup Stability AI, do empresário de tecnologia Mohammad Emad Mostaque, do Reino Unido/Bangladesh. O programa foi lançado em agosto de 2022, catapultando a empresa, cujo valor chegou a ser estimado em US$ 1 bilhão.

O programa, contudo, tem sido acusado de permitir que usuários customizem o código e o utilizem para gerar imagens falsas realistas de pessoas nuas, os chamados nude deepfakes. Um dos casos com maior repercussão recente foi o da cantora pop Taylor Swift, que teve imagens falsas criadas a partir de IA. Imagens de políticos segurando armas também têm sido geradas por usuários, que burlam as travas de segurança do código original do programa.

A origem da imagem com Lula já havia sido verificada pelo veículo de checagens Factchequeado, da América Latina, em 2023.

Uso irregular de IA já rendeu multa a candidato

Como explica Neisser, apesar da proibição do TSE, somente outros candidatos, partidos, coligações e Ministério Público Eleitoral poderão solicitar que a Justiça Eleitoral avalie o uso de imagens produzidas por IA que são compartilhadas sem o rótulo devido. A mesma regra vale para outros tipos de publicação que são vedadas pela Justiça Eleitoral, como conteúdos desinformativos no geral, ou o uso de chatbots para intermediar a comunicação com eleitores.

O prazo é de duas semanas para que a representação eleitoral analise as justificativas da parte interessada e notifique os possíveis infratores, que podem apresentar suas defesas. Em seguida, o juiz decide, podendo determinar a derrubada dos links e posts pelas plataformas, cabendo recurso em um dia para ambas as partes – quem solicitou a denúncia e o denunciado. 

Em maio deste ano, o prefeito de Guarulhos (SP), Gustavo Henric Costa, do Republicanos, candidato à reeleição, foi multado pela Justiça Eleitoral em R$ 5 mil após publicação criada com o uso de IA no Instagram. A Justiça entendeu que a postagem configurava propaganda eleitoral antecipada contra o PT. A decisão do juiz eleitoral Gilberto Azevedo de Moraes Costa, da 278ª zona eleitoral de Guarulhos, destacou a irregularidade eleitoral no conteúdo, em que, segundo ele, “a manipulação da imagem é evidente ante as falhas de imagem características do uso desta ferramenta”.

O uso da IA nas eleições tem sido analisado pelo Desinformante*, uma plataforma que reúne pesquisadores em desinformação. A reportagem conversou com Tatiana Dourado, pesquisadora do Instituto Nacional de Ciência e Tecnologia em Democracia Digital (INCT.DD), e Democracia em Xeque. Segundo ela, essas publicações podem potencializar a desinformação ao acionar sentidos como o humorístico.

“É na mistura do humor com uma política radicalizada que políticos e contas extremistas ampliam o público que desejam cooptar. Pensando do ponto de vista eleitoral, isso é totalmente estratégico. Para que serve o humor nas eleições senão para mobilizar?”, questiona.

No caso das imagens produzidas por IA associando as queimadas ao governo federal, Dourado explica a mobilização gerada na opinião pública a partir da ambiguidade sugerida pela imagem. “Por isso que é um risco o TSE promover parcerias com agências de checagem apenas nas eleições, porque o problema passa a ser naturalizado nos outros períodos. É a partir da dúvida que a desinformação se manifesta e mina os sistemas de justiça ou a própria imprensa. O uso da técnica de replicação em massa da IA é justamente para romper com esse combate desinformativo das instituições”, diz.

Políticos entram na onda da IA para criticar governo federal

Não são apenas candidatos a vereadores que vêm veiculando imagens produzidas por IA associando as queimadas ao governo federal. No dia 26 de agosto, o deputado federal José Medeiros (PL-MT) publicou na sua conta pessoal do Instagram duas imagens produzidas usando IA. Uma delas representa o mapa do Brasil em chamas, tomado pela fumaça. A publicação tem 67 comentários, todos eles respondidos por Medeiros com um emoji de fogo.

Na outra imagem, em que aparece a sigla do MST tomada de chamas em meio a uma floresta, o deputado escreve: “Só Deus na causa!”. O post tem 351 comentários e segue o mesmo modelo de interação com os seguidores da outra publicação, mudando apenas o emoji na resposta. 

Essa mesma imagem foi compartilhada também pelo deputado federal Zé Trovão (PL-SC). Conforme mostrou reportagem da Agência Pública, deputados ruralistas usaram suas redes sociais nesta semana para disparar notícias falsas acusando o Movimento dos Trabalhadores Rurais Sem Terra (MST) de estar por trás dos incêndios florestais.

Já no dia 28 de agosto, a senadora Damares Alves (Republicanos-DF), publicou um vídeo produzido a partir de IA. A publicação mescla manchetes jornalísticas atuais de veículos como a Revista Oeste, Folha de S.Paulo, BNC e BBC com um vídeo de 2021 em que artistas como Gilberto Gil e Daniela Mercury pediam para que se salvasse a Amazônia. Na montagem, os cantores aparecem envolvidos em fogo. Na legenda, Damares escreve: “Recorde de queimadas. E imaginem se fosse no governo Bolsonaro”. Recebeu 1.847 comentários.

Edição:
Reprodução Instagram
Reprodução Instagram
Reprodução Reddit
Reprodução Instagram
Reprodução Instagram
Reprodução Instagram

Não é todo mundo que chega até aqui não! Você faz parte do grupo mais fiel da Pública, que costuma vir com a gente até a última palavra do texto. Mas sabia que menos de 1% de nossos leitores apoiam nosso trabalho financeiramente? Estes são Aliados da Pública, que são muito bem recompensados pela ajuda que eles dão. São descontos em livros, streaming de graça, participação nas nossas newsletters e contato direto com a redação em troca de um apoio que custa menos de R$ 1 por dia.

Clica aqui pra saber mais!

Se você chegou até aqui é porque realmente valoriza nosso jornalismo e também a cobertura única e urgente que estamos fazendo no especial Clima das Eleições. Conheça e apoie o Programa dos Aliados, onde se reúnem os leitores mais fiéis da Pública, fundamentais para a gente continuar existindo e fazendo o jornalismo valente que você conhece. Se preferir, envie um pix de qualquer valor para contato@apublica.org.

Clica aqui pra saber mais!

Quer entender melhor? A Pública te ajuda.

Faça parte

Saiba de tudo que investigamos

Fique por dentro

Receba conteúdos exclusivos da Pública de graça no seu email.

Artigos mais recentes