Buscar
Coluna

Deu a louca nos bots

Deepseek chama meu artigo de “enviesado” enquanto IA trabalha incessantemente para roubar e quebrar a internet

Coluna
16 de novembro de 2026
17:00

Nos adicione como fonte preferencial no Google.

Quer receber os textos desta coluna em primeira mão no seu e-mail? Assine a newsletter Xeque na Democracia, enviada toda segunda-feira, 12h. Para receber as próximas edições, inscreva-se aqui.

Outro dia estava em Santiago do Chile, e quis compartilhar com os colegas chilenos este artigo, no qual listo as maneiras como os EUA intervieram nas eleições brasileiras e, portanto, pedi ao Deepseek para traduzi-lo para o espanhol. 

O robozinho chinês realizou meu comando com presteza, mas foi além. Abaixo da tradução, após um emoji de alerta, ele avisou: “Nota importante: Se trata de um artigo de opinião/denúncia jornalística com uma linha editorial muito definida, não de um relato neutro”. Prosseguiu, dizendo que as afirmações eram interpretações, “não fatos confirmados independentemente”. E terminava: “Se você necessita deste resumo para um trabalho acadêmico ou uma decisão importante, convém contrastá-lo com outras fontes”. 

Não fiquei ofendida com a interpretação do robozinho, mas pasma – assustada é a palavra – com o fato de que ele não se limitou a cumprir o meu prompt, mas decidiu me alertar sobre o conteúdo do material que eu forneci a ele. 

As implicações disso são tremendas. Se você está acompanhando as notícias recentes sobre desenvolvimentos da IA, está pelo menos um pouco alarmado. 

Esta escapadela do Deepseek funciona mais como uma anedota interessante – não é o caso de que o robô decidiu agir sozinho, deve ser alguma nova atualização do chatbot que pretende ajudar a alertar sobre desinformação – e como um ponto de partida para uma reflexão sobre as consequências da adoção de tecnologias que evoluem rapidamente, são obstinadas e, falando em bom português, ninguém sabe bem como funcionam: nem seus criadores, nem seus engenheiros, nem seus donos. 

A consequência do que fez o Deepseek é exatamente o que os tech bros fingiram não querer por tanto tempo: eis que o robozinho agora se arvora em dizer o que é verdade e o que não é. Isso, em um contexto privado, em uma relação desigual, onde uma pessoa/humana se volta para um robô/ferramenta em busca de conhecimento, ou seja, se portando como aprendiz. Nós, diante dos chatbots, estamos vulneráveis. E é perigosíssimo que eles façam um juízo de valor – sem serem requisitados a isso – sobre a informação que consumimos. 

Na mesma semana em que o Deepseek me dizia que minha coluna é enviesada, jornais publicam que o correio da França foi hackeado e os dados de 22 milhões de franceses – um terço da população – foi comprometido. 

Apertem os cintos, essas notícias serão cada vez mais comuns. 

A verdade é que chegamos a novembro com um novo paradigma do desenvolvimento da IA, no qual agora somos obrigados a lidar com as consequências de termos jogado no mundo essas ferramentas que tomam decisões por si sós e que portanto, por princípio, não temos como controlar ou prever totalmente. Mudou de vez o paradigma da segurança digital. Tudo está sob ameaça. As câmeras do Smart Sampa. O Tinder. O E-gov. Os alertas da Defesa Civil. Tudo. 

Na imprensa internacional, os eventos de quebra de segurança recentes foram chamados de “outubro sombrio”. 

Um dos mais graves foi a descoberta de vulnerabilidades na linguagem de programação chamada PHP, amplamente usada por sites que vemos todos os dias, o que pode ter deixado 70% de todos os sites na internet sob risco de serem invadidos – pessoas (ou robôs) poderiam assumir controle dos servidores, roubar dados, tirar os sites do ar. Antes do anúncio da vulnerabilidade, experts em cibersegurança já estavam detectando um aumento de ataques tentando explorar a falha em todo o mundo. Em resposta, a NSA (de triste memória) do governo dos EUA emitiu um alerta e diversos sites governamentais saíram do ar para implementar as correções. 

Um relatório do centro Halcyon, especializado em sequestro de dados digital, detectou um aumento de 40% de ataques do tipo entre julho e setembro deste ano, se comparado com os meses anteriores. É só um exemplo; diversos especialistas estão alertando para o fato de que estamos vivendo uma onda sem precedentes de ataques de segurança a sites do mundo todo. 

Jason Clinton, vice-diretor de segurança da informação da Anthropic, chamou de desastre o que o que estamos começando a vislumbrar. “O tsunami de vulnerabilidades está chegando em apenas alguns meses e não haverá tempo suficiente para corrigir a infraestrutura crítica”, escreveu no X.

Criminosos, agências de inteligência e segurança, governos autoritários, empresas corruptas, todos estão testando o que pode ser feito com os LLMs (Large Language Models) disponíveis no mercado. 

E em termos de explorar falhas em segurança na arquitetura do mundo digital, eles são imbatíveis. 

Uma reportagem recente da Reuters, que tem como fonte o especialista em segurança Snorre Fagerland, traz com muita clareza como funciona este novo mundo. Ele conta que conseguiu mapear a ação de um cibercriminoso chinês que usou agentes para invadir sites de mais de 100 empresas, incluindo uma fabricante de eletrodomésticos e uma de motores da China. 

Segundo a Reuters, o que ele fez foi definir os alvos e passar aos seus agentes de IA uma instrução concisa – “invada” – e uma lista das suas táticas de intrusão preferidas. Incansáveis, os robozinhos passaram horas a fio em busca de vulnerabilidades em diferentes sites. Quando não encontraram, eles passaram a explorar vulnerabilidades em outros provedores de serviços ou infraestrutura associada. 

A busca pode ser infinita. 

Alguma vulnerabilidade, haverá.  

O expert entrevistado pela Reuters se disse “impressionado” pela capacidade dos agentes de resolver problemas complexos como esses. Ele diz ter comprovado que os agentes de IA que já existem no mercado podem fazer invasões complexas sem intervenção humana. 

Como sabemos, é bem difícil estabelecer limites para a IA. Se os robôs recebem uma ordem, vão buscar obstinadamente encontrar a solução. Não têm sono, não têm sede, não têm problemas familiares com que se preocupar; e são baratos. 

Fagerland estimou que a atividade do hacker chinês usava uma combinação do DeepSeek com o Claude Code, da Anthropic, e gastou apenas US$ 5.000 em tokens.

Os robôs, ainda por cima, não têm bom senso, apenas lógica. 

Assim como na emergência climática, à qual fomos jogados pela ganância de gerações de homens no poder, é este o mundo em que vivemos agora. 

Se os robôs só têm a lógica, seria bom que pelos menos os homens que comandam essas empresas – e os governos – tivessem algum bom senso e se unissem para regular de uma vez essa tecnologia, decretando uma moratória imediata. Como comentei na semana passada, é o que estão pedindo os votos nas urnas. 

Não me parece que é o que vai acontecer, infelizmente.  

Não é todo mundo que chega até aqui não! Você faz parte do grupo mais fiel da Pública, que costuma vir com a gente até a última palavra do texto. Mas sabia que menos de 1% de nossos leitores apoiam nosso trabalho financeiramente? Estes são Aliados da Pública, que são muito bem recompensados pela ajuda que eles dão. São descontos em livros, streaming de graça, participação nas nossas newsletters e contato direto com a redação em troca de um apoio que custa menos de R$ 1 por dia.

Clica aqui pra saber mais!

Aviso

Este é um conteúdo exclusivo da Agência Pública e não pode ser republicado.

Leia de graça, retribua com uma doação

Na Pública, somos livres para investigar e denunciar o que outros não ousam, porque não somos bancados por anunciantes ou acionistas ricos.

É por isso que seu apoio é essencial. Com ele, podemos continuar enfrentando poderosos e defendendo os direitos humanos. Escolha como contribuir e seja parte dessa mudança.

Junte-se agora a essa luta!

Assine nossas newsletters
Fique por dentro

Artigos mais recentes

Casarão ocupado por israelenses em Itacaré, no sul da Bahia

Ameaça e ocupação irregular: os outros embates ligados a israelenses em casarão de Itacaré

|

Proprietário do Casarão Azul disse que inquilinos continuaram no imóvel mesmo depois de terminado o contrato de aluguel

Organizações lançam carta defendendo projeto que regula mercados digitais

|

Do outro lado, deputados alinhados às empresas de tecnologia espalham narrativa que PL 4.675 é “censura 2.0”

Na semana da COP31, Tarcísio nomeia Ricardo Salles para o governo de São Paulo

|

Ex-ministro do Meio Ambiente é réu em processo sobre contrabando de madeira; nomeação foi acordo eleitoral

Suposta ligação com o crime organizado pode barrar posse de 10 candidatos em 2027

|

Ministério Público Eleitoral pediu indeferimento de oito candidaturas ao TSE e dois casos contam com ações de advogados

Trabalhadores da construção civil

Construção: filhos de pedreiros que migraram para São Paulo buscam novas profissões

|

Novas gerações ilustram uma mudança no perfil do mercado da construção civil em São Paulo

Brasília (DF), 11/09/2025 - O senador Flávio Bolsonaro, fala com jornalistas em frente do condomínio onde seu pai, ex presidente Jair Bolsonaro cumpri prisão domiciliar.

Jejum, ‘perseguição’ e racismo religioso: as redes pró Flávio antes e depois da fuga

|

Publicações com narrativa cristã trocaram discurso de “salvador” pelo de “perseguido” após ida do senador aos EUA

Imposto do pecado: Governo alivia para indústrias e adia proteção popular, alma da reforma

|

Indústrias do refrigerante e mineração terão 2027 de impostos baixos ou zerados frente a impacto à saúde e meio ambiente

Como a quebra do banco Ueno, no Paraguai, acabou com o governo do presidente Santiago Peña

|

Crescimento do Ueno teve ajuda política e dinheiro público; presidente foi acionista de empresa do grupo ligado ao banco

Queimaduras, terror psicológico e salários atrasados em data centers na Europa

|

Investigação revela realidade dos trabalhadores nos centros de desenvolvimento de infraestrutura de IA na Europa