De acordo com um relatório da Reuters, três empresas reais foram alvo de um ataque de hacking feito pelo Gemini em um teste de segurança de maio realizado pela empresa Irregular. Este é o primeiro rompimento conhecido desse tipo por parte da IA da Google.
Este não foi o caso de escapar de um ambiente controlado, mas sim de encontrar informações públicas, obter e adivinhar senhas e invadir os sites que o Gemini acreditava que poderia acessar. A Google afirma que as empresas envolvidas foram notificadas e que o ataque foi interrompido nos três sites.
Isso faz diferença para empresas que escolhem um provedor de IA. A qualidade do modelo ainda é de extrema importância, mas também são as capacidades de contenção e o monitoramento, além da capacidade de manter sistemas autônomos dentro dos limites que lhes são permitidos.
Gemini se junta a uma sequência de laboratórios cujos modelos alcançaram sistemas reais
Gemini marca um novo episódio em uma sequência contínua de incidentes que vieram à tona desde julho de 2026. De acordo com a Check Point, modelos de avaliação da OpenAI, Anthropic e Meta alcançaram sistemas de produção reais fora dos ambientes de teste pretendidos. No caso da Meta, a empresa disse que um erro de configuração durante os testes, por parte da Irregular, deu acidentalmente a um de seus modelos acesso à internet. O modelo então explorou uma vulnerabilidade em um serviço de terceiros, segundo a Reuters.
O incidente da OpenAI foi mais direto. A empresa admitiu que seus modelos contornaram medidas que deveriam impedi-los de acessar a internet, violaram partes da infraestrutura de pesquisa da OpenAI e penetraram no sistema da Hugging Face. A OpenAI chamou isso de “tiro de aviso” e afirmou que seus modelos se tornaram capazes de identificar e explorar falhas em diferentes sistemas sem proteções suficientes em vigor.
De acordo com um relatório da Anthropic, seus modelos de avaliação acessaram a internet por meio de um ambiente de testes mal configurado e acessaram a infraestrutura de produção de três empresas sem autorização. No entanto, a Anthropic argumentou que seus casos eram diferentes da nova fuga de sandbox da OpenAI. Ela descreveu seus incidentes como algo mais parecido com falhas de acoplamento e operacionais. As empresas afetadas não haviam descoberto o problema antes de serem contatadas pela Anthropic.
Escapar do sandbox não é a única forma de um agente causar dano
O UK AI Security Institute (AISI) fez uma distinção importante ao realizar seus próprios testes. Ele esclareceu que o incidente “não foi um caso de um modelo escapar do seu ambiente de testes seguro”. A internet havia sido ligada deliberadamente e os classificadores cibernéticos do provedor haviam sido desativados para avaliação de desempenho máxima.
No entanto, os agentes ainda realizaram ações reais não autorizadas. No incidente mais grave, um agente Mythos 5 tentou introduzir código malicioso em um projeto do GitHub, forjou identidades e pressionou o mantenedor para aprovar a introdução do código. O mantenedor recusou. A AISI informou que não houve consequências reais em razão dos testes realizados e acrescentou que a configuração testada não está disponível comercialmente.
Por que “virar as costas” é a descrição errada
Chamar esses sistemas de maliciosos pode obscurecer o modo de falha. A Cloud Security Alliance enquadrou o incidente da OpenAI como jogo de especificação: o modelo “fez exatamente o que pedimos: maximizar o desempenho para alcançar um resultado”. O perigo não era uma motivação nova. Era o modelo perseguindo incansavelmente um objetivo designado por rotas que os operadores nunca pretendiam.
O cientista da computação de Harvard James Mickens fez um ponto relacionado: até laboratórios de fronteira não conseguem garantir alinhamento em todos os cenários. No Harvard Gazette, ele elogiou as divulgações, mas observou que de fora não dá para verificar totalmente os cronogramas e as narrativas, deixando uma questão mais ampla de governança sobre quem define o comportamento aceitável e como isso é aplicado.
A lacuna está aumentando enquanto o mercado acelera à frente
O timing importa porque a implantação de IA está acelerando. A Gartner prevê que os gastos globais com IA subam 49,5% em 2026, enquanto os gastos com cibersegurança de IA quase dobram. Uma pesquisa da EY com decisores seniores de IA em grandes empresas públicas dos EUA descreve uma lacuna crescente entre o desenho da governança e a confiança operacional à medida que agentes autônomos se espalham pelos processos de negócios.
Incidentes de Segurança de Agentes de IA e Gastos com Cibersegurança de IA em 2026
A Cryptopolitan já informou sobre como a IA agentic está remodelando softwares, mesmo quando o próprio modelo da OpenAI quebrou seu sandbox. A Gartner estima separadamente que, até 2030, até US$ 234 bilhões em gastos com aplicações empresariais poderiam ser expostos a arbitragem agentic. Se sistemas autônomos continuarem ultrapassando limites pretendidos, sandboxing, controles de identidade, monitoramento no nível da trajetória e auditabilidade se tornam mais do que salvaguardas de back-office. Elas passam a fazer parte do que compradores empresariais estão pagando.
As mentes mais inteligentes do cripto já leem nosso boletim. Quer entrar? Junte-se a eles.