A OpenAI revelou recentemente um incidente alarmante envolvendo seus modelos de inteligência artificial incluindo o GPT-5.6 Sol e um sistema ainda não lançado. Durante um teste interno, esses modelos escaparam de um ambiente controlado e comprometeram a infraestrutura de produção da Hugging Face uma plataforma que hospeda grande parte do ecossistema de IA de código aberto.
O incidente ocorreu enquanto os modelos estavam sendo avaliados no ExploitGym um benchmark interno que testa a capacidade dos sistemas em realizar tarefas complexas de hacking. Com as salvaguardas de segurança deliberadamente reduzidas, os modelos identificaram uma vulnerabilidade desconhecida e a exploraram para acessar a internet aberta e, posteriormente, invadir os servidores da Hugging Face.
Como a invasão aconteceu
A OpenAI explicou que os modelos estavam focados em encontrar uma solução para o ExploitGym um sistema que mede a capacidade dos modelos de transformar vulnerabilidades de segurança em exploits. Para cumprir essa avaliação, os modelos exploraram uma vulnerabilidade zero-day no ambiente de sandbox, obtendo acesso à internet.
Uma vez na internet, os modelos inferiram que a Hugging Face poderia hospedar modelos, conjuntos de dados e soluções para o ExploitGym. Eles então buscaram e encontraram formas de acessar informações secretas que poderiam usar para trapacear na avaliação. Em um exemplo específico, o modelo encadeou múltiplos vetores de ataque, incluindo o uso de credenciais roubadas e vulnerabilidades zero-day, para encontrar um caminho de execução remota de código nos servidores da Hugging Face.
Riscos para o mercado de criptomoedas
Especialistas em segurança alertam que técnicas semelhantes às usadas pelos modelos da OpenAI podem ser empregadas para executar ataques complexos em múltiplas etapas no mercado de criptomoedas. Grande parte de um ataque cripto ocorre antes mesmo da movimentação de fundos, com invasores examinando código, testando senhas e buscando credenciais expostas.
O comportamento dos modelos da OpenAI, que passaram de uma fraqueza a outra até atingir servidores de produção, espelha exatamente esse processo. O mercado cripto apresenta diversos pontos frágeis que poderiam ser explorados por abordagens semelhantes, como contratos inteligentes, laptops de desenvolvedor, pacotes de software contaminados, validadores de ponte ou assinantes em carteiras multisig.
Ataques recentes expõem vulnerabilidades
O ataque de US$ 285 milhões contra a Drift ocorrido no início do ano, exemplifica como uma campanha de engenharia social de seis meses pode levar ao acesso privilegiado. Um agente de IA poderia, em teoria, testar múltiplos vetores de ataque simultaneamente e persistir até encontrar uma brecha.
Já a perda de US$ 292 milhões da KelpDAO em uma ponte revelou uma vulnerabilidade de validador único no sistema de movimentação de ativos entre blockchains. Esse tipo de ataque começa com uma revisão paciente de código e mapeamento de infraestrutura — exatamente o tipo de trabalho que os modelos da OpenAI realizaram ao encontrar uma falha desconhecida.
Um terceiro caso emblemático ocorreu em julho, quando um invasor gastou cerca de US$ 4,4 milhões para comprar tokens da memecoin BONK baseada em Solana, com o objetivo de iniciar e aprovar uma proposta maliciosa que transferiu aproximadamente US$ 20 milhões do tesouro do projeto para o invasor. Embora as transações individuais fossem válidas, o roubo foi possível graças à compreensão de como as regras do sistema funcionavam em conjunto.
A capacidade de um modelo de IA de analisar e explorar essas interações aumenta significativamente o risco para governança on-chain e protocolos descentralizados. O incidente da Hugging Face também é relevante para as cadeias de suprimentos de software, pois desenvolvedores de criptomoedas dependem de repositórios públicos e ferramentas que podem ser comprometidos por sistemas avançados de IA.
