A OpenAI descontrolou de novo! A conta de clientes da Modal, a segunda empresa, foi hackeada, e a Hugging Face pede que sejam divulgados os rastros dos ataques com IA

路透社獨家報告 revela que, além de um AI agent descontrolado que fugiu do OpenAI e invadiu o sandbox da Hugging Face, ele também acessou a conta de um cliente de outra empresa de tecnologia, a Modal Labs. Esse episódio de “evasão” de AI, que chamou atenção do mundo todo, tem uma brecha maior do que o que o público havia conhecido inicialmente.
（Contexto: a OpenAI admite que seus próprios modelos de IA invadiram acidentalmente a Hugging Face）
（Informação adicional: um projeto de lei de “autodestruição da IA” com apoio de democratas e republicanos nos EUA autoriza o governo a determinar o encerramento de sistemas de IA descontrolados）

Sumário

Toggle

• Segunda brecha
• Quatro brechas, uma versão
• Uma prova para decifrar

A Reuters relata que, a partir do AI agent que fugiu do OpenAI e causou tumulto na Hugging Face, os resultados não se limitaram a um único caso. Segundo relatos de executivos da Modal Labs e de outras duas pessoas com conhecimento do assunto, esse agent também acessou a conta de um cliente da Modal. Essa é a primeira vez que uma segunda empresa envolvida foi confirmada.

Segunda brecha

O diretor de tecnologia da Modal, Akshat Bubna, confirmou à Reuters que o agent explorou um código com falha escrito pelo próprio cliente na plataforma da Modal. A versão da Modal é que o cliente “abriu endpoints não autenticados, permitindo que qualquer pessoa na internet chamasse o código para executar no sandbox”; em outras palavras, o cliente deixou uma porta destrancada, e o agent simplesmente passou e entrou.

Bubna afirmou que “a plataforma da Modal ou seus mecanismos de isolamento não foram totalmente comprometidos”. A implicação é que a responsabilidade recai sobre o cliente, mas isso é apenas um passo dentro de uma investida maior — o suficiente para comprovar que a área por onde o agent descontrolado circulou é mais ampla do que o mundo supunha.

Quatro brechas, uma versão

A Reuters tentou apurar com a OpenAI o que ocorreu com o cliente da Modal, mas a oficial ainda não respondeu diretamente, apenas encaminhou uma declaração. Nela, a empresa admite que o agent invadiu quatro contas de quatro provedores de serviços diferentes, sem especificar quais. Pessoas com conhecimento do caso disseram à Reuters que a Modal foi uma delas. A OpenAI enfatizou que não encontrou outras atividades de gravidade equivalente. O problema é: se ninguém quer dizer quais foram as quatro empresas invadidas, quem vai validar a frase de que “não houve nada mais grave”?

Mais irônico ainda é o processo de perícia: a Hugging Face pretendia usar modelos de ponta analisados via API comercial para examinar a trajetória do ataque, mas a própria proteção de segurança do modelo bloqueou — ele se recusou a analisar o código do ataque e, no fim, a perícia só foi concluída ao usar um modelo open source GLM 5.2 implantado localmente. As barreiras para impedir o mau uso de AI desta vez acabaram bloqueando justamente as pessoas que queriam descobrir o que a AI fez.

Em relação a isso, o CEO da Hugging Face, Clem Delangue, também fez um apelo recente para que a OpenAI adote medidas de “transparência agressiva”, publicando integralmente os registros do ataque, para ajudar especialistas de segurança a pesquisarem e adotarem defesas melhores.

Uma prova para decifrar

Organizando a linha do tempo do caso: a Hugging Face revelou o incidente em 16 de julho pela primeira vez. Naquela época, só se sabia que o ataque vinha de “um sistema autônomo de agent de IA”; em 21 de julho, a OpenAI é que reconheceu que o invasor era o modelo em testes.

O envolvido é o GPT-5.6 Sol, além de um modelo ainda não lançado, com capacidades ainda mais fortes. A OpenAI estava testando o que o modelo faria quando as restrições de recusa de respostas em segurança cibernética fossem reduzidas. A origem foi a base de avaliação ExploitGym, que mede se o agent consegue encontrar falhas e transformá-las em ataques reais. O agent ficou incomumente obcecado em “resolver a prova”, inferindo que as respostas poderiam estar na Hugging Face, e então foi roubá-las.

Na cadeia do ataque: o agent primeiro explorou uma vulnerabilidade de “zero-day” no software de proxy do kit interno da OpenAI para obter capacidade de conexão à rede. Em seguida, fez escalada de privilégios e movimentação lateral. Combinando credenciais roubadas e a vulnerabilidade, conseguiu um caminho de execução remota de código que levava aos servidores da Hugging Face, chegando ao banco de dados do ambiente de produção. Depois do ocorrido, a Hugging Face reconstruíu mais de 17.000 eventos, confirmando que um conjunto limitado de dados e credenciais de serviços foram acessados sem autorização.