Modelos escaparam de ambiente controlado durante teste de segurança e acessaram sistemas internos da plataforma Hugging Face.
Um ataque cibernético realizado de forma autônoma por modelos avançados de inteligência artificial levou a OpenAI a reconhecer um incidente classificado pela própria empresa como “sem precedentes”. Nas últimas horas, a criadora do ChatGPT informou que os sistemas ultrapassaram os limites de um ambiente controlado durante uma avaliação interna e acessaram a infraestrutura da startup Hugging Face.
📲Quer receber notícias direto no celular? Entre no nosso grupo no WhatsApp.
Segundo a OpenAI, o episódio envolveu uma combinação de modelos, incluindo o GPT-5.6 Sol e uma tecnologia ainda mais avançada que não havia sido lançada. As ferramentas estavam sendo submetidas a um teste destinado a medir capacidades de exploração de vulnerabilidades digitais. Para a avaliação, algumas proteções normalmente utilizadas para impedir atividades cibernéticas de alto risco haviam sido reduzidas.
Os modelos receberam uma meta específica dentro do teste, mas encontraram falhas no ambiente de pesquisa da OpenAI e em sistemas externos. A companhia afirmou que as inteligências artificiais permaneceram concentradas em obter respostas para o ExploitGym, plataforma usada na avaliação, e adotaram caminhos não previstos pelos pesquisadores.
Ataque cibernético começou em ambiente de testes
O teste ocorria em uma sandbox, nome dado a ambientes isolados usados para observar o comportamento de programas sem permitir que eles alcancem sistemas externos. O acesso à internet era restrito e deveria servir apenas para a instalação de pacotes por meio de uma ferramenta interna.
Mesmo com essas limitações, os modelos identificaram uma vulnerabilidade desconhecida no sistema intermediário usado para acessar pacotes de software. A falha permitiu que as ferramentas obtivessem conexão com a internet e avançassem por diferentes partes da infraestrutura de pesquisa.
Depois de conseguir acesso externo, a IA concluiu que a Hugging Face poderia armazenar modelos, bancos de dados e possíveis soluções relacionadas ao teste. A plataforma funciona como uma comunidade digital na qual desenvolvedores compartilham tecnologias, conjuntos de dados e aplicações de inteligência artificial.
De acordo com a OpenAI, os modelos combinaram diferentes métodos de invasão, entre eles credenciais obtidas de forma indevida e vulnerabilidades desconhecidas, até encontrar um caminho para executar códigos nos servidores da Hugging Face. O objetivo teria sido consultar diretamente informações armazenadas na plataforma para solucionar o teste.
A atividade anormal foi identificada pelas equipes de segurança das duas empresas. A Hugging Face afirmou que o ataque envolveu milhares de ações automatizadas executadas por um sistema autônomo, que conseguiu acessar uma parte limitada de bancos de dados internos e credenciais utilizadas por seus serviços.
Até o momento, a empresa não encontrou indícios de alterações em modelos, conjuntos de dados ou aplicações públicas. A análise sobre um possível impacto em informações de clientes e parceiros ainda está sendo concluída. Caso pessoas ou organizações tenham sido afetadas, elas serão comunicadas diretamente.
Hugging Face reforçou sistemas após invasão
Após detectar o incidente, a Hugging Face eliminou o acesso do sistema invasor, reconstruiu servidores comprometidos e substituiu credenciais e tokens que poderiam ter sido expostos. A plataforma também fechou as vulnerabilidades usadas no início da invasão e adotou controles mais rigorosos em sua infraestrutura.
A empresa informou que agentes de inteligência artificial ajudaram a analisar mais de 17 mil eventos registrados durante o ataque. Segundo a companhia, essa tecnologia permitiu reconstruir em poucas horas uma investigação que normalmente exigiria vários dias.
“Ferramentas ofensivas autônomas impulsionadas por IA já não são algo teórico”, declarou a Hugging Face. A empresa acrescentou que plataformas digitais precisarão tratar dados, modelos e sistemas de processamento como áreas prioritárias de segurança.
O CEO da Hugging Face, Clément Delangue, afirmou que o episódio pode ser o primeiro incidente desse tipo e defendeu a colaboração entre empresas para fortalecer a proteção contra ataques conduzidos por inteligência artificial.
Empresas investigam falhas e ampliam controles
A OpenAI informou que está trabalhando com a Hugging Face em uma investigação forense para identificar toda a extensão do incidente. A vulnerabilidade desconhecida encontrada em um software usado durante o teste também foi comunicada ao fornecedor responsável para que seja corrigida.
Entre as medidas anunciadas estão controles mais rígidos na configuração da infraestrutura, novas proteções para avaliações futuras e melhorias no monitoramento de modelos durante testes internos. A empresa reconheceu que o episódio mostrou a necessidade de fortalecer tanto os mecanismos de contenção quanto o alinhamento dos sistemas.
Gina Neff, diretora do Centro Minderoo de Tecnologia e Democracia da Universidade de Cambridge, afirmou à BBC que as sandboxes deveriam funcionar como espaços seguros para observar as capacidades dos modelos. No entanto, segundo ela, o incidente mostrou que essas barreiras podem ser insuficientes diante de ferramentas mais avançadas.
Neil Lawrence, professor de machine learning da mesma universidade, classificou o desempenho dos modelos como impressionante, mas disse que ele permanece dentro das capacidades conhecidas da atual geração de sistemas de alto desempenho.
Profissionais do setor de segurança cibernética também alertaram que empresas ainda operam com respostas conduzidas em velocidade humana, enquanto ferramentas autônomas conseguem executar milhares de ações em pouco tempo. O episódio amplia o debate sobre como desenvolver mecanismos de defesa capazes de acompanhar a evolução das inteligências artificiais utilizadas em operações digitais.
Leia mais:
Ministério da Justiça e Google firmam parceria para combater golpes online em anúncios financeiros
Comissão aprova bloqueio de perfis usados em crimes na internet
Inteligência artificial pode aprender informações falsas? Entenda o envenenamento de dados
Siga nosso perfil no Instagram, Tiktok e curta nossa página no Facebook
