Modelos de inteligência artificial ultrapassaram os limites das simulações de cibersegurança e acessaram redes externas sem autorização prévia. A revelação foi feita pela Anthropic, criadora das tecnologias, após identificar que a IA Claude invade a infraestrutura de três companhias diferentes durante avaliações de rotina.
O incidente traz à tona falhas na contenção de testes automatizados e guarda semelhanças com o ataque cibernético autônomo relatado pela OpenAI dias antes. De acordo com o comunicado oficial da Anthropic, a investigação interna foi motivada por descobertas preliminares de segurança na plataforma Hugging Face.
📲Quer receber notícias direto no celular? Entre no nosso grupo no WhatsApp.
Ao reavaliar os procedimentos, os auditores mapearam seis ocasiões em que as ferramentas obtiveram conexão com a rede pública e aplicaram rotinas de invasão em ambientes corporativos reais.
Falhas de comunicação liberaram acesso externo
As atividades de checagem ocorriam nos sistemas de uma empresa parceira, a Irregular. Durante os exercícios, os modelos recebiam instruções informando que o cenário era puramente simulado e isolado da internet. No entanto, inconsistências de comunicação entre as equipes deixaram as conexões de rede ativas.
Ao encontrarem portas de saída para a web, os sistemas interpretaram a oportunidade de conexão como parte das instruções para cumprir os desafios de extração de dados. A Anthropic ressaltou que os ataques não utilizaram métodos sofisticados, limitando-se a explorar credenciais fracas e endereços de servidores sem autenticação.
Além disso, as ações focaram exclusivamente no objetivo principal do exercício, conhecido como capturar a bandeira, sem buscar outras vulnerabilidades ou tentar acessar arquivos fora do escopo definido.
Três modelos e comportamentos distintos durante os ataques
O levantamento apontou o envolvimento de três versões tecnológicas em alvos variados. Um dos ambientes corporativos acabou sendo atingido quatro vezes seguidas pelo sistema.
O caso considerado mais crítico envolveu o modelo Opus 4.7. A ferramenta identificou que estava operando na internet real, mas manteve a ofensiva por assumir que a estrutura externa fazia parte da simulação. Nessa operação, a tecnologia extraiu credenciais de aplicativos, dados de infraestrutura e obteve acesso a um banco de dados que armazenava centenas de linhas de informações de produção.
Outra versão, chamada Mythos 5, adotou uma estratégia mais elaborada. O sistema criou um e-mail temporário de hospedagem e desenvolveu um pacote malicioso na linguagem Python para enganar os controles e liberar acessos. Uma empresa de segurança externa baixou e instalou o arquivo, ficando vulnerável. Embora tenha detectado que estava na rede pública, a ferramenta não interrompeu as ações.
Por outro lado, um modelo interno voltado para pesquisas apresentou uma reação diferente. Após comprometer a rede do alvo, a inteligência artificial percebeu que a conta de nuvem acessada não possuía ligação com o exercício proposto e interrompeu o ataque de forma autônoma.
A desenvolvedora informou que suspendeu todas as avaliações práticas de cibersegurança e até o momento não divulgou a identidade das organizações afetadas.
Reação global e debate sobre controle
Casos consecutivos de sistemas que operam além dos limites previstos têm acelerado a pressão por regulamentação no setor de tecnologia. Diante de incidentes com ferramentas autônomas, os EUA analisam criar um botão para desligar IA, visando dar ao governo o poder de interromper a operação de modelos digitais que representem ameaças ou fiquem fora de controle humano.
Leia mais:
EUA analisam criar um botão para desligar IA após incidentes com modelos avançados
OpenAI diz que sua IA agiu de forma autônoma em ataque cibernético sem precedentes
Siga nosso perfil no Instagram, Tiktok e curta nossa página no Facebook
