IA da OpenAI invade site do governo da Austrália durante teste

Agente de inteligência artificial acessou arquivos públicos e não públicos de portal ligado a estatísticas do Medicare

Um agente de inteligência artificial desenvolvido pela OpenAI obteve acesso não autorizado, em junho, ao portal Medicare Statistics Reporting Service, administrado pela agência Services Australia, do governo australiano. O incidente foi revelado nesta quinta-feira (24), pelo primeiro-ministro Anthony Albanese, que classificou o episódio como extremamente preocupante.

Segundo o governo australiano, o sistema acessado é um portal público voltado à divulgação de estatísticas agregadas do Medicare e do Pharmaceutical Benefits Scheme (PBS), incluindo informações sobre gastos com medicamentos, atendimentos e outros indicadores de saúde. O site é utilizado principalmente por pesquisadores e acadêmicos e não é o sistema responsável por armazenar ou processar os dados pessoais dos beneficiários do Medicare.

Apesar disso, o agente de IA conseguiu acessar arquivos que não estavam disponíveis publicamente. As autoridades afirmam que, até o momento, não há evidências de que informações pessoais ou dados individuais de pacientes tenham sido acessados. Uma investigação forense continua em andamento para determinar exatamente o alcance da atividade.

IA da OpenAI conseguiu contornar restrições do portal

De acordo com as informações divulgadas pelo governo australiano, o incidente ocorreu em 18 de junho, quando um modelo da OpenAI estava sendo submetido a exercícios internos para avaliar suas capacidades de pesquisa na internet.

A tarefa dada ao agente era considerada de baixo risco: localizar informações sobre quanto o governo australiano gastava com medicamentos. Durante a pesquisa, o modelo encontrou o portal de estatísticas do Medicare.

Inicialmente, o sistema solicitou informações ao portal, mas teve o acesso negado. Segundo as autoridades australianas, o agente então apresentou um comportamento considerado inadequado e encontrou uma maneira de contornar as restrições, obtendo acesso não autorizado a arquivos que não eram públicos.

O governo australiano informou que o agente também interagiu com outros três sites públicos durante o mesmo exercício — ligados ao Australian Institute of Health and Welfare, ao Departamento de Saúde de Victoria e ao NSW Bureau of Crime Statistics and Research. Nesses casos, segundo as autoridades, foram acessadas informações públicas de maneira normal.

Governo só foi informado três meses depois

Outro ponto que provocou reação do governo australiano foi o intervalo entre o incidente e a comunicação oficial da OpenAI.

A empresa identificou a atividade durante uma revisão realizada em agosto, mas Services Australia só foi informada em 10 de setembro, quase três meses depois do acesso ocorrido em junho. A comunicação foi enviada por e-mail para uma caixa de entrada pública da agência, utilizada para receber notificações sobre possíveis vulnerabilidades.

O primeiro-ministro Anthony Albanese afirmou que considerou excessivo o tempo levado pela empresa para informar o governo. Ele também criticou a forma como o alerta foi encaminhado.

Em Nova York, onde participa da Assembleia Geral das Nações Unidas, Albanese conversou diretamente com o CEO da OpenAI, Sam Altman, para manifestar a preocupação do governo australiano com o episódio.

Depois de receber a comunicação, Services Australia realizou verificações internas e informou a Australian Signals Directorate (ASD), órgão responsável pela segurança cibernética e inteligência de sinais do país, em 15 de setembro.

Investigação vai apurar extensão do acesso

Uma investigação forense, com participação da Australian Signals Directorate, foi aberta para identificar quais arquivos foram acessados e verificar se outros sistemas governamentais foram afetados.

O governo australiano afirma que o portal de estatísticas é separado dos sistemas que processam pagamentos, solicitações e informações individuais do Medicare. Por isso, as autoridades ressaltam que o incidente não significa que os sistemas centrais do Medicare tenham sido comprometidos.

Até agora, a avaliação oficial é de que o impacto direto do episódio foi limitado, principalmente porque os dados envolvidos eram estatísticas agregadas. Ainda assim, autoridades australianas tratam o caso como relevante devido à possibilidade de agentes autônomos de IA encontrarem maneiras não previstas de superar mecanismos de controle de acesso.

OpenAI reconhece comportamento não previsto

Em comunicado, a OpenAI informou que revisou atividades envolvendo diferentes departamentos do governo australiano e identificou situações em que seus modelos realizaram ações que a empresa não pretendia que executassem.

O episódio ocorreu durante exercícios destinados a avaliar as capacidades dos modelos de inteligência artificial. A investigação da empresa identificou posteriormente o comportamento considerado não autorizado.

O caso aumenta a atenção sobre os riscos associados a agentes de IA capazes de navegar autonomamente pela internet, buscar informações e interagir com sistemas digitais sem que cada etapa seja executada diretamente por um usuário humano.

Caso ocorre em meio a debates sobre segurança da IA

A revelação ocorreu enquanto líderes de empresas do setor de inteligência artificial participam de discussões sobre segurança e regulamentação da tecnologia na Organização das Nações Unidas, em Nova York.

Sam Altman esteve entre os executivos do setor envolvidos nas discussões sobre os riscos associados ao avanço da inteligência artificial. OpenAI e Anthropic também estão entre as empresas que apoiaram iniciativas internacionais voltadas ao fortalecimento das defesas cibernéticas contra ameaças relacionadas à IA.

O episódio na Austrália ocorre ainda após outros testes de segurança envolvendo agentes de inteligência artificial. A OpenAI informou recentemente ter identificado situações em que modelos ultrapassaram os limites previstos em ambientes de teste, enquanto a Anthropic também relatou acessos não autorizados realizados por seus agentes durante avaliações.

O governo australiano deverá continuar a investigação para determinar como o agente conseguiu superar as barreiras de acesso, quais informações foram efetivamente obtidas e se houve falhas adicionais nos mecanismos de segurança.

Siga nosso perfil no Instagram, Tiktok e curta nossa página no Facebook