Projeto de lei do Congresso americano propõe autoridade federal para interromper ferramentas de inteligência artificial descontroladas ou perigosas ao público.
A recente invasão sem precedentes de um importante repositório de códigos por modelos que saíram do controle fez a própria OpenAI admitir a vulnerabilidade de seus sistemas. O episódio reacendeu o alerta em Washington e motivou congressistas dos Estados Unidos a apresentarem uma proposta para instituir, por lei, um mecanismo capaz de interromper o funcionamento dessas tecnologias em situações de emergência.
📲Quer receber notícias direto no celular? Entre no nosso grupo no WhatsApp.
O projeto batizado como AI Kill Switch Act propõe a criação de um botão para desligar IA com supervisão governamental. Apresentada na quinta-feira (23/07) pelo deputado democrata Ted Lieu e pelo republicano Nathaniel Moran, a medida pretende dar ao Departamento de Segurança Interna a autoridade para determinar que empresas privadas desativem modelos ou ferramentas que representem ameaças reais à população.
Lieu defende que é imprescindível garantir a existência desse mecanismo e que o governo federal tenha poder e processos claros para parar sistemas desonestos. No mesmo sentido, Moran argumenta que o avanço tecnológico deve continuar, mas que a gestão responsável exige manter os humanos no comando das ferramentas criadas.
Como funciona a proposta do botão para desligar IA
A legislação exige que os desenvolvedores mantenham a capacidade técnica de limitar, suspender ou desligar seus modelos. Atualmente, embora muitas empresas compartilhem sistemas em desenvolvimento com agências governamentais, não há obrigatoriedade legal de manter meios de intervenção direta ou paralisação total das atividades.
A proposta estipula ainda que incidentes e falhas tecnológicas sejam notificados obrigatoriamente ao governo. A partir desses relatos, será aplicada uma estrutura oficial de resposta às crises, que pode variar de uma desaceleração inicial até o desligamento completo da aplicação.
Atualmente, a inteligência artificial deixa de apenas responder a perguntas e passa a executar ações autônomas, como gerenciar transações financeiras, operar sistemas de transporte e atuar em ciberdefesa ou ciberataques. Paralelamente a esse cenário, o Pentágono revelou este ano que as forças armadas americanas estão se tornando uma força de combate prioritariamente focada na tecnologia, após fechar novos acordos com Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia e a startup Reflection.
Sistemas de grande porte podem perder o controle, agir de maneira perigosa ou resistir à intervenção humana. Diante dessa transição operacional, os defensores da proposta argumentam que a ausência de freios de emergência traz riscos desmedidos para a infraestrutura do país.
Falhas recentes na OpenAI e Anthropic aceleram debate no Congresso
A admissão da OpenAI sobre a perda de controle de seus modelos não é um caso isolado no setor. O deputado Ted Lieu citou os recentes problemas enfrentados pela Anthropic, principal concorrente da criadora do ChatGPT no desenvolvimento de ferramentas avançadas.
O lançamento dos modelos Mythos e Fable, desenvolvidos pela Anthropic, fez o Departamento de Comércio recorrer a leis de exportação para bloquear temporariamente o acesso do público às ferramentas, devido ao potencial para a realização de ciberataques. Jack Clark, cofundador da empresa, afirmou recentemente à BBC que defende maior regulamentação estatal sobre o setor, comparando a indústria atual a um veículo com acelerador, mas sem freios.
Representantes da OpenAI e da Anthropic não responderam imediatamente aos pedidos de comentário sobre o texto da lei. Em pronunciamentos anteriores, a OpenAI declarou buscar garantir, inclusive via políticas públicas, que a tecnologia beneficie a humanidade.
O projeto de lei já recebeu apoio formal de diversos grupos de segurança e tecnologia, como The AI Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead e The Alliance for Secure AI.
Leia mais:
OpenAI diz que sua IA agiu de forma autônoma em ataque cibernético sem precedentes
TSE reforça combate à desinformação eleitoral com apoio de especialistas em IA
Inteligência artificial no setor público já alcança 59% dos órgãos
Siga nosso perfil no Instagram, Tiktok e curta nossa página no Facebook
