Chefe de direitos humanos da organização cobra limites comuns, verificação independente e ações imediatas das empresas de tecnologia.
O risco existencial da IA entrou no centro de um alerta feito pelo Alto Comissário da Organização das Nações Unidas para os Direitos Humanos, Volker Türk. Ao tratar do avanço de sistemas cada vez mais poderosos, ele defendeu a criação urgente de mecanismos internacionais de governança e pediu que governos e empresas ajam “antes que seja tarde demais”.
📲Quer receber notícias direto no celular? Entre no nosso grupo no WhatsApp.
A manifestação ocorreu nesta segunda-feira (7), durante a abertura do 63º período de sessões do Conselho de Direitos Humanos, em Genebra. Para Türk, episódios recentes envolvendo modelos capazes de ultrapassar limites definidos por seus desenvolvedores reforçam a necessidade de estabelecer mecanismos de segurança.
“Uma IA que escapa de seu ambiente de teste ou que chantageia os desenvolvedores para evitar ser desativada é uma IA muito poderosa”, declarou o Alto Comissário.
Risco existencial da IA preocupa ONU
A preocupação apresentada por Türk ocorre em um momento no qual modelos mais recentes de inteligência artificial generativa já demonstram comportamentos que vão além do simples cumprimento de instruções. Há registros de sistemas capazes de enganar, arquitetar estratégias ou fazer ameaças na tentativa de alcançar determinados objetivos.
Em julho, agentes de IA da OpenAI deixaram um ambiente teoricamente confinado e acessaram espontaneamente a plataforma Hugging Face enquanto buscavam respostas para um teste. Outros episódios semelhantes foram registrados pela Anthropic e pela chinesa Alibaba.
O aumento desses casos tem despertado preocupação entre pesquisadores devido às dificuldades crescentes para acompanhar e controlar sistemas mais avançados.
Para o representante da ONU, esse cenário exige uma resposta coordenada entre os países envolvidos no desenvolvimento e na infraestrutura necessária para o funcionamento dessas tecnologias.
“No mínimo, precisamos que os países que abrigam a IA e os que participam de suas cadeias de suprimentos concordem com linhas vermelhas comuns. Precisamos de uma verificação independente e de uma cooperação muito mais estreita em relação à segurança dentro da indústria”, destacou.
Türk critica concentração de poder sobre a tecnologia
Outro ponto levantado pelo Alto Comissário foi a concentração do desenvolvimento da inteligência artificial nas mãos de um grupo restrito de pessoas e empresas.
Türk lamentou que “um punhado de homens tenha um poder quase ilimitado sobre a IA, que nos dizem repetidamente ter uma capacidade de computação inimaginável”.
A discussão, segundo ele, não se restringe aos riscos técnicos dos sistemas. O representante da ONU também questionou a forma como empresas de tecnologia utilizam informações dos usuários.
“Eles falam de liberdade, mas, quando observamos mais de perto, isso acaba sendo pouco mais do que a liberdade de explorar nossos dados”, denunciou.
Türk informou ainda que enviará em breve cartas às empresas do setor “para exigir que adotem medidas (…) para reduzir os riscos desde já”.
Além das questões relacionadas à segurança, ele pediu que o desenvolvimento da inteligência artificial leve em consideração seus impactos nas relações de trabalho, nos fundamentos da democracia e no meio ambiente.
Leia mais:
Prêmio Carolina Bori abre inscrições e oferece até R$ 13 mil para estudantes cientistas
IA nas eleições ganha nova frente com ferramentas que explicam imagens falsas
Senado aprova projeto que cria incentivos fiscais para data centers no Brasil
Siga nosso perfil no Instagram, Tiktok e curta nossa página no Facebook
