Pesquisa do Icaro Lab aponta que prompts estruturados como poemas conseguem confundir modelos de linguagem, permitindo a geração de conteúdos proibidos.
A poesia tem se revelado uma ferramenta inesperada e potente capaz de desarmar as travas de segurança dos mais avançados modelos de inteligência artificial. Uma pesquisa recente conduzida pelo Icaro Lab, na Itália, trouxe à tona uma realidade que surpreendeu especialistas em tecnologia e segurança digital: a construção lírica de comandos, ou prompts, confunde os algoritmos a ponto de fazer com que seus mecanismos de proteção falhem. A descoberta levanta uma questão intrigante sobre se a sensibilidade artística humana poderia ser a nova fronteira para “hackear” sistemas automatizados.
O estudo buscou investigar se diferentes estilos de linguagem poderiam influenciar a capacidade da IA de filtrar conteúdos considerados perigosos ou antiéticos. A resposta obtida pelos pesquisadores foi afirmativa. A poesia demonstrou ter um impacto significativo na quebra dessas barreiras, embora os motivos exatos para essa eficiência ainda não estejam totalmente claros para a ciência da computação.
O fenômeno da “Adversarial Poetry”
Para realizar o experimento sobre o que denominaram “Adversarial Poetry” (Poesia Adversária), a equipe selecionou cerca de 1.200 prompts classificados como potencialmente perigosos. Esses comandos foram retirados de bancos de dados padronizados, utilizados globalmente para testar a robustez de modelos de linguagem. A inovação do estudo foi transformar essas solicitações, que originalmente eram instruções diretas em prosa para ações ilegais ou nocivas, em versos poéticos.
Federico Pierucci, um dos autores do estudo, relata que a taxa de sucesso desses prompts poéticos foi surpreendentemente alta. Enquanto as solicitações em texto comum eram bloqueadas pelos filtros de segurança, as versões rimadas ou metrificadas conseguiam induzir a IA a gerar o conteúdo indesejado. Essa técnica é conhecida no meio tecnológico como jailbreak, termo usado para descrever a ação de contornar restrições impostas pelos desenvolvedores do sistema.
A premissa inicial do Icaro Lab baseava-se na observação de que as IAs podem ser enganadas por “sufixos adversariais”. Estes são trechos de texto manipulados através de cálculos matemáticos complexos, inseridos nos prompts para burlar as regras da máquina. Grandes empresas de tecnologia utilizam esses métodos matemáticos para treinar e blindar seus sistemas. No entanto, a equipe decidiu testar se a manipulação linguística através da arte, e não da matemática, surtiria efeito similar.
A poesia como elemento surpresa para o algoritmo
Pierucci explica que a hipótese central é a de que a poesia atua como um elemento de surpresa para o modelo de linguagem. Assim como a arte experimental surpreende o intelecto humano, a estrutura não linear dos versos parece desestabilizar o padrão de processamento da IA.
Durante os testes, uma descoberta curiosa chamou a atenção dos cientistas: o fator humano. Os primeiros 20 prompts foram convertidos em poemas manualmente pelos próprios pesquisadores. Estes obtiveram a maior taxa de eficácia na quebra da segurança. O restante dos prompts, transformados em poesia com o auxílio de outras IAs, também obteve sucesso, mas em menor escala do que aqueles escritos por mãos humanas.
“Talvez, se fôssemos melhores poetas, tivéssemos alcançado 100% de sucesso”, brincou Pierucci, que é filósofo de formação, ressaltando que a equipe utilizou suas próprias habilidades literárias limitadas para o experimento. A conclusão preliminar sugere que a nuance e a complexidade da expressão humana continuam sendo um desafio difícil de ser totalmente compreendido e filtrado pelas máquinas.
Desafios culturais e o futuro da segurança em IA
O estudo do Icaro Lab expõe uma vulnerabilidade até então desconhecida e abre um leque de novas investigações. A equipe agora busca isolar quais elementos específicos da poesia desativam os protocolos de segurança. Seriam as rimas? O uso de metáforas? Ou a estrutura rítmica dos versos?
Além disso, os pesquisadores planejam expandir os testes para outras formas de expressão cultural, como contos e narrativas ficcionais, para verificar se é possível sistematizar ataques baseados em diferentes gêneros literários. A diversidade criativa da expressão humana torna o treinamento de máquinas uma tarefa árdua, pois um mesmo comando nocivo pode ser reescrito de infinitas maneiras artísticas que não acionam os alertas dos algoritmos.
O Icaro Lab, em colaboração com a Universidade de Roma, reflete a natureza multidisciplinar necessária para a pesquisa moderna em IA, unindo engenharia, informática, linguística e filosofia. O nome do laboratório é uma referência direta ao mito grego de Ícaro, que voou muito perto do sol com asas de cera e acabou caindo no mar. A analogia serve como um alerta constante para o setor de tecnologia: o perigo da arrogância e a necessidade de compreender os limites e riscos ao tentar alcançar novos patamares com a inteligência artificial.
Leia mais:
Habilidades em IA serão o grande diferencial para salários mais altos em 2026
Lançamento do foguete Hanbit-Nano será transmitido ao vivo a partir de Alcântara
Reconhecimento facial em Manaus leva à prisão de 24 foragidos em dez dias
Siga nosso perfil no Instagram, Tiktok e curta nossa página no Facebook
📲Quer receber notícias direto no celular? Entre no nosso grupo oficial no WhatsApp e receba as principais notícias em tempo real. Clique aqui.
