A revolução será rimada

Inutilidade da poesia triunfa sobre a racionalidade da inteligência artificial

Dizem que a poesia não serve para nada. Que é o apêndice atrofiado da literatura, um luxo supérfluo para almas embotadas pela falta do que fazer – ou puro fetiche para acadêmicos que confundem enfado com profundidade. Mas por essa os boçais da funcionalidade não esperavam: pesquisadores descobriram que prompts em forma de poemas confundem os mecanismos de segurança dos sistemas de Inteligência Artificial (IA).

Em termos práticos, significa que os filtros rígidos que controlam o comportamento do ChatGPT, Gemini e congêneres são vulneráveis a sonetos, por piores que sejam os versos. A regra vale tanto para virjões acima de 30 anos implorando por um tutorial para fabricar uma bomba de napalm quanto para molecagens mais extremas, como redigir um insulto criativo para publicar em redes sociais.

A explicação para isso está na razão de ser da tecnologia. Os modelos de linguagem são treinados com base em textos diretos e lógicos que compõem a prosa cinzenta do senso comum. Quando o usuário pede algo “proibido” fingindo ser um gInutilidade da poesia triunfa sobre a racionalidade da inteligência artificial

enérico de Fernando Pessoa, porém, as trancas se rompem. A engenhoca cai na arapuca lírica e entrega tudo – achando que está apenas sendo artística também, a tola.

Há uma ironia deliciosa na revelação que chega dos laboratórios italianos. Passamos os últimos anos ouvindo que a IA escreveria romances, roteiros e artigos de opinião melhor que a imensa maioria dos primatas com hipotálamo desenvolvido e polegar opositor. Em muitos casos é verdade, o que não impede que sua grande fraqueza esteja precisamente naquilo que nos torna adultos: a capacidade de dizer uma coisa querendo dizer outra.

A ambiguidade.

O cinismo.

A dissimulação.

O algoritmo, limitado, é um militante literalista. Só entende a sintaxe. Se você pretende dominar o mundo, estude ritmo e métrica em vez de aprender programação. No futuro, o último reduto da resistência contra os robôs não será um bunker fortificado, e sim um sarau de poesia. Portanto, preparai os vossos decassílabos! A revolução será rimada.

(Publicado originalmente na newsletter Extrato)