Prompt injection: entenda o 'código secreto' que professor usou para flagrar uso de IA em trabalho

Professor Dr. Jason Gibson criou um artifício para detectar uso de IA em avaliação — Foto: Reprodução/Redes sociais

Um professor universitário viralizou nas redes sociais ao contar que reprovou 32 de 35 alunos em uma avaliação depois de criar uma "armadilha" para identificar quem havia usado inteligência artificial (IA) na atividade.

Em uma série de vídeos publicada no TikTok, o historiador Jason Gibson, professor da Alcorn State University, no Mississipi (EUA), explicou que as turmas tinham de escrever uma redação sobre a Revolução Industrial.

No enunciado elaborado por ele e enviado on-line, havia uma frase escondida, escrita em letras brancas sobre um fundo também branco. A instrução dizia que a palavra “Madagascar” deveria aparecer em algum trecho do texto, em um contexto completamente sem sentido.

Quem apenas lesse o comando na tela não conseguiria enxergar a frase. Já quem copiasse o enunciado inteiro e o colasse no ChatGPT, por exemplo, “levaria junto” a instrução oculta sobre Madagascar.

Como resultado, as redações apresentaram frases como:

Prompt injection é uma técnica maliciosa em que textos enganosos são usados para manipular as respostas de assistentes de IA.

O objetivo é forçar esses sistemas a realizar ações indevidas ou deixar de fazer verificações de segurança, por exemplo.

📰 Fonte: g1.globo.com