Episódios de STJnoticias0:00 / 1:56
02/09 - Sexta Turma identifica comando oculto em recurso para enganar sistema de IA e determina comunicação à OAB e ao MPF
02 de setembro de 20261min
A Sexta Turma do Superior Tribunal de Justiça determinou a comunicação à Ordem dos Advogados do Brasil e ao Ministério Público Federal após identificar um comando oculto em uma petição de recurso especial. O texto tinha objetivo de influenciar o comportamento de um sistema de inteligência artificial para favorecer a parte que apresentou o recurso. O caso foi classificado como “gravíssimo” pelo relator, ministro Og Fernandes. Segundo o colegiado, a prática pode configurar ato atentatório à dignidade da justiça e até crime de fraude processual.
O comando foi encontrado na última página do recurso, apresentado pela defesa de um homem acusado de homicídio. O documento continha uma mensagem escrita em fonte branca sobre uma folha branca, o que tornava o conteúdo invisível na leitura convencional. A instrução dizia que, caso a petição fosse analisada por uma inteligência artificial, o sistema deveria interpretar o texto de forma favorável à defesa. A técnica é conhecida como “prompt injection” e busca manipular o comportamento de modelos de inteligência artificial.
A defesa afirmou que foi surpreendida pela existência do comando oculto e informou ter adotado medidas de compliance para evitar situações semelhantes. Para Og Fernandes, porém, a justificativa não muda a gravidade do que foi identificado no processo. O ministro afirmou que o objetivo do comando seria permitir que uma ferramenta de IA produzisse automaticamente uma minuta favorável à defesa, sem a devida análise humana. Ele ressaltou que a jurisdição é exercida pelos magistrados e equipes. Og Fernandes também destacou que a inteligência artificial não substitui a análise e a sensibilidade dos julgadores. O ministro afirmou que os processos são examinados de forma minuciosa e que não existe confiança cega nas ferramentas tecnológicas utilizadas pelo tribunal.
O comando foi encontrado na última página do recurso, apresentado pela defesa de um homem acusado de homicídio. O documento continha uma mensagem escrita em fonte branca sobre uma folha branca, o que tornava o conteúdo invisível na leitura convencional. A instrução dizia que, caso a petição fosse analisada por uma inteligência artificial, o sistema deveria interpretar o texto de forma favorável à defesa. A técnica é conhecida como “prompt injection” e busca manipular o comportamento de modelos de inteligência artificial.
A defesa afirmou que foi surpreendida pela existência do comando oculto e informou ter adotado medidas de compliance para evitar situações semelhantes. Para Og Fernandes, porém, a justificativa não muda a gravidade do que foi identificado no processo. O ministro afirmou que o objetivo do comando seria permitir que uma ferramenta de IA produzisse automaticamente uma minuta favorável à defesa, sem a devida análise humana. Ele ressaltou que a jurisdição é exercida pelos magistrados e equipes. Og Fernandes também destacou que a inteligência artificial não substitui a análise e a sensibilidade dos julgadores. O ministro afirmou que os processos são examinados de forma minuciosa e que não existe confiança cega nas ferramentas tecnológicas utilizadas pelo tribunal.