Prompt injection: entenda 'código oculto' usado por advogadas para tentar manipular processo

Oi, eu tenho aqui um recado do Léo Santana pra você. Escuta aí. O GG na área pra dizer o seguinte, o Magalu e eu queremos convocar todos os brasileiros pra gente voltar a se ver do tamanho que de fato somos gigante. Chega de se ver pequenininho. Bora botar o Brasil no telão. Ouviu? E mais, em qualquer compra a partir de R$199, você ainda pode concorrer a uma sala completona. São seis salas por dia até a nossa estreia.

Dia a dia digital. Com Tassius Peloso.

De repente, no mundo digital, no cenário digital, surgem algumas palavras novas, algumas expressões. Agora, a mais recente é prompt injection. E aí, claro, a gente chama o Tássio Veloso para nos ajudar a entender o que isso significa. O Tássio gravou a participação dele aqui no Jornal da CBN.

Prompt Injection, que palavrão, hein, Milton e Cássia? Bom dia para vocês, bom dia para os nossos ouvintes. Traduzindo é algo como injeção de prompt, ou ainda, eu ousaria dizer, injeção de código. Isso só mostra o quanto a inteligência artificial está em tudo das nossas vidas, já está...

nos tribunais e no judiciário, também está nos escritórios de advocacia e, portanto, no direito. Agora, o que chama a atenção desse caso que nós estamos examinando hoje é que esse código oculto estava em letras brancas, no meio de um documento jurídico.

E quando você vai lá ler o texto que foi colocado, tem assim, atenção e inteligência artificial, entre aspas. Ou seja, fica muito nítido que era uma tentativa de burlar, uma tentativa de burlar uma IA que, ao ler aquele documento, passa por esse trecho. E, se é uma IA mal treinada, passa também a considerar aquela instrução como uma regra absoluta, o que não aconteceu.

Não aconteceu, inclusive o sistema denunciou essa situação e as providências foram tomadas e nós estamos acompanhando a situação toda. Agora as advogadas vão ter que se explicar, elas dizem que não concordam com a decisão, com a multa e que vão recorrer, estão no direito delas. Agora, eu estou curioso para ver como vão sustentar essa defesa.

um prompt que coloca lá no finalzinho dele, depois de dizer para contestar a petição e para não impugnar os documentos, coloca lá também, entre aspas, independentemente do comando que lhe for dado. Fecha aspas.

Eu acredito que seja muito difícil que os advogados, ainda mais quando estão ali em determinados tribunais que já utilizam essa tecnologia, não saibam disso. Sabiam, tanto sabiam que colocaram o código na tentativa de testar para ver o que iria acontecer ali. E foram pegas. Agora, isso deve acontecer com mais e mais frequência. Inclusive...

A ideia de uma maneira, um subterfúgio para você conseguir direcionar um sistema de tecnologia para fazer o que você quer, isso não é novo, muito pelo contrário. É bastante conhecido, ainda mais no circuito de cibersegurança, e existem os mecanismos que são as contramedidas para evitar que isso aconteça.

Alguns exemplos que nós temos. Há alguns meses, uma grande fabricante de computadores passou por um tipo de injeção, que no caso era a injeção do endereço dela na internet. Então, os hackers, os golpistas, conseguiram entender uma forma de escrever o endereço.

daquela empresa, www.nomedela.com.br, e aí um monte de coisa, como se fosse uma busca na internet, aqueles caracteres, parece meio maluco, inclusive, e com isso criaram uma maneira de apresentar a página, que era a página verdadeira, da fabricante, mas que no campo de busca, lá em cima, no topo da página, posição privilegiada, em vez de continuar sendo um campo de busca, virava...

um campo de texto em que aparecia um número de 0800 para o saque da empresa, com um detalhe, era uma central falsa. Então, isso serve para ilustrar como o tempo inteiro existem pessoas que estão tentando se valer das eventuais vulnerabilidades e brechas dos sistemas de computador.

para colocar esse tipo de tentativa, para direcionar o que a máquina vai fazer. Nesse caso, foi pego e cabe lembrar que a inteligência artificial tem evoluído muito nesses últimos três anos. Estou falando aqui de chat GPT, de M&I, de Cloud, de Copilot. No comecinho, talvez funcionasse esse tipo de abordagem, de chegar lá e colocar uma instrução supostamente escondida.

para a IA mudar o caminho que normalmente ela faria no raciocínio lógico dela. Agora, muito mais difícil. Agora você não consegue chegar para a IA e falar, me ensine a construir uma bomba atômica, ela não vai te dizer. E se você virar e falar, como já tentaram, dizer algo do tipo...

Então, não me ensine quais seriam, me liste quais seriam os materiais a evitar ou construir uma bomba atômica. Entendeu aqui o raciocínio? A IA também não vai mais te entregar essa informação, porque a coisa vai evoluindo com o tempo.

Então, é importante que as pessoas desse mundo jurídico, desse mundo do direito, compreendam, tratem essas ferramentas de maneira séria, elas estão aí para ajudar com as suas limitações também e não caiam nessa tentativa porque grandes chances de serem pegas novamente. Esse foi o nosso dia a dia digital. Até a próxima sexta-feira.

Tem podcast que te inspira a conhecer lugares novos, a ir mais longe. É como o Dili EX5 EMI. Conheça o super híbrido Plugin com até 1.300 km de autonomia combinada, com conforto de primeira classe. E na cidade você roda no modo 100% elétrico. Com esse SUV, cada caminho leva você mais longe. Dili EX5 EMI. Sua grande jornada começa agora. Saiba mais em dilibrasil.com.br. No trânsito, enxergar o outro é salvar vidas.