A invasão da mente: implantes cerebrais, IA e alucinações | BITS #89

Imagine perder completamente a capacidade de mover o seu corpo, cada músculo trancado ali, no silêncio absoluto. Sua mente continua ali, veloz, gritando pensamentos, mas sem qualquer canal para o mundo exterior.

Até que um cirurgião abre uma pequena fenda no seu crânio e desliza ali um chip microscópico diretamente no seu córtex cerebral. De repente, sem mover um único dedo, você pensa na palavra olá. E ela surge perfeitamente digitada em uma tela à sua frente. A barreira física entre o seu pensamento e o mundo digital simplesmente desmoronou.

Mas, se um cabo agora conecta seu cérebro diretamente à internet, quem garante que a informação só vai sair da sua cabeça? E se não começar a entrar?

Olá, sejam muito bem-vindos ao Beats. Eu sou Andressa Carvalho. E eu sou o Fábio Xavier. Antes de começarmos a abrir as portas da mente do episódio de hoje, Andressa, nós temos um pedido rápido, né? Sim, sim. Se você está ouvindo a gente no Spotify ou lá no seu tocador de áudio favorito, clique agora em seguir ou em assinar. Isso ajuda o nosso algoritmo pessoal a entregar esse conteúdo para mais mentes curiosas. Isso aí ajuda a gente lá. No YouTube é o combo completo, né? O like...

É inscrever-se e ativar o sininho para fazer parte do nosso círculo de super ouvido. Isso mesmo. Fábio, o que antes era restrito a laboratórios altamente controlados e testes experimentais acaba de ganhar as prateleiras do mercado de consumo. Uma matéria da Scientific American revelou um marco histórico global. A China aprovou o primeiro implante cerebral para uso comercial no mundo.

Uau, né? Uau. Legal, né? Nossa. Imagina, um chip cerebral pra uso comercial. Será que a gente vai comprar uma? Não sei, né? Se ensinar, por exemplo, pra tirar o Taco de Fulc, que nem no Matrix, assim. Eu quero aprender a tocar guitarra. Ah, eu quero falar todas as línguas. Nossa. Tem tanta coisa? Pois é. Fazer parkour igual aquela matéria da Globo. Não, não, não.

É um passo gigantesco, né? E eu tô, você sabe, né? Escrevendo um livro sobre tecnologia que tem um chip cerebral. Olha só, um spoiler aqui, né? Mas estamos falando de um dispositivo de interface cérebro-computador focado em reabilitar pacientes com paralisia severa. Uau, né? Traduzindo sinais neurais em comandos digitais. Olha que legal, né? Isso é muito legal. É para isso que a tecnologia tem que servir, né? Isso.

Se antes a discussão estava travada nos testes do nosso amigo Elon Musk com a Neuralink, agora a China acabou de entrar de vez nessa corrida até queimando a largada regulatória, e colocou já um produto no mercado. Mas como essa tecnologia, a gente pode imaginar, ela é bem invasiva, tem que abrir a cabeça do cara.

A maior barreira sempre foi a física do nosso próprio corpo, que odeia corpos estranhos, ainda mais artificiais, um chip, um material muitas vezes com silício, com materiais minerais, que acabam muitas vezes sendo rejeitados pelo corpo.

É, mas parece que a ciência de materiais resolveu foi exatamente isso, né? Porque segundo o portal Healthcare in Europe, pesquisadores desenvolveram polímeros macios que mimetizam, imitam o tecido cerebral para revestir esses implantes. Olha só que coisa. Essa barreira física que a gente tinha falado aqui agora acabou de ser...

Derrubada. O grande vilão nos implantes sempre foi esse tecido cicatricial que o organismo cria ao redor dos eletrodos que isolavam o chip e estragava, consequentemente, o sinal digital daquele chip implantado. Com esses novos revestimentos biocompatíveis, o corpo é enganado e não rejeita mais o chip, permitindo assim que as interfaces funcionem perfeitamente por muitos e muitos anos. Caramba!

E as aplicações médicas não param na mobilidade física. A revista Popular Science reportou avanços impressionantes no tratamento de depressão severa, usando, assim, esses mesmos implantes. É um estudo fascinante, né? Porque não é só trabalhar a questão física, as pessoas que tiveram algum acidente, algum problema de mobilidade. Trabalha também enviando estímulos elétricos contínuos e monitorando os padrões elétricos do cérebro em tempo real. Nossa!

E aí quando detecta esse chip que os circuitos neurais associados ao mau humor ou à crise depressiva estão começando a se ativar, o implante dispara uma estimulação sob demanda para interromper esse ciclo de forma cirúrgica. Caramba. Imagina, para tratar dor de cabeça. Isso sim, né? Deu dor de cabeça, foi lá dar um choquezinho. Mas imagina, você vai ficar bravo às vezes, né? Você não vai ficar, você vai estar lá no meio de uma discussão dando risada. Já passou? Que legal. Se você fizer isso comigo, eu fico mais bravo ainda.

Mas aí o seu chip também vai... Vai se fechar. Vai tomando de doido. Como então um termostato aí emocional direto na cabeça, né? Mas eu fico preocupada pensando no pesadelo ético de consentimento que isso traz. Mas a ciência básica também está sendo aí reescrita, né? Porque a gente toma remédio antidepressivo e tal, né? Só que são ali temporários, né? E assim, atuam, você pode tirar o remédio. Agora esse é um chip implantado ali, né?

O livro que eu tô lendo, que você não gosta? Do Dan Brown. Não é que eu não gosto, eu só falei que não é o que a gente, assim, o pessoal literato considera literatura. Como diz, é um livro de aeroporto, né? Isso, isso. Mas é bom, é uma boa diversão. Ele tem essa questão de tratamento de epilepsia com implante neural. Então, interessante, né? A ideia é essa, né? Mas é mal usado no livro. Imagino, né?

Mas o portal Data Science divulgou uma descoberta que desafia tudo o que a gente já sabia sobre o processamento de informação do sistema nervoso, né? Isso está mudando muita coisa. Sim, né? Os cientistas descobriram uma nova via molecular de comunicação entre as células cerebrais que ninguém conhecia, coisa nova. E isso muda bastante nosso entendimento sobre a plasticidade sináptica.

Ou seja, como as memórias são guardadas. Isso. Como os neurônios se comunicam e criam essas sinapses entre eles. A chave não é só para tratar, por exemplo, Alzheimer no futuro, mas também para entender como nós e as máquinas que tentamos criar a nossa imagem, de fato, processam o mundo. Como que a informação é processada, é trabalhada dentro do nosso cérebro. Olha só que legal. O nosso cérebro sempre foi um grande mistério, principalmente a consciência.

A consciência é um grande mistério. Será que a gente está sendo um caminho para quebrar esse mistério? Isso.

Quem sabe, né? Mas falar em processar o mundo de forma distorcida nos traz a nossa ponte de hoje. Enquanto a gente tenta decodificar a biologia do cérebro humano, as inteligências artificiais continuam fingindo que pensam como nós, mas cometem uns erros bizarros que a gente insiste em aceitar como validade ou como verdade factual.

Isso nos leva à grande questão do nosso aprofundamento de hoje, inspirado em uma reportagem da Exame. Por que o chat GPT mente com tanta convicção matemática e qual é o real perigo de a gente confiar cegamente num sistema probabilístico? Porque todo mundo que já usou o chat GPT já se deparou com as famosas alucinações, com o fato dele ser muito, muito, muito favorecido a você. Ele te elogia muito, ele fala muito bem. Por que a ferramenta... Ele é muito...

Ele é muito amigo algumas horas, em outras horas também ele acaba sendo o pior inimigo. Ah, porque te elogia demais. É a coisa que ele incentiva até as pessoas a se matarem. É, então, se ele fala que você sempre tá certo, você tem uma ideia doida, ele vai te incentivar, né? Sim. Por que uma ferramenta tão sofisticada simplesmente inventa essas coisas, alucina, inventa coisas do nada?

O erro está basicamente em como nós, humanos, enxergamos a IA. Nós olhamos para o chat EPT como se ele fosse um bibliotecário super inteligente que sabe tudo. Alguém experiente, né? Mas na verdade ele é apenas uma calculadora probabilística de palavras. Então se a palavra A está mais, aparece mais, né? E pode ser uma palavra que não tem nada a ver com o contexto. E ele não entende o contexto.

Então a arquitetura de modelo não tem nenhum compromisso com a verdade factual. Ela tem compromisso com a verossimilhança estatística, na verdade. Ou seja, ela não pesquisa se um fato realmente aconteceu, não quer nem saber disso. Ela tem lá a sua base de treinamento, calcula qual é a palavra mais provável de vir a seguir para que o texto faça o sentido, para que ele pareça correto, pareça natural para o humano.

Então pode vir ali uma palavra totalmente nada a ver com aquilo que a gente espera. Ou seja, se há um buraco no conhecimento dela, alguma coisa que ela não sabe, em vez de dizer não sei o que ela faz, ela calcula a resposta matematicamente, estatisticamente, mais plausível e cospe ali aquela bobagem absoluta com uma confiança de dar inveja.

É igual o pessoal que faz comentário na internet. É, exatamente. Foi aí que ela aprendeu com esse pessoal que sabe de um especialista em tudo, né? Exatamente. Especialista em ser generalista. E aí é que mora o perigo jurídico e social. No direito, por exemplo, a gente já teve casos famosos de advogados que usam petições geradas por IAE que citavam jurisprudência e leis que simplesmente nunca existiram. O profissional vai lá, confia nessa escrita.

impecável do robô e acabou punido pelo juiz. E se isso acontece em áreas críticas, como o direito ou a medicina, que é mais crítica ainda, o estrago pode ser catastrófico. Exatamente. E eu vi que tem já advogados incidando a colocar promptes nas petições escondidos, porque aí, como a IA do juiz vai ler, eles colocam um prompt em letra branca, alguma coisa assim, que na hora que o juiz copia e cola para que a IA dê uma solução, a solução é mais favorável ao advogado.

É uma técnica de ataque, inclusive, chamada injeção de prompt. Então, imagina, se isso está chegando assim, o juiz realmente precisa saber o que ele está fazendo ali. Não dá para confiar totalmente nesse tipo de ferramenta. O negócio é nunca pular a checagem humana. Sim, porque a alucinação não é um defeito que vai ser consertado facilmente. Ela faz parte da própria arquitetura da solução da IA generativa, da própria natureza probabilística desses modelos atuais. Sim, sim.

As empresas estão tentando criar travas, mas o usuário final precisa entender que a IA é uma excelente assistente de redação. Ela não pode fazer tudo, né? Mas uma péssima fonte primária de verdade. Busca nas fontes primárias, como a gente já falou aqui várias vezes.

Fábio, se o sistema probabilístico de IA é treinado para nos agradar, às vezes até mentir para isso, como é que a gente criou uma barreira de proteção no uso diário? Qual que é a dica? Qual que é a cereja do Bix de hoje? A cereja do Bix de hoje é legal. Vem com o mantra como sempre. Sim, como sempre. O mantra é, a IA propõe, o humano dispõe. Terrimônio. É um mantra, sim, poético.

Para evitar cair nas armadilhas de dados inventados, adote o protocolo de dupla checagem bits. Olha só, três passos. Três passos simples para fazer essa dupla checagem. Não dá para confundir, né? Três passos para uma dupla checagem. Tá bom, bora lá. Passo 1. Peça as fontes no prompt. Sendo que pedir informações complexas aí há...

Termine a instrução, o seu comando, a sua pergunta digitando Sente apenas fatos reais e adicione links ou referências de onde essa informação foi extraída. Forçá-la a não mentir, né? Forçar a não mentir e gerar o link, né? E ainda assim, ela vai mandar links, alguns deles falsos. E a gente precisa checar. Precisamos.

Então, qual que é o teste? O passo 2. Passo 2. O teste do inverso. Pegue a resposta da IA, que ela te deu, e jogue de volta em um buscador tradicional. Sabe o bom e velho Google? Vai lá e joga lá. E busque aí informações em sites de notícias, em artigos acadêmicos, para ver se aquela informação realmente existe. Tá. E o último passo? O último passo é o uso e o prompt de auditoria. Abra o novo chat limpo, colhe a resposta gerada e pergunte para a IA.

haja como um checador de fatos bem cético.

aquele que não acredita em nada, né? Identifique quaisquer inconsistências, dados inventados ou imprecisões no texto abaixo. Aí você cola ali a resposta que você teve da IA. É quase um meta pronto. Exatamente. A IA, você vai se surpreender, porque a IA, ela vai verificar e vai validar e vai apontar as próprias mentiras. Olha só que legal. Cara de pau. Cara de pau. É capaz de falar assim, você tá doido, isso aí não existe, né?

É, essa é uma dica de sobrevivência que é essencial para a nossa área digital. Acho que esse metaprompto, essa checagem final é imprescindível para você realmente verificar, até ajudar nessa etapa, mas não se esqueça de fazer a checagem humana, de ver se realmente ela não está mentindo sobre a mentira. Claro, claro.

E se você quer que seus colegas de trabalho, de faculdade, parem de passar vergonha usando os dados alucinados da IA, compartilhe esse episódio agora mesmo no grupo da família, no grupo da equipe, de todo mundo aí. Isso mesmo, né? E assine o Beats aí na sua plataforma preferida e faça parte da nossa resistência inteligente. Todos os links da notícia de hoje, análise, estão tudo organizado no nosso site, bits.fabioxavier.com.br.

Eu sou Andressa Carvalho. E eu, claro, sou Flávio Xavier. Claro, escuto. Para o que der, ele é. Beats, decodifique o futuro hoje. Até a próxima. Até a próxima.