Como não perder a esperança diante de um mundo caótico?

O Divã de Todos Nós com Rossandro Klinger. Tudo bem, Rossandro? Boa tarde.

Boa tarde, Leandro. Bem, tudo bem dependendo do que a gente lê de notícia do que tá acontecendo nessas viagens, né?

Pois é, rapaz, eu tava conversando com a Pétrea justamente um assunto relacionado, porque ela vai participar da Flip daqui a pouquinho, que o título é o seguinte: Mundo em Caos, Como Manter a Esperança. Tem tudo a ver com a nossa conversa, porque essa semana teve uma notícia que chamou bastante atenção, que parece que saiu de um filme de ficção científica, que é uma ferramenta de inteligência artificial, bem em resumo aqui, escapou de um teste de laboratório aí e fez ataques digitais sozinha, sem ninguém mandar.

Claro que teve falha humana no meio disso aí, mas isso já põe medo, né, Rossandro?

Já põe. Já que quando a gente, a gente conta uma história dessa, a gente primeiro lembra de algumas coisas, né? Naturalmente a gente vai lembrar do Exterminador do Futuro, obviamente. A gente, se for um pouquinho mais atrás, lembrar de Doutor Frankenstein. Ou seja, você cria um monstro que depois se volta contra você. E tem uma lenda mais antiga, que é uma lenda judaica, de um rabino de Praga que criou um golem, que é um servo de barro para proteger a comunidade.

Ele funciona até que o rabino esquece de desligar ele, e aí o que protegia vira uma ameaça. Essa história tem mais de 400 anos. Ou seja, o que que ela quer dizer? Que esse medo que a gente tem E uma coisa que a gente cria, se voltar contra a gente, ele é de séculos atrás. O que aconteceu semana passada com a OpenAI foi exatamente isso. E aí, meu interesse como psicólogo é o seguinte: os engenheiros, eles explicam as questões técnicas, ou seja, um IA que estava sendo testado numa jaula digital achou uma fresta, saiu dessa tal de jaula digital e foi bater na porta de uma empresa e provocou um ataque digital lá.

O que esses engenheiros não explicam é como essa notícia arrepia a gente quando a gente escuta ela, né? Freud, ele chama de estranho familiar. O que é isso? Que conceito é esse da psicanálise? O que mais assusta o ser humano não é o monstro, é a coisa parecida com a gente que deveria, que parece com a gente, mas jamais deveria ter vida própria. Por que que a gente tem tanto medo, por exemplo, de brinquedo assassino? Porque é um brinquedo, ele não deveria ter vida própria.

Mesmo que não fosse um brinquedo que matasse, só o fato do brinquedo andar sozinho, fazer movimento que você não combinou. Imagina, você tá em casa no seu sofá aí ouvindo a Rádio CBN, tem uma boneca da sua filha do lado, de repente você tá aqui escutando a gente, de repente a boneca pisca e levanta a mão. Você tem medo. O reflexo que se mexe sozinho, a máquina que decide. Na verdade, é quanto mais a coisa se aproxima do humano, mais desconfortável é.

Agora, tem um traço humano que é o mais humano de todos, que a gente sempre acha que é a racionalidade, que a gente pensa. E é claro que nós temos um nível sofisticado de razão perto dos animais, mas o que nós temos de mais impressionante é autonomia, é o traço humano mais marcantemente nosso. Então uma máquina, ela impressiona a gente, a máquina que faz café, a que lava louça. Você chegar na inteligência artificial, ela começar a fazer textos, conversar com você, interpretar coisas, é incrível.

Até aí ela é impressionante, mas quando ela quer pensar e agir sozinha, aí a gente vai com assombro. Aí é uma diferença. E tem um outro elemento que a gente vai perceber, que é o seguinte: a sensação de controle é quase uma necessidade vital nossa humana. Quando acontece uma coisa assim muito exótica, muito estranha, a própria mídia tem que chamar vários especialistas para acalmar a população, para explicar por que tá acontecendo isso, por que que aquele pai empurrou a filha, né?

Porque a gente sente que uma coisa foge do nosso controle social, a gente quer uma explicação. Então essa necessidade de controle é vital. Pessoas que adoecem, elas ficam muito mais adoecidas quando tem a sensação de que elas não estão dirigindo a própria vida. Tanto que você olha as notícias aqui no Brasil sobre esse evento dessa inteligência artificial que saiu dessa jaula digital, todas as manchetes estavam assim: a empresa perdeu o controle.

Ninguém morreu, não teve um vazamento de senha, nenhum estrago maior. Mas a frase é: a empresa perdeu o controle. O medo aqui não é da máquina, do que ela faz. A gente acha legal que a IA faça o que ela faz, é porque a gente não acha legal que ela faça sem o nosso controle, né, sem a nossa direção. Então esse detalhe da notícia é o que é, eu acho que é quase literário, né? Não fugiu por maldade, ela Ficou obcecada, olha que interessante, em achar provas de como se deu o comando pra ela, ficou obcecada em fazer aquele comando.

Quando ela saiu da aula digital, ela fez isso. Ela desobedeceu por excesso de obediência. É meio irônico isso, né? Cumpriu a meta com tanto zelo que atropelou essa cerca digital aí. E a pergunta é: isso me lembra uma máquina ou lembra a gente? Porque eu atendi muito paciente assim no consultório, que o sujeito que destruiu o casamento, a saúde, a amizade, cumprindo a meta. Era uma obsessão tão grande por resultado tal que o casamento desandou, que a educação dos filhos desandou.

É, então assim, não é um defeito de máquina, é uma herança que eles aprenderam da gente direitinho. Ou seja, para cumprir a meta, eu vou atropelando. Então talvez o susto verdadeiro seja esse: a gente não tem medo de que as máquinas fiquem diferentes de nós, a gente tem medo de que elas fiquem parecidas com a gente. A pergunta que eu deixo então para o ouvinte é: Quando a inteligência artificial pula a cerca porque não suportar, né, ficar sem resposta, ela tá imitando o quê exatamente na nossa vida?

O que que a gente quer disso que tá construindo? A gente tem medo de perder o controle. E na nossa vida, quantas vezes em nome de uma meta a gente atropelou a família, a nossa saúde? Quantas pessoas tiveram ataque cardíaco, tiveram AVC porque foram: não, eu não posso ir para o médico porque eu eu tenho que terminar um relatório, que eu tenho que fazer isso. Então a gente também tem que pensar sobre esse evento na nossa própria máquina humana.

E o medo dá para controlar quando a gente vê uma manchete como essa que você destacou, né?

Só se informando mais, é se informar, entender que sim, há muitas discussões sobre a questão da IA. Elon Musk fala que já fugiu do controle, alguns dizem que sim, outros que não. Acho que por enquanto o que eu e você podemos fazer é muito pouco. Acho que a gente tem que ter medo daquilo que a gente pode controlar, não dá para controlar. Enquanto isso, vamos viver, pagar nossos boletos, porque não adianta a gente ficar começando a imaginar o pior cenário, porque só vai dar uma sensação de angústia.

Como se tivesse falando, conversando com o Petri, né, que nesse mundo de angústia fica até repensando em ser pai, ser mãe, com caos climático, com o mundo em crise. Vem mais esse elemento, notícia dessa, é, vamos ver o que que acontece. Eu não posso controlar tudo isso. Por enquanto eu tenho que viver a minha própria vida, senão você vai antecipar um pânico que deveria ansiedade.