‘A Máquina e Nós’ lembra que o futuro da IA é uma escolhas, não um destino

Pra Onde Vamos com Michel Alcoforado.

Fala, Michel, boa tarde.

Boa tarde, Tati. Boa tarde, Fernando.

Boa tarde, Michel.

O papo hoje é a partir de um livro escrito por uma gênia. Sou muito fã. Eu também. Título é A Máquina e Nós: Promessas e Armadilhas da Inteligência Artificial. E a gênia é a matemática historiadora, professora do Instituto de Matemática, autora de tantos outros livros, Tatiana Roque. E aí, Michel?

Eu sou fã demais de Tatiana Roque porque é daquelas cientistas que conseguem manter a complexidade do pensamento ao mesmo tempo em que escreve de um jeito fácil, qualquer pessoa, não importa a formação, é capaz de entender.

Isso é difícil para caramba, né? É, aí eu fiz uma conversa com ela, Michel, faz uns anos já, uns talvez uns— tempo passa muito rápido— talvez uns 4 anos depois da pandemia, num palco alternativo ali da Philips, sobre o livro anterior dela. E eu tive exatamente essa sensação. A hora que eu topei o desafio, eu falei, nossa, acho que vou ter muita dificuldade. E não tive, porque uma leitura muito fácil de temas muito complexos. E o jeito dela explicar as coisas sem ser rasa, né? Porque é muito fácil também cair na platitude. Ela não faz isso.

É, e sem conseguir, e ela também, também sem precisar ter um tom professoral, que às vezes acontece com alguns acadêmicos quando tentam fazer algum tipo de literatura ou trabalho para o público amplo. O livro que você tá falando, Tati, é um livro maravilhoso, é que é O Dia Que Voltamos de Marte, que é sobre a história da ciência e poder, que ela já provava ali naquele livro que ela era maravilhosa. Mas tem um livro anterior dela, que é um livrinho que eu acho que vale super a pena até para quem é de humanas, que é A História da Matemática: Uma Visão Crítica Desfazendo Mitos e Lendas, que é de 2012.

E a Tatiana Roque, nesse livro, ela vai fazer uma grande viagem pelo mundo da matemática, tão bem feita que ela ganhou até o Prêmio Jabuti naquele ano. Então, para além de todo conhecimento teórico e acadêmico de pesquisa que ela tem, Era uma baita escritora e faz um negócio que é difícil à beça de fazer. Mas eu trouxe esse assunto não só porque sou fã dela, mas porque ela tratou no último livro que ela acabou de lançar pela Todavia, agora em junho, acho que é junho de 2026, que é sobre esse assunto que tem dominado as nossas conversas, que é o papo da inteligência artificial, né?

Todo dia você abre seu Instagram, seu jornal, passa aqui pela programação da CBN, aparece alguém falando sobre os riscos ou os dilemas que a inteligência artificial vai trazer pra gente. E a Tatiana, que é uma grande conhecedora da história da ciência, vai mostrar pra gente que é preciso algum tipo de cautela, mas também não precisa ficar desesperado não, porque já vivemos momentos parecidos ao longo da história, em que a gente acreditou que ia aparecer alguma coisa que ia mudar a nossa vida por completo.

Hoje a gente já ficou tão fascinado pela tecnologia, pelo avanço tecnológico, que a gente ficou até meio abobalhado. Diante do impacto dessas tractanas. Ela começa o livro com uma historinha que eu não fazia a menor ideia, que ela trata de um caso que aconteceu na França no século 18, em 1738, quando um músico resolveu fazer uma flauta que tocava sozinha. Ele criou ali um mecanismo, né, que a flauta, a partir, né, de um processo que era orientado por outras máquinas, conseguia reproduzir o mesmo som exímio de um grande tocador de flauta.

E aquilo paralisa Paris do século 18, de todo mundo meio abobalhado com aquele impacto daquela traquitânea, daquela tecnologia na vida, na vida cotidiana da cidade. Ela diz, olha, ao longo da história a gente já ficou abobalhado com uma tecnologia outras vezes, e a gente é capaz de lembrar aqui, né? É só no nosso tempo, assim, primeira vez É, a gente que— eu acho que a gente já nasceu no mundo que o telefone era raro, mas tinha telefone.

Mas a primeira vez, sei lá, que você— eu posso imaginar minha avó que fez uma ligação para alguém e conseguiu se comunicar, deve ter rolado a mesma coisa. Mas eu me lembro a primeira vez que eu entrei na internet, num site, a primeira vez que eu entrei na sala de bate-papo, a primeira vez que eu pude fazer um FaceTime pelo meu celular com alguém que tava distante. A primeira vez que a gente teve, sei lá, um relógio que te acordava, que dizia quando você tinha dormido ou acordado, a primeira vez que você entrou numa plataforma de vídeos, no streaming da vida, que tava toda a programação disponível, independente de você esperar ou não pra algo acontecer, ou a primeira vez que você andou com seu Discman, com seu Walkman pela rua, a gente tinha, já teve essa sensação outras vezes.

Então isso é comum ao longo da história. Agora, o que que é a grande questão que ela vai colocar pra gente dessa vez? Ela vai dizer, olha, a gente vive agora um dilema se essa inteligência artificial é inteligente mesmo. E é isso que causa uma certa surpresa em todos nós. E ela vai recuperar um artigo de 1950 de uma figura que até virou filme em Hollywood, que é o Alan Turing, né, que foi um cientista nos anos 40, nos anos 50, mas teve um papel fundamental na Segunda Guerra Mundial pra ajudar a Inglaterra a vencer os nazistas.

E o Alan escreveu um artigo pensando sobre essa coisa da inteligência artificial, é que ele não usava nem esse termo, né, mas sobre essa coisa da gente achar que as tecnologias eram inteligentes. E ele fala do dilema de imitação. Sabe como é que a gente percebia, começava a achar que uma máquina era inteligente? E nós continuamos reproduzindo o jogo mais ou menos do mesmo modo. A gente acha que é inteligente a partir de um teste que era comum naquele tempo, que continua mais ou menos funcionando até hoje.

Era o seguinte: eles colocavam um humano e uma máquina pra responder às perguntas de um arguidor, de alguém que tava lá só pra fazer pergunta. Podia ser um cientista. Se a máquina respondesse àquela pergunta de um jeito que o cientista achasse que aquilo não tinha cara de que foi feito por uma máquina, tinha cara de que foi feito por um humano, a máquina passava pra segunda fase do game. E assim é seguindo. E a grande sacada que o Turing vai trazer, que nos perturba até hoje na hora que a gente tá usando o ChatGPT, o Claude, é que a gente se preocupa quando a máquina age de um jeito que a gente acha que não foi feito por uma máquina, que foi feito por um humano, né?

Quando o ChatGPT, sei lá, escreve uma mensagem para você que tem jeitinho de humano, você começa a ficar preocupado. Agora, hoje mesmo recebi um texto de um amigo que me mandou aqui É uma figura muito carinhosa. Vou fazer uma crítica, tomara que ele não esteja me ouvindo. Tá claro que foi escrito pelo ChatGPT.

Eu já recebi também, tá na cara.

É tipo, a vírgula tá mal posicionada. E não é um negócio da travessão não, tá? A vírgula tá mal posicionada.

Às vezes a escolha das palavras, né?

Isso, umas expressões curtas assim, sabe? Com umas coisas meio clichê que são muito usadas na língua portuguesa, mas são saídas fáceis. Tá claro que nenhum humano alfabetizado, de alguma maneira, na escrita de qualquer coisa, não precisa ser escritor não, não escreveria aquele texto daquele jeito. Nessa hora, eu, você, Fernando e os ouvintes não ficam preocupados. A gente fica sendo enganado, que a gente vê alguma coisa que foi feita pela máquina que a gente acha que poderia ter sido feita por um humano.

E aí a Tatiana faz um questionamento que eu acho que é decisivo pra gente. Não é porque as máquinas estão enganando a gente que elas são inteligentes não, tá? Uma coisa é uma coisa, outra coisa é outra coisa. É o parâmetro como um parâmetro da humanidade ou como definidor de qualquer coisa. E a Tatiana vai dizer que inteligência é outra coisa. As máquinas, elas têm capacidades, obviamente, de dar boas respostas e nos ajudar quando estamos em apuros, por falta de tempo, qualquer ajuda que a gente precisa.

Mas as máquinas não têm capacidade de estabelecer novas perguntas para a realidade, e elas também não têm capacidade de formular novos problemas. Elas são meros imitadores dos humanos e a gente acha que elas estão boas demais quando elas nos enganam ou quando elas fazem coisas que a gente acha que a gente poderia estar fazendo igual ou de um jeito parecido e elas fazem isso de um jeito mais rápido. E ela faz uma outra provocação só pra eu devolver pra vocês, que eu adorei também, que ela vai falar que a gente fica muito preocupado em pensar, sobretudo nesse momento onde houve aí nas últimas semanas o movimento dos diretores, se a gente devia parar ou não, de investir no avanço da inteligência artificial, ela vai colocando que o problema não tá tanto no uso da inteligência artificial, mas tá em nós mesmos que começamos a nos transformar para conseguir caber naquilo que a inteligência artificial, as tecnologias querem da gente.

Então, ao invés da gente provocar essas tecnologias para avançarem, para conseguirem, né, ficar do jeito que os humanos querem que elas fiquem, A gente tá fazendo o movimento contrário. É a gente que tá se transformando pra fazer com que essas coisas tenham o mínimo de fricção possível com a nossa vida. Aí ela diz, ó, desse jeito vai dar ruim mesmo. Então, toda vez que você começa a pensar na hora que você vai escrever uma legenda pra tua página aí do Instagram, e você diz, ah, tem que escrever pouco porque o algoritmo não lê texto grande, você tá se comportando como máquina.

Toda vez que você acha que um vídeo tem que ser curto porque a plataforma não entrega, Toda vez que você acha que determinada palavra é proibida porque a tecnologia não gosta, toda vez que você se transforma porque você acredita que aquilo vai gerar uma fricção com a máquina, você tá dando um passo pra trás na tua humanidade, você tá deixando de ser humano. E aí pode ser perigoso, né? Porque se a gente começar a se comportar como as máquinas, a gente não vai dar conta do axioma básico, né, que inventou a modernidade, ou pelo menos o pensamento ocidental, que é a lógica de que a gente só existe porque a gente pensa.

Se deixar de pensar, vai virar máquina, e a máquina é mais barata, dá menos trabalho, te pergunta menos, não tira férias, não dorme. Aí vai dar ruim. Então, ó, bufunfa, tá? Bufunfa não é bufunfa que fala a cabeça, é, né?

Não, é granada, né?

Mufa, mufa, mufa. Queima a mufa, queima a mufa que vai ganhar uma bufunfa.

É o que eu diria. Boa, boa, boa!

Porque queimou o neurônio aqui, porque eu fiquei a semana toda, a gente ficou a semana toda falando sobre os grandes CEOs da inteligência artificial dizendo precisa colocar o pé no freio porque senão vai desandar todo esse rolê aqui. China e Estados Unidos disputando quem vai parar. Se você não parar, eu não paro. Um não pode parar sem o outro. Aí vem você falando, olha, o problema tá na gente, rapaz.

Não, esses dias eu vi um meme que era assim, quando for, por que que a gente normalizou dizer para o computador que a gente não é um robô? Sendo que o robô é ele. Então, você ficar lá clicando imagem com carro, imagem com sei lá, né?

Eu odeio aquilo.

Eu também odeio.

E quando fica assim, clique onde tem semáforo, eu nunca entendo.

Exato, exato, perfeito. Tem que voltar a lembrar.

Então vai sem medo, vai sem medo, queima a mufa, que é o que dá para gente, tá? Lê livro, vê série, anda na rua. Né, vive a vida, vive a vida, contato com o mundo real, e bota as máquinas para trabalhar para você, né?

Isso aí.

E não fica embobalhado, porque eu acho que o grande problema do Vale do Silício assim, e de todo esse cenário que se constrói em torno das inteligências artificiais, sobretudo da posição da política, né, que virou uma questão de geopolítica mundial, mas também uma questão dos investidores, é que parece que boa parte das vezes tá todo mundo meio abobalhado, né, com o impacto dessas coisas. Vamos devagar com a dor, porque quem entende do bagulho tá dizendo que não é bem assim. Tempestade para pouco copo d'água.

Ainda bem. A Máquina e Nós: Promessas e Armadilhas da Inteligência Artificial é o título do livro da Tatiana Roque. A publicação é da Todavia, certo?

Todavia, 2026, agora fresquinho.

Michel, um beijo para você, bom fim de semana, até segunda.

Um beijo, até segunda, bom final de semana para gente.

Para você que tá no carro, tem Michel Alcoforado ao vivo às segundas, quartas e sextas, ou Kelly Clarkson here with Wayfair. I know holiday magic starts at home, and Wayfair makes it easy. They have everything from Christmas trees and mantel decor to outdoor lighting and inflatables that I'll use year after year. Head to wayfair.com today.