Ao Vivo na Feira do Livro. O Papa e a IAnticristo

Gregório Duvivier:Boa tarde a todos aqui em São Paulo, na Feira do Livro. Que alegria estar aqui. Essa feira tá o máximo, tá linda, tá lotada, tá, enfim, um monte de coisa incrível acontecendo. Obrigado pelo convite a todos. Desculpem a todos que estão mal sentados, vamos tentar contemplá-los aqui, de vez em quando lembrar que vocês existem, né? Bom, muito obrigado mesmo. Hoje a gente vai falar de um tema que tenho certeza que é o tema que vocês esperam que a gente vai falar, que é o tema que tá todo mundo falando, não é? Que é Encíclica vai tomar pau. É verdade, vai falar dela.

Bruno Torturra:E o pior é que é sério, essa é realmente o nosso tema.

Alessandra Orofino:Eu ganhei finalmente!

Gregório Duvivier:Alessandra, pouca gente sabe, mas ela é RP do Vaticano. Ela tá o tempo todo tentando emplacar uma agenda, para usar um anglicismo, uma agenda pró-Vaticano, sabe? Ela acredita, ela diz, ela tá o tempo todo dizendo: vamos lembrar que os católicos que elegeram Lula, o tempo todo falando disso, puxando uma brasa para sardinha dela. E aí ela conseguiu emplacar na Feira do Livro aqui um elogio à encíclica papal. Quando ela falou disso, falei: não, pelo amor de Deus, Alessandra, então vamos aqui, vai ficar elogiando o Papa numa altura dessas, não é? Até que eu li a encíclica papal, vi com eles, e realmente ela é espetacular. Quem diria que o Papa, o Papa hoje estaria na vanguarda, não é, da modernidade? Será que dá para falar isso? Na verdade, na vanguarda da antemodernidade, ele tá na vanguarda da hoje na luta contra as Big Techs, ou pelo menos o texto dele o coloca nesse lugar, nesse lugar não de ludista, ou seja, não de contra tecnologia, mas contra o uso que o capital faz da tecnologia. Então ele faz uma encíclica papal. Para quem não sabe, eu também não sabia, tal, que era uma encíclica. Uma encíclica é algo que o Papa, ele publica de a cada— não tem uma regularidade, mas diria cada 3 ou 4 anos, ou 5 ou 6. João Paulo II publicou umas 12 encíclicas nos seus 30 anos de papado. E eu acho que o Bento XVI umas 3 ou 4. Algumas ficaram muito famosas. Tem uma encíclica clássica de 1891, se eu não me engano, na época da Revolução Industrial, do outro papa, do outro leão, do Leão XIII. Ou seja, do pai do Leão XIV. Mentira, não é pai não, era tataravô do Leão XIV. É uma encíclica também famosa porque falava contra a desigualdade e tal. E o Bento— perdão, o Papa Francisco fez algumas encíclicas bem famosas, uma delas contra as mudanças climáticas, falando da agência humana nas mudanças climáticas, foi também super importante na época. E agora o Bento XVI, na sua primeira encíclica—

Alessandra Orofino:Bento XVI não, Leão XIV.

Gregório Duvivier:Perdão, Leão XIV, não queria ofender.

Alessandra Orofino:Não confunda seus papas.

Gregório Duvivier:O leão, Papa Leão XIV, nos fez todos, fez com que a gente dissesse: "Gosto muito de você, leãozinho." Afinal, ele resolveu comprar briga com o IA, que foi espetacular e pra mim foi muito surpreendente. Porque, claro, o nosso Papa Francisco já falava muito contra a desigualdade, falava contra a concentração de capital, falou de mudança climática, mas a IA era um tema que eu não tinha visto ainda um papa falar. Um papa falando de IA é algo que me parece meio novo, e sobretudo com a abordagem dele, que é uma abordagem muito humanista. Não vou falar mais porque eles vão falar muito melhor do que eu, mas queria passar a palavra para Alessandra, talvez ela começar dizendo por quê, qual é a desse papa, para começar, tá? Para tentar já nos— você que tá por dentro das disputas do Vaticano, você que é uma insider.

Alessandra Orofino:A pessoa aparecer na minha igreja uma vez por ano, que para esses dois eu sou assim uma beata, eu praticamente sou uma beata, mas você É fervorosa, não acreditem nisso.

Gregório Duvivier:Ela é muito pro Papa. E aí ela vai explicar para a gente. Primeiro, quando eu soube que o Papa ia ser estadunidense, eu fiquei extremamente decepcionado. Não achei que era o momento de ter um Papa norte-americano, né? Achei uma coisa de quinta, na verdade. Quem diria que logo o Papa Francisco— ele foi ungido pelo Papa Francisco, né, antes de morrer, dizem que ele Papa Francisco armou ali para ela ter uma sucessão. Então falei: "Pô, logo um norte-americano, mas ao que parece o cara é legal." Primeiro, Ale, qual é desse papa? Conta pra gente.

Alessandra Orofino:Não sei todos os detalhes, ele está no início do papado dele, então a gente vai descobrir com o tempo. Ele é considerado dentro da Igreja menos posicionado à esquerda da Igreja Católica do que o Papa Francisco, ele é mais centrista. E por isso talvez já logra também com uma parte dos fiéis que tinha sido em algum momento de alienada pelo Papa Francisco, ou que não se identificava com o Papa Francisco. E ele é, de fato, norte-americano, estadunidense. A gente descobriu hoje que ele foi professor de física e de matemática em escola pública nos Estados Unidos, o que é um dado interessante. E ele entende e se interessa muito pela política nos Estados Unidos. Então ele é um Papa que está mostrando uma disposição para se meter na política interna dos Estados Unidos, o que em tempos normais não seria necessariamente nem interessante nem desejável. Acho que num momento em que a gente está vivendo essa situação de um tirano, essencialmente, no poder nos Estados Unidos, querendo reafirmar esse poder imperial dos Estados Unidos sobre outras nações, e essa combinação de poder militar de um tirano com poucas instituições domésticas capazes de mantê-lo minimamente dentro de parâmetros mínimos de democracia, E ao mesmo tempo também as big techs com cada vez mais poder e mais poder concentrado, alinhadas com esse poder político, é interessante que tenha alguém com o poder do Papa que esteja disposto a entrar nessa disputa política interna porque ela passa a ter consequências para a humanidade inteira. Sempre teve, né? Assim, desde que os Estados Unidos se firmaram como uma potência global, o que acontece lá dentro tem consequências para a gente, mas acho que a gente está vivendo um momento de particular incidência política, não só pelas vias tradicionais, a diplomacia, do poderio militar, etc., mas também, sobretudo, por essa concentração extraordinária de recursos, de poderes, de influência na mão de poucas empresas, a enorme maioria delas americanas, norte-americanas. Então ele já se meteu em outros assuntos da política interna americana, ele já falou de pena de morte, condenando a pena de morte, ele já teve ali durante um breve momento uma troca de farpas muito pública com o próprio Donald Trump, e agora ele vai e lança como sua primeira encíclica esse documento de muitas páginas, que vale a pena ser lido, não é um documento muito difícil de ler, e até como texto, a gente está aqui numa feira do livro, ele é interessante e vale discuti-lo também nesse sentido, em que ele vai falar sobre inteligência artificial e fazer algo que acho que a gente vai se aprofundar um pouquinho, que é interessante por várias razões. Mas, para mim, o mais bonito, e a razão pela qual eu de fato sugeri a pauta, não por ser RP do Vaticano, mas porque acho que tem consequências, é que ele faz uma crítica não só econômica da concentração de poder, da concentração, do aumento da desigualdade, etc., que em si já é relevante, mas ele também vai fazer uma crítica do uso que se faz da inteligência artificial como um uso que é desumanizante. Então ele faz uma encíclica que é muito sobre o que é ser ser humano. É uma defesa dessa humanidade. E acho que é especialmente relevante para o momento que a gente está vivendo hoje. Mas vou deixar o Bruno falar um pouquinho também bem do Papa, porque eu vivi para ver esse momento. Então eu preciso ter esse momento em minha vida. E uma vez que isso estiver gravado, documentado para a posteridade, podemos continuar a conversa.

Bruno Torturra:Você sabe que o mundo está acabando mesmo, né?

Alessandra Orofino:É isso.

Bruno Torturra:Eu vou ter que falar bem do Papa. Acho que é um dos sex symbols.

Alessandra Orofino:É o the sex, exatamente.

Bruno Torturra:Na verdade, sim, eu vou falar bem mas também não vou falar tão bem da encíclica, porque tem algumas que eu tive o prazer de ler e depois eu saí meio com gosto agridoce. Mas o que eu acho bem interessante de falar é muito, muito relevante, muito preocupante no fundo, quando talvez uma das lideranças mundiais mais articuladas e assertivas em relação a uma questão existencial para a humanidade, para nossa política, para nossa economia e para nossa nossa alma mesmo, é um Papa e não um chefe de estado de um país economicamente poderoso, influente e tudo mais. É o Papa. E acho que tem algumas questões invertidas aí que são muito interessantes, que é ler uma encíclica que é uma defesa quase secular da humanidade, uma defesa muito mais parecida com os direitos humanos. Mas o que eu acho que é o contraste mais radical É que ele não tá falando, é contra uma indústria, contra mineração, contra exploração de trabalho, que foi algo que é mais comum que o Papa fale, mas é contra uma visão teológica que as big techs estão apresentando. A coisa que eu acho mais distópica nessa história toda, e por isso que o Papa é mais relevante, acho que não é só pelo fato dele ter argumentos mais avançados, e me parece que ele é mais interessado no assunto do que outros presidentes por aí, Mas é porque a conversa está sendo colocada num tom teológico, num tom transcendente, no tom de uma visão espiritual quase, pelos donos dessas big techs. São eles que estão falando em termos que eram quase exclusivos das encíclicas papais mais metafísicas mesmo. São eles que estão prometendo a vida eterna, diga-se, na nuvem, né? Literalmente, tem uma série de analogias possíveis de serem feitas. São eles que estão tentando criar Deus à sua própria imagem. E o que o Papa tenta falar: não, nós somos criados à imagem de Deus. Então tem uma reversão teológica. E o mais interessante é que antes do Papa escrever essa encíclica, eu me pergunto o quanto que ela foi pensada em torno disso, é porque ele estava sendo literalmente chamado de anticristo por dois investidores de inteligência artificial que entendem que conter a inteligência artificial é a ação do anticristo bíblico. Então assim, o Peter Thiel, que é um dos maiores investidores em inteligência artificial e um cara particularmente perigoso, ele tem circulado o mundo dando palestras sobre a visão cristã dele para inteligência artificial. Então, como essa teologia estava sendo propagada, quase que o Papa vem defender um certo território da Igreja novamente e apresentar uma outra visão. Mas tem algo que me incomoda um pouco na encíclica do Papa, que eu acho que é uma missão para o nosso campo e não para o Papa, basicamente, mas que eu acho que é onde a conversa estanca mesmo, que é: os dois lados estão dentro de uma visão baseada numa certa escatologia, num certo fim de mundo, num certo destino grandioso em que o ser humano tem que ser medido sempre em relação a uma ideia de Deus. Sabe? Ou que Deus é a origem do ser humano, ou que ele está se encaminhando para algo divino, que é a visão dos anticristos de verdade. Mas a conversa que eu acho que falta é uma visão um pouco mais material sobre o que está acontecendo, que na encíclica não tem.

Alessandra Orofino:Não, ele faz também. Ele faz uma discussão de poder, de desigualdade, de desigualdade econômica. Ele fala de corpo, de como a inteligência artificial não é inteligência de fato. Ele quase rejeita Ele não chega a rejeitar o termo, acho que porque ele precisa se fazer entender, se ele não falar inteligência artificial não vão saber do que ele tá falando, mas a sensação que dá lendo é que ele não gostaria que a gente estivesse chamando isso de inteligência. Inclusive porque ele vai falar das experiências que a gente tem com o próprio corpo e como isso é parte da nossa maneira de entender o mundo e a máquina não tem isso, mas também o amor e o sentido de responsabilidade, a amizade, ele fala de coisas profundamente humanas, bem pouco transcendentais nesse sentido. Quer dizer, podem ser consideradas transcendentais. E a linguagem meio de direitos humanos não é novidade, tá? Até porque a Declaração de Direitos Humanos tem uma raiz também no cristianismo, em alguma medida, em grande medida. Então não é uma coisa nova pra Igreja Católica.

Gregório Duvivier:Tudo foi o cristianismo, tudo.

Alessandra Orofino:Não, gente, mas é que um monte de coisa foi, um monte de merda também, mas algumas coisas positivas surgiram dali.

Gregório Duvivier:Não, mas eu concordo com você, Alessandra, nesse aspecto. E eu acho que achei muito surpreendente mesmo, você vê em que ponto a gente tá, não é? O Papa, ele é mais laico do que as Big Techs em algum lugar.

Bruno Torturra:Sim, com certeza.

Gregório Duvivier:Aí ele é mais laico, ele mais, ele diz mais assim: olha, gente, vocês são mortais, somos mortais, tá bom? É o Papa que tá nos lembrando disso. Aliás, me lembrou o final do livro bonito do Sérgio Rodrigues, Escrever é Humano, que é sobre escrever em tempos de inteligência artificial, em que ele defende que escrever é humano por causa da mortalidade. O último capítulo é muito bonito, ele fala aqui, não Aqui só entra quem vai morrer. Seria uma caverna dos escritores em que aqui só entra quem vai morrer, não é? E tem algo que define mesmo a profissão do escritor e do artista, do humano de modo geral, que ela é uma luta contra a mortalidade. Logo, a IA jamais vai produzir arte porque não vai morrer. E é algo que o Papa tá alinhado, e o Papa parece estar dizendo isso. A mortalidade é nosso grande, é nosso grande ativo, para usar um termo das Big Techs, é nosso asset. É a mortalidade, é o que faz com que a gente passe uma vida tentando lutar contra ela, né? Como diz o George Drexler, que fez um show lindo semana passada aqui: somos esse animal prodigioso com uma delirante obsessão em perdurar. É isso que nos define como espécie, quase, essa obsessão em perdurar. E a— mas os donos de Big Tech levaram isso além, me parece, não é? Eles estão tão obcecados com a imortalidade que eles criaram de fato algo que parece imortal. A gente leu no passado no Clube de Cultura do Calma um livro que acho que tem tudo a ver com essa discussão, que é o Maniac, do Labattut. E é um livro bonito que ele fala dos primeiros computadores, mas ele fala deles como, como eu acho que é meio uma metonímia assim da tecnologia de modo geral e da busca do século 20 e 21, sobretudo, por uma substituição do homem pela máquina. Começa no computador, né? O Von Neumann era obcecado com isso, odiava o ser humano, assim como a maioria das pessoas que formaram o Vale do Silício. São pessoas que odiavam, que eles têm em comum, que elas odiavam o ser humano. São pessoas mesmo misantropas que odeiam, desprezam o ser humano, talvez por terem sido desprezadas. Então tem um histórico de pessoas excluídas um pouco do jogo social e que em algum lugar criaram um lugar em que um Monte Olimpo no qual eles são hiperpoderosos e imortais. E que criaram uma tecnologia para matar humano deliberadamente. Von Neumann claramente sonhava com a superação do humano. E o Manyak vai falar desse momento em que dessa obsessão desses primeiros inventores do computador, e que me parecem desembocar na inteligência artificial. E tem uma metáfora que a gente chegou no Clube do Livro na época, que eu acho perfeita, que a ideia, que a ideia de que eles são Prometeus ao contrário. Que o Prometeu, na mitologia grega, é aquele que rouba o fogo dos deuses para dar aos homens. Ou seja, não tem herói maior do que ele, né? Tanto é que os deuses o punem por isso, mas ele é alguém que vai roubar o fogo, o fogo sendo símbolo do que é mais divino, do mágico, do encantado, e dá a nós. E a partir do fogo ele faz tanta coisa, da comida à cerâmica, a tanta coisa que a gente criou por causa do fogo, ao barro, laria, tal, é coisa dele. Ele foi punido, os deuses, por causa disso. O que esses homens estão fazendo É justamente roubar o nosso fogo, nossa tecnologia que é mais humana, e entregá-la aos deuses, entregá-las pro não humano, criando um não humano que nos governa hoje, já. Porque nossas decisões, a gente já é mais fraco do que o algoritmo o tempo todo. E o algoritmo tomou esse lugar de Deus, inclusive literalmente, tá? As pessoas falam assim: "Ai, não fala isso que o algoritmo não gosta." Parece uma coisa divina, né? "Não fala isso que é pecado." Então: "E não, não pode postar isso que o algoritmo não vai gostar." O algoritmo já é essa entidade super-humana que nos governa e que a gente não sabe direito o que ela quer, cujos desígnios são misteriosos, porque como Deus, ele age certo por linhas tortas, e você não sabe direito o que o algoritmo quer. E a gente no Porta dos Fundos todo dia vem um novo guru jovem do algoritmo que vem dizer: "Agora o algoritmo está gostando de..." Aí diga o que quiser. Maçonaria. Aí você tem que fazer um vídeo de maçonaria. A gente não faz, tá, no Porta. A gente não segue, não. Mas tem volta e meia essas pessoas que vêm dizer: o que o algoritmo agora está gostando, descobrimos o que ele quer. Igualzinho mesmo um guru.

Bruno Torturra:Saiu uma encíclica nova.

Gregório Duvivier:Saiu uma encíclica. Então ele ocupou cada vez mais esse lugar de Deus, inclusive nas relações humanas, porque antigamente você ia casar, você pedia Santo Antônio e era Deus que unia as pessoas, e o casamento era o casamento, acreditava-se, era justamente, servia para Deus dizer, né, Deus aprovar sua união, e era um escupido, sempre teve uma coisa divina na paixão. Hoje é algoritmo, é o Tinder, é o algoritmo que já define com quem você vai casar, ele que te apresenta o seu amor já. Então até esse lugar afetivo romântico ele ocupa. Então ele ocupa a esfera, todas as esferas da vida humana, mesmo substituindo isso. E isso foi deliberado por seres humanos.

Alessandra Orofino:Mas essa parte final de deliberado por seres humanos é importante, porque tem um salto, né, entre esse algoritmo que já nos governa, que já é essa divindade, e eu concordo É, e a inteligência artificial, que é mais próxima de uma visão do que seria uma visão do divino ainda, porque ela não é compreendida inteiramente nem pelos seus criadores. O algoritmo, a gente viver à mercê do algoritmo é, no fundo, a gente viver à mercê de uma meia dúzia de executivos capitalistas no Vale do Silício. Mas eles têm, ou tinham até recentemente, bastante controle desse algoritmo. A gente tem uma sensação de que é algo insondável e que não pode ser conhecido que um dia quer Maçonaria, outro dia quer Reels de 30 segundos com você pulando de uma perna só, sei lá. Mas eles sabem o que esse algoritmo tá buscando e ele é programado para algo. A inteligência artificial, ela tem uma peculiaridade que até os desenvolvedores que trabalham nela há muitos anos não sabem exatamente como que as informações estão sendo geradas ali dentro. Existe uma quantidade tão grande de micro interações entre diferentes bases de dados e é um nível computacional tão complexo que eles não sabem explicar. Claro que a gente entende os modelos de linguagem no abstrato e certamente pessoas mais técnicas com mais conhecimento do assunto vão entender melhor do que pessoas mais leigas, mas até os seus criadores entendem que ali tem algo que escapa deles. E isso é muito preocupante. E ainda mais parecido com esse lugar tradicional do divino.

Bruno Torturra:E tem uma palavra que um programador, acho que da Anthropic, que saiu do OpenAI e foi pra Anthropic, mas ele deu uma entrevista quando ele saiu falando sobre os riscos e tudo mais, e ele usou uma palavra que acha mais adequada, é uma palavra super religiosa, que ele falou: Que na verdade a gente está conjurando a inteligência artificial. Você não está criando ela, você está chamando ela. Você não sabe exatamente o que virá. Então tem algo de invocação de uma força que você não tem muito controle, mas que tem esse objetivo transcendente mesmo de um mundo que você não conhece. E você falou do Evan Neumann. É muito interessante pensar nesse começo, porque se você for na história da computação original, A inteligência artificial, ela era já o assunto, ela começa por aí. E depois a gente passa décadas sem falar dela, em que vira um mercado, vira uma ferramenta. Mas o objetivo dos caras que idealizaram a máquina, que a computa, ela tinha uma hipótese, na verdade, que os caras estão forçando ela hoje em dia nessa invocação, que é A inteligência e a consciência é só um processo de processamento de dados, é computacional, não é mais do que isso. Então a inteligência, basta você processar dados de maneira ordenada, com uma certa capacidade, que a propriedade emergente disso vai ser uma subjetividade, vai ser um ser, vai ser uma inteligência capaz de produzir. E é nesse sentido que não é só que os caras não gostam do ser humano, que acho que tem uma misantropia Mas é uma visão teológica ultra-racionalista, quer dizer, é o abandono final de uma ideia ética e moral, mas que é muito religiosa, que é: o ser humano é só uma transição em direção à verdadeira inteligência. E acho que é nesse sentido que o Papa intervém, mas de algum jeito a nossa cultura não está conseguindo ter essa clareza ou intervir da mesma forma. Que é tipo, o que os caras estão falando é que a gente é obsoleto e que a ideia de transcendência, todos os mitos que foram criados, eles vão ser realizados de maneira técnica e não de maneira moral. E é isso que o Papa tá reclamando, assim, né?

Alessandra Orofino:Então a gente tá no fundo vivendo realmente um clash de teologias, assim, né? Um embate entre visões teológicas mesmo no mundo. E é por isso que é interessante que seja o Papa, não é porque eu sou RP do Vaticano. Mas não é à toa que é o Papa que fala: "Não, eu preciso me meter nessa história." É, e quem colocou a linguagem cristã e sobretudo da escatologia cristã, a visão apocalíptica no meio da explicação do que tá sendo feito com inteligência artificial não foi o Papa, foram os próprios executivos de Big Techs. É isso, é o Peter Thiel andando pelo mundo falando do anticristo. O representante maior das Big Techs hoje dentro de uma instituição política é o vice-presidente dos Estados Unidos, é o J.D. Vance, que foi colocado lá pelas Big Techs, que teve apoio de financiamento de campanha do próprio Peter Thiel várias vezes, e ele é o católico da administração. Ele é deliberadamente católico, ele se converte ao catolicismo. Então é muito relevante, na verdade, que o Papa entre, não só porque ele de fato é o líder espiritual de um quinto da humanidade, isso tem um poder e uma influência diretamente nas pessoas e como elas pensam, um quinto sendo bastante conservadora na estimativa, mas também porque a linguagem sobre a qual ele tem uma autoridade, em tese, é exatamente a linguagem que está sendo instrumentalizada por esses executivos. Então, eu fico inclusive achando interessante e curioso que esses executivos tenham optado por dialogar nessa linguagem, porque é uma linguagem sobre a qual eles nunca vão ter a autoridade final, né?

Bruno Torturra:Eu não sei. Porque eu acho que alçaram esses caras a essa condição. Isso que é interessante também. Eu tava vindo pra cá, tava pensando: "Que estranho, vim falar do Papa na Feira do Livro e tal, né?" E tem algumas coisas, mas uma é: me parece o que sobrou também pra Igreja Católica e pras igrejas, no fim das contas, que acho que é um processo longo que começou no fim da Idade Média, assim, que é tipo: A burguesia e os proto-capitalistas indo pra cima de um poder que era da Igreja, que era dessa instituição que tinha o governo político, fronteiriço, militar, econômico, fiscal, repressivo e tudo mais. E é um processo longo, tanto do capitalismo quanto do próprio liberalismo, de a gente ir transformando o mundo num espaço secular, num espaço em que a Igreja vai se restringindo às suas áreas teológicas e tudo mais. E o que é interessante é que parece que esse é o último território que sobrava de uma certa visão puramente teológica, que é o do espírito, da consciência, do que significa ser humano nesse espaço intraduzível, né? E eu acho que não é à toa que esses caras foram para esse espaço. Uma, porque a quantidade de poder e de dinheiro que esses caras acumularam É tão descomunal, é tão inédita, que o espaço que sobra mesmo é o espaço do desenho do destino humano.

Alessandra Orofino:Mas o resto eles já fizeram.

Bruno Torturra:Mas outra é o neoliberalismo que criou um bebê de Rosemary próprio lá, que é assim: por que esses caras conseguiam ficar tão e tão ricos? Por algum motivo, os últimos 20 anos Se o cara era bilionário, ele era entrevistado não pelas razões que ele acumulou tanta grana, mas assim: o que que você acha do destino da humanidade? O que que você acha da exploração espacial? Você acha que o trabalho tá indo para onde? Eles foram convidados a falar das coisas gigantescas da humanidade que eram restritas às pessoas em geral que abdicaram de ficar ricas para pensar nisso. Filósofo, teólogo, cientista social, gente que é cientista mesmo. Então assim, a gente passou os últimos 20 anos vendo o Jeff Bezos tendo que falar o que que ele acha da evolução humana no futuro. E não à toa os caras começaram a acreditar nisso. E novamente, e aí tem a ver com a nossa feira aqui, tem muito filme interessante disso. O Adam Curtis, o grande cineasta da BBC, fez um documentário maravilhoso disso, que é o quanto que a literatura que esses caras leram influenciaram profundamente a missão que eles se imaginam no mundo. Como personagens de ficção que eles foram muito formados. Ayn Rand, outros tipos de ficção científica, mas eles foram forjados em uma visão que já partia de uma certa mitologia que estava desde o Van Neumann ao lugar que eles ocuparam quando jovens e que depois a economia alçou eles a esse mesmo espaço.

Alessandra Orofino:Vale lembrar que o Papa cita O Senhor dos Anéis na encíclica.

Bruno Torturra:Ele cita O Senhor dos Anéis em um recado direto para a Palantír.

Alessandra Orofino:A Palantír, cujo nome é É emprestado do léxico do Senhor dos Anéis.

Bruno Torturra:O Palantír é uma, no Senhor dos Anéis, é uma esfera. Os fãs aqui que me perdoem se isso não for especificamente certo, mas é uma esfera que tem o poder de você ver o passado, de você ver o futuro, de você ter uma certa hipervigilância em um objeto mágico que algumas pessoas tinham acesso. Em geral, os personagens mais— o vilão— é sinistros, né, dessa. E aí o Peter Thiel e o Alex Karpis, esses caras todos fundam essa empresa de vigilância, com o nome da esfera do Senhor dos Anéis, que era capaz de tudo ver. Então o Papa manda essa, manda essa indireta para o Peter Thiel, que é o cara que tá falando que ele, Papa, é o anticristo. Então isso que para mim, eu venho para cá, faço: nosso mundo tá acabando mesmo. A gente tá debatendo publicamente com os caras mais ricos do mundo Quem é o anticristo? Pois é. Então esse, então assim, tem uma escatologia em disputa mesmo assim, tem um fim dos tempos, né, que é o que esse cara vende, diga-se de passagem, né. O que que eles estão oferecendo para a humanidade? Fim do trabalho, o fim da morte, o fim das doenças, né, e a criação de uma super consciência que vai elevar todo mundo que quando ela for criada vai estar vivo. É o mito do arrebatamento, é basicamente revelações assim, né? O mundo material deixa de ser o mundo do sofrimento e vamos todos para o reino da nuvem a uma mensalidade módica de 29,90 por mês, né? Se você não for de um grupo terrorista, né? Aí realmente aí foi complicado.

Gregório Duvivier:Porque a Alessandra falou uma coisa que faz sentido o que ela disse, claro, sempre, mas que também é importante lembrar de uma ressalva, que ela diz que o Papa fala de Deus no lugar de autoridade que eles não vão ter, porque ele, a religião dele, tem um quinto da população, você falou, né, mano, que acredita naquilo e acredita que ele é o representante de Deus. Mas tem uma outra religião, que é o capitalismo, que segundo a qual o Elon Musk é a maior autoridade, ele é o papa, e o Peter Thiel é o cardeal, e o outro, eles são imbuídos de uma autoridade divina que o capitalismo lhes deu, porque o capitalismo é essa fé que coloca no capitalista a razão. Ele tem a razão por ter acumulado capital, ele é bom por ter acumulado capital, e se ele acumulou um capital infinito, ele é infinitamente bom. Como quem? Como Deus. O lugar que eles falam é um lugar ungido, que no realismo capitalista usa um gil como esse lugar, essas pessoas divinas. Tanto é que a ele tudo é possível, e realmente é. Ele dispõe de corpos humanos quantos quiserem, ele tem 30, 40 filhos, o Elon Musk, ele vai tendo por todas as gerações. É mitológico, é Lógico, é feito Zeus fazer. Ele, Zeus, que desce a terra. Zeus encontrava certa oposição, né, eventualmente. E o Elon Musk não encontra. Ele fala para as pessoas da empresa dele, Elon Musk, quando você quer ter um filho com você porque você tem uma boa genética, ele diz isso para funcionárias. E tem diversos filhos assim, porque ele olhou para a pessoa e as ungiu para serem depositárias do seu, da sua carga genética, ou chame como quiser. Eu ia ser um pouco mais grosseiro. Grosseiro. Mas o fato é que ele tem essa disposição que é meio divina mesmo. Então eu entendo o que você diz, o Papa tem uma autoridade do cristianismo, mas o outro tem a autoridade do capitalismo, que não funcionaria, eu acho, sem esse caráter divino dele. Porque senão a gente iria decapitá-lo, a gente, sei lá, faria, né? A gente só aceita, não a gente aqui, nós aqui, mas o mundo aceita porque acredita que existe uma razão divina.

Alessandra Orofino:Eu acho que é mais divino inclusive do que isso. Eu acho que a aceitação ela se Ela se dá por uma sensação de inevitabilidade, que é uma visão quase dogmática do assunto, também religiosa, mas de uma outra forma. Eu concordo com a sua leitura, mas eu iria além. Acho que aí, trazendo até para mim, e imagino que para muitos de vocês, a gente observa essas coisas acontecendo e a sensação que eu tenho é: "Não tem nada que possa ser feito. É isso aí, eles estão fazendo isso aí e a gente está aqui falando sobre isso, mas é isso que está acontecendo." É claro que o meu lado, né, de de organização política, de pensar como é que a gente se mobiliza, sabe que isso não é verdade e que nos manter nessa sensação de impotência é parte do jogo e que se a gente aceita isso, a gente de fato fica impotente. No entanto, é inegável que existe um poder tão grande, tão consolidado e tão, nesse momento, avesso e capaz de se isolar dos instrumentos tradicionais de controle do poder as instituições políticas, a própria opinião pública, que é ela própria manipulada pelo algoritmo, que a sensação que se tem é essa, é de algo escrito, é de algo que por estar escrito está se realizando. Então, uma visão realmente escatológica do que vai acontecer daqui para frente. Claro que tem uma parte da opinião pública, da imprensa, da própria sociedade que está embevecida de admiração por essas figuras e elas estão sendo tratadas como grandes figuras e grandes estadistas. E é isso, você fica perguntando para uma pessoa sobre ganhar dinheiro, não sobre como é que você ganhou esse dinheiro, e sim sobre o que deveria ser feito com, sei lá, malária, coisas que não são da expertise dessa pessoa. Então isso existe também e a gente já falou várias vezes sobre essa fabricação da admiração pelo bilionário e não a raiva do bilionário. E a ostentação como virtude, todas essas coisas. Isso existe, isso é parte do jogo, isso é parte da linguagem. Mas eu tenho uma sensação de que não é a parte mais importante. A parte mais importante é uma sensação de impotência, de não tem nada pra ser feito aqui. A gente vai ter que aceitar porque não tem outra opção. E aí, Bruno? Tem opção?

Bruno Torturra:É pra mim essa pergunta?

Alessandra Orofino:Eu inventei que vai ser pra você.

Bruno Torturra:Credo! Eles fazem isso muito comigo, eles não sabem como terminar a frase. E aí, Bruno?

Alessandra Orofino:E aí, Bruno?

Bruno Torturra:Conclui o meu pensamento, por favor. Não, eu me recuso.

Alessandra Orofino:Por favor.

Bruno Torturra:Pergunta pro Clodi, sei lá.

Alessandra Orofino:Greg, tem opção?

Gregório Duvivier:Não.

Alessandra Orofino:A cara do Gregório.

Bruno Torturra:Eu acho que tem, eu não tenho clareza disso, acho que é o desafio geracional, assim, né? O que fazer? O que fazer pra sair do realismo capitalista e o que fazer pra uma coisa pior ainda, que é o fatalismo capitalista, né? Não é nem mais o realismo. Não é nem mais que outro mundo não é possível, é que o fim do mundo é inevitável, né? Assim, que a gente tá, a gente tá no próprio, na própria automação da história, né? A gente também fala disso no outro canal, mas eu acho que aqui é mais relevante ainda. Assim, a gente tem esse meme, né, do Francis Fukuyama, que falou muito cedo nos anos 90 que era o fim da história, né? Porque o socialismo acabou, agora é isso que tem, a democracia liberal, agora vamos em frente, e esse é o jogo. Ele já reviu essa opinião dele, acho que é injusto atacar só em cima dele, mas a história seguiu vivíssima nos próximos 30 anos. Mas o que tem não parece que é o fim da história, mas é o fim de uma certa agência humana na história, de que parece que o capital tomou um poder mais imanente, mais algorítmico, mais digital, menos material e mais cognitivo, que parece que a gente agora é um monte de NPC, um monte de jogador que não que não joga, um monte de figurante em um certo jogo. E eu acho que tem uma observação que eu queria fazer sobre inteligência artificial que eu acho especialmente relevante para cá. E acho que não é o que fazer, mas a pista eu acho que está nesse espaço. Você falou do Sérgio Rodrigues, que escreveu um livro muito interessante. A gente vê muitas pessoas expressando isso com muita frequência, que a inteligência artificial ela não vai substituir. O escritor, o autor, o artista, o músico, que tem algo da expressão humana que é diferente, que é genuíno, que vem de uma urgência, que vem do corpo, que vem da imortalidade. Mas se a gente for ver bem o que esse mecanismo digital é, ele não é uma máquina de escrever automática. Ele é, antes de tudo, uma máquina de ler. Ele é o maior leitor do mundo. Ele lê tudo que está disponível. É isso que eles chamam de treinamento. Então eles veem todas as imagens, leem todos os textos, desde a Ilíada ao nosso Zap, né? Eles leem bula de remédio e leem Eneida no mesmo minuto, né? E eu acho que enquanto a gente obcecar na inteligência artificial como autor, de algum jeito a gente está projetando a nossa própria obsessão com a autoralidade, com o narcisismo. Quer dizer, é o artista que é o importante e não o leitor, não o público, não o alvo da arte. E acho que tem um conformismo muito estranho que a gente precisa sair dele, que não é de parar de usar inteligência artificial para escrever os nossos textos, mas parar de usar ela para processar o nosso mundo, para oferecer o resumo dessas coisas, porque isso não é mais o algoritmo exatamente trabalhando. Mas é a gente pisar numa— é a gente aumentar a nossa falta de agência no processo todo, entendeu? Que é terceirizar a leitura, a observação, a análise para uma máquina que faz isso diariamente. E o modelo de negócio que os caras estão imaginando para o futuro é muito baseado nisso, é muito baseado basicamente em passividade cognitiva. Esse é o fim que eles estão imaginando para o nosso trabalho. Não é automação do trabalho chato, mas é automação do trabalho criativo.

Gregório Duvivier:É algo que a gente vai falar cada vez mais. E a gente está na Feira do Livro, então é muito bom você ter trazido isso, esse assunto leitura. Eu queria falar aqui da Natália Biucci. Desculpa trazer de novo esse assunto. Eu sou meio obcecado. Natália Biucci, colunista da Folha.

Bruno Torturra:A gente já fez esse podcast.

Gregório Duvivier:Não sei, mas eu só quero falar uma coisa porque tá diretamente ligado aqui, tá diretamente ligado. Que a Natália falou uma coisa que eu acho que tem tudo a ver com sedentarismo cognitivo. Ela disse que ela usava a coluna, a IA na coluna da Folha, porque ela não tinha tempo de escrever. Pressupondo que os leitores sim têm tempo de lê-la, né? Que me lembra um pouco gente que manda áudio e fala: "Vou mandar áudio aqui que é mais rápido." "Sim, pra você de mandar. É mais lento pra mim de ouvir, mas tudo bem." E é meio isso que ela faz. "Deixa eu escrever com 'ya', que é mais rápido." Sim, é, mas se você não parou pra escrever, por que alguém tem que parar pra te ler? E eu acho que isso aí tem um pouco a ver com o mundo, o sedentarismo, que faz com que talvez de fato as pessoas estejam lendo. Quem lê a coluna dela, não sei se alguém lê, imagino que leia, deve ler por "ya". O que é um paradoxo, porque ela tá escrevendo por "ya" pra pessoas lerem com "ya". Então os IAs tão conversando. Isso tá acontecendo cada vez mais, inclusive. Parece que tem apps, tipo Tinder e tal, que na verdade você bota um robô que leu o seu perfil pra conversar com outro robô que leu o perfil da pessoa com quem você vai se encontrar. E eles têm um pré-date pra ver se dá match. E isso já existe, tá?

Bruno Torturra:Nossa, que tara específica essa!

Gregório Duvivier:Isso já existe. Já existe. Você bota robôs pra terem date por você. Então é um sedentarismo inclusive amoroso, afetivo, sedentarismo, não sei como é que você vai chamar isso, romântico, sexual, sedentarismo de todas as espécies, em que a gente tá de fato terceirizando inclusive isso. E a leitura é a primeira coisa a ser terceirizada, não é? As pessoas de fato, elas jogam imediatamente uma coisa no ChatGPT, o que é especialmente curioso se a coisa tivesse sido escrita no ChatGPT. Tem um meme, não sei se vocês viram, que é assim: ah, o ChatGPT é maravilhoso, eu escrevi duas linhas e ele transformou no e-mail de 3 páginas para o meu chefe. E o quadrinho o chefe falando: "ChatGPT é maravilhoso, recebeu um e-mail de 3 páginas e transformou em 2 linhas." Então ele tá fazendo, desfazendo um trabalho, não é, que era no fundo era desnecessário. Ele tá criando um problema, tá resolvendo um problema que ele criou.

Bruno Torturra:Basicamente é muito interessante você falar isso porque parece que, acho que um dos religiosos que difundiram essa encíclica do Papa aqui no Brasil Ele pediu para os fiéis não jogarem a encíclica na inteligência artificial para fazer resumo. Sério? Ele pediu. Que maravilha. Ele falou assim: não façam isso que vai ficar um pouco ridículo. Tipo, lê ou não lê, mas não joga na IA. Então teve essa ironia que você tá falando.

Alessandra Orofino:Eu quero... Socorro! Não, é muita coisa.

Bruno Torturra:É porque você é entusiasta de IA também.

Alessandra Orofino:Não, é que eu acho que tem um dilema aí, tá? Tem um paradoxo mesmo, porque Quando você descreve uma máquina que pode ler tudo, eu sempre gostei de ler e acho que estamos aqui entre pessoas que gostam de ler. E tem uma angústia que, para mim, foi uma angústia que acho que me bateu, sei lá, na minha adolescência, mas que imagino que seja comum, que eu não acho que tenha nada de muito extraordinário nisso, que é quando você se dá conta de que tem tanta coisa que já foi escrita e que será escrita e que você não vai ler tudo. Que não tem nenhuma vida que seja— a vida não dá conta de ler tudo isso que já foi escrito. E você olha para aquela biblioteca enorme e fala: "Meu Deus, nunca vai acabar, eu nunca vou conseguir." Então, quando você me descreve isso, Bruno, uma máquina que pode ler tudo que já foi escrito, eu olho para isso e falo: "Ai, eu quero essa máquina!" Eu entendo o encantamento com essa capacidade de processamento de informação e de coisas, de te trazer, porque tem algo de mágico mesmo em imaginar que esse corpo de conhecimento, que é muito maior do que cada um de nós individualmente é capaz de processar, se torna talvez um pouquinho mais acessível. E eu sinto que isso vai ter de fato utilidade. O que me preocupa não é a falta de utilidade da inteligência artificial, porque eu acho que útil ela já é e continuará sendo. E se a nossa discussão for ser sobre utilidade, eu acho que ela é menos interessante. O que eu sinto é que tem duas coisas muito diferentes. Uma coisa é querer saber o que está escrito num livro, em linhas gerais. Outra coisa é passar pelo processo de lê-lo. E as duas coisas têm seu papel. Tem momentos que eu vejo que você só queira saber o que está escrito na encíclica do Papa, que tem muitas e muitas páginas, em linhas gerais. E você quer, de fato, o resumo. O resumo já existia antes da inteligência artificial e ele já tinha utilidade. Ter o fichamento, o "me dá só o essencial disso daqui". Isso é útil às vezes. Isso não é um substituto, substituto não é nem a palavra, isso não é a mesma coisa, não tem nada a ver no fundo com o processo de ler. Porque ler uma coisa do início ao fim é entrar num processo junto com aquele autor, é viver uma jornada. E acho que parte dessa ansiedade conclusiva do "eu preciso saber do que isso fala" tem a ver com a nossa obsessão com produtividade e com o resultado e não com o processo. E a gente vendeu isso muito antes da inteligência artificial. A escola é assim, é estruturada assim. Não é sobre te guiar num processo de leitura, com exceções, tem professores maravilhosos. A escola, eu digo, a sua formação quase militar, né? Não tô falando dos educadores que, apesar desses limites e das provas e das avaliações cada vez mais desumanizadas e desumanizantes, encontram caminhos para levar os seus alunos para um processo. Por favor. Mas a gente foi criando uma série de maneiras de avaliar tanto os educadores quanto quem é educado, né, quanto os alunos. Em outros momentos, no mercado de trabalho, em vários lugares, a gente foi criando maneiras de valorizar o processo. Aí falando só da leitura, que tem muito mais a ver com o resultado, você entendeu o que estava escrito aqui, você sabe me dizer, você sabe responder essas 4 perguntas de múltipla escolha, do que a gostosura do processo de ler. Tem um tanto também nessa discussão sobre a IA desumanizante que diz muito sobre o quanto a gente já estava se desumanizando. Porque ela só não substitui, ou ela só de fato substitui as funções que os homens estavam executando como máquinas. Aquilo que a gente executa como pessoa, ela tem muito mais dificuldade de substituir.

Gregório Duvivier:Tá, tem muita coisa a dizer também, mas eu concordo muito com você em alguns aspectos. Eu acho que existe, mas em outros não. Eu acho que existe um mito que aliás ferrou muito a nossa cabeça, da nossa geração, nos anos 2000 e poucos, que foi Matrix. No Matrix, vocês se lembram como é que se aprende coisas? Como é que o Neo vira um super-homem? Através de um download. Aquilo ali era para mim o símbolo de um pensamento dos anos 2000, de uma utopia futurista na qual se entraria numa coisa, ele bota um chip aqui e ele aprende kung fu, e ele aprende todas as línguas do mundo, e ele aprende tudo através de um chip que baixa. Eu lembro de adolescente, ficar assim: meu Deus, é isso assim, eu não vou precisar, porque eu tava aprendendo tocar guitarra e é insuportável dolorido você aprender um instrumento. Aprender uma língua nova é dolorido, que você vai demorar e vai ser dolorido no seu corpo. E ler livros vistos também é uma coisa dolorida, não saber as coisas. E de repente eles propõem uma panaceia para todos os problemas da humanidade, aliás, você aprender tudo através de um download. Mas tem algo ali que é uma utopia péssima e que não revela, e ela erra a essência do aprendizado, que tá no tempo, que não existe aprendizado fora do tempo. E não existe leitura fora do tempo. A leitura, como você bem falou, é uma experiência corporal. Ela não tem a ver com aquisição de conteúdo. Ela tem a ver com um processo emocional que não existe fora do tempo. Não há download possível para leitura. Não há. E quem acha que há não entendeu o que é ler. E tem uma coisa que me incomoda profundamente, que é essa ideia de que você vai pegar o que um texto tem. Você não pega o que ele tem porque ele também é forma. E tem uma coisa que só quem— e a prova disso é quando você gosta de um livro, você retarda o final da leitura. Você lê devagar, não porque tá chato, mas porque tá gostoso. E você tantricamente prolonga aquelas últimas páginas. E só quem gosta de ler sabe o que é isso. Uma pessoa que usa inteligência artificial nunca vai entender o que que é prolongar o fim do livro, demorar, ler as últimas páginas demoradamente, porque você não quer que aquilo termine, não vai entender, porque não é, não é, não é um desejo você não ler para chegar no final, gente, pelo amor de Deus.

Alessandra Orofino:Depois de terminar de ler, querer ler sobre o livro, depois falar com as pessoas sobre o livro.

Gregório Duvivier:Total. Mas o que eu acho que você falou também, aonde eu discordo, é na questão de que a IA vai substituir o que o ser humano fazia como uma máquina, porque eu acho que até para ser máquina o ser humano é melhor. Não tem nada que me irrita mais do que ter que lidar com máquinas fazendo coisas que eram consideradas maquinárias, mas que não são, porque a IA não entende. Então as pessoas reclamavam de telemarketing: "Eu acho muito melhor uma atendente do que... Eu não suporto falar com robô, eu não suporto, porque o robô é burro, o robô ele é insuportável, ele não entende o básico, ele faz você dar voltas e voltas, ele é estúpido." E todo mundo já teve que lidar com robô, sentiu uma saudade enorme da pessoa, do ser humano, fazendo uma função que era burocrática, mas que era muito melhor exercida por um ser humano. Porque o robô justamente não entende as especificidades, ele não entende o tom de voz, ele não entende o que tem de humano ali por trás. E não tem nada que nos enlouqueça, pelo menos que a mim, me enlouqueça mais do que a interface robótica. Então até pra funções burocráticas, eu acho que o ser humano exercia melhor, eu tenho a impressão, do que a máquina. Pra mim, pelo menos, é enlouquecedor. Inclusive tem uma coisa que acontece muito, não sei se é uma coisa muito no Brasil, Mas eu não sei como é fora, então não sei como é essa discussão. Mas sempre que automatiza um processo, deixa uma pessoa do lado ali te ensinando a usar. O guichê tem sempre isso. Eu adoro, não tem mais, no Rio de Janeiro pelo menos tem, nos estacionamentos tem, agora é automático, não tem mais uma pessoa no guichê que te dá a coisa, é um botão que você aperta. Mas não dá pra alcançar o botão, então fica uma pessoa pegando o papel e dando pra você no carro. Então a máquina, o ser humano ele virou um garçom da máquina.

Bruno Torturra:Autopagamento também, que no supermercado tem sempre uma pessoa meio vendo se você não tá enfiando na sacola sem passar a língua.

Gregório Duvivier:Tem uma pessoa vigiando o autoguichê ou te ensinando a usar o autoguichê. Então as pessoas estão ensinando você a usar a máquina que teoricamente estaria lá para substituí-la. Então eu acho que quase sempre é algo que nos dá mais trabalho. Como dizia meu avô: preguiçoso trabalha dobrado. Isso pra mim vale pro IA também. Se você: "Ah não, porque é mais rápido de ver um texto de IA." Porque você não tá lendo ele depois, você não tá checando, porque senão vai dar mais trabalho. Se eu pedir alguma coisa pra IA, eu vou ficar tão nervoso, ela tá falando merda, que eu vou ter que ler, checar, e eu vou estar virando um assistente de IA. E é o que as pessoas são volta e meia. As pessoas pedem pra IA e depois ficam relendo e reescrevendo. Você tá trabalhando pra ela e a pessoa não percebe isso. Ela tá tendo o dobro do trabalho. Então, né, desculpa ser meio ludista, mas eu concordo com você. Mas nessa questão, eu tenho muita saudade do ser humano.

Bruno Torturra:E em defesa dos eluditas, que eu tenho uma raiva de como esse termo ele é usado pejorativamente, ah, você é um eludita, como se fosse apego ao passado ou anti-tecnologia. Queria fazer uma defesa dos eluditas originais, que eles não eram de modo algum anti-tecnologia ou anti-avanços que facilitem a vida das pessoas. Se você for ver nos textos e no movimento ludita, quando ele aparece, ele é o reconhecimento de que as máquinas, o problema não é que elas existiam, é que elas tinham donos e eram poucos donos. Que era na hora em que se cria uma máquina que é capaz de aumentar a produtividade, ou seja, meios de produção, e eles são de poucas pessoas, eles não estavam com medo de perder o emprego, eles estavam com medo de perder poder, na verdade.

Alessandra Orofino:A concentração de riqueza.

Bruno Torturra:De perder poder.

Alessandra Orofino:E de poder.

Bruno Torturra:E ia perder a capacidade e o valor que eles tinham em um processo produtivo. Então muitas das demandas do movimento original, que eles arrebentavam máquinas, era para falar: elas têm que ser nossas, elas têm que ser públicas, tem que ter uma outra regra. É mais ou menos isso que o Papa e muita gente está falando em relação à inteligência artificial. E é muito interessante pensar na encíclica que ele cita quando lança essa encíclica, que é uma outra encíclica que foi muito importante, que é o Leo XIII, o sucessor do Bento.

Alessandra Orofino:Que o Gregório mencionou no início.

Bruno Torturra:Ele lançou na Revolução Industrial, que era exatamente, estava aparecendo uma tecnologia que ia reconfigurar não simplesmente o trabalho, as relações econômicas, mas o sentido de valor que o ser humano dava a si mesmo, que é se definir através do trabalho. E hoje a tecnologia, ela entra em áreas muito mais profundas do que a produtividade, meio que pura e simplesmente. São nessas áreas relacionais que é. E quando eu falo que a máquina lê, e o que me preocupa, eu não tô preocupado que ela vai ler Cervantes e me resumir o Quixote ou acabar com o prazer que a gente tem de ler um baita romance. Eu tô falando de coisa bem mais básica mesmo, de pegar o guia de insetos para ver se aquele ali pica ou não pica, entendeu? É tipo, para você pesquisar o que você precisa saber em relação ao remédio que você toma, ao caminho que você vai tomar para ir para um lugar, entendeu? O que fazer numa cidade que você chega. Que é uma leitura muito mais cotidiana, mas muito mais ativa dessas coisas. E o que tá na encíclica, que eu acho que tá acontecendo, é que sem perceber, mesmo sem usar chatbot para terapia ou para namorar, que são exemplos mais óbvios assim, mas o que a gente tá fazendo é a gente está estabelecendo uma relação com uma máquina que simula humanidade, sabe? Essa simulação, por enquanto, ela é principalmente baseada em texto. Em leitura, escrita, produção de texto, produção de— e a leitura. Mas a simulação que se produz no final é de um relacionamento com uma máquina que cria intimidade, cria hábito, cria novas formas da gente pensar e da gente pesquisar coisas.

Gregório Duvivier:E só uma última ressalva: a gente volta e meia trata como burocráticas, ou pior, despolitizadas, tarefas que eu não considero que sejam. E eu Por exemplo, o resumo. Eu não acho que o resumo seja isento de agência. Não tem nada mais político do que a maneira que você resume um texto. Mas o indexamento, né, ou indexação, perdão. Tem um livro, aliás, ótimo, Index, a história do índex, acho que pela Fósforo. E outro que é o Como Organizar uma Biblioteca, mais bonito ainda, Roberto Calasso, que ele narra, é lindo, é um livro só sobre maneiras possíveis de organizar uma biblioteca. Por afeto, por obras queridas, obras afins, obras que se odeiam. Você pode botar um autor para conversar com outro. Existem mil maneiras poéticas, práticas, não há até hoje uma verdade absoluta sobre a maneira mais eficiente de se organizar uma biblioteca, porque não há eficiência quando você está falando de organização de uma biblioteca. Quando a gente bota a máquina para organizar o saber, ela não vai achar a maneira mais eficiente, primeiro porque não há, segundo porque cada um tem uma maneira, terceiro porque ela vai estar fazendo a melhor parte da leitura, que é também essa organização, porque ler é também organizar a biblioteca mental. Então, quando a gente terceiriza a parte chata, a gente acaba perdendo a melhor parte. E no caso da literatura, sobretudo. E eu acho que a gente volta e meia trata— e eu sei que não era isso que você estava falando, Lê, pelo amor de Deus— mas eu sei que as pessoas volta e meia falam, elas acreditam nisso, que existem algumas atividades políticas e outras não. Existem algumas atividades criativas e outras não, isso que eu quero dizer. Como se a organização da biblioteca não fosse criativa. "Ela foi só burocrática, deixa ela." E não vou nem falar da importância de você ter uma pessoa humana na burocracia. Quantas pessoas foram salvas na Segunda Guerra por causa de um burocrata, né? Que viu aquilo ali e que falou "Eita, viu a criança no colo da pessoa" e fingiu que não viu e anotou outra coisa, né? Quantos burocratas salvaram milhões de vidas por serem um ser humano. Não maravilhoso, não incrível, mas apenas humano. E coisa que o robô nunca saberá ser. Então, eu acho que a gente tem que lembrar que tudo que o humano faz é humano.

Alessandra Orofino:É ridículo, mas... Claro. Não, mas não é ridículo. No entanto, sim, tudo que o ser humano faz vai ter uma parte de humano ali, porque tem um ser humano fazendo. Mas a gente passa, sim, por um processo de desumanização que tem também a ver com limitação da agência. O exemplo da pessoa no call center, ele é muito interessante. Que é, por um lado, é melhor do que uma máquina, porque você está falando com uma pessoa e é menos enlouquecedor. Eu compartilho da experiência. Por outro lado, É muito humilhante para ambas as partes nessa relação quando você tem alguém numa posição de atender um outro, né, que em geral é um consumidor nessa experiência do call center, então atender o consumidor, que na verdade não tem nenhum poder de agência naquela relação. Então uma pessoa que tá ali supostamente como pessoa, mas cuja humanidade também lhe é negada na própria relação de trabalho. Não só porque ela tá muitas vezes num ambiente de trabalho muito ruim e desumano em vários sentidos, sem intervalo, sem poder beber água, sem poder ir ao banheiro, darará, sendo mal pago do outro lado do mundo, mas também porque no fundo os problemas que as pessoas estão trazendo pra essa outra pessoa são irresolvíveis por ela. Ela não pode tomar decisão e é nesse sentido que eu acho que ela se assemelha com uma máquina, porque o mais complicado da inteligência artificial hoje o mais complicado, é muito difícil dizer o que é o mais complicado. Mas uma outra complicação é que a gente tem, a gente está colocando máquinas em processos, muitas vezes em posição de tomada de decisão ou de criação dos anteparos que vão servir de subsídio para uma tomada de decisão, o resumo, a resposta final, a indexação, tudo isso ajuda a tomada de decisão, mas a gente está colocando algo que não tem responsabilidade. Inclusive jurídica, assim, né? A decisão tomada pela máquina, ela é a decisão perfeita, porque ela é uma decisão que não foi tomada por ninguém e ao mesmo tempo ela foi tomada por alguém. Ela é executada no mundo de forma estranhamente não passional. Dando o exemplo da Segunda Guerra, se não fossem burocratas, se fossem máquinas, seria muito mais difícil condenar alguém no processo. Você de alguma maneira... E a defesa que muitos desses burocratas usaram para tentar se salvar de qualquer tipo de condenação foi que eles eram máquinas. "Eu estava ali cumprindo ordem, eu não tinha nenhum tipo de agência, eu não podia tomar uma decisão contrária." O que só não é verdade porque eles são pessoas. Mas à medida em que a gente vai introduzindo as máquinas ali, a gente gera um outro problema. Então, eu acho que a gente não pode ignorar essa parte de desumanização porque ela vai criando condições para as máquinas nos substituírem não de maneira menos política ou menos perigosa, De maneira mais perigosa, mas mais fácil também. E aí me lembra um outro aspecto que também tem a ver com o tema religioso e com uma palavra muito usada em contextos religiosos, que é a palavra mistério. O mistério, né, como uma parte importante da vida. Tem um outro aspecto da inteligência artificial que me fascina, que é o fim do mistério. É demandado da pessoa. Porque para que a inteligência artificial possa servir para alguma coisa, no contexto, em vários contextos, desde um uso mais individual, ou talvez esse uso do Tinder, do seu chatbot do Tinder que vai fazer um date com outro chatbot, até um uso mais empresarial, até um uso num governo ou numa grande empresa que já tem quase uma estrutura burocrática de governo, para que ela possa servir para alguma coisa, ela precisa saber tudo que há que pode ser sabido sobre aquilo. Então, o que eu vejo, sobretudo numa geração mais jovem, que já está começando a se entender subjetivamente com inteligência artificial, e eu tenho observado isso muito nas minhas interações com o pessoal uns 10 anos, 15 anos mais novo do que eu, é que já existe um esforço por parte dessa geração de se fazer conhecer pela máquina. A máquina precisa saber tudo sobre mim. Ela precisa saber quem é meu pai, quem é minha mãe, o que eu gosto, o que eu não gosto, o nome do meu pet, como que eu escrevo, qual que é o meu tom, se eu gosto ou não gosto dessa matéria. Porque quanto mais ela sabe, quanto mais eu organizo quem eu sou de uma maneira que é inteligível pela máquina, mais ela vai gerar resultados que atendem às minhas especificidades. Então, a gente está se formatando em bases de dados, se auto-formatando. É isso que as plataformas voltadas para o consumidor, que são essas que a gente está usando, então, Claude, ChatGPT, etc., fazem quando elas te pedem para configurar aquele sistema, dar as suas instruções, explicar as palavras que você quer, as palavras que você não quer, como você quer que aquilo seja. Ela está te conhecendo. Em alguma medida, quanto mais ela te conhece, mais vantagem competitiva nesse mundo obcecado com produtividade e competitividade você ganha. E o fim do mistério me preocupa demais. Sem falar do aspecto que você trouxe, Greg, que eu concordo. É evidente que essas decisões da própria máquina são elas mesmas políticas. E a gente vai começar a tomar, já está tomando decisões de alvo de guerra, de, enfim, né, das políticas públicas que afetam milhões de pessoas com base em input da máquina, que ao mesmo tempo é desresponsabilizada e profundamente política. A gente não tem uma resposta para isso porque a gente não tem uma maneira de responsabilizar uma máquina, não tem nada que esteja no léxico tanto punitivo quanto restaurativo, todos os léxicos de justiça que a gente criou, dos "Os mais, vou te colocar na cadeia." Aos mais restaurativos: "Vamos entender o que aconteceu aqui, vamos entender o que pode ser reparado, como que você pode reparar essa vítima ou a família dela." Nenhum desses léxicos é apropriado pra uma máquina. Você não prende o Claude, você também não pede pra ele, sei lá, resolver o problema que ele criou. Então é uma impossibilidade de responsabilização que também me preocupa muito e que também tem a ver com com aspecto transcendental e religioso, porque esse também é uma função da moral religiosa na sociedade, né? Que é criar essas possibilidades de responsabilização e, no caso do cristianismo, mas não apenas, de penitência, de arrependimento e de reparação.

Bruno Torturra:É, mas aí vem o meu problema com o Papa. Vamos falar que é o—

Alessandra Orofino:Por que vem o problema com o Papa?

Bruno Torturra:Não, porque assim, ao mesmo tempo que eu acho que é significativo e desesperador ver, né, a disputa do anticristo assim na home do UOL. Eu falo, não é possível, cara, que a gente tá nesse debate. Mas ao mesmo tempo eles estão lidando dentro de um, dentro do mesmo arcabouço assim, quer dizer, estão todos colocando o ser humano em referência a Deus, a uma narrativa grandiosa, uma narrativa transcendente, é uma questão metafísica. Então, de um lado, o Papa tá falando: o ser humano é criado à imagem e semelhança de Deus. Então assim, não é pouca coisa, né? Bem assim, se acha bastante, né? Então colocou lá. Os outros falam: não, a gente tá criando Deus à nossa imagem e semelhança. Aí, de poucos homens assim, de 4, 5 caras que estão criando, que eles acham que Deus vai existir. Mas a análise que eu acho que falta da encíclica, e na maneira como a gente tá conversando disso, acho que ela tá emergindo com muita força, mas que é a verdadeira Torre de Babel enfiada nesse negócio todo, que é o modelo econômico e o próprio capitalismo, entendeu? Que essa conversa deixa de ser transcendente a hora que você lembra de algo mais inquestionável do que tudo, que nem o Papa questiona de maneira frontal. Ele fala sobre exploração, sobre poder, mas ele não fala sobre a finalidade final disso e do tamanho do volume de capital que isso gera, que é a verdadeira força imanente que o Greg falou falou agora pouco, né, que o capitalismo é a força que colocou esses caras numa posição divina. E o capitalismo é o sistema operacional dessa inteligência artificial. Então tem um aspecto teológico imanente, tem uma sede mitológica que tá sendo, que tá sendo matada com essa, essa conversa toda. Mas o Papa, ele, ele vai na doutrina social, ele fala do do sofrimento material, mas ele não entra na teologia da libertação mesmo, né? Ele não chega e fala que o problema é o modelo de produção e de reprodução de lucro que tá baseando tudo isso, que a Torre de Babel que ele teme ser criada com inteligência artificial, ela já foi criada, ela já tá instalada nessa linguagem que ninguém fala, que é a lógica do próprio capital que tá operando esses algoritmos.

Alessandra Orofino:Ele certamente não fala com essas palavras. Não.

Bruno Torturra:Mas eu acho, talvez não seja papel dele mesmo, né? Mas eu acho que a fronteira de questionamento disso não é tanto no nosso hábito, mas do questionamento do verdadeiro sistema operacional que não é digital, que ele é sobretudo econômico e psicológico. Mas é isso, o Papa é o único chefe de Estado que tá tentando chegar no âmago disso.

Alessandra Orofino:É, ele é o único que tá falando assim: todas as pessoas têm dignidade porque elas são pessoas humanas, elas são dignas Por isso. E a gente precisa salvaguardar essa dignidade primeiro. Isso independe de trabalho, isso independe de outras maneiras que a gente criou de conferir dignidade. A gente já nasce com ela. Já me parece pouco, mas eu não estou achando pouco no último texto.

Bruno Torturra:Não, não é pouco. Acho que para o Papa está ótimo. Mas a minha agonia é que eu queria que o Papa estivesse só falando isso. Ah, tudo bem, é mais um documento documento contra IA e que esses documentos tivessem sido produzidos com mais acidez, mais profundidade, mais viabilidade e política pelos nossos chefes de estado.

Alessandra Orofino:Não estão fazendo isso.

Bruno Torturra:A gente tá aqui literalmente tentando fazer uma regulaçãozinha mixuruca do que que pode ou não fazer com IA, assim, de onde é que instala o data center, um pouco de imposto que vai, não sei o quê, como se isso fosse regular, como se isso fosse o que dá para fazer politicamente. E quando você fala assim, não, vamos regular um pouquinho assim, vem o Peter Thiel e fala, você é o anticristo. Então a nossa ambição política não tá do tamanho que ela precisa ter em relação a isso. Assim, precisa vir não encíclicas, mas assim, um projeto político mais claro que enfrenta isso que tá se colocando hoje em dia.

Gregório Duvivier:Claro, e acho que um dos motivos que não tem é porque ele realmente parece invencível, né? Ele parece, e é de alguma maneira assim, eu não vejo muito como, é muito difícil lutar contra essa força. Que é a força do— assim, nunca se acumulou tanto dinheiro, e como a gente vive nesse mundo em que capital é dinheiro, parece realmente invencível. É curioso que no clube do livro, clube de cultura do Calma, a gente tá fazendo todo mês, a gente lê um livro, ele sempre sangra um pouco para o nosso Calma Urgente. E o desse mês tem tudo a ver com isso, que é Os Imortais, livro lindo da Pauline Torch sobre o primeiro encontro assim imaginado, né? Claro, é ficção totalmente. É porque é o primeiro encontro dos Neandertais com um grupamento sapiens. Então é sobre esse convívio entre Neandertais e sapiens, e o livro acaba sendo uma indagação sobre— ó, tá ali, isso aí, lindo livro, recomendo. Ele é uma indagação sobre o que é humano, que é o que é ser humano, basicamente, né? Então vai lá para essa infância da humanidade tentando entender o que que nos faz humanos.

Bruno Torturra:E então eu fiquei pensando isso o tempo todo, não sei se vocês também, está aqui conversando, eu tô pensando muito nesse livro, no livro assim, eu pensei muito nele, eu acho É o livro que eu recomendaria hoje mesmo, não é porque é o clube, mas porque eu acho que ele dialoga exatamente com essa angústia que eu sinto entre a conversa do Peter Thiel com o Papa. Os dois estão referenciando a gente em relação a Deus. E o que eu acho que esse livro faz, e a literatura faz como um todo mesmo assim, é uma humanização que não precisa de referência divina. É uma investigação pura. Da nossa vulnerabilidade, nossa imperfeição, da nossa condição biológica, da nossa não superioridade em relação aos outros animais, né, do fato de que a gente não foi criado em imagem e semelhança de nada que não sejam todos os nossos outros primos que na Terra estão, né. E acho que esse livro puxa de maneira muito radical para uma história muito inacessível Mas para um núcleo humano altamente acessível, não só pela literatura, mas por essa honestidade de introspecção, é possível que hoje em dia eu acho que é o ato inicial de uma certa rebelião para acontecer.

Alessandra Orofino:A rebelião se dará pela leitura.

Bruno Torturra:Não só, né? Mas assim, eu acho que tem a ver, pensando alto aqui, tá, gente? Sei lá, mas é sem compromisso. Sem compromisso. Eu acho que uma das coisas que E aí não é só inteligência artificial, mas é o mundo do conteúdo, né? O conteudismo. A gente tá livrando tempo de leitura, de trabalho, de produtividade para ficar no Reels vendo vídeo vertical de outras pessoas. Sei lá, uma coisa meio esquisita, mas que é a morte da introspecção mesmo, da investigação subjetiva livre e corajosa mesmo, sem referenciais adivinhos necessariamente. Necessariamente, mesmo que seja buscado dentro, no final, mas não como ponto de partida, que é o ponto de partida da Cidade de Deus, de tudo isso que está ensejado na encíclica e no Peter Thiel. Mas que eu acho que a literatura não é o ato de rebeldia em si, porque é fácil falar isso, mas eu acho uma condição básica e não final.

Alessandra Orofino:Sim, é que para muitas pessoas essa é exatamente a linguagem da espiritualidade, né? As religiões, todas elas têm algum tipo de Eu não gosto de falar assim todas, porque talvez uma não tenha, mas muitas delas têm algum tipo de prática introspectiva que é ritualizada. Então é o monastério, é o retiro, é o vipassana, é a meditação, é o shabat. Você tem alguma maneira de assegurar um espaço de introspecção regular em que você se desconecta do mundo mais material, você muitas vezes inclusive não fala tanto ou você se desconecta da própria linguagem ou Ela fica só no seu discurso interno e você vive esse momento de introspecção. E não quer dizer que você precise fazer isso a partir de uma prática espiritual ou porque você acredita em alguma religião organizada. Mas o que você tá sentindo falta e falando que deveria estar na semente dessa rebelião é— só queria ponderar— que é uma prática espiritual comum, né, irmã, a várias religiões. Humanas. E só uma coisa, que senão a minha produção vai me matar, gente. A gente falou do Clube do Livro várias vezes. A gente tá no meio do ano com Clube do Livro, a gente vai abrir uma segunda turma para o segundo semestre. Tem gente que tá com a gente o ano todo, tem gente que gosta de entrar no segundo semestre. A gente começa a ler os livros do segundo semestre agora em julho, começa a discuti-los em agosto. Então quem quiser entrar no Clube do Livro para o segundo semestre pode entrar em calmaurgente.com. É isso, fiz o jabá, né? Arrasou!

Gregório Duvivier:Obrigado por lembrar. Entre lá pra gente discutir, os livros estão muito legais do segundo semestre. E bom, por fim, concluindo, é terminar talvez com Os Imortais, não é? Tem isso que é bonito, porque você falou realmente a introspecção como algo que a gente está perdendo, mas também a comunhão, curiosamente, que é o contrário, parece o contrário da introspecção, mas não acredito que seja. Porque tem algo bonito no livro que, aliás, é o contrário, e aí também falando contra o Papa, é o contrário da narrativa teológica de origem, na qual Deus teria criado um homem e uma mulher da costela do homem e todos os outros descendentes seriam dessa pessoa. Inclusive é estranho, é meio racista, porque tem várias raças, porque é um ateu. Eu nunca entendi direito esse mito de origem, eu acho ele ruim, acho pobre e não tem nada mais distante do que isso na realidade. Porque a realidade é o contrário desse mito real, em que havia um casal e que havia— o que faz a força do hominídeo tá precisamente na comunhão e no fato de que nós éramos numerosos. E nós, sobretudo os sapiens, mais que o Neandertal, conseguiam se unir em grupos muito grandes graças à linguagem. Então nossa grande tecnologia foi precisamente a fogueira, mas sobretudo o que acontecia em volta dela, que é a linguagem, que nasce junto com fogo e em volta do fogo. Então essa narrativa compartilhada que nasce em volta do fogo, presencial obrigatoriamente, ela é a— isso é muito bonito, livro da Pauline, não é? Ela parece um grande elogio mesmo, e parece Há essa habilidade do hominídeo, antes mesmo do sapiens, antes mesmo do ser humano, de se reunir em volta da fogueira e debater o que viu. E a partir do que viu, planejar o que virá. E eu acho que é isso que eu tenho mais medo ainda que se perca, sabe? A comunhão de uma narrativa compartilhada. Porque o problema do algoritmo é que cada um tem hoje uma versão da realidade feita para você, no seu bolso. Então a gente não tem mais a realidade compartilhada. Você viu uma notícia ontem que certamente eu não vi, não do jeito que você viu, e a pessoa do seu lado menos ainda. Cada um tem acesso a uma versão da realidade, muitas vezes conflitante. Então não existe mais essa fogueira ancestral em torno da qual a gente reunia e ouvia um pouco a mesma história. Pelo menos o mesmo clã, ele dividia uma mesma história. E hoje a impressão que dá é que ninguém divide, nem você com seu clã, nem você com a sua família. Cada um tem uma narrativa da realidade feita sob medida para você, para te agradar? Não necessariamente. Às vezes é para te deprimir, é sobretudo para te capturar. Então não é nem necessariamente para te deixar feliz, não. As pessoas falam: ah, não, porque o algoritmo é feito para te alegrar, para te indignar, para te revoltar. É para te ferrar, basicamente, te ferrar a saúde mental, Diogo, porque não tem nada que te pendure mais na tela do que a sua fragilização mental. Então o que eles querem basicamente é trabalhar mesmo com a fragilidade mental e te pendurar ali. Então o que mais me preocupa mesmo, e lendo o livro pensando nisso, é também, você falou introspecção, que é muito importante, mas é também a morte da comunidade, da comunhão, que eu acho que é isso que nos faz fortes, foi isso que nos fez invencíveis por muito tempo, né? É basicamente a comunhão em grandes números.

Bruno Torturra:É, quando eu falei isso, só para encerrar, eu acho que quando eu falei de introspecção, não falava nem dos personagens, falando da própria Pauline, que acho que fez um exercício muito forte de ir dentro da nossa humanidade para escrever algo tão radical e tão essência. Mas o que eu acho que os personagens têm nesse livro e que eu acho que é a antiencíclica e a anti-IA de um jeito que eu acho que é o que mais humaniza mesmo, é que eles não se submetem ao que os deuses esperam deles, assim, sabe? Eles são não conformistas. Tem uma coisa muito bonita na mitologia grega, na mitologia ancestral que ela narra e tudo mais, que é a não submissão ao Deus criador. Que assim, o destino deles ali era um só, era muito claro. E tem uma certa rebeldia que tá ensejada na citação que ela coloca ao longo do próprio livro e tudo mais, que é não aceitar o grande algoritmo do céu, né, que é não aceitar a mensagem que vem de um lugar que não é humano. Eu acho que isso tá no livro e tá em algumas— é isso que eu quero dizer com introspecção.

Alessandra Orofino:A gente faz depois essa discussão em relação a isso.

Bruno Torturra:A Alessandra é fervorosa, fala.

Gregório Duvivier:A gente já está finalizando para a gente terminar, porque vão ter outros eventos.

Alessandra Orofino:Tem a Ana dos próximos capítulos.

Gregório Duvivier:Vão ter vários eventos aqui. Fiquem aqui porque tem um monte de coisa incrível nessa Feira do Livro. Muito obrigado a todos vocês.

Alessandra Orofino:Muito obrigada, queridos. Muito obrigada. O Calma Urgente é uma produção da Peri Produções. Na produção temos Carolina Forattini Igreja e Sabrina Macedo. Na assistência de produção, Leo Toni Costa. Na pesquisa e roteiro, Luiza Miguez. Na edição e mixagem, Vitor Bernardes. Na ilustração no som e design, Ana Brandão. Na sonoplastia, Felipe Crocco. Na edição de cortes, Júlia Leite. Nas redes sociais, Gabi Biga. Na gestão de comunidade, Marcela Brandes. Na identidade visual, Pedro Inoue. E uma consultoria de comunicação por Luna Costa.