O que realmente importa? Os mitos sobre competências na era das IAs avançadas

Álvaro, boa tarde, bem-vindo.

Muito obrigado, boa tarde para vocês dois também.

Boa tarde, Álvaro.

Olha só, ontem a Anthropic, que é a empresa do chatbot Claude, liberou para o público pro público geral, para mim, para você, uma inteligência artificial que até então só alguns governos ou então grandes empresas podiam acessar, porque, digamos assim, uma inteligência artificial muito poderosa. O que que essa máquina faz que justifica tanto cuidado, Álvaro?

Pois é, isso aconteceu mesmo. Esse é o Cloud Mythos, e o cuidado se explica por uma palavra que ninguém gosta de ver perto de tecnologia: arma. Uma IA desse nível, né, uma IA altamente avançada e treinada assim nos detalhes do funcionamento da tecnologia digital, é capaz de encontrar falhas em sistemas de bancos, sistemas hospitalares, rede elétrica e assim por diante, muito mais rapidamente do que hackers fariam isso manualmente, e mesmo mais rápido do que as próprias equipes de segurança tentando encontrar como blindar essas plataformas.

Então foi aí a história, tá? Então por isso ela passou meses circulando só entre governos, especificamente governo americano e alguns outros aliados, empresas auditadas, sobretudo empresas americanas mais uma vez. Enfim, o produto que originalmente era pensado muito mais para o grande público e depois foi muito mais direcionado para empresas em geral, passou aqui a ser considerado como matéria sensível de estado. Foi esse o negócio.

E aí evidentemente a gente teve esse lançamento que trouxe de um lado uma surpresa pelo quanto ele veio cedo, tá? Isso tem a ver com o fato da Antropic estar preparando um IPO, né, lançamento das ações na bolsa, e quis impressionar. E do outro lado fica essa dúvida no ar: até que ponto essa tecnologia ela pode ser usada pelas pessoas em geral para crimes cibernéticos assim? Isso pode levar a uma explosão desses crimes, por mais que A Anthropic tenha dito que a versão que foi disponibilizada tenha sido higienizada do ponto de vista dessas vulnerabilidades.

Mas o fato é que uma IA muito poderosa também pode ser usada para o mal, não só para o bem. Comentário final, tá? Essa aí é a questão que está circulando, tá todo mundo debatendo, e eu acho que vale a pena os ouvintes tomarem contato com ela. Mas tem uma outra que é muito mais relevante nas nossas vidas, que está escondida num rodapé técnico, e é o seguinte: essa geração de sistemas tecnológicos, de inteligências artificiais, ela erra menos do que os profissionais experientes.

Menos alucinação, quer dizer, menos erro de máquina, significa uma inversão de paradigmas, porque antes a gente tinha sobretudo as pessoas numa postura de observadores, de gestores da tecnologia. Agora, o que parece que tende a acontecer é uma inversão desse processo, tá? Então assim, menos alucinação do que distração de médico implantando menos invenção do que advogado revisando o contrato de madrugada, menos erro de segurança do que o sujeito que está ali tentando identificar se há uma invasão através de um sistema de câmeras e assim por diante.

Tudo isso faz com que haja uma mudança no nosso relacionamento com a tecnologia e, em última análise, uma redefinição do que nós vamos fazer, afinal de contas, quando essas tecnologias estiverem em todos os lados.

Álvaro, a gente ouve alguns conselhos sempre quando o assunto é se preparar para IA, então aprenda a programar, desconfiar da máquina, fazer tal curso. Esses conselhos ainda valem?

Eu acho que esses conselhos envelheceram, tá? E alguns envelheceram de um jeito cruel. Essa para mim é a realidade. Vamos pegar, por exemplo, o aprenda a programar, né? Um conselho da década passada. Claro que é um conselho que foi dado com a melhor das intenções. A ideia toda é que a programação era o futuro porque tecnologias digitais estavam tomando conta, você podia criar uma empresa a partir de uma boa ideia desde que você soubesse programar e assim por diante.

Mas a programação justamente foi uma das principais competências, das primeiras, que a IA engoliu. Por que isso? Porque a IA é boa de fazer verificação. Então, por exemplo, se eu faço um código computacional e ele está certo, a hora que eu verifico eu vejo que está certo. Se ele tem um erro, Eu também consigo identificar isso. Então, nesse tipo de área, a inteligência artificial vai muito bem. Por isso que ela está avançando rapidamente agora na matemática.

O sujeito vai lá e cria uma demonstração de um teorema e é fácil verificar depois se essa demonstração está correta ou não. Enquanto, por exemplo, na literatura é muito mais difícil você definir as coisas como certas ou erradas, né? A verificação é muito mais subjetiva. Então, esse primeiro conselho ele acabou se mostrando errado. E as coisas eu acho que vão nessa direção em geral, tá? Então, por exemplo, a ideia de desconfiar da máquina é justamente a que está sendo subvertida nesse momento com esse lançamento.

Alucinações cada vez menos numerosas, invertendo o paradigma. É o humano que parece que ganha alguma coisa se tiver uma camada observacional baseada em inteligência artificial. Tem um negócio interessante, tem um estudo americano que eu acho que faz um retrato muito bacana, tá, da situação, e também muito cruel. Que a gente está vivendo no momento, tudo que circulou bastante. Os pesquisadores compararam a performance de médicos diagnosticando sozinhos, médicos americanos em geral, médicos diagnosticando com ajuda da IA mais avançada do momento e a IA sozinha.

O resultado quantitativo foi que o chatbot sozinho ganhou. E o detalhe incômodo é que os médicos com o chatbot na mão foram piores Porque eles desconfiavam do diagnóstico da máquina exatamente naquelas horas em que esse diagnóstico era incomum e estava certo. Ou seja, o que isso nos mostra, pelo menos na minha visão? Que um ceticismo genérico já não basta. Isso era uma virtude intelectual há um ano atrás, mas agora virou uma espécie de defeito de calibragem.

Agora o negócio é muito mais sofisticado, muito mais sutil. É você identificar situações específicas em que a máquina escorrega. Porque elas são poucas, elas estão localizadas, e saber usar o resto. Então tá aí a grande questão. A gente tem essa mudança forte e eu não acho que os conselhos do passado sirvam.

Olha essa do médico, fiquei surpreso.

Essa é boa. Pois é.

Alvaro, olha só, para quem tá ouvindo a gente agora, tá dirigindo, tá atendendo um cliente, tá cuidando de alguém, ou então tocando um negócio, o que passa a valer mais quando a máquina erra menos que a gente?

É possível pensar em pelo menos 3 coisas, tá? E nenhuma delas é técnica. A primeira é muito básica, parece muito simples, mas não é. É saber demandar. Veja, a máquina responde qualquer pergunta e eventualmente as respostas vão ser muito boas, tá? Você pegar a última versão aí do Claude, indiscutivelmente as respostas são boas, mas ela não sabe quais perguntas importam na sua vida, naquilo que você está fazendo, nesse seu trabalho, o que quer que seja.

Ela simplesmente responde aquilo sem questionar, sem ter acesso ao todo. Então vou dar um exemplo. Ela te dá, por exemplo, imagina que você quer saber sobre investimento. Ela te dá o melhor investimento daquele mês se você pedir direito, mas ela não considera isso à luz do fato do seu cartão de crédito estar estourado. E o negócio é você não fazer investimento nenhum, você resolver esse problema para não pagar juros. Entende o ponto?

Então, quer dizer, se você pergunta as coisas de maneira equivocada, até porque você está abordando a sua vida, o seu contexto de maneira equivocada, o resultado vai ser, vamos dizer assim, a resposta certa para a pergunta errada. A segunda questão, eu acho que é uma questão muito de autoridade e responder pelo que a gente faz, tá? Então, por exemplo, Imagine que você vai fazer uma obra na tua casa, né? Você vai contratar o pedreiro, o mestre de obras pelo orçamento e tal, enfim, ou você vai contratar também porque você sente que se alguma coisa sair errado, essa pessoa vai assumir a responsabilidade.

A inteligência artificial, ela produz esse orçamento atraente, né? Vamos dizer assim, a visão atraente das coisas. Mas se der um problema na sua obra, ela não vem socorrer você. Entende o ponto? Então, no final das contas, responsabilidade se torna cada vez uma dimensão mais valiosa. Tem uma antropóloga americana bacana chamada Madeleine Ellis que estudou acidentes com sistemas automatizados, com IAs, desde aviação até carro autônomo e assim por diante.

E o que ela encontrou? Ela encontrou um negócio que ela chamou de deformação moral. Quando o negócio está indo bem, todo mundo está lá e enfim, recebe os louros, sobretudo quem está no alto da escala executiva, que teve a grande ideia. Mas quando dá errado, a culpa é jogada em cima da pessoa que está do lado do negócio, entendeu? O operador direto. É tipo uma lataria do carro que amassa e no final das contas esmaga o passageiro, né?

Então, isso mostra que a definição da responsabilidade é uma variável muito importante hoje em dia. E justamente quem aceita assinar embaixo, quem fala: "Ó, eu não estou te entregando algo que é automatizado, eu estou passando pelo meu crivo, meu filtro, eu estou garantindo que isso daqui é de verdade." tem muito valor. E finalmente, eu acho que a terceira dimensão que conta é a dimensão da presença. Porque a gente, assim, cada vez mais tende a assumir que se a inteligência artificial é capaz de fazer as coisas, a nossa presença, né, a troca, ela vale menos.

Mas na verdade é o oposto, ela acaba valendo mais. Por exemplo, imagina que a gente está falando de um serviço, tá? Então se eu tenho 3 concorrentes, todo mundo tá usando inteligência artificial e eles são, portanto, muito parecidos. No final das contas, o que vai fazer a diferença? Sua capacidade de se relacionar, sua capacidade de mostrar valor humano, sua capacidade de argumentar de que você justamente vai estar lá, vai assumir responsabilidades se as coisas derem errado.

Então essa parte que é, vamos dizer assim, de traduzir um senso de conexão se torna mais valiosa porque conforme a inteligência artificial avança, as coisas vão ficando mais parecidas em termos de entregas.

E a gente tem, Álvaro, essas novas IAs que São agênticas, né? Elas não só respondem, conversam com a gente, contribuem ali com ideias, mas elas conseguem agir. Então elas podem marcar compromissos, marcar reuniões, fazer compras por você, agir no seu lugar, né? Tudo aquilo que a gente precisa fazer, um assistente pessoal humano precisa fazer, um funcionário humano precisa fazer, a IA também faz. E aí, quando isso vira o normal, o que que muda no jeito como a vida funciona?

Eu acho que o que muda lembra um pouco o que aconteceu com a eletricidade. É o seguinte: quando surgiu a eletricidade, ela era uma coisa exógena, era uma coisa separada da nossa vida, das nossas rotinas e das próprias cidades. Hoje em dia não é mais assim. Ninguém acorda e decide usar eletricidade. A gente vive dentro da eletricidade. Então, por exemplo, aplicando a inteligência artificial, imagina esse agente que é uma IA que faz coisas, renegociando seu plano de saúde, ou então imagina que você precisa comprar passagem aérea e aí você botou esse chatbot lá para encontrar a passagem mais barata e assim por diante, ou agendando um médico no INSS, sabe, coisas assim que são altamente desgastantes.

No final das contas, o que acontece? A relação entre essas máquinas começa a acontecer de um lado com a máquina que tá defendendo o seu interesse, mas do outro lado uma outra máquina que cuida que cuida do agendamento, que cuida da precificação dinâmica, que cuida, enfim, do que quer que seja. Então, assim, acaba tendo uma relação entre agentes de todos os lados. Isso cria uma nova infraestrutura. É isso que muda de maneira mais profunda.

Tem um sujeito que eu gosto muito chamado Andrei Carpati, que ele disse que o que essas coisas tendem a criar é um novo sistema operacional da cultura. Eu gosto dessa ideia. É como se Assim, a cultura, né, o mundo como um todo, ele tivesse tipo um sistema operacional, como o Windows é um sistema operacional. E esse sistema operacional, ele muda e ele vai se tornando predominantemente automatizado com esses agentes. Por isso que os agentes são mais importantes do que os próprios chatbots, assim, a IA que faz alguma coisa na prática tem um impacto na vida humana muito maior do que a IA surpreendente que resolve problemas matemáticos ou faz outras coisas desse tipo.

Álvaro, para a gente terminar, se a máquina erra menos e age sozinha, a conta do emprego uma hora chega, e chega num país que não é dono de nenhuma dessas empresas que a gente tem falado. O Brasil tem alguma carta nesse jogo?

Então, essa é uma questão bem complexa, né, porque as cartas tradicionais, né, quais são as respostas societárias que estão aí circulando para o problema da inteligência artificial substituindo empregos? A primeira delas é renda básica universal. Uma segunda, mais recente, é tornar os cidadãos sócios dessas empresas, como se elas se tornassem empresas públicas, já que elas vão dominar tudo e todo mundo é sócio disso. O Pedro Doria tem um artigo muito bom sobre esse assunto no O Globo, tá, merece muita leitura.

Qual que é a questão aqui? Renda Básica Universal, ela exige para funcionar que ela cubra aquilo que as pessoas estão perdendo de fato, e o principal alvo do avanço da inteligência artificial é a classe classe média. Então você precisa de renda básica universal a R$2.000, R$3.000 por mês para que você preserve a classe média. Do ponto de vista fiscal, ou seja, o dinheiro para pagar isso é um desafio muito grande, não é sustentável.

Não vai ter nenhum economista, macroeconomista, que vai dizer que isso é sustentável. É diferente, por exemplo, do Bolsa Família, que não é um programa de renda básica universal, ele é um programa condicional, ele é só para uma parte da população e ele tem, existe contrapartidas, como por exemplo manter os filhos na escola e não usar vender para Betts, é diferente. Então assim, renda básica universal que atenda esse empobrecimento da classe média que pode acontecer e não vai ser agora, é impossível.

Do outro lado, a lógica de nós sermos sócios das empresas de inteligência artificial não para em pé porque elas não estão no Brasil. Então tá aí a grande questão, né? É muito mais fácil tocar esse assunto nos Estados Unidos e na China. Fora desses dois centros fica mais difícil. No Brasil em particular. Agora, o Brasil tem alguma carta? Resumindo, que para mim já não são essas duas. Claro que tem. Primeira coisa, o Brasil tem justamente através do Bolsa Família um histórico e uma estrutura de transmissão de renda em escala que funciona.

Não é um programa que não funciona, muito pelo contrário, é exemplo mundial e tal. Então assim, a gente tem uma peça importante do jogo, a gente tem outras peças como por exemplo o SUS e outras estruturas de serviço nacionais que tendem a ser importantes num momento como esse, porque, por exemplo, o PIX, né, os Estados Unidos não tem PIX, não tem um sistema de pagamento próprio, e esse tipo de coisa conta. E no final das contas, finalmente, eu acho que a coisa que mais conta é que o Brasil tem os recursos naturais necessários para que a própria máquina, do ponto de vista desse sistema operacional da cultura, da inteligência artificial funcione nominalmente, terras raras e energia.

É aí que está a nossa possibilidade de fazer essa coparticipação societária e conseguir, enfim, combater o aumento da desigualdade pela inteligência artificial.

Perfeito. Álvaro, muitíssimo obrigado pela conversa aqui com a gente hoje e até a quarta-feira que vem.