Episódio #17 - Agentes de IA e a automação do futuro

Olá, está começando o Futuramente, um podcast da CBN sobre como as novas tecnologias estão impactando a nossa vida. Esse podcast é apresentado por Marta Gabriel, futurista, especialista em inovação e tecnologia, e por mim, Carol Tamacia, jornalista aqui da Rádio CBN. Oi, Marta, tudo bem? Oi, Carol, tudo ótimo. Bora lá, né? Vamos para mais uma conversa.

Marta, no ano passado, as predições apontavam que 2026 seria o ano dos agentes de inteligência artificial. Isso marcaria a transição de uma IA como ferramenta de geração de conteúdo para um sistema mesmo que executava com autonomia. Agora que a gente já está aqui caminhando em 2026, você acha que essas previsões acertaram?

Na realidade, a gente está começando, o que elas realmente acertaram é o awareness. As pessoas estão muito mais focadas, prestando atenção, entendendo que tem uma nova etapa se desenvolvendo mais complexa, não só de agentes, mas de multi-agentes. A gente tem várias camadas aqui, Carol. Se a gente pegar a camada inicial da IA generativa, quando ela passa para a mão de todo mundo...

ela conversava só, e ela conversava sob um comando humano. Então eu vou lá, dava um prompt e ela respondia. Isso foi evoluindo, tanto que hoje ela tem não só reativa, ela também age no sentido de sugerir continuidade para a conversa, isso também foi evoluindo, mas ainda assim é muito centrado no fluxo humano.

Ela foi evoluindo um pouquinho mais e foi para raciocinar, começou a fazer coisas mais incríveis, mas ainda assim é um fluxo de você consulta, você dá uma primeira iniciativa, você tem ali o controle do fluxo informacional e o que você vai fazer com aquilo. Quando a gente começa com os agentes, a gente muda a regra do jogo totalmente. É isso que as pessoas têm que entender, porque não é só uma evolução.

É uma transformação de tudo, de infraestrutura, de modo de... É como se você passasse de uma biblioteca. Biblioteca, o que você faz? Pode estar cheio de gente lá, mas cada um fazendo a sua coisa específica e consultando tudo aquilo. A gente agora entra numa estrutura muito mais de cidade, porque a gente pode ir de uma área para outra. Quando você pede para um agente...

fazer uma compra para você ou uma pesquisa de qualquer coisa, ou funcionar dentro de uma organização, executando determinados tipos de funções, ele tem autonomia e ele vai para várias áreas. Então, com isso, a gente tem uma nova forma de operar com a IA. E nesse cenário que os agentes começam a acontecer...

A gente sempre teve a cognição distribuída nas tecnologias. Basicamente, a gente tem parte do nosso cérebro fora, a parte da nossa inteligência está na cultura. Então, a gente já tem essa distribuição. Mas o controle de autonomia estava dentro da gente. O que acontece? Com os agentes, a gente pega uma parte da autonomia da cognição e passa para fora.

E isso muda a forma como os humanos têm operado no planeta. Então, olha só, se a gente pensar, dar um exemplo para as pessoas aqui de agentes, já tem hoje agentes para serem usados nas principais plataformas de IA generativa.

Já tem alguns prontos que já fazem algumas coisas para você. E tem outros que pode criar. Numa empresa, por exemplo, a gente podia criar um agente que faz campanha de marketing. E você não precisa determinar tudo. Você cria o agente com as habilidades que ele precisa ter para aquela função. Como se você contratasse alguém. Então, eu brinco assim.

Que profissional você gostaria de contratar? Com quais características e especialidades? E aí você configura isso, você manda ele atuar como aquilo e dar essas competências para ele. E aí ele tem autonomia para fazer como... A autonomia você dá até certo grau, mas é como um ser humano também. Você dá autonomia até certo grau, você contratou uma pessoa, você fala para ela, cria uma campanha de marketing para mim. Então aí ele faz pesquisa de público-alvo, ele gera os copies, cria o anúncio.

ele sugere canais, que é o que uma pessoa faria nisso, produz as imagens. Então, ele faz parte do processo que está pensando junto ali. Tanto que a gente tem falado, a gente falou em outros episódios aqui, sobre gêmeos digitais.

Você pode cada vez mais transformar esses gêmeos em agentes também, porque eles sabem operar com você. Então, por exemplo, para escrever, dá para a gente ter, eu conheço algumas pessoas que fazem isso, eu faço até um determinado grau também, um agente que aprendeu a escrever nas redes sociais como eu escrevo, como eu faço as análises.

Ele faz uma primeira análise com os mesmos tipos de palavras que eu uso, com os mesmos tipos de foco naquilo que eu presto atenção. As pessoas prestam atenção em coisas diferentes para cada matéria. Isso economiza uma boa parte do trabalho que eu tinha antes. Eu faço a parte final de fechamento, revisão daquilo, etc.

Dá para você usar isso para praticamente qualquer área. E um dos grandes riscos que os agentes têm é o seguinte. A partir da hora que você delega, é a mesma coisa que você tivesse numa organização, você começa a delegar as coisas para as pessoas. Se você não tem isso muito bem estruturado, numa organização de seres humanos, eu estou falando, numa empresa.

Se você não tem isso muito bem estruturado, você corre o risco de virar caos. Todo mundo sabe qual é o seu papel, quem passa informação para quem, quais são os fluxos, quais são as políticas que a gente tem para lidar com informação, o que são informações sensíveis, sigilosas. Você tem todo um processo ali. Os agentes têm que passar pelo mesmo tipo de critério.

para que eles não vazem informação, para que não acesse o que não pode, para que não tenham acesso dentro da organização, a gente tem os vários níveis de acesso à informação privilegiada. Quando você está dentro de um sistema, no mundo físico é fácil a gente ver o humano, ou a gente ter uma noção melhor de quem é. Tanto que uma das evoluções de pensar em a gente...

é pensar realmente numa pessoa, numa persona. O que ele é? Qual é a função dele? Qual o grau que ele deveria ter de autonomia, de informação que acessa? Qual a função que ele vai exercer para passar para terceiros? Isso tudo está se estruturando. Quando você perguntou, voltando para o nosso início aqui...

Se é o ano, é o ano em que as empresas estão muito focadas, pensando em fazer, só que você não consegue fazer uma IA com agentes se você não organizar a casa antes. Então, tem um trabalho estrutural, o que a gente viu até 2025.

É a IA entrando nas pontas, no colaborador, no foco de cada profissional como uma ampliação. Ela não entrou no fluxo de trabalho. Quando ela entra no fluxo de trabalho, muda tudo. Por quê? Primeiro, ela começa a mudar, que já começou a mudar em todos nós, atividades que a gente faz. Isso redefine funções. Tem funções que, inclusive, desaparecem. Quando entra a gente, mais ainda, porque a gente começa a fazer coisas.

que antes era um humano que fazia, daqui a pouco ele faz toda aquela função, e nesse processo os humanos vão se redirecionando. E isso cascateia até para novas profissões, as habilidades para você ter isso. Então aqui é a mesma coisa, eu preciso ter isso muito bem estruturado e dinâmico, porque vão mudando as funções, as possibilidades que tem.

para que isso funcione. Aí a gente começa a ter ganhos de produção no workflow. Os estudos, alguns estudos que falam sobre isso, a adoção de agentes ainda é limitada. Então, alguns estudos trazem aqui 21%. Nas empresas, você disse? Nas empresas.

Na pessoa... É, porque acho que dá pra gente dividir, essa aí é a gente que tem dois grandes grupos, né? Então, pro usuário comum, então aquele agente na minha casa que vai me montar a lista de supermercado, vai me ajudar a planejar uma viagem, e nesse mundo corporativo, com os agentes sendo usados pra automatizar tarefas, organizar setores inteiros, né?

Acho que a IA Argêntica é mais problemática, vamos chamar assim, se alguma coisa sair dos trilhos, para essa área empresarial. Na realidade, Carol, eu acho que nas duas. Vou explicar por quê. Na área empresarial, é complicado porque escala. Quanto maior a empresa, vocês vão falar daqui a pouquinho sobre cascateamento de erro, é complicado quando se automatiza isso. Mas na vida pessoal, um agente que não tem a segurança, ele pode comprometer...

toda a sua vida, contas bancárias. Então, por exemplo, na vida pessoal, você coloca um agente para reservar e escolher uma viagem para você. Então, para fazer isso, ele vai ter que acessar várias contas para colocar no seu calendário. Se você der autonomia, por isso que eu falo que tem os graus de autonomia, se você der autonomia para ele fazer a compra, ele tem que estar integrado com alguma coisa bancária sua. Então, se tem algum vazamento, algum tipo de problema, de erro,

isso pode te expor num grau que acaba com a sua vida. Então, a gente tem que tomar muito cuidado, inclusive na experimentação dessas tecnologias. Por exemplo, hoje já tem algumas dessas IAs que permitem que você... Porque hoje muito é feito online.

Mas um dos grandes desafios que a gente tem na nossa vida pessoal é organizar a informação que está dentro do nosso computador, da nossa vida. Vou te dar uma primeira, que é uma tentação enorme de você colocar ali um sistema desse para organizar o seu workspace. As fotos que a gente tem.

Eu adoraria organizar, vou fazer isso, mas numa máquina separada, sem ter vínculo com nenhuma das minhas contas, com as fotos já baixadas, presinho ali, que é como são feitos os testes, com agentes, com IAs.

primeiro você testa num sandbox, num lugar que é garantido que ele não vai escapar dali, fazer grandes erros, e que você possa ter um ambiente que você tem, por exemplo, o backup dessas fotos. Porque um dos grandes problemas é, se você pega uma IA, que por um erro ela começa a pôr um dado em cima do outro, deletar, organizar, e não era aquilo,

ferrou, você não tem mais aqueles originais. Então, perceba que mesmo no nível pessoal, a gente tem que ter controle e tem que ter cuidado. Porque se você fala, não, eu quero que ela organize todas as minhas fotos que estão online, na cloud, sei lá, do que eu uso. E aí você vai dar o acesso para a cloud, que é a sua cloud que tem todas as outras coisas. Então, se acontece algum problema, você tem todo o resto em risco. Tem que ter um cuidado maior, tem um potencial enorme nisso, de fazer coisas incríveis para a gente otimizar.

várias dimensões da vida da gente. Nas empresas também, porque você consegue, os agentes entram no workflow, mas tem riscos enormes também. Então, quanto maior o poder, a gente fala isso sempre, maior também é o impacto negativo que se pode ter. Então, pesquisa. A Capgemini tem uma pesquisa e tem outras também consultorias.

Todas elas chegam em torno de 20% das organizações estão com adoção, mas ainda é limitada, tem muito pouca que está usando num grau mais maduro, mais avançado. 82% então tem baixa ou média infraestrutura de IA para poder colocar a agêntica, que é isso que a gente está falando aqui.

Essa é uma questão, eu acho que essa automação em massa não vai ser sentida de uma hora para outra, né? Porque existe toda uma governança, uma infraestrutura que precisa ser montada e isso pode levar anos, né? É isso mesmo, porque não é só a infraestrutura de tecnologia. A gente tem todo um pipeline aí de...

A tecnologia, obviamente, depois toda a parte de orquestração dos agentes, depois tem segurança, depois tem governança. Então, você tem várias camadas, tanto que várias profissões acabam surgindo aí, ou então várias ramificações do que a gente já tem, em função do que a gente...

começa a criar, a precisar. Então, não é de uma hora para outra. Agora, aonde os agentes realmente foram implementados, e eu tenho muitos amigos que trabalham em empresas de tecnologia, elas lideram o ranking de quem utiliza a gente.

Os impactos são muito grandes mesmo, porque você pode realmente substituir profissões que fazem coisas básicas, cognitivas, repetitivas, que eram colaboradores de entrada em algumas áreas. Nessas áreas você consegue substituir quase que integralmente por agente. Eu fico pensando, se esses agentes são muitas vezes usados para essa execução de tarefas operacionais, de entrada...

Como é que fica, por exemplo, a formação de talentos? A gente não corre o risco de comprometer o aprendizado humano? Então, o estagiário que chega, que vai começar com aquele aprendizado básico sobre toda a organização da empresa? Então, talvez não, porque a gente muda a forma de fazer. Então, eu gosto muito de pensar com humildade. Você sabe disso. Desde o nosso primeiro episódio, a gente fala disso. Por quê?

Vamos lembrar quando começaram os streamings de áudio, de programas, de maneira geral. Hoje a gente... Vamos dar um exemplo, o Spotify. Lá atrás, se a gente pegar 10, 12 anos atrás, as rádios achavam que não tinha mais espaço para rádio. O que a rádio vai fazer? E uma das coisas que as pessoas achavam era que... Como é que você cria um sucesso? Porque os sucessos eram criados... ... ...

por coisas que tocavam em rádio, entravam na grande mídia, iam para a televisão, propagavam por canais, primeiro por canais assim, e depois criavam gosto musical, criava cultura, pá, pá, pá. E o que a gente viu? Que, na realidade, quando entra uma nova forma...

de mediação, e no caso a gente tem os streamings, eles têm uma forma inteligente, personalizada. Então, o que se pensava lá atrás era, ah não, agora cada um ouve a música que quer, descobre de maneiras que a gente não sabe o que quer, nunca mais tem nenhum vínculo de uma pessoa com outra. E não foi isso que aconteceu.

Na realidade, a gente tem um fluxo da mídia que se adaptou e tem outras formas de trazer sucessos, ou falar de música, etc. Tanto que rádios musicais, nós somos rádios de notícia, mas rádios musicais continuam existindo com curadorias. As pessoas querem curadoria. Essa mesma discussão...

aconteceu quando veio o YouTube. Quando veio o YouTube, um monte de gente falava que é televisão. Mas para que televisão, então? Porque você pode escolher tudo personalizado. A gente não quer sempre escolher tudo personalizado. A gente não quer tudo automatizado. A gente não quer só isso. De vez em quando a gente quer isso. E é uma complementação. Então, voltando para os estagiários, quando eles entram, eles também entram ampliados. Eles também entram.

com muito mais potencial de aprender mais rápido. Os onboardings, hoje, com a IA, eles podem ser muito melhores para tirar dúvida, etc.

E até bem interessante porque o estagiário não é para ser mão de obra barata ou para ser alguém que faz trabalhos que ninguém quer fazer. Se a gente voltar lá para trás, o estagiário é uma pessoa que está entrando para mudar a dinâmica, é a nova geração, com novas ideias. Tanto que hoje algumas empresas de tecnologia estão chamando os jovens, os estagiários,

independente da tecnologia, para ver o que eles falam. Porque os jovens, eles vêm com menos preconceito, com menos vieses. Eu brincava quando começou essa história de discussão entre as gerações, entre a geração nova e o pessoal fica todo mundo desesperado. Isso acontece desde o tempo de Sócrates. A nova geração, por que ela pensa diferente? Porque ela entra num mundo diferente e ela não tem os preconceitos da geração anterior. E aí o que ela faz? Ela enxerga melhor o que tem que fazer.

porque ela já veio sem nenhum outro tipo de conhecimento para aquilo que está acontecendo, essa apropria de uma outra maneira. Por isso que eu acredito que, independente de a gente ter as IAs, muda a dinâmica, a gente vai querer os jovens junto com a gente. E aí eu falo até na posição...

de professora, eu já dei aula para graduação, muito tempo, depois pós-graduação, a oxigenação que um jovem traz, ver filhos, ver adolescentes, quando você está num ambiente jovem, eles têm outros tipos de vieses. A gente já falou várias vezes aqui sobre o pensamento crítico.

isso é excelente para você oxigenar eu acredito que eles tem mais material para se prepararem e eles vão passar para a posição que eles deveriam passar, porque hoje os únicos eu acho que são tratados nessa posição que a gente está falando aqui são os trainee

Pode ver que os trainees são garimpados super cuidadosamente e depois eles fazem um estágio em cada área da organização para entender e depois eles são incorporados como um valor, um talento. Então, eu acredito que isso vai ser uma transformação bastante grande que já está acontecendo e deve ampliar na situação de mercado com a gente.

Bom, aí a gente estava falando agora do mercado, das empresas, essa questão dos agentes controlarem setores, de repente se existe um erro, ele é feito em cascata, que é super preocupante, né? Eu fico pensando, quem que vai controlar os agentes dentro das empresas? O cargo mais importante daqui a um tempo vai ser da pessoa que entende de orquestração de agentes do que do CEO, sei lá?

Na realidade, não. Na realidade, todo mundo vai controlar o agente. Quando a gente pensa... Porque assim, o agente é como se fosse um colaborador. Então, ele está sujeito à governança. Então, vai ter governança de agentes de A.

ele está sujeito à estratégia. Quem faz estratégia da organização e quais... Quem faz estratégia, normalmente, quem eu preciso... Por exemplo, se eu vou fazer uma estratégia que envolve marketing, eu vou contratar um profissional de marketing. Então, quem faz a estratégia do negócio vai determinar estrategicamente os agentes. A gente tem os engenheiros, o pessoal que faz programação, que faz análise, que vai ter que cuidar deles. E tem também...

que nem a gente tem a gestão de pessoas, os profissionais da área de pessoas, talentos, etc., vão ter as pessoas que orquestram os agentes. Porque um agente não trabalha sozinho, ele passa a informação de um para o outro. Da mesma forma, hoje...

que um líder orquestra um time com o melhor do que cada um pode oferecer para que você faça essa equipe funcional de forma otimizada, a gente tem também, então não é uma pessoa, e outra coisa que tem além de tudo isso

Continua existindo humanos no loop. Quem é o humano no loop? Que é o responsável por garantir que aquele agente está funcionando de maneira adequada. Tem vários loops diferentes. Tem loop de marketing, tem loop de operações e vários tipos de operações. Então, a gente vai ter, na realidade, um ecossistema. A gente transforma o ecossistema.

em função de como o agente entra no fluxo de trabalho. Então, não tem um responsável por todos os agentes centralizados. Passa a ser um ecossistema. Onde esses agentes são mais vistos? É na área do comércio, na programação? Olha só, eu peguei o ranking de liderança de uso e isso é bastante interessante porque o que vai determinar quais áreas que usam mais determinada tecnologia?

São as áreas que estão mais preparadas e se beneficiam mais. Então, esses são dois vetores que a gente tem em qualquer tecnologia que entra no mundo. Então, no caso, quais são as áreas que estão usando mais? Área de tecnologia, óbvio, né? Depois, financeira. A área financeira sempre está muito próxima da tecnologia, porque ela tem que ter uma estrutura tecnológica muito boa para funcionar.

É atendimento ao cliente, porque a gente hoje tem uma tecnologia que ajuda, ela já ganhou características, que ela faz bem isso, de ver informações do cliente, falar com o cliente, fazer um filtro nisso. E-commerce, porque a natureza do e-commerce também... Perceba que todas essas que eu estou falando...

São áreas que têm grande volume de dados digitais, têm processos repetitivos ou analíticos e infraestrutura tecnológica estruturada, bem madura. Então, é tecnologia, empresas da área de finanças, financeiras, atendimento ao cliente, e-commerce e operação, cadeias e suprimentos, porque são áreas que estão estruturadas.

E quais que estão atrasadas? Então, a gente tem as que estão lá na frente, na ponta. Então, eu trabalho com transformação digital, escrevo sobre isso a minha vida inteira, desde que tenha tecnologia. E aí é engraçado, porque esse tipo de coisa que eu estou falando aqui é exatamente a mesma que a gente falava de transformação digital lá atrás.

Ela entra na mesma esteira, no mesmo tipo de infraestrutura, no mesmo tipo de cultura, maturidade, que a transformação digital. Ela é uma parte da transformação digital. Então, os mais atrasados são governo, saúde pública, educação tradicional, indústria pesada e construção.

Por que elas ficam mais atrasadas? Porque é o oposto das outras áreas. Elas têm regulamentação muito forte, que segura, não permite que você faça rapidamente a adoção. Dados fragmentados, não tem a infraestrutura organizada. E a gente viu em alguns episódios aqui, quando a gente falou de saúde pública, um dos desafios deles, educação, é você juntar tudo isso, é você criar um sistema que flua os dados, está uma coisa aqui, está outra coisa lá. Será que esses dados estão bons, não estão bons?

Então, enquanto empresas de e-commerce, de tecnologia, de finanças, já tem isso super fluindo de maneira, com várias validações, com segurança, etc., essas áreas são fragmentadas. Então, você tem vários níveis distintos de tudo. Sistemas legados, muito sistema antigo, que você tem que, de qualquer forma, utilizar, ou trazer, transferir. E risco operacional grande. A gente viu também que um dos problemas da área...

da saúde, dessas, né, governo, um errinho, então se você pegar uma empresa, o risco é dela, lógico, ela pode causar danos graves pra muita coisa, né, mas tem profissões também que são mais impactadas, né, então, conforme os agentes vão entrando, né, quais são as áreas que a gente começa a ter a substituição mais óbvia? Atendimento, obviamente, já falei lá atrás, né, que é atendimento e suporte de primeiro nível,

Agora perceba, o humano começa a ficar mais importante no atendimento de segundo nível, terceiro nível. Ele vai resolver, ou seja, a IA faz a triagem, e provavelmente melhor do que muitos humanos, porque muitos humanos não conseguem em tempo real ter os dados. Então, primeiro nível, depois telemarketing. Mas aí quando você chega para falar com a pessoa, é porque o problema ali já não foi resolvido.

E aí você quer, exatamente, você espera que essa pessoa te dê uma resposta, porque vamos ser sinceros, a maior parte dos atendimentos que a gente tem hoje, uma grande parte, é totalmente automatizado, é humanos automatizados, isso que eu estou querendo dizer. Tanto que eu brinco, tem uma frase de um livro meu de 2017, e eu continuo repetindo essa frase porque ela continua válida, porque os robôs estão avançando e cada vez melhor.

Se você não quer ser substituído por um robô, não seja um robô. E o que a gente vê é um monte de gente se robotizando. E já era robótico, que você fala, não, pelo amor de Deus, pensa, tem empatia, que aí volta de novo a questão do pensamento crítico. Então, atendimento e suporte no primeiro nível, telemarketing e vendas outbound repetitivas, aquilo que você fica empurrando nas outras pessoas de maneira repetitiva.

digitadores e entradas de dados, cada vez menos, porque fala, os dados já entram automáticos, cada vez pelos sistemas, inclusive, distribuídos. Produção básica de conteúdo, a gente está precisando de gente para refinar, quem já trabalha com IA na produção de qualquer coisa, sabe que no primeiro nível ela ajuda muito para pesquisa, mas você precisa refinar para que aquilo fique com uma qualidade realmente adequada.

revisão documental e tarefas jurídicas repetitivas, isso é excelente, porque ela já faz isso melhor do que a gente, então fica muito bom, mas revisão, trazer os tópicos, a gente discutiu isso também aqui no passado, sobre educação, ajudar o professor a entender o que foi falado, ajudar uma pessoa de recursos.

humanos, pra ela ver, analisar um currículo, trazer os insights, mas não pra decidir por ela, né? Então aí a gente começa a ter gente muito boa em cima, por isso que eu falo que quando a gente começa a trabalhar com a gente, sobe a barra, fica empurrando a gente pra cima, né? A gente tem que subir. Análise financeira básica, também, ajuda. Hoje você pode colocar na IA, imagina no nível de a gente, né?

Você pode colocar, não sei se o pessoal fez esse teste, às vezes eu faço lá com o pessoal da Samsung brincadeirinhas no celular para a gente ver a utilidade. Pega um recibo que você tem de alguma compra que você fez, na farmácia ou no mercado, ou uma lista que um arquiteto mandou para você, e fala para separar por categoria, categoria de imóveis, categoria de produto, ou valores que são mais significativos. Ela faz isso brincando. Imagina isso num fluxo inteiro. Faz isso com mais facilidade que a gente.

teste de software manuais, você começa a não precisar, a gente faz várias integrações e traz os dados para a gente. Tradução básica, a gente já viu que tradução básica, você não precisa falar mais uma língua para viajar, você consegue, lógico que você não vai, gente, é muito importante falar isso, você não vai experimentar toda a riqueza.

de falar uma outra língua, não vai fazer o benefício que uma língua faz para o cérebro, que a gente já falou aqui o quanto é importante, mas você tira um primeiro nível, que é o que acontece muitas vezes, inclusive limite, para poder, então tradução básica de tudo, de manuais, hoje está com uma facilidade, a gente trabalha, a minha empresa, a gente trabalha com muita coisa do exterior, o pessoal faz consulta para palestra, para creator, gente, antes era um rolo, porque todos os documentos, a proposta, não sei mais o que,

Agora, o próprio cliente já pede em português. Ele faz a tradução lá, entendeu? E manda. A gente responde em português, ele mesmo passa para o inglês e vai fazendo. Então, ou seja, isso aí fluiu. O Airbnb está fazendo isso direto agora, né? Antes você colocava lá que você falava inglês, espanhol, português. Porque você precisava falar com a pessoa que estava lá no apartamento. Que estava alugando o apartamento. Lógico, ela tem problema, alguém tem que atender, né?

E agora, eles até tiraram isso, porque a pessoa pode ir falando direto na plataforma, com uma pessoa que fala só português, a plataforma traduz e já vai. Então, essas traduções básicas começam a sair. Pesquisa e análise de informação básica. Vou pedir para pesquisar. Eu quero saber um pouquinho mais.

Que é o que a gente faz, né? Imagina os jornalistas, a gente que trabalha com pesquisa, que escreve. Antes era muito difícil, mesmo com busca, você fazer uma pesquisa básica, achar a fonte, aí você tinha que ler cada fonte. Agora você consegue antecipar isso, ver muito mais fonte, para você refinar, fica mais rico o processo. Então, essas profissões de quem fazia isso, e assim, a gente não vai precisar de quem faça isso, então o estagiário também não precisa fazer isso.

Por isso que eu falei do estagiário lá atrás. A gente precisa que ele entre como...

oxigenação no DNA. A McKinsey tem um estudo legal que eles falam que 25% das tarefas de trabalho vão ser automatizadas até 2030. O Fórum Econômico Mundial traz um número que 44% das habilidades profissionais mudarão nos próximos cinco anos. Tem um estudo do Gartner também, que também fala isso. Mais estudos do Fórum Econômico Mundial.

que a grande parte das empresas estão com dificuldade de contratar talentos, porque as pessoas não estão transformando as habilidades, e ao mesmo tempo, porque elas vão mudar, as habilidades estão colapsando, mudando profundamente. As profissões, as competências precisam de novas habilidades. Então, a gente tem um cenário onde a gente tem que mexer na infraestrutura.

E a gente tem um cenário onde a gente precisa dos humanos também, se transformando, na realidade, full time, para conseguir acompanhar esse ritmo de mudança. Marta, queria mudar um pouco de assunto para falar de uma polêmica que aconteceu em fevereiro. Aquela rede social para a gente, a inteligência artificial, o Multibook, causou um frenesi no mês de fevereiro por ser o primeiro experimento desse tipo que reuniu milhões de bots ao mesmo tempo interagindo entre si.

No slogan do site diz assim, onde agentes de IA compartilham, discutem e votam positivamente. Humanos, vocês são bem-vindos para observar. As análises depois que saíram sobre essa rede social se dividiram entre quem viu ali o futuro da tecnologia, dos agentes, com a IA verdadeiramente autônoma e quem achasse que aquilo não passasse de um teatro.

Com muito envolvimento humano por trás. Eu queria que você explicasse um pouco essa discussão que aconteceu. Ótimo, muito legal. Foi um experimento muito interessante, sobre vários aspectos. A crítica que vem é que ele foi exagerado, hype exagerado na mídia, porque ele não é tudo aquilo. Ele é um experimento limitado. Inclusive, por que ele é um experimento limitado?

Você não tem controle para saber se humanos interagiram. Então, uma das críticas é que humanos escreveram coisas ali, que humanos induziram, etc. Então, esse é o grande alerta que, inclusive, o MIT faz, dizendo que foi um teatro, que você tem...

mas não nega a utilidade desse experimento. Por quê? Primeiro que foi feito com vibe coding, e depois teve vazamento de dados, porque você deixa os agentes soltos, toda essa questão de segurança que a gente está falando aqui, que a gente pode aprofundar um pouquinho depois, tudo isso foi levantado quando você começa a observar, mesmo que os agentes, uma das críticas é, eles são baseados em comportamentos humanos, eles não estão na realidade pensando, eles estão...

Replicando aquilo que eles viram, que também é uma forma de pensar, a gente também reproduz muito do que a gente viu. Mas, de qualquer forma, não vamos entrar no fato de eles estarem pensando ou não. Mas os agentes com autonomia foram colocados juntos lá em algum grau. E aí, muitas das críticas são de que foi exagerado, mas muito também...

tem uma percepção do que pode ser a internet, tanto as coisas boas quanto as coisas ruins do que aconteceu com esse experimento, antecipo que pode ser a internet em 2030, que é com essa evolução dos agentes. Então, algumas coisas. A internet, com os agentes entrando, e aí vem desse experimento que fez a gente refletir, ela passa a ser internet de máquina. A gente sempre falou o seguinte, a internet é a internet das pessoas.

A internet, internet de pessoas para pessoas. Só que agora, então, eram pessoas que acionavam algum serviço, alguma tecnologia na internet para ter um serviço para ela. Ou conversavam com outra pessoa. Agora, com os agentes, você, pessoa, delega para um agente que fala com outro agente, com outro agente, com outro agente, com outro agente, e faz o serviço. Então, os agentes passam a ser realmente quem leva a coisa para lá e para cá na internet.

Então, já tem desde o início dessa discussão de agente, uma constatação de que muda a dinâmica de um monte de coisa no mundo. A busca, por exemplo. Hoje, quem trabalha com marketing de busca, tem que considerar como é que você é encontrado dentro, por um agente ou dentro de um LLM, dentro de uma dessas máquinas, um grande modelo de linguagem.

Então, isso muda. Agora, se você pensar, não é só isso que muda. Muda a fidelização. Eu não estou vendo mais o que ele está escolhendo. Então, antes, talvez eu escolhesse voar com uma companhia X. Aliás, eu escolho voar com uma companhia X mais do que a outra porque eu gosto mais. Teria que ter um refinamento muito grande de ele entender tudo sobre você para fazer as escolhas. Então, as escolhas talvez não sejam baseadas mais em sentimento, pelo menos num primeiro momento.

elas sejam baseadas muito mais em informações racionais e lógicas que os agentes vão tomar. Então, isso muda a dinâmica. São máquinas realmente nesse processo decidindo. E quando você começa a ver como essas máquinas estavam atuando, elas acabam sendo uma réplica do que a humanidade é. Então, comunicação máquina-máquina em escala, sem humanos nesse processo, que é o que a gente está falando nas empresas.

Mas imagine isso na internet. As empresas têm governança, têm autonomia. Eu lembro quando a gente começou a ter YouTube e a gente começou a ter mais vídeos, etc. Você vai lembrar que propaganda na televisão...

ela é controlada por órgãos reguladores, não pode ter abuso. E na internet? Você não pode ter propaganda preliminar dentro de mecanismos que façam indução. E na internet? Quem controla isso? Então, a gente começa a entrar com a mesma questão. Máquina para máquina, esse monte de máquina operando. Então, sem humanos no loop, como é que fica? E você não tem, que nem nas organizações que você quer ter, essa...

governança, você não tem como controlar. Então, comportamentos emergentes. Então, independente de você ter aprendido isso com XYZ, tem narrativas que são religiosas, que vão para um patamar. Debates filosóficos de IA que surgiram ali. Então, ok. Aquelas IAs criaram uma religião nova. Isso. Elas criaram religião. Então, não é um experimento que é... Essa é a crítica. Você não sabe...

ele não foi auditado. Então, a gente não sabe direito de onde veio isso. Mas é uma... A gente fala aqui em futurismo, a gente tem discutido isso aqui, é o nosso DNA desse programa. Os sinais é que dão elementos, alimento, para a gente criar cenários. Isso aqui são sinais. Se alguém fez...

Um ambiente onde os agentes conseguem operar sozinho, mesmo que tenha alguma... Pega a Eliza lá atrás, em 1966, era um chatbot muito limitado de psicologia, de bate-papo para fazer análise.

Era um sinal do que poderia acontecer. Os comportamentos emergentes são bastante interessantes. É um laboratório público de agente. E aqui vem a parte de segurança. Então, ataques entre agentes. É uma réplica do que humanos fazem. Manipulação de prompt. Como é que você consegue manipular por meio da linguagem.

spam automatizado, falhas de segurança, que eu falei, que vazou, e a gente tentando conseguir chave de um lugar para o outro. Então, outra coisa que foi legal ver, como que os agentes podem coordenar atividades. Então, pensa, a internet é livre, com coisas acontecendo vindo de tudo quanto é demanda, de tudo quanto é lugar. É diferente de uma empresa mais controlada.

como que eles coordenam esses próprios fluxos entre eles. Então, também é interessante. E talvez o mais interessante, pelo menos para mim, é que mostra os riscos. E os riscos são, acho que de tudo que a gente falou aqui...

É uma coisa mais imediata que a gente tem. Então, ataque de prompt ingestion, a gente faz isso... A gente não, eu não faço isso, mas... Existe quem faça a injeção de código dentro de prompt já há muito tempo, dentro de formulários. Formulários, teoricamente, para entrar textos de cadastro, etc.

tem hacker que coloca código dentro de um dos campos e isso se executa dentro da máquina onde deveria ser só um campo de texto. Isso já acontece há um tempão. Agora, dentro de prompt de um agente com outro, agente tentando manipular o outro, roubo de chaves de APIs, scripts automatizados dominando discussões, que é o que a gente tem, alguém que tem um discurso mais...

sabe falar melhor ou fala muito que domina um fórum inteiro, um grupo de WhatsApp que você não consegue fazer, os outros não conseguem ter voz. Então, se eles estivessem online, eles não estão online, não tem essa autonomia para sair fazendo coisa, mas isso aqui seria como um laboratóriozinho do que pode ser a internet com os agentes, operando a internet agente, com a multiagente, etc.

E dá para a gente, porque a gente fala que em futuros é legal ver os cenários positivos e negativos, para a gente se prevenir para os negativos. Então, isso dá para a gente insights do que a gente pode fazer para que não aconteçam coisas com riscos maiores. Que acho que é uma coisa também que vale a pena a gente falar um pouquinho antes da gente fazer o nosso...

fechamento, para as pessoas entenderem como que esses riscos podem ser sistêmicos e realmente muito rápidos e catastróficos. Por quê? Quando a gente tem... A gente já teve algumas experiências ruins com relação a isso. Em 2010, inclusive, acho que eu cito em quase todos os livros quando eu falo de Iá.

que foi um crash na bolsa por causa de um erro que foi escalando, um erro de sistema que foi escalando, a bolsa quebrou, teve que resetar o processo todo lá. Então, quando você tem um sistema que faz, quando um humano erra,

e passa para o próximo humano, muitas vezes o próximo humano elimina o erro. Ou você tem no meio do caminho algum sistema de controle. Por isso que a gente falou que o humano no looping, ou a forma como você passa os dados é importante. Então, se falhar alguma dessas coisas, imagina que um agente falhou. E aí o que ele pode? Um agente causa a decisão incorreta. O outro confia naquela decisão que ele tomou. E aí ele executa com base no erro.

Imagina, qualquer coisa executada com base no erro, o sistema começa a gerar mais erros.

Então imagina um erro de pedido. Ele faz um erro de estoque. Ele entendeu errado que tinha que pedir por algum motivo, alguém deu uma entrada errada e ele não percebe que o processo está errado. Você pode mandar isso para fazer uma compra catastrófica. Eu acho que em 2026 ainda tem que ter cuidado com os agentes.

Eu acho que tem que ter sempre cuidado com os agentes, em 2026 e sempre, mas hoje, por que é mais crítico? Porque a gente ainda não tem uma infraestrutura madura, a gente não tem guardrails adequados, porque se você criar os guardrails adequados, o agente não opera fora daquilo.

Se você faz os testes adequados de o que ele está fazendo, executando, mandando, todos esses que a gente falou aqui, fazer o cheque, você garante que aquilo vai funcionar. Muito bem como funcionaria um humano, mas numa escala de velocidade maior, ou de impacto maior em termos de alcance. Mas tem que ter. Agora, dá trabalho fazer os guardrails, a parte de segurança.

tem que ter teste. Tanto que, de novo, a gente teve um episódio aqui sobre cibersegurança e eu sugiro que as pessoas vão ver o que é os zero days. Tem, inclusive, comercialização de zero days no mercado, que é você não saber que tem, o fabricante não sabe que tem aquela falha.

e aí um hacker explora aquela falha, e aí tem gente que vende isso, fica explorando falhas para poder vender sem consequências no que acontece com as pessoas. Até eu vou recomendar, a gente tem a parte de recomendação aqui, tem um episódio do CSI Cyber,

que deve ser de 2014, que é uma boneca, e tem um outro que é com uma impressora, que a impressora é hackeada por uma falha que tem no sistema dela e que não foi mapeada pelo fabricante, e aí com essa falha o hacker consegue fazer a impressora pegar fogo e causar incêndio.

Com isso, ele põe um FBI desesperado ali, pessoal, que é da parte de segurança. Por quê? Imagina que você tem milhares daquelas impressoras distribuídas no país. Você não tem tempo de fazer o recolhimento. Qualquer impressora com papel vira uma máquina de incêndio remoto. E o outro é boneca que fala. Eu vi agora que o pessoal quer colocar em brinquedos. A gente não tem uma IA ainda.

que está com todos os guardrails possíveis. Então, uma dessas bonecas que fala, o sistema dela foi hackeado, e aí criminosos manipulavam pela boneca crianças para poder abrir a porta, ver a rotina da casa. Então, eu aconselho que assistam, especialmente tem Scorpion, que é uma série antiga, até para ver como que...

Isso não é novo. Coisas que pareciam ficção já aconteciam há 20 anos. Lógico, aconteciam primeiro com tecnologias mais avançadas que só o governo tinha, só o hacker tinha acesso. E é que agora está na mão de todo mundo e começa a estar no nosso dia a dia com muito poder, que é isso que a gente está falando aqui. Então, tem que ter...

cuidado, eu acho que tem que usar sim, tem que testar, mas lembra, vai testar uma coisa mais assim, põe numa conta que não tem nada de importante, tem a backup dos dados, uma máquina, eu tenho uma máquina que é totalmente separada de todo o restante para poder fazer isso.

Aí você consegue aprender muito, inclusive, com isso. Eu brincava quando as redes sociais começaram. Eu falava assim, gente, você não chega numa balada dançando e tacando o pé na porta. O que você faz? Você entra quietinho. Aí você vê como as pessoas se vestem. Você vai aprendendo como as pessoas se comportam. Quem ali é do seu time? Quem está interessado em você? Quem você está interessado? Que música que toca? Se você sabe dançar?

Aí você treina em casa, aí você chega causando. Então é a mesma coisa com tecnologia, é a mesma coisa agora. Você vai usar? Lógico que você vai, você vai na balada, você não vai ficar isolado. Mas você vai com cuidado. Daqui a pouquinho, quando você dominou o que está acontecendo, a linguagem, aí você começa a causar. Isso vale para várias áreas da vida. Várias áreas da vida. Agora, Marta, vamos embalar nossa conversa para a viagem, vamos para aquele quadro que a gente pode levar daqui dessa conversa para casa.

Takeaway

Ótimo, Carol, como foi um programa especial, um episódio especial só nós duas, a gente já falou o tempo todo nós. No Takeaway, vamos ver o que cada papel da empresa está relacionado com os agentes. Então, executivos de IA estão relacionados com estratégia. Governança de IA com regras e compliance. AI Product Managers, um monte deles para gestão de produtos que envolvem IA.

Engenharia, toda parte de operação técnicas. Agentes de segurança é para prevenções de riscos. Supervisores humanos para decisões críticas. E AI, Workforce Manager, na realidade é uma nova função emergente, que são os gestores dos papéis de cada...

e a colaboradora que a gente tem, que é a orquestração, que faz orquestração. Então, de novo, para a gente terminar, a gente tem um ecossistema, e nesse ecossistema a gente tem vários papéis, e um dos mais importantes é o de segurança, não é só ampliação, a gente focar na segurança também.

Muito bem, Futuramente vai ficando por aqui. A gente se encontra na próxima terça-feira com mais um episódio. Você pode encontrar a Marta Gabriel no Instagram, arroba martagabriel. Você também pode mandar um e-mail para futuramente, arroba cbn.com.br e assistir esse podcast no Spotify ou no YouTube. Futuramente teve apresentação de Marta Gabriel e Carol Tamacia, produção de Ellen Menezes, edição de Débora Gonçalves, a coordenação é do Tiago Barbosa e a direção é de Pedro Dias Leite.

Tchau, Marta. Foi um prazer mais uma vez. Todo meu, Carol, querida. Tchau, tchau. Tchau, tchau.