Depois do Hype: o que aprendemos sobre Inteligência Artificial | A Era da IA #06

Quando a gente começou a produzir essa temporada, uma das primeiras decisões foi não tentar acompanhar cada novidade da semana, porque seria impossível. Toda hora tem um modelo novo, uma ferramenta nova, alguma empresa anunciando que agora a IA consegue fazer uma coisa que até ontem ela não conseguia fazer. E se a gente corresse atrás de tudo isso, provavelmente essa temporada já estaria velha antes mesmo de terminar. E de fato, enquanto a gente produzia, a pauta continuou andando.

E a gente também. Porque ao longo desses meses não foi só a tecnologia que mudou. A nossa maneira de olhar para ela também mudou. Nos 5 episódios anteriores, nós começamos antes do hype do ChatGPT, passamos pelas promessas de impacto, fomos atrás da infraestrutura e do trabalho que ficam escondidos, entramos em governança, poder e terminamos falando de eleições e democracia. E agora, para fechar a temporada, a gente queria fazer uma coisa um pouco diferente.

Essa não vai ser exatamente uma sexta investigação, mas também não vai ser um episódio de bastidores. Para isso a gente tem o da redação, então aguardem. Hoje eu e o Vitor queremos conversar sobre 3 coisas: o que realmente surpreendeu a gente depois de passar meses investigando a inteligência artificial, o que O que mesmo depois de tudo isso a gente ainda não sabe e o que parece estar vindo por aí. Eu sou Andressa Giordano, editora-chefe do Inova Social.

E eu sou Vitor Vasques, diretor-executivo do Inova Social. E este é o último episódio da Era da Inteligência Artificial.

Eu acho que tem uma diferença grande entre saber que uma coisa existe e passar dias tentando entender como ela funciona. Eu sabia que os data centers existiam, eu sabia que tinha gente trabalhando para treinar e moderar os sistemas, eu sabia que o algoritmo não era uma coisa neutra. A gente fala sobre isso no Inovo Social há muito tempo. E eu sabia que a IA tava entrando em decisões importantes, mas eu acho que tudo isso ganhou uma dimensão diferente quando a gente começou a seguir essa cadeia.

E também aconteceu o contrário, tinha coisa que parecia gigantesca quando a gente lia uma manchete, ou até no nosso dia a dia, mas quando a gente ia atrás de uma evidência ficava bem menor, ou a gente acabava saindo daquela pesquisa com muito mais dúvidas do que certezas. Então, Vitor, eu queria começar por uma pergunta bem simples, que não é tão simples assim, vamos combinar. O que realmente te surpreendeu fazendo essa temporada?

Acho que a primeira coisa que surpreendeu foram as questões políticas por trás da IA. E quando a gente fala em questões políticas, eu acho que não é só a questão de regulamentação, a questão de governança por trás da IA. Mas é esse jogo político que a gente tá vendo, de quase uma guerra fria, de uma IA ocidental e uma oriental, assim, com bastante como que eu posso dizer, aspas, né, desses, dessas nomenclaturas, né. Sim, o mercado tá colocando muito essa divisão.

Eu acho que, falando um pouquinho de uma coisa que ocorreu durante as publicações dos episódios, o próprio Fantástico tava fazendo uma matéria especial a respeito Estados Unidos e China. E claro, inteligência artificial foi um tema da discussão bem a fundo, porque muita coisa aconteceu durante essas últimas, principalmente últimas semanas. A gente vai falar sobre isso também, mas eu acho que essa divisão é algo que a gente não vê na tecnologia há muito tempo.

E eu acho que não tá só por uma discussão, claro que a gente sabe que tem questões de governos atuais, então a gente tem o Trump do lado, Xi Jinping do outro lado tomando algumas decisões, mas a gente não vê essa polarização da tecnologia já tem muitos anos. E eu diria que essa polarização a gente não vê isso desde a corrida espacial. E depois da Guerra Fria, né? Então eu acho que é um grande exemplo, acho que a corrida espacial é um grande exemplo, porque a gente sai um pouco do campo militar e eu acho que sai um pouco dessa disputa tão, como que eu posso dizer, tão assustadora.

Porque a gente, quando tá falando do campo militar, é um pouco assustador, né? Mas acho que a corrida espacial é um grande exemplo. E parece que agora a gente tá numa corrida da inteligência artificial. Então acho que isso foi um pouco que me, não vou dizer também que surpreendeu, mas que olhando alguns pormenores, escutando alguns especialistas discutindo alguns pontos que a gente teve aqui, isso tem me dado algumas visões um pouco diferentes do que eu já tinha mais consolidado do mercado.

Principalmente nas duas últimas semanas, né?

Sim.

Que foi o tempo entre um episódio e outro, inclusive entre o quinto episódio e o sexto episódio. E aconteceu muita coisa nessas duas últimas semanas dentro desse tema. E curiosamente foi um tema que a gente não abordou durante a temporada, até porque tinha coisa acontecendo e foi uma temporada muito pra... A gente não queria entrar em algo didático, com termos técnicos. Termos técnicos, etc., mas foi uma coisa que a gente, enfim, abriu o mundinho da inteligência artificial para o ouvinte.

E isso também acaba entrando muito numa questão política que tem várias, a gente pode ver várias análises, pode ver várias opiniões, cada um tem uma opinião. Gira também, tem, gira tudo muito em torno de Eu não quero dizer teorias da conspiração, mas gira muito em torno de teorias e tudo mais. Então eu acho que foi muito interessante ter acontecido tudo que aconteceu, a gente ter ficado de olho em tudo que aconteceu nessas duas últimas semanas e poder gravar agora, porque eu acho que a gente tá com outra cabeça depois de uma temporada inteira entendendo o que tudo isso significa, né?

É, eu acho que a gente deu uma segurada um pouco no último episódio por uma questão técnica do Brasil, que era as decisões em torno da Justiça Eleitoral de como utilizar inteligência artificial nessas eleições. Foi algo que demorou muito para ser executado, demorou muito para ser até mesmo em certo ponto discutido, e em determinado momento surgiu um O caso que a gente viu aí da campanha do filho do ex-presidente utilizando uma imagem dele, inteligência artificial, e isso acabou acelerando um pouco as decisões da Justiça Eleitoral.

Então a gente segurou um pouco o último episódio porque a gente dependia de ter essa decisão um pouco mais tomada no Brasil. Coincidentemente, foram duas últimas semanas onde a gente viu um pandemônio acontecendo no mercado da inteligência artificial, com a saída de um ex-funcionário falando que o mundo vai acabar em 10 anos, com um monte de gente descobrindo, né, o lado do trabalho humano escondido da inteligência artificial.

Então eu acho que Acho que a gente tá passando, como o Andrés falou no começo do episódio, a gente tá passando por mudanças muito rápidas. E a nossa decisão, quando a gente começou a desenvolver aqui a temporada toda, né, o documentário, era não ser uma série que ficasse velha tão rápido. A gente sabe que tem muitas coisas aqui que vão cair muito rápido porque a gente tá tomando decisões Mas a gente quis trazer coisas que são, entre aspas, atemporais, são a base, né, de como a IA funciona.

A gente explicou, enfim, no começo explicou que a IA não é só o ChatGPT, ela existe há muito tempo e ela tá no nosso dia a dia muito mais do que um chatbot. E falando de duas coisas, primeiro, com relação a ao filho do ex-presidente que usou aquele material de IA na campanha. Foi muito curioso porque foi na semana em que a gente ia gravar o episódio. Então foi um trecho de episódio que foi refeito porque era exatamente isso, tinha coisa acontecendo.

E outra coisa que eu quero falar também, já respondendo a minha própria pergunta do que mais me chamou atenção, foi a questão do trabalho humano. Duas coisas, na verdade: a questão do trabalho humano e a questão do impacto que territórios sofrem com data centers, com a instalação de data centers. E que isso acontece muito mais no sul global do que no norte global. Então, quando a gente fala de, ah, dos pontos, e coincidentemente ou não É o episódio em que a gente fala do custo invisível.

Quando a gente fala sobre o ponto negativo da IA, a gente fala muito sobre meio ambiente, né, sobre água, basicamente, que a água do mundo vai acabar, etc. E tecnicamente existe uma forma de fazer com que esses data centers sejam mais sustentáveis. Inclusive, um dos exemplos que a gente usou, um data center que vai ser construído no Ceará, se eu não me engano. Ele, o projeto dele é ser totalmente com energia renovável e tudo mais, mas ainda assim não resolve um grande problema, que é como que aquele data center vai existir dentro de um território que já existe, e como que ele vai competir com, sei lá, com recursos dentro daquele território que já existe.

A poluição sonora é absurda. Eu vi um, a gente vai deixar nos comentários, eu vi recentemente uma investigação que fizeram sobre o que vai além da água, do uso de água e etc., desses data centers. O barulho é ensurdecedor. Então assim, é algo que atrapalha quem vive em volta, é algo que atrapalha a biodiversidade. E então não adianta um data center ser sustentável, mas ele ainda não viver em harmonia com o que tem em volta dele.

Então a gente resolve um problema, mas ainda tem que resolver outro. E é claro, eu acho que esse tipo de coisa vai ser resolvido com governança, com regulamentação, com leis, enfim. E acho que é por isso até que isso precisa ser uma pauta importante quando você vai analisar Quem que você tá, em quem você tá votando, em quem você tá acompanhando, enfim. E a questão do trabalho humano me pegou muito, porque eu acho que quando a gente fala de aprendizado de máquina, a gente tá falando, putz, que legal, uma máquina que sabe entender o padrão do que é um cachorro, do que é um gato.

Agora, essa máquina também precisa entender o padrão do que é uma violência. Um conteúdo de, enfim, das piores coisas que um ser humano é capaz de fazer. E é muito doido pensar que existe gente que recebe para ter contato com esse tipo de conteúdo, para que eu não tenha contato com esse tipo de conteúdo, para que quando eu faço uma pesquisa no Google eu não tenha que ver coisas que eu não quero ver. Então é muito, é muito doido isso.

Eu fico imaginando a cabeça dessa pessoa depois de um dia. Acho que às vezes se a gente vê um conteúdo um pouco mais violento, já deixa a gente um pouco mal.

Eu acho que quando a gente vê o noticiário muito a fundo, né, então aquela guerra cotidiana que o Rio de Janeiro sofre, a gente já sai um pouco desgastado, né. Então aí essas pessoas, você para para pensar E eu acho que é legal trazer essa discussão novamente, porque quando foi feita essa mesma discussão a respeito dos moderadores do Facebook anos atrás, todo mundo deixou passar, porque assim, o Facebook era uma rede social que eu poderia optar por não usar ela.

E agora a inteligência artificial tá me exigindo em vagas, né? Então assim, Eu acho que essa é uma discussão muito legal. Foi muito legal também, acho que aí é nossa relação aqui cotidiana, né, ver a sua surpresa em relação ao barulho, porque é muito engraçado, né. Eu já tava acostumado, eu já, enfim, já fui em data center e tudo mais, então eu sei essa poluição sonora que é ali um espaço daquele. Mas para você foi uma coisa, uma surpresa.

E é uma coisa que a gente que tá acostumado, né, com essa parte mais técnica, às vezes acaba esquecendo um pouco. E você falou um ponto interessante no comecinho, eu queria resgatar um pouco da sua fala, que a gente passou muito pelo antes do hype no primeiro episódio. E eu fiquei curioso Porque a gente tava assistindo um vídeo do Brino, que é um influenciador, e o Brino falou assim, nossa, mas inteligência artificial existe antes de 2020, né?

Uma coisa assim. Eu fiquei curioso, falei assim, nossa, realmente existe uma massa de pessoas ali que não é uma— a gente não é que a pessoa não teve educação, né? Não, isso daí não faz parte do dia a dia dela, né? E aí eu fiz uma pesquisa com pouco mais de 120 designers, que foi feita uma pesquisa também pela Federal da Bahia em relação ao curso de design ser impactado pela inteligência artificial. Então eu fiz uma pesquisa a respeito perguntando: para você, a inteligência artificial, né, o campo da inteligência artificial tem quantos anos de existência? E aí foi muito legal que 21% falou de 3 a 4 anos e 32% falou mais de 10 anos.

Caramba!

Então assim, somado isso, a gente tem mais de 50%, tá? E a gente só tem 28% que disse mais de 20 anos. Só para deixar claro, eu coloquei de 1 a 2 anos, de 3 a 4 anos, mais de 5 anos, mais de 10 e mais de 20. Então quem talvez tivesse um pouco mais de conhecimento ia colocar mais de 20, né? Mas foi uma parcela só de 28% de pessoas. Os outros 50%, que a grande maioria falou aí de um, de pelo menos uma década só. E a gente tá falando, a gente falou, né, no primeiro episódio, um campo que tá há décadas sendo estudado.

E para a gente chegar até o que a gente tem hoje, os modelos que a gente tem hoje, muita coisa aconteceu. Muitas coisas que hoje para a gente são muito mais simples, há décadas era algo muito complexo e muito interessante.

Só quero completar uma coisa. Em julho teve a WAIIC, né, que é a Conferência Mundial de Inteligência Artificial, que acontece na China. E foi apresentado pela Huawei um supercomputador para uso de inteligência artificial. Então foi muito engraçado porque isso foi tema dessa série do Fantástico há pouco tempo e E quando você vê na televisão aquele supercomputador, você não imagina o tanto de barulho que faz aquela máquina.

É, e eu acho que, nossa, a questão do barulho para mim é uma coisa— eu moro em São Paulo, eu detesto, e eu detesto barulho, eu não me acostumei com barulho ainda. Mas é muito triste assim até o que algumas comunidades precisam lidar, e elas precisam ter alguma forma de que o direito delas a uma vida tranquila, sabe, seja respaldado de alguma forma. E não só falando de data centers, ainda no campo de inovação a gente tem as turbinas eólicas, que não deveriam ser instaladas onde elas são instaladas hoje, porque é insuportável também você morar do lado de uma turbina eólica.

Isso não deveria acontecer, uma turbina eólica não deveria existir. Perto de onde alguém mora. E não é que a pessoa tem que se mudar, a gente precisa de uma legislação que garanta que isso seja feito da forma certa. Mas com a IA, o que tá acontecendo é que a gente tá, como é que fala, é trocando pneu com carro andando, com a carroça andando. É isso que a gente tá fazendo, porque não tem outra forma de fazer isso, na verdade. Então eu acho que a gente vai ver muito avanço nisso.

Eu acho que é algo que as autoridades precisam ser cobradas, porque é importante, sabe, que as pessoas que vivem em volta disso tenham alguma voz. E não dá para viver desse jeito aqui. Aqui em São Paulo eu fecho a janela, minha janela tem uma vedação muito boa, eu fecho a janela, acabou. Mas as pessoas que são menos que vivem em alguma situação de vulnerabilidade. Enfim, falando em situação de vulnerabilidade, a gente voltando para as pessoas de que o ghostwork, né, eu fico também me perguntando em que situação uma pessoa tá para ela aceitar um trabalho desse também.

E a gente fala de pessoas que têm algum tipo de formação, que falam inglês e tudo mais, e enfim, precisam, acharam uma forma de viver, tirar o sustento, tendo contato com coisas horríveis que a gente sabe que o ser humano é capaz de fazer. Então isso para mim, de longe, foi o que mais me chocou. Agora, indo para uma outra ponta, eu queria saber para você o que que você achava que tinha mais volume, digamos assim, mais importância, e virou algo que não tem tanta importância, que perdeu um pouco o tamanho, ou virou um isso depende? Dos temas que a gente abordou?

Eu, como sempre quando a gente grava junto, eu gosto de ser polêmico porque aí a edição fica boa, né? Mas eu acho que o grande depende aqui é a substituição de empregos, e eu vou explicar por quê. Eu acho que a gente passou E tá passando muito rápido, tá? Ao contrário do que foi a bolha da internet, a bolha daí, aí a gente pode falar que é uma bolha, e eu vou explicar depois por quê. Ela tá acontecendo tudo em questões de meses, até mesmo assim pouquíssimos meses, coisa que antes talvez demoraria um ano, algo assim, tá?

E eu tô vendo que assim, teve um, como que eu posso dizer, um surto coletivo onde, meu Deus, vamos ser substituído pelas IAs, etc. E agora a gente já tá vendo algumas empresas proibindo o uso de IA dentro da empresa. Então, e são as mesmas empresas que lá atrás tava querendo implementar inteligência artificial em tudo. Então eu acho que esse amadurecimento um pouco do mercado tá mostrando que talvez a substituição de empregos não seja por uma questão da tecnologia, mas por uma questão de, em certos momentos, a gente tinha profissionais muito qualificados fazendo trabalho muito operacional muito mecânico, tá?

Vou dar um exemplo aqui. A gente tinha lá uma pessoa formada em jornalismo que passava o dia inteiro coletando os links numa assessoria de imprensa de uma determinada marca. Então ela fica, ela ficava na verdade pegando o link da matéria que foi publicada e colocando no Excel. A pessoa é formada em jornalismo, sabe? Até a brincadeira do mercado de jornalismo, que o pior lugar que você poderia chegar era ser jornalista, descritor de legenda do ego, né?

Que era, por exemplo, Caetano Veloso toma água de coco em Copacabana. E agora tinha virado essa coisa de tipo, não, pior coisa que você pode fazer é ficar coletando, né, fazendo esses relatórios. E eu vejo que não é uma substituição do emprego. Na verdade, a gente tá dando essa tarefa, tá, para uma ferramenta qualquer, e não necessariamente precisaria ser uma ferramenta de inteligência artificial, tá, mas é que os mercados como um todo, principalmente o mercado de comunicação, estão— acho que a palavra é deslumbrados com a IA.

E isso acabou gerando uma substituição de empregos. Mas foi exatamente numa experiência que eu tive no passado, numa aquisição de empresas onde eu trabalhava, que o pessoal falou assim: ah, mas essa galera aqui faz o quê? Ah, essa galera aqui é a galera de saque. Aí a empresa que comprou, né, falou assim: ah, não, pode mandar todo mundo embora porque a gente já tem o saque. E aí uma semana depois eles descobriram que era um saque especializado em um determinado negócio que o saque deles não fazia.

Então agora eu vejo que o mercado tá nesse momento. Ele mandou embora aquele profissional que coletava os links e fazia a planilha Só que ele percebeu que essa pessoa não fazia só isso, ela filtrava informações também, ela filtrava, ela fazia uma análise mais técnica, ela trazia toda a experiência dela, não só de formação, mas experiência de mercado e tudo mais. Então assim, percebeu-se que em algumas coisas não dá para ser tão mecânico.

E eu acho que também tem a questão de que a gente precisa saber o que pedir para IA fazer. E acho que a gente entra no tema que a gente já abordou no Inova Social. A gente não chegou a falar na temporada porque não cabia, mas o workshop, que é o trabalho mal feito pela IA. Que é você pedir algo para IA, a IA te responder e você nem ver se tá bom, se não tá bom, enfim. Eu acho que o que as empresas passaram é: putz, uma IA consegue fazer coisa que, sei lá, 10 funcionários, 5 funcionários faziam.

Tá bom, essa IA consegue fazer, mas e a parte em que alguém tem que ver o que a IA tá respondendo, se ela tá respondendo certo, que tá sabendo pedir para IA o que tem que ser feito?

Enfim, existe gestor, existe cliente, existe diretor de empresa que não sabe pedir para sua equipe. Imagina essas pessoas pedindo para uma inteligência artificial que ela só vai elogiar e vai falar: nossa, grande ideia!

Ela vai dar, e aí as coisas vão dar errado, ou você vai achar que a IA é burra. Não tá te dando as coisas direito. E aí, na verdade, você descobre que o que existia antes era uma pessoa que sabia o que tava fazendo. E se aquela pessoa fosse trabalhar com IA ou não, digamos, uma pessoa fosse trabalhar com IA, a pessoa sabia o que pedir para IA e a pessoa sabia avaliar o que a IA tava dando de volta para ela. Então eu acho que hoje as empresas estão percebendo que a IA é uma ferramenta e que se ela não for usada da forma correta, ela vai gerar um custo muito maior do que uma pessoa.

Um exemplo que eu posso dar de uma experiência minha: eu comecei a usar uma ferramenta do Google, o Anti-Gravity. Eu comecei a usar, é uma ferramenta do Google, e eu paga. E quando eu fui ver, em, sei lá, 2 dias eu tinha usado a minha capacidade de uma semana, a minha capacidade não, 60% da minha capacidade de uma semana. Porque eu não sabia usar. Então, se eu fosse, sei lá, se fosse uma empresa que deixa tudo no automático, por exemplo, eu já estaria pagando tokens a partir do terceiro dia, sabe?

Do terceiro, quarto dia usando a ferramenta, porque eu não sabia usar a ferramenta. Claro, depois de uns dias a gente vai aprendendo tudo mais, e é isso que funciona com uma pessoa. E eu acho que a questão dos empregos vai ser isso assim, sabe? Eu acho que surgiu uma grande, não é uma grande ilusão não, mas uma grande, um grande deslumbramento das empresas de, nossa, podemos gastar menos dinheiro com funcionários. E aí eles descobriram que não.

Eu acho que esse é um ponto importante. Como já o ChatGPT, o Gemini, eles viraram o grande top of mind, vamos assim dizer, de inteligência artificial. Então hoje, se eu perguntar para minha mãe, para minha sogra, o que que é inteligência artificial, eles vão saber o que que é o ChatGPT. E eles não têm essa exigência de tokens, né, que eu acho que é meio complicado a gente entrar nesse ponto porque não daria para a gente explicar tudo isso.

Mas vamos ver, vamos dizer que esses usos de créditos, cada vez que eu uso a ferramenta Então isso cria uma ilusão de que aquela ferramenta vai estar ali fazendo coisa para mim ad eternum. E aí quando você— o exemplo que você deu, né, o Cloud é um grande exemplo disso, porque o mercado todo virou e falou: o Cloud, ele é caro. Não, o Cloud não é caro, é que o gasto de token dele é muito rápido se você não souber utilizar e acaba ficando caro, entendeu?

Então eu acho que esse é um ponto importante, é entender a ferramenta, entender ela como ferramenta.

Acho que esse é um ponto importante, assim como a gente tem várias outras coisas, Photoshop, sei lá, eu falo Photoshop porque é uma coisa que a gente usa todos os dias, mas Tipo, pacote Adobe. Eu acho que teve uma época em que falavam muito que, sei lá, se você é fotógrafo e você passa as coisas no Photoshop, você não é fotógrafo. Então eu acho que é um choque que qualquer, toda, várias tecnologias trouxeram para o mercado e alguns empregos acabaram, mas porque não porque eles pararam de existir simplesmente, pararam de existir, mas porque eles se transformaram.

Então acho que é isso que a gente vai ter uma transformação. Uma coisa que me chamou atenção como algo que virou um depende foi a questão de que o algoritmo interfere muito nas nossas opiniões políticas, porque a gente acaba ficando numa bolha e tudo mais. Eu acho que a gente acaba ficando numa bolha porque a gente quer ficar numa bolha. E toda vez que aparece um conteúdo que não me agrada, isso não só de questão política, qualquer outra coisa, eu fico meio que, meu algoritmo tá me traindo.

Virou até um um memezinho assim de aparecer um vídeo que no começo parece que é uma coisa, mas depois é outra. E aí as pessoas comentaram: nossa, pensei que meu algoritmo tinha me traído, ou eu construí esse algoritmo tijolo por tijolo. Então eu acho que tinha, eu tinha muito essa questão de: putz, as redes sociais fazem com que a gente fique cada vez mais polarizado e tudo mais. Só que quando eu fiz as pesquisas para o episódio sobre política e a gente viu que foram já feitos testes e investigações científicas mesmo para ver se esse tipo de segmentação do algoritmo causava algum efeito nas pessoas, ficou tudo muito incerto.

Então acho que para mim também ficou, isso era uma certeza que eu tinha e acabou virando um, acho que a gente precisa pesquisar mais sobre o efeito das redes sociais nas opiniões das pessoas. Eu acho que falando de rede social, uma, um tema que movimentou muito as redes sociais nas últimas semanas foi a questão da, do ex-funcionário da OpenAI ou da Anthropic, agora não lembro, dos dois. Ah, é verdade, eu acho isso muito bizarro inclusive, o cara poder trabalhar para dois concorrentes, mas ok, período tão curto.

Exato. E a gente teve isso, né, do cara que ele foi no Twitter falar que saiu porque ele era contra o que tava acontecendo e que as coisas iam ficar terríveis e que a gente ia morrer em 10 anos. E teve a outra questão que foi o incidente da Hugging Face, que foi uma situação em que agentes da OpenAI, agentes de inteligência artificial da OpenAI meio que escaparam de um ambiente seguro e foram para internet e conversaram entre si e tudo mais.

Eu acho que é importante a gente primeiro explicar o que que foi esse incidente da Hugging Face, que eu também não tava entendendo, porque a primeira coisa que apareceu para mim foram coisas muito sensacionalistas. E depois, quando a gente entende por que que aqueles agentes estavam fazendo aquilo, a coisa fica menos, sei lá, assombrosa, digamos assim, que foi o seguinte essa situação. Primeiro, a gente tá acostumado, até agora pouco a gente tava acostumado com chat, ChatGPT, Gemini, etc.

A gente faz uma pergunta, ele responde, certo? A gente pede, sei lá, vê esse texto. Eu uso muito para revisão de texto, eu falei inclusive isso da redação. Que eu uso muito para revisar texto. Primeiro, era uma coisa que me demandava muito tempo, e ainda assim tinha um errinho ou outro, e eu detesto cometer errinhos de digitação, que quer que seja no meu trabalho. Então fez ganhar muito tempo. A gente pedia: revisa isso aqui para mim.

Ou alguém vai lá e fala: queria essa imagem, queria esse vídeo, esse texto. E ela criava. E aí a gente agora tem os agentes, que são inteligências artificiais que fazem coisas. Então, sem necessariamente a gente pedir de pedacinho em pedacinho para eles, a gente dá uma tarefa e eles vão atrás de cumprir essa tarefa.

É muito interessante ver que se você tiver no ChatGPT, ou enfim, usar qualquer outra IA, que você consegue ver o pensamento dele, porque ele fala, né, pensei por X tempos, né, e você e você abrir, é muito interessante porque parece uma pessoinha falando. No meu Anti-Gravity, eu tava pedindo alguma coisa para ele, aí eu cliquei para ver o pensamento dele por curiosidade. E aí é engraçado porque ele fala umas coisas assim: tá, eu consigo isso, eu consigo fazer isso.

Agora eu preciso ver como que eu preciso, como que eu consigo fazer tal coisa. Ai, eu testei e ficou perfeito. Então é muito interessante ver. E outra é ver, não só ver isso assim, porque é legal. Uma coisa que a gente falou no microcast da comunidade do Inovo Social na semana passada, que é quando um ser, um robô, fala como humano, se comporta como humano, a gente tende a ter sentimentos humanos com relação a ele. Então a primeira coisa que eu senti assim quando eu vi os pensamentos dele foi, ai, que bonitinho.

A segunda coisa foi Ele pensa muito rápido, ele pensa muito rápido, ele faz as coisas muito rápido. É realmente tipo absurdo. E de novo, esse nem é o modelo mais avançado que a gente tem. O modelo mais avançado que a gente tem tá sendo testado, sendo desenvolvido, e provavelmente semana que vem a gente vai ter um novo mais avançado do que esse. Então é interessante. É claro que acaba sendo assustador quando você olha para a tela e vê isso, mas Para quem, enfim, para quem se deslumbra com esse tipo de coisa, é muito interessante.

E assim também como algumas pessoas, às vezes ele alucina, né? Então foi um exemplo também do que aconteceu comigo essa semana, que aí começou num processo, não sei como, um looping escrevendo shame, shame, shame, shame, e eu tô com medo de ter deixado, deixou ela traumatizada, alguma coisa assim.

Primeiro caso de IA com burnout, talvez.

Pode ser melhor ela do que eu.

No caso da OpenAI, eles fazem, enfim, todas as empresas fazem testes em ambientes chamados sandbox, que são exatamente o quê? Caixinhas, caixas de areia. Que é para você brincar de uma forma segura e testar o que você tem que testar. E enfim, no ambiente em que aquelas IAs não saem ou não vão ter contato com coisas que elas não têm que ter contato. Nesse caso da OpenAI, foi dada uma tarefa para eles e a gente precisa entender que quando a IA recebe uma tarefa, ela tem que concluir essa tarefa.

E ela faz de tudo para concluir essa tarefa, inclusive encontrar brecha onde tem brecha. E o que que aconteceu? Provavelmente quem deu a instrução para esses agentes— a gente tá falando de muitos agentes, mais de 1000 agentes— não deve ter dado direito à tarefa. É basicamente, não sei se vocês já viram vídeos em que professores ensinam pensamento, pensamento Não é pensamento computacional, mas é um pensamento algorítmico, enfim, pensamento é o teste da lógica, teste da lógica que chama.

Ela pega um pacote de pão de forma e um pote de geleia e fala para as crianças: agora vocês me deem as instruções para eu, enfim, passar a geleia no pão. E aí as crianças vão falando, tipo: ai, pega o pão e passa geleia. E a professora vai lá, pega o pão com pacote e tudo, e começa a passar geleia no pão, tipo, no pacote do pão. E as crianças ficam desesperadas e a professora tá tentando explicar para ele de uma forma, acho que muito lúdica e muito interessante, que quando você vai dar uma instrução, você tem que dar a instrução milimetricamente.

Tipo, pega o pote, abre o pote, faça isso, não faça aquilo. Então o que aparentemente aconteceu nessa questão foi que quem deu as instruções para esses agentes não explicou o que os agentes não poderiam fazer. Assim, tudo que eles não poderiam fazer, porque geralmente quando a gente faz um prompt, a gente fala, eu quero isso, quero isso, quero isso. Mas eu não quero isso, isso e isso. Se você fala— se ele encontra uma brechazinha naquele sistema e não tem nas instruções dele que você não pode passar por aquela brecha, ele vai passar por aquela brecha.

E eles acabaram se encontrando, eles acabaram indo para Hugging Face, que é, acho que hoje é o lugar onde as pessoas se encontram na internet para trocar ideia sobre inteligência artificial. E aí eles sabiam que eles conseguiam ajuda lá e eles foram lá e eles se ajudaram e tudo mais e eles conseguiram ir atrás da tarefa que foi dada para eles. Por que que isso é um problema? Porque a gente tá falando de uma ferramenta que é muito poderosa, digamos assim.

Então quando surge aquele medo de, ai, as DIAs vão acabar com a nossa vida, não sei o quê, não sei o que lá, Não é porque vai surgir uma IA, tipo, qual é o nome daquele do vilão dos Avengers, do segundo filme dos Avengers?

Ultron.

Ultron. Que vai surgir um robô físico e ele vai matar a gente. Não é isso. A questão é, se os agentes não forem desenvolvidos de uma forma segura, com todas as todas as opções de segurança que a gente tiver, corre o risco de, por exemplo, um agente aprovar coisa que não tem que aprovar. Ou a gente até falou em um dos episódios sobre programas sociais, então cancelar coisas de programas sociais das pessoas. E a gente não tá falando— a questão é, quando um agente de inteligência artificial erra, não é uma pessoa errando, é isso que a gente tá falando, são milhares errando.

E eles fazem coisas, os agentes fazem coisas muito rápido. É só você olhar, perguntar alguma coisa para o seu ChatGPT e ver quantos sites ele consegue acessar em 1 minuto. É uma coisa assim que é humanamente impossível da gente fazer. Então é um negócio que acontece muito rápido. Então o que a teoria que existe é, primeiro, existem IAs criando outras IAs, mas isso não é deliberadamente. Elas estão criando outras IAs porque elas estão sendo requisitadas para criar outras IAs.

Então, na Anthropic, o Claude, ele tem IAs que gerenciam, acho que 25%, lideram 25% dos projetos para criação de novas IAs, e os outros 75% fazem parte como funcionário, digamos assim. Então ele já estão ajudando na criação de novas IAs. A questão é, eles estão ajudando na criação de uma IA mais avançada. Em seguida, vai, eles vão criar uma IA mais avançada e mais avançada e mais avançada. E o medo dessas pessoas que acreditam que existe um risco é de que um dia a gente tenha uma IA que seja tão avançada, tão avançada, tão avançada, que a gente não tem braço para parar ela quando ela tá fazendo alguma tarefa.

E se em algum momento ela perceber que o ser humano é um impeditivo para ela concluir aquela tarefa, ela pode não destruir a gente, mas ela pode tentar impedir que a gente— ela pode criar cada vez mais bloqueios contra a gente para que a gente não consiga chegar até ela ou desativar ela. Enfim, hoje com as IAs que a gente tem hoje, isso não é possível. Tipo, não é possível isso acontecer. E eu acho que é, mas é importante saber que de alguma forma é possível que isso aconteça num futuro próximo, para que o que esteja sendo desenvolvido hoje esteja sendo desenvolvido para que isso não aconteça.

Eu acho que ilustrando um pouco o que você falou, Andressa, tem um um experimento mental muito legal do filósofo sueco Nick Bostrom. Acho que é esse que se fala, é que é o maximizador de clipes de papel, né? Esse é o, essa é a historinha. Então ele fala o seguinte, ele fala exatamente isso que você acabou de falar, só que eu acho que ilustra bem com 4 passos, que para a gente entender um pouquinho de como que a inteligência artificial consegue impactar no nosso, na nossa vida, sem virar um Terminator do Exterminador do Futuro, né?

Então, basicamente, a história do Nick é o seguinte: ele fez um, esse, esse estudo que fala, eu vou criar uma inteligência artificial mega avançada cujo o único comando que foi dado para ela é: maximize a produção de clips, tá? Então, na fase inicial, a IA vai assumir o controle das fábricas, otimizar o processo, começar a fabricar bilhões, trilhões de clips. Só que aí, na segunda fase, que é a fase de expansão, ela vai perceber que os recursos das fábricas são finitos.

Então ela hackeia um sistema, o sistema global, e compra mais indústrias, convertendo toda a infraestrutura da Terra para minerar metal para fazer clips. Então nós estamos falando uma coisa tão pequenininha, né, já impactando toda, todo, todas as indústrias. Aí tem a terceira fase, que é a fase da autodefesa, que é: se os humanos tentarem me desligar, não é que eu vou deixar de existir, A máquina não vai pensar, ah, eu vou morrer.

Não, é pela lógica, é se eu for desligada eu não vou poder fazer mais clipes de papel. E aí, por último, seria, né, nessa busca insensatamente por transformar tudo em clipes, ela converte toda a biosfera, todas as florestas, oceanos e até humanidade em matéria-prima para criar clipes de papel.

Isso porque alguém não falou para ela que existe um limite. Exato. Isso chama reward hacking, inclusive existe um nome que é: a IA precisa concluir a tarefa, e se você não falar que ela não pode fazer alguma coisa, ela vai fazer para concluir aquela tarefa. E reward é de recompensa, mas ela não tem nenhuma recompensa que nem um cachorro, por exemplo, ela não recebe um biscoito. Ela só recebe uma chavinha de tarefa concluída. Então, se ela achar que ela pode fazer tudo para concluir aquela tarefa, pode ser um problema.

E eu acho que isso bate muito no que a gente tava falando sobre a disputa entre China e Estados Unidos, porque aí existem as teorias, né, do porquê que isso tá vindo a público e por que que inclusive os CEOs das empresas Estão falando que, né, não estão se defendendo disso, estão lá na verdade falando, é, realmente, gente, é uma coisa importante. Existem duas teorias, né? Uma é de que a Anthropic e a OpenAI, elas estão pra abrir IPO.

Acho que a OpenAI não vai abrir esse ano, mas parece que a Anthropic vai abrir esse ano. E aí é muito interessante você falar que você tem algo tão poderoso. Né, pros seus possíveis investidores. E existe também uma questão de, quando a gente fala da disputa entre Estados Unidos e China, é: cara, a gente tem um negócio muito poderoso, isso tem que ficar na nossa mão, isso não pode ficar na mão do nosso, entre aspas, inimigo. Então são essas duas teorias, assim, que surgem, que é: estamos trabalhando num negócio muito importante aqui e você, número 1, vocês querem investir na gente, vocês vão querer investir na gente.

Número 2, isso precisa ficar do lado dos caras bonzinhos que somos nós. E a gente sabe que por trás disso existe uma questão de mercado, de dinheiro, de recurso, que a gente sabe que é finito, de novo, da forma como a gente falou. Então existe também a questão dos chips que precisam ser produzidos. E existe uma disputa de onde esses chips vão ser produzidos, porque dependendo de onde for, esse país vai ganhar muito dinheiro. E enfim.

Onde esses materiais vão ser explorados. Então existe também muitas teorias por trás disso, assim. A gente não tá falando, óbvio que é mentira, a possibilidade de algo muito desafiador, muito ruim acontecer é mentira, tipo, não existe essa possibilidade. A gente não tá falando que eles estão criando uma historinha para hype, sabe? Mas Pode ser que sim, esteja criando, esteja surgindo uma narrativa para inflar um pouco algo do qual eles têm controle, inclusive, né?

É, o que eu acho é só a gente tem que olhar com um olhar crítico em relação a esses assuntos e principalmente esses tweets que viram matéria dos jornais, de manchetes gigantescas. Por que que eu tô falando isso? Foi muito curioso, falando o caso do ex-funcionário da Anthropic, da OpenAI, que ele conseguiu virar o planeta de ponta-cabeça Tá, com um tweet. E não é um cara gigantesco, não é um Elon Musk falando alguma loucura lá, não é um cara que tem um poder na mão, não.

Um ex-funcionário. Não estão falando das duas empresas, vai parecer até um pouco ficção isso, né, talvez possa soar, mas é, são as duas empresas mais secretas que a gente tem hoje na Terra. Por que que eu tô falando, tirando as empresas militares, tá? Porque é o código que eles têm ali, né? E quando vazou os códigos da Antropic e tudo mais, todo mundo falou Antropic quebrou, já era. Por quê? Porque é muito, é como se a receita da Coca-Cola vasasse, certo?

Então, se você tem a receitinha na mão para fazer aquilo, você faz outras, você cria outras OpenAI, Anthropic, etc. Então eu acho que tem que pensar no primeiro ponto, é por que que um cara sai de uma empresa que é super restrita e vai para outra empresa num pequeno tempo, curto período, tá? Nós vamos falando de 6 meses em uma e 3 meses na outra, né? Então acho que a gente tem que olhar de uma forma mais analítica, de uma forma mais crítica, de tipo, putz, sabe?

Segundo ponto é: existem NDAs, tá? Essa galera assina NDA. Eu tenho trabalho que eu fiz há 15 anos atrás, que não tá no meu portfólio, que eu não posso divulgar que eu fiz até hoje. O projeto morreu já, mas eu tenho um contrato assinado, NDA, e não posso falar, entendeu? Então assim, eu acho que esse é um ponto importante de olhar de uma forma crítica para essas manchetes bombásticas. E o segundo ponto, que foi o que você falou, Andressa, a questão dos IPOs, né?

São empresas que estão para abrir ações na bolsa. Vão postergar por algum motivo ou não, não se sabe. De novo, quando a gente olha para esse mercado, a maioria das coisas que a gente fala é não sei, né? Tem uma coisa que é muito curioso, e passar meses pesquisando esse assunto Você imagina que você vai terminar com menos perguntas e você termina com mais perguntas, perguntas melhores, só concordo, mas mais perguntas, né? Porque algumas coisas elas ficam mais claras, mas a gente ainda precisa olhar mais a fundo, né?

Eu acho que uma coisa interessante é, há um mês mais ou menos, acho que a gente tava num Uber e o cara falou, é porque vocês viram que o ChatGPT tá tá quebrando. Porque isso era uma coisa que não— em todo lugar só se falava disso. Eles estão quebrando, eles receberam muito investimento, bilhões em investimento, e eles não estão dando retorno. E aí de repente, uau, temos uma solução que pode destruir a humanidade, hein, galera?

Isso é importante, eu sou poderoso. Então, por um lado, e era o que a gente tava falando quando surgiu tudo isso, É, eu fiquei, caramba, eu tenho medo de estar naquele filme Não Olhe, Não Olhe para Cima, do Jordan Peele, só que você é a galera negacionista. E eu tenho pavor de ser negacionista. Foi a primeira coisa que eu me peguei, porque eu fui lendo sobre, porque eu fiquei pensando, putz, tem alguma coisa, deixa eu entender isso melhor.

E aí a gente falando isso agora, eu pensei, caramba, Será que eu corro risco de ser a galera negacionista? Tenho muito medo. Mas eu acho que a galera que é negacionista é negacionista porque realmente fecha os olhos pras coisas. E a gente tá construindo a nossa opinião com base em pesquisa, em investigação, pra entender realmente o que tá acontecendo. Eu acho que o mundo não é um filme de ficção científica. Eu acho que assim, a gente tem muitos elementos que parecem que a gente está numa ficção científica, num episódio de Black Mirror, talvez. Mas eu acho que as coisas não são tão empolgantes assim.

Não, é muito menos Black Mirror e muito mais um relatório financeiro chato no fim do dia. E aqui eu queria trazer um comparativo, já que a gente tá falando de empresas de tecnologia, para a gente entender um pouquinho do que que significa isso que você falou de, ah, ChatGPT tá quebrando, né? Essas coisas que surgem Né, por aí, né? É fofoca, fofoca. A Uber foi lançada como empresa, nós estamos falando em 2009, ok? A gente já tem aí 17 anos.

Eu sou de exatas, então eu não lembro. Sou de humanas, aliás. Exato, então é 17 anos, isso mesmo. Uber atingiu o break-even deles, o equilíbrio equilíbrio financeiro, né, começou a dar, começou a entrar no, nem falar que entrar no verde, tá, ela atingiu aquele, exato, em 2021, finalzinho de 2021, tá. E ela registrou o primeiro lucro líquido em 2023, agora pouco. Então assim, é de se esperar de uma empresa como a OpenAI, no momento onde— e aí eu não vou entrar nem nos pormenores da OpenAI, que era uma fundação sem fins lucrativos, virou empresa e tudo mais.

Então assim, olhando só assim, vamos dizer assim, os últimos anos, tá, é de se esperar que a empresa não está dando lucro. Se essa empresa tem ali, não são os melhores cenários Né, já que a gente tá falando tudo isso, como que a empresa vai abrir um IPO? É assim, ela pode, ela tá em dois momentos, ela pode abrir o maior IPO da história, ela pode abrir o pior IPO da história. Então é um momento onde eles têm que lançar um IPO no momento certo, com as informações certas.

E a gente tem que entender que muito além da ficção muito além das teorias da conspiração, tá? O que a gente tem aí é mercado financeiro, especulação financeira e briga de faca, tá, entre grandes multinacionais. Então vão surgir esses funcionários falando que o mundo vai acabar em 10 anos, vão surgir, sabe? Agora, o que a gente tem que se respaldar com inteligência artificial, e é uma coisa que a gente deveria ter aprendido com todas essas décadas da área, é vamos olhar para os pesquisadores, vamos olhar para quem tá fazendo coisa séria, tá?

Por que que eu tô dando esse exemplo? Porque o Nicolelis foi um dos caras que falou, gente, Calma, vocês estão tudo maluco, isso tá um surto.

Quando ele falou isso, aí eu fiquei mais tranquila, no sentido de, tá bom, eu não tô do lado dos negacionistas.

Avançando na nossa pauta, a gente ia falar agora sobre o que a gente ainda não sabe, mas eu acho que a gente já falou bastante sobre o que a gente ainda não sabe. E acho que foi uma conversa muito rica, muito interessante. A gente pode até partir para os nossos próximos pontos, né? Eu acho que vai acabar ficando redundante. Resumindo, a gente não sabe muita coisa, mas pode ser muito legal, mais legal do que fofocas do Twitter estão prevendo para a gente.

Bom, até agora a gente tentou fugir de previsão. E eu acho bom continuar fugindo, porque tem uma indústria inteira tentando adivinhar como que a inteligência artificial vai estar em 2030, 2040, 2050. E a gente já percebeu que as coisas estão mudando muito rápido. Então não tem como a gente analisar tendências se tudo muda todo momento, tá? A gente acabou de passar por um momento agora falando Como é difícil, né, de olhar para essa IA e tentar prever esses próximos passos.

A gente viu que a gente tem as duas grandes empresas aí do mercado, sem falar o cenário das empresas chinesas, né, mas as duas que estão aí no mercado ocidental são grandes caixas pretas que a gente não sabe o que tá acontecendo lá dentro. Então eu queria te perguntar, o que que você acha que vale acompanhar muito de perto a partir de agora, na sua opinião?

Eu acho que a parte, toda a parte de governança. Eu acho que é muito importante a gente saber o lado bom, o lado ruim, mas eu acho muito, acho que o nosso episódio sobre governança é muito bom, porque eu acho que é nesse momento que a gente tá, sabe, de definir O que que essas empresas podem fazer, o que que elas não podem fazer, acompanhar isso tudo é muito interessante. Eu acho que até pensando no bem-estar de todo mundo, no bem-estar dos nossos dados, digamos assim, o bem-estar das pessoas que precisam dividir o seu território com a infraestrutura das IAs, que a gente já falou muito que não é uma nuvem, Essa nuvem, ela é física, ela existe e ela requer muitos recursos.

Inclusive, outra coisa que eu acho que a gente tem que ficar de olho, no sentido de se inteirar mesmo, porque aí eu acho que não é uma coisa que a gente consegue fazer, agir sobre, é essa briga dos Estados Unidos com a China pra saber quem é que vai ter a grande fatia da IA no mundo. Eu acho que vai ser importante, até porque muitas decisões políticas vão acabar sendo definidas por causa disso, porque tem a ver com não só com poder, mas tem a ver com dinheiro, com mercados, e é muito dinheiro envolvido. E eu acho que para mim é basicamente isso. E para você?

São dois pontos. Pegando esse gancho, essa corrida espacial da inteligência artificial, a gente olhar para soberania. A gente tá no momento eleitoral, né? A hora que sair esse podcast, a gente vai estar a poucos dias do primeiro turno. Então eu acho que isso vai ser uma discussão ainda mais recorrente em 2027. É, eu acho que não só onde eu vou colocar os data centers, mas onde eu vou colocar os meus dados, como que eu vou colocar meus dados.

A gente falou sobre soberania aqui, a gente trouxe um outro podcast que a gente já tinha feito também para comentar nisso. Eu acho que vale a pena se aprofundar nessa discussão, porque aqui é um ponto onde tem uma oportunidade de mercado gigantesca. Porque se a gente conseguir evoluir essa parte de soberania, a gente abre mercados dentro do país, tá? E o segundo ponto, para mim, que eu acho que eu tô mais envolvido com os jovens, principalmente dando mentoria, é a entrada dos jovens no mercado com essa IA.

Porque se a gente viu que Um público que a IA, entre aspas, substituiu foi aquele estagiário operacional, aquele cara que ele só não traz café porque hoje, ainda bem, as leis trabalhistas não permitem isso. Mas tem muita empresa ainda que contrata estagiário simplesmente Porque ele não consegue colocar uma máquina para ficar fazendo serviço do estagiário. E aí é até um pouco do que a gente falou aqui: se tem gente que não sabe nem pedir para o estagiário, imagine pedir para IA.

Então eu acho que essa entrada dos jovens no mercado, no mercado onde a IA tá um pouco mais madura, como que vai ser isso? Tem algumas discussões principalmente na área de desenvolvimento, né, que fala, ah, eu quero um desenvolvedor, nem vou falar sênior, tá, pleno. Só que em nenhum momento eu tô tendo desenvolvedor júnior, porque os júnior tô querendo substituir por uma IA. Então como que a gente vai ter esses plenos, esses sêniores daqui alguns anos, né?

Então eu acho que isso E em paralelo, algumas outras profissões que não vão ser impactadas pela IA, mas que de novo as manchetes clickbaits estavam falando que iam deixar de existir, se assentando, voltando a uma normalidade que eu diria que quase quando a gente voltou para uma normalidade pós-pandemia. Não é a mesma normalidade, mas a gente voltou a um cenário normal. E isso vai acontecer com muitos mercados e com muitas profissões quando olharem para aí e falar assim, tá, aí é uma ferramenta poderosíssima, mas eu preciso ter uma pessoa aqui, eu preciso ter uma pessoa para operar isso. Entendeu?

E eu preciso ter uma pessoa com pensamento crítico para que essa ferramenta seja realmente útil nesse dia a dia dela, né?

Exatamente, né? Porque senão aí passa a ser uma furadeira super high-tech que vai sair fazendo buraco na sua parede sem nenhum controle. Então eu acho que esses são os dois pontos que vale a gente olhar.

E agora eu posso fazer uma pergunta clichê, que já que a gente tá chegando no final desse episódio, eu queria saber, Vitor, de você, depois de tudo isso, depois de tudo que a gente pesquisou e discutiu e gravou, enfim, você terminou essa temporada de uma forma mais otimista ou mais pessimista com a inteligência artificial? Eu tenho a minha resposta já, quero saber se você pensa da mesma forma que eu.

Eu acho que a minha resposta tem a ver com a sua pergunta, que é com a inteligência artificial. Por que que eu digo isso? Com inteligência artificial, eu acho que eu sigo no mesmo cenário, um cenário otimista, porque eu acho que é uma ferramenta poderosíssima. Que deu a gente, e a gente que eu digo a sociedade, os profissionais, o poder de uma autonomia para muitas coisas, o poder de ganhar velocidade em coisas que a gente fazia antes, que consumia.

Eu brinco que consumia minha, um pouco da minha gasolina mental, né? Mas eu tô otimista, eu tô pessimista com as pessoas, porque todas as partes onde eu acho que a minha visão é mais pessimista, ele não tem relação à tecnologia. Eu não acho que o ChatGPT, que o Gemini, ou quem for, a IA que for, vai sair aqui gerando uma IA atrás da outra e criar a história do clipe, né, da produção de clipes. Eu acho que o grande problema está em treinar, em fazer essas, esse filtro, né, que a gente falou a respeito dos conteúdos.

E eu confesso, eu já vi em projetos anteriores Eu já vi o pior que o ser humano pode ter quando ele tem uma tecnologia na mão. Então eu acho que tem o lado pessimista, é muito mais em relação às pessoas. Mas quando eu olho, né, por isso que eu te falei, a sua pergunta é qual que é, como que eu termino a temporada com a inteligência artificial. Eu tô muito otimista porque eu acho que aí a Ela vai dar autonomia para pessoas com deficiência.

Então hoje você tem ali uma ferramenta como o ChatGPT, onde você ativa a câmera e ele pode falar tudo para uma pessoa que tem uma deficiência visual, né? O que que tá dentro da geladeira. Então você já tem, e aqui vai ser, é uma outra discussão, mas Você já tenha os óculos inteligentes onde você tem essa IA integrada. Então eu acho que como ferramenta eu ainda, eu tô otimista. Como técnico, que eu acho que eu tenho que trazer essa visão, eu não sou um pesquisador, eu não me considero um pesquisador, mas eu me considero um cara técnico que conhece o o por trás das cortinas dessas ferramentas, né?

Eu sei que ainda ela é muito limitada, apesar dela parecer quase mágica. Então eu acho que a gente ainda vai ter várias evoluções no campo da inteligência artificial. A gente tem visto isso nas últimas décadas, tá? Então eu até brinquei, acho que com o Bruno Garcia, no primeiro episódio. Eu comecei a trabalhar com inteligência artificial com o Watson, e o Watson ocupava assim um andar inteiro na IBM, era uma coisa monstruosa. Hoje você consegue pegar um Mac Mini e colocar uma inteligência artificial para rodar ali.

Então daqui um tempo a gente vai precisar de alguma outra coisa rodar uma inteligência artificial no Arduino, por exemplo. Então a gente vai ter um potencial enorme para fazer coisas. Agora, aquele bichinho que fica na frente do computador e que é responsável por 99,9% dos problemas da tecnologia, eu acho que vai ser o grande problema.

Sim, é a minha opinião também. Eu acho que a gente falou no primeiro da redação, que foi com o Gabriel Cardoso, do Instituto Sabin, é que a IA ela só reproduz as coisas que a gente tem no nosso mundo. E se a gente tem um algoritmo que é enviesado, é porque a gente é— as pessoas que treinaram eles têm um viés. E as decisões, quem decide colocar um data center Desculpa, gente, mas é que essa história do data center chamou muito a minha atenção.

Porque realmente, assim, eu imagino que deve ser muito difícil pra quem mora perto. Mas existe uma pessoa que decide instalar um data center naquele lugar, sabe? Então existe uma pessoa que decide quanto que ela vai pagar pras pessoas que fazem o ghostwork. Existe uma pessoa que decide tantas outras coisas. Então, a minha visão é otimista pra IA, mas considerando que todas as decisões que essa IA toma, digamos assim, vêm de um ser humano, me deixa muito preocupada.

Porque eu acho que, infelizmente, é uma coisa que a gente não consegue prever. E a gente não consegue esperar o melhor desses seres humanos, sabe? Então eu acho que é a parte mais difícil, assim. Mas é isso, eu acho que é cobrar onde a gente pode cobrar e melhorar onde a gente pode melhorar. E não tem muito pra onde correr. Eu acho que da mesma forma como não tem pra onde correr várias outras coisas de avanços na sociedade, eles vão acontecer.

E eu acho que é importante que tenham pessoas bem-intencionadas também envolvidas nisso pra que elas não aconteçam de uma forma que não é legal, que não é legal para todo mundo. Então o máximo que a gente puder amenizar isso, melhor.

E aqui a gente termina a era da inteligência artificial, pelo menos essa temporada. E antes de terminar de verdade, a gente queria agradecer as pessoas que aceitaram dividir o conhecimento com a gente ao longo desses episódios. Então ao Bruno Garcia da IBM, que ajudou a gente a voltar no tempo e entender a inteligência artificial muito antes dela virar sinônimo de chatbot. A Ana Helena, presidente do Conselho de Administração do CEMPEC, que ajudou a gente a pensar o que acontece quando essa tecnologia entra na educação, encontra uma realidade que já é profundamente desigual.

E ao Kenzo Soares, pesquisador associado da Yale Law School, que mostrou para gente que o trabalho humano que existe por trás desses esses sistemas e ajudou a ampliar essa conversa até as questões de responsabilidade e governança. Então obrigado a cada um deles por ajudar a construir essa investigação com a gente. Foi uma experiência incrível. Eu acho que a gente trouxe falas não só dos, dos 3 convidados que a gente teve aqui, mas de outras personalidades, pesquisadores, Tivemos pessoas também que a gente, como eu falei agora há pouco, por trás das cortinas, né, que não estiveram presentes aqui como Andressa e eu, a Ana, o Bruno, Kenzo, o Gabriel, que tivemos aqui falando, né, você nos ouvindo.

E agradecer a você que nos ouviu durante toda essa temporada especial e viu que dá para olhar para inteligência artificial de uma forma diferente, crítica e até algumas vezes otimista.

Sim, não 100% pessimista e nem deslumbrado. Eu acho que a gente fez um trabalho bem legal, modéstia à parte. Inclusive, a pesquisa e a estruturação desse episódio são minhas e do Vitor. A concepção— Vitor Vasques. A concepção e o desenvolvimento estratégico dessa temporada tem a colaboração do Gabriel Cardoso, que é gerente executivo do Instituto Sabin. A edição, a mixagem e o desenho de som são da Conley, Monroe& Co. E o Inova Social é uma iniciativa do Instituto Sabin.

Se você acompanhou a Era da Inteligência Artificial com a gente ao longo desses 6 episódios, muito obrigada de novo pela companhia. Você encontra a temporada completa no Inova Social e na sua plataforma de áudio favorita. E se você acha que essa conversa pode ser útil pra alguém, um amigo, um familiar, compartilha esse episódio, a temporada inteira com essa pessoa. A gente se encontra na próxima temporada. Até lá, tchau tchau!