#353 — A busca pelo real / Agentes de IA causam caos / Satélites vão transformar noite em dia

Resumido. Olá, eu sou o Bruno Natal. Hoje é dia 3 de março e no resumido número 353, pessoas contratam sósias de celebridades em busca de contato real. App detecta óculos da meta para evitar ser filmado sem saber. Spotify testa playlist gerada por Prompt. Relatório fictício sobre o futuro da IA derruba ações de tech. Agentes autônomos cruzam dados públicos contra a corrupção.

transformar noite em dia e muito mais. Vamos nessa, Resumido! Olá, Resumista! Esse é o Resumido, um podcast sobre cultura digital e o impacto da tecnologia em todos os aspectos das nossas vidas. Minha voz segue meio baleada. Aqui no Rio parece que 180% da população está com tosse, mas eu estou melhorando. Aproveitar para te convidar para seguir arroba resumido.podcast no Instagram, no TikTok. Também tem Resumido no YouTube.

Não siga a rede lá, ainda tenho publicado bastante coisa inédita lá e os vídeos começaram a ir bem. Gostaria de contar com a sua audiência. Além disso, a lojinha do Resumido está aberta, tem caneca, camiseta, bolsa, tem link aqui na descrição do episódio. E se você gosta das informações que você recebe aqui no Resumido, acha importante essas discussões, esse debate, a única forma de seguir adiante é com o seu apoio. Então não deixe de fazer uma assinatura em resumido.cc barra assinatura.

Aproveitar para agradecer os novos assinantes. Bruno, César, Heitor, muito obrigado e vamos para o episódio. Vamos de cultura digital e como nosso comportamento online ajuda a moldar a sociedade.

Está rolando um trend nas redes sociais em que as pessoas contratam sósias de celebridades para visitarem a sua casa para fazer uma apresentação só para aquela pessoa. Tem uma plataforma nos Estados Unidos chamada Cameo que é especializada nisso, tanto para sósias de celebridades quanto para celebridades reais alugarem o seu tempo. Normalmente as pessoas chamam esses sósias para algum evento de empresa, de família, para criar alguma coisa divertida.

Cruz, e agora as pessoas estão começando a contratar essas pessoas pra ir à casa delas sozinho. Pra pessoa ficar interagindo com o Trump, com o Michael Jackson, com o Tom Cruz, ou então contratando dois ou mais deles pra um contracenar com o outro. Olha que loucura. Isso na verdade mostra o quanto que tá todo mundo cansado de tela e dessas interações artificiais que a gente tem online quase o tempo todo. É uma forma de você trazer essa coisa pro mundo físico. Você interagir com o sósia quase como se fosse um

teatro é uma forma de você materializar essas relações. E esse final de semana eu estava mostrando o clipe de Virtual Insanity, do Jamiro Kwai para o meu filho, e mostrando como aquilo tudo tinha sido feito com um cenário, um cenário se movendo, uma tractana na câmera, não tinha nada digital. E na sequência eu mostrei para ele o clipe de Let Forever Be, do Chemical Brothers, que é um clipe que eu adoro, e que é dirigido pelo Michel Gondry, diretor francês, que ficou muito famoso pelos clipes primeiro, pela forma

que ele fazia trucagens de câmera sem efeito digital. Depois fez o filme Be Kind Rewind, fez o clássico Brilho Eterno da Mente Sem Lembranças, onde não tem essas trucagens. Mas eu fiquei pensando que o Michel Gondry anda bem sumido já há um tempo. Eu vi ele essa semana, por acaso, entregando o troféu César para o Jim Carrey lá na França, o Oscar francês. Ele recebeu um César honorário e o Michel Gondry estava lá. E aí agora eu vi esse clipe e pensei nisso.

Acho que o Michel Gondry vai ter um revival, viu? Vai ter uma volta dessa estética ultra analógica.

É o que a gente está precisando e querendo hoje em dia, parece. Porque é o jeito que as coisas vão só fugindo para o analógico mesmo. Os óculos Meta Ray-Ban, que vem com uma câmera acoplada, que você usa para fazer transmissão ao vivo, ou ir registrando fotos enquanto o seu dia vai passando, já foram muito questionados do ponto de vista de privacidade, porque nem todo mundo quer ser filmado na rua. E algumas pessoas já fizeram experimentos, desenvolveram aplicativos que transformam o óculos numa espécie de máquina de reconhecimento facial. Porque essas pessoas,

embarcaram um sistema de reconhecimento facial no óculos, de maneira que você vai andando na rua e consegue descobrir quem são as pessoas que estão caminhando, porque faz uma busca por reconhecimento facial no Google, na rede, e assim acha o nome da pessoa, o que a pessoa faz muitas vezes pelo LinkedIn, o que já é bem assustador. Agora, para piorar, a meta está falando em implementar isso de maneira oficial no óculos. Uma beleza.

Por isso que a notícia é comentada pela 404 Media de um novo aplicativo que vai servir para identificar

Meta nas suas redondezas é tão importante. O aplicativo usa o sinal de Bluetooth do óculos Meta, que é bem específico, único do óculos, para identificar se há algum óculos nas redondezas e assim pelo menos a pessoa saber que tem alguém com óculos desse em volta e talvez desconfiar que possa estar sendo filmada. São tempos distópicos quando você pensa que ao andar na rua qualquer pessoa vai poder saber quem é você, detalhes da sua vida, mas na verdade só vai saber porque a gente já coloca tudo isso online, mas muitas vezes a gente não coloca isso nem

por vontade própria, e também tem casos que os dados vazam, são cruzados e puxados de outros lugares, ou seja, um desastre de privacidade, e não vai ser um aplicativo desse que vai resolver. Mas como a gente já sabe, a grande máxima da meta é mova-se rápido e quebre as coisas, move fast and break things, uma frase que o Zuckerberg adorava falar, e foi um argumento parecido com esse, que o CEO da Character AI, que é uma empresa de chatbots customizados, você cria um personagem para virar o seu amigo,

pessoa amada, o que quer que seja. Uma ferramenta que já gerou problemas bem graves. Vai aqui um alerta de gatilho. Se você não quiser ouvir o que eu vou falar agora, pule uns 15 segundos. Mas eu comentei já aqui no resumido sobre o caso do adolescente que se matou depois de desenvolver uma relação amorosa com um chatbot inspirado no Daenerys Tigard, que é um personagem de Game of Thrones, nessa plataforma. O CEO da Character AI, numa entrevista para o podcast Tectonic, do Financial Times,

que a implementação de mecanismos de segurança atrasa o desenvolvimento. Então ele disse que é muito comum nas empresas de tecnologia produtos serem lançados sem terem todos os mecanismos de segurança no lugar, funcionando. Ele cita como exemplo o Google, o YouTube, o próprio Facebook, como plataformas e produtos que consolidaram primeiro, se consolidaram no mercado e com a proposta que tinham, sem essas regras, sem essas barreiras, depois só da adoção do público é que vieram as regras.

péssima, é tudo que a gente não precisa, ainda mais na velocidade, que as transformações vão acontecer agora, amplificadas por IA, mas a gente entende que quando o cara tá pensando só no próprio dinheiro dele e no ganho da empresa, é assim que ele vai pensar mesmo. Por isso que uma outra notícia que eu li teve um certo aspecto retrô que dá uma esperança de tempos mais calmos. O criador de um aplicativo de previsão do tempo chamado Dark Sky, que foi vendido pra Apple, agora resolveu lançar um novo aplicativo de previsão de tempo chamado Acme Weather, que é

só por assinatura, custa 25 dólares por ano. E o grande diferencial desse aplicativo é que ele não vai cravar o tempo. Qual é a previsão do tempo? Ele vai dar algumas possibilidades, as mais prováveis. Pode chover em determinado horário e não vai chover em tal horário, como às vezes aparecem nesses aplicativos. É legal você ver essa fluidez da informação, porque é muito difícil você cravar o que vai acontecer com o tempo, mas, por outro lado, também vira uma ferramenta de previsão do tempo que não diz nada. Pode chover, pode não chover. Parece aquele meme,

com uma manchete do valor econômico, né? O mercado pode subir, descer ou ficar parado? É mais ou menos a mesma coisa. Mas eu fiquei curioso pra ver. Infelizmente, tem que pagar e eu não vou testar. Agora, um outro recurso que em breve todo mundo vai poder testar é chamado Notas. Isso é uma ferramenta do Spotify que vai permitir com que você crie uma playlist baseada num prompt. Você escreve que tipo de música você quer ouvir ou como você está se sentindo e o aplicativo vai criar uma playlist baseada no que você pediu ali. Isso pode ter um uso legal,

você pode pedir para tocar suas músicas mais tocadas, mas que você não ouve há mais de um ano, vamos dizer. E vai puxar umas músicas que você ouviu muito, que talvez você não se lembre. Mas, por outro lado, é você delegar mais uma camada da sua seleção musical, da sua intenção do que você vai ouvir, para uma plataforma escolher o que você vai ouvir. Claro, já tem playlists automatizadas no Spotify, mas elas são baseadas no que o usuário escuta, no que ele salva, no que ele remove das playlists. Isso aí bota uma nova camada. A pessoa diz mais ou menos o que quer ouvir

playlist baseada nesse depoimento, nesse pedido da pessoa. Mais ou menos como você pede uma coisa pra um chatbot. Eu vi o vídeo de um cara no Spotify, um australiano comentando de maneira irônica sobre a ferramenta, e aí ele fez uma playlist falando só coisa absurda que ele gostava. Tipo, eu gosto de repressão policial, de músicas fake, coisas assim. E foi gerada uma playlist cheia de banda de ar. E isso é problemático porque quando você delega pra plataforma escolher que música você vai ouvir, talvez ela

otimize para o tipo de música que vai gerar menos custo para a plataforma. Por isso, tantas músicas de ar, que eles não têm que pagar direito autoral, que eles não têm que pagar royalty para ninguém. Então, esses mecanismos têm incentivos que nem sempre estão alinhados com os dos usuários, né? E isso agora que a gente vai entrando numa era de produção em volume, de tudo, né? De vídeo, de foto, de áudio, tudo gerado com inteligência artificial para tentar ganhar no volume. É o famoso AI Slope, né?

obra digital, que vai sendo lançada em quantidade absurda na rede e até acertar a pessoa que tem que acertar. E quem produz tem um custo muito baixo para produzir, então ganha nesse volume. Agora uma rede de podcast chamada The Daily News Now está publicando 11 mil episódios por dia. E nessa já somou 350 mil episódios publicados desde o dia 23 de janeiro, em dois meses e pouquinho. É tudo automatizado, pega alguma notícia na imprensa,

forma num áudio e publica e vai jogando no volume na rede. No episódio 331 do resumido, no ano passado, eu falei de uma outra empresa, talvez você se lembre, é Inception.ai, que lançava 3 mil episódios por semana. Isso há coisa de seis meses atrás. A gente já saiu de 3 mil episódios por semana para 11 mil episódios por dia. Esse é o tamanho do problema que a gente vai ter para encontrar a informação que de fato preste, que tenha relevância, que tenha qualidade. E por isso vai ser tão importante

espaços como o Resumido e tantos outros que você possa acompanhar, que você sabe quem está trabalhando, que está apurando as coisas que você está ouvindo, escutando, lendo ou assistindo, sabendo de onde vem, porque vai ser muito difícil determinar a origem e a autoria de muita coisa daqui para frente. É por isso que eu digo que curadoria e autoria vão ser tão importantes nessa nova fase digital que está só começando. Agora é o momento de explorar as transformações causadas pelas inteligências artificiais.

Eu vi um tweet muito legal que mostrava graficamente como essa ideia, essa sensação que a gente tem de que a IA já saturou tudo é uma ilusão causada por essa bolha que a gente vive em espaços como Twitter, Instagram ou até nos veículos que a gente acompanha no dia a dia. E a gente acha que a IA já dominou tudo, mas a verdade é que muita gente nem no básico está.

Era um gráfico que representava a população mundial, 8 bilhões de pessoas, em escala. E aí você tem vários quadradinhos mostrando, dividido em cores. Então você via em cinza, que é a maior parte do gráfico, que 6 bilhões e 800 milhões de pessoas nunca usaram IA. Em verde, que 1 bilhão e 300 milhões de pessoas só usaram chatbots gratuitos. E em amarelo, que entre 15 e 35 milhões de pessoas no mundo já pagaram por IA.

Então, a gente está falando de uma parcela muito reduzida do planeta que tem um contato real com o IA, que paga por uma ferramenta. É ninguém, praticamente. Isso aí é tanto, como o Twitch dizia, um demonstrativo da capacidade, do potencial de negócio para o IA, porque nem começou, mas é também um alento. Você vê como ainda está tão distante dessa super implementação que falam, como se já estivesse em toda parte. Então, dá muito tempo de a gente tomar decisões, tomar medidas, regulamentações para proteger

a sociedade, o planeta, do que pode vir de mal dessa tecnologia, do que pode vir de problemático. E essa semana a gente viu o caso talvez mais emblemático em muito tempo, que foi a disputa entre a Anthropic, que é o laboratório que faz o Cloud, o principal concorrente do chat EPT, da OpenAI, o Gemini correndo por fora do Google, mas ganhando muito espaço, porque já está em toda parte. A Anthropic estava em negociações com o departamento de guerra do governo dos Estados Unidos por um contrato de 200 milhões de dólares. O que acontece é que a Anthropic exigiu

seus termos de uso fossem respeitados e o Pentágono falou que não, a gente vai usar da maneira que a gente quiser, desde que seja legal. Aí a Antrópica cedeu e disse, ok, você pode usar como você quiser, menos para dois pontos. O primeiro ponto era vigilância doméstica em massa de cidadãos americanos, eles não queriam que a ferramenta fosse usada para isso. E a segunda coisa que eles não queriam que a ferramenta da Antrópica fosse usada é para armas letais totalmente autônomas, sistemas que selecionam, engajam os alvos

decisão. Um robô que poderia tomar a decisão de matar alguém. O Pentágono não aceitou. Disse que teria que ter acesso irrestrito à ferramenta e não deveria satisfação para o Antropic. Nessa Antropic acabou perdendo o contrato. O Dario Amodei, o CEO, publicou uma nota pública falando dessa posição. Por que ele escolheu que fosse assim? Porque ele não acha que esses modelos estão prontos para tomar a decisão por conta própria, o que é bem revelador.

Um dos principais laboratórios falando isso. É bom prestar atenção. E aí o Pentágono entrou numa sequência de retaliações.

indo desde invocar o Defense Production Act, que é uma lei de emergência que pode forçar a Antrópica a fornecer o que quer que o governo queira, até designar a Antrópica como um risco à cadeia de suprimentos. O que significa que nenhuma outra empresa que preste serviços para o governo poderia trabalhar com a Antrópica por ele serem um risco de cadeia. Uma punição normalmente reservada para adversários estrangeiros. Eles não conseguiram chegar a um acordo, o Trump esculhambou a Antrópica,

de Woke. E o que aconteceu na sequência foi que, em vez dos outros laboratórios se unirem à Antrópica para tentar delimitar esse uso, a OpenAI foi lá e assinou um contrato com o Pentágono para fornecer o serviço nos termos que eles queriam. Assim que essa notícia foi divulgada, muita gente ficou incomodada com a posição da OpenAI e resolveu boicotar a empresa. Por conta disso, o número de downloads do aplicativo do Cloud na App Store, a loja da Apple, que é a principal nos Estados Unidos,

disparou. Isso virou um termômetro hoje em dia, né? O número de downloads de um aplicativo quer dizer alguma coisa sobre determinado assunto se você entender o contexto. Por exemplo, quando o app da Binance vai para o primeiro lugar entre os mais baixados na App Store, significa que cripto, Bitcoin principalmente, está disparando e muita gente está indo lá tentar comprar. No caso do Cloud e do ChatPT, quer dizer que muita gente resolveu apoiar o Cloud e estava se posicionando dessa forma. Mas a pesquisadora Timothy Gebru, uma ex-Google que liderava um departamento

de A lá dentro, que fez várias denúncias e por isso acabou sendo demitida da empresa, comentou no LinkedIn que é curioso as pessoas irem atrás da Antropic com uma forma de combater o PNI, já que a Antropic foi a primeira empresa, primeiro laboratório bem avançado de A a fechar contrato com o Pentágono, foi a primeira a trabalhar com a Palantir, que é a empresa que processa os dados para empresas como o ICE, por exemplo, esse órgão de imigração polêmico dos Estados Unidos.

E aí, como disse a Timothy, é curioso as pessoas tomarem essa posição defendendo

Antropic como se fosse uma empresa muito ética, quando na verdade tem várias outras questões em volta do que eles fazem. Entre essas coisas, a Antropic abandonou a principal promessa de política de segurança deles, que foi lançada em 2023, em que eles se comprometiam a não treinar sistemas de ar caso eles não pudessem garantir previamente que as medidas de mitigação de risco fossem adequadas. Ou seja, eles não iam lançar ferramentas que eles não tivessem certeza que eles conseguiriam domar. Eles voltaram atrás dessa promessa e disseram

que agora vão prometer maior transparência, que vão ter relatórios periódicos de segurança, dando conta de como as coisas estão indo dentro da empresa. Eles disseram que só vão atrasar o desenvolvimento de alguma ferramenta se eles estiverem liderando a corrida de IA e eles perceberem que o risco de catástrofe é muito grande. Ou seja, só se eles estiverem ganhando e tiver certeza que vai dar ruim, que eles vão parar de desenvolver.

Essa é a filosofia da Antropia, que talvez não seja tão diferente da OpenAI. Isso me lembrou o Google, que durante muitos anos

Don't be evil, ou não seja diabólico, e que abandonou depois de um tempo. Parou de usar esse slogan e isso aí já diz muita coisa. E aí mesmo com essa discussão toda entre a Antrópia e o Pentágono, o Wall Street Journal diz que nesses ataques aéreos dos Estados Unidos ao Irã, o clode foi usado para identificar alvos. Obviamente não deu tempo de desplugar todos os sistemas, né? Eles continuam usando o que estava lá, uma transição.

Mas o Wall Street Journal levantou essa lebre aí que o sistema continua sendo usado. Um desses ataques, inclusive,

atingiu uma escola, matou 150 crianças numa escola só de meninas. Lá no Irão, história super triste. E o Gary Markles, que é uma pessoa que é bem crítica à questão de A, ele participou do desenvolvimento desses sistemas de A que desconhece hoje. Ele tem várias questões, inclusive, sobre se eles funcionam tão bem quanto são propagandeados. Ele acredita que a IA vai evoluir, mas não no modelo que está. E aí ele levantou uma questão.

Será que esse bombardeio pode ter sido um erro de A? Uma IA identificando errado um alvo? Não tem como responder.

provavelmente a gente nunca vai saber, mas o que ele falou é que um erro desse tipo é inevitável. Em alguma hora isso vai acontecer porque essas IAs generativas falham muito em questão de raciocínio visual, em senso comum. Então, o uso militar da tecnologia como está hoje para identificar um alvo militar, por exemplo, talvez seja muito arriscado. O nível de confiança não é tão alto. E tem um outro ponto que o Gary Marcus levantou, que quando você coloca um sistema de IA como parte do processo de decisão, você cria um escudo de responsabilidade,

E aí, quem é que decidiu? Foi um humano ou foi a IA que decidiu sozinha? Quem é o culpado por algum erro? Por exemplo, o caso da escola que não se sabe se foi um erro, mas como ilustração, né? Para a gente ter um exemplo prático para poder imaginar. Quem vai ser culpado por isso? Esse tipo de discussão entre a Antrópica, o Pentágono, a OpenAI, o que significa, como se posiciona os possíveis erros dessa tecnologia, essa desconfiança que ainda existe em relação à IA e aos laboratórios de IA,

para esse crescimento previsto da IA. Todo mundo acha que vai crescer exponencialmente, mas a verdade é que a falta de confiança de nós humanos nesse sistema pode ser o que vai atrasar esse desenvolvimento. Muita gente já rejeita essa narrativa de AI first, IA primeiro. A Luísa Jarovski falou sobre isso na newsletter dela, em que as pessoas já estão olhando isso como uma coisa meio desumanizante, que é muito focada em produtividade, em geração de receita, e não exatamente no que é melhor para os seres humanos.

confiança começa a ser abalada e isso vai gerando questões na sociedade que talvez possam servir como uma espécie de rede de segurança pro desenvolvimento de ar. Isso pode desacelerar essa velocidade que a gente tá vendo justamente quando todo mundo começa a olhar e falar, pô, peraí, não sei se é bem assim que eu quero. Acho que eu não vou usar isso. E começarem a fazer perguntas, né? E além disso, tem as questões de custo. A BMW acabou de anunciar que eles abandonaram a direção autônoma nível 3 depois da Mercedes ter feito a mesma coisa. A BMW tinha introduzido

Personal Pilot L3 em 2024, que já oferecia uma direção altamente automatizada e o sistema permitia que o carro assumisse totalmente o controle. E numa estrada de até 60 km por hora, principalmente quando está tudo engarrafado, o carro podia operar sozinho. Só que custa tão caro o sistema, que estava custando um pacote de 6 mil euros, que a BMW concluiu que não valia a pena esse custo-benefício. As pessoas não estavam comprando tanto, não valia então desenvolver e eles voltaram para o sistema anterior, que custa 1.450 euros, muito menos,

comprador final, que é um sistema que já traz um nível de automação muito menor. Então, tem essa questão do custo também, né? Ainda é muito caro implementar isso. Talvez não tenha gente querendo pagar tanto. Eu comprei o carro, eu dirijo, né? Pagar 6 mil euros a mais pra você ter um sistema automático de direção, talvez você nem use. E um outro exemplo foi a executiva da Meta, que usou uma IA, um agente criado no CloudBot, que é aquela plataforma que cria agentes autônomos, e acabou surpreendida quando ela pediu.

Fora do ambiente de teste, ela trouxe para o computador dela principal, para o inbox dela de e-mail que ela usava no dia a dia, ela trouxe o Claude Bota para lá, o agente, e pediu para ele organizar a caixa de e-mail, mas para ele não fazer nada sem pedir uma confirmação antes. Isso é uma pessoa da área de A da Meta, que sabia o que estava fazendo. O Claude Bota alucinou, começou a deletar a caixa de e-mail dela inteira, ela ficou mandando o comando, não deleta, não é para deletar, pare agora.

Nada acontecia, ela teve que puxar o computador da tomada para conseguir parar esse episódio.

E isso mostra como esses agentes são completamente não confiáveis. Eles podem se descontrolar muito facilmente. Que é mais ou menos o que está sendo dito ali que o Gary Marcus falou em relação aos sistemas autônomos de uso militar. Você não sabe com precisão como esses agentes vão agir. Tem até um estudo que foi conduzido por especialistas da Northeastern, do MIT, de Harvard, da Stanford, chamado Agentes do Caos,

e o tamanho do caos que eles podem criar. O teste botou esses agentes autônomos num ambiente com memória persistente que tinha acesso a um e-mail, um Discord e acesso a um sistema de arquivos pra ele operar de maneira independente, autônoma, né? Então, durante 20 semanas, esses 20 pesquisadores ficaram interagindo com esses agentes robóticos em cenários meio normais e também cenários adversariais, ou seja, instigando cenários que desafiassem esses bots. E o que aconteceu é que eles geraram pelo menos 11 estudos

caso com falhas muito relevantes de segurança, de governança, de controle. E aí, entre elas, estava vazamento de informação sensível, não obediência a comandos específicos, ação destrutiva do sistema, como essa pessoa da meta que viu a sua caixa de e-mail ser detonada. Ou seja, está muito longe disso aí funcionar, como é vendido para a gente. Então, muito cuidado, inclusive, se você quiser testar um cloudbot da vida, o que se recomenda é que você faça num computador separado, num outro usuário, sem as suas coisas de verdade que você usa no dia a dia, porque é muito arriscado.

ansiedade, a expectativa é tão grande em torno do futuro de IA que um relatório da Citrini Research chamado 2028 e a crise global da inteligência, que era um exercício de cenário, não era uma previsão. Eles fizeram um texto que era pra tentar imaginar como poderia ser o mundo em 2028, não exatamente como deve ser. E esse texto desenhava o cenário em que as empresas iam substituindo o trabalho humano por IA pra cortar custo, depois ele reinvestiu esse dinheiro

que acelerava novas rodadas de substituição de humanos por robôs, mais demissões, e esse loop ia gerando até virar um produto interno bruto fantasma, já que estava gerando dinheiro, mas não tinha mais ninguém com dinheiro para consumir aqueles produtos. Esse texto era só um exercício, não era uma previsão, como eu falei, mas mesmo assim o impacto foi tão grande que derrubou as ações na bolsa de várias empresas, American Express, Uber, Mastercard, DoorDash, várias empresas de tech grande,

por cento de valor. O S&P, que é um dos indicadores da Bolsa dos Estados Unidos, chegou a cair um por cento na segunda-feira por conta da repercussão desse relatório que sequer era verdade ou sequer se propunha a ser uma previsão. Esse é o nível de inflamação desse assunto na nossa cabeça. Esse é o tanto que as pessoas estão preocupadas. Em contraponto a isso tudo, a Wired fez um artigo sobre o livro A World Appears, do Michael Pollan, que argumenta que a IA pode até simular entendimento, criatividade, até emoção,

mas que não vai poder ser consciente no sentido humano. E o que ele aponta é que a premissa dos laboratórios de AI é muito frágil. O tal do funcionalismo computacional trata a consciência como se fosse um software executável em qualquer hardware. Então, o que ele critica é essa metáfora do cérebro como um computador, essa comparação muito feita do nosso cérebro ser um computador. Só que, ao contrário de um chip, por exemplo, o cérebro não separa hardware e software, não tem equipamento e programação.

acontece dentro do nosso cérebro. Inclusive as nossas experiências reconfiguram o nosso cérebro fisicamente. Tem zilhões de estudos que mostram isso. Desde acidentes que a pessoa perde algum movimento e por conta disso o cérebro compensa de outro lado e se molda plasticamente. E computador nenhum faz isso, então essa comparação é completamente falha. Não existe essa comparação, na verdade. E como sempre é dito, esse autor comenta que as máquinas podem até simular um sentimento, mas não tem como provar uma experiência subjetiva. Esses sistemas não têm uma

no mundo físico, não tem uma integração, uma interação com outros seres para sentir qualquer coisa. Então, sem isso, não tem como ter consciência. E na semana passada, eu falei sobre como uma empresa de IA gerou o discurso do Trump, o discurso do Estado da Nação do Trump, que foi feito na terça passada, antes de ele ter sido feito. Previu tudo que ele ia dizer, quanto ele ia falar de cada coisa, qual era o tema. Bom, enfim, agora aconteceu o discurso e eles deram uma nota para o próprio trabalho e eles,

criaram várias categorias. Em geral, eles deram um B+, um B+, para o que eles conseguiram prever. Eles não conseguiram acertar muitas coisas, mas acertaram o que eles chamaram de big buckets, os baldes grandes. Quais eram os principais temas? Eles acertaram e acertaram mais ou menos a abordagem. Mas não precisa de A para isso. Se você ler as notícias, você entender mais ou menos o que ele ia falar. E o mais importante, que era talvez um fato mais previsível, era quanto tempo Trump ia falar. Ele bateu o recorde.

de estado da nação mais longo da história. E isso aí há no preview. E fica aí o exemplo de que falta muito para adivinhar tudo, igual eles falam com adivinhar, né? E agora é hora de falar sobre como as Big Tech moldam o nosso comportamento. Imagine uma ferramenta que analisa dados públicos e indica indícios de corrupção na política brasileira com inteligência artificial. Um desenvolvedor chamado Bruno Cesar criou um aplicativo anticorrupção. Ele simplesmente desenvolveu um painel de análise de dados públicos

com IA, só usando dados que são publicamente disponíveis. Ele pegou o Portal da Transparência, Tesouro Transparente, Dados da Receita Federal, CVM, B3, Juntas Comerciais, várias outras bases públicas, e ele foi cruzando esses dados governamentais, societários, para gerar uns alertas automáticos, em formato de gráfico, para indicar onde poderia estar havendo corrupção, ou pelo menos algum tipo de irregularidade. Entre as coisas que ele conseguiu identificar de maneira automática, era autodirecionamento de emendas, ou seja,

sendo direcionados por um parlamentar para ele próprio. E também uma indicação que 67% dos contratos teriam sido executados por empresas ligadas à família. Um padrão que ele descreveu como emenda, prefeitura aliada, contratos de família. Achou 34 funcionários fantasmas, escola fantasma recebendo verba de 800 mil. Um painel que mostra o movimento do dinheiro e assim consegue identificar onde a corrupção está acontecendo. Um monte de gente pediu para ele transformar isso numa plataforma pública.

e não quer virar uma camiseta escrita saudade, mas que ele estava vendo as questões legais relacionadas a isso para botar no GitHub como um programa de código aberto para as pessoas se desenvolverem a partir do que ele começou a criar. Então, talvez saia alguma coisa disso aí. Um outro programador nos Estados Unidos lançou um painel também de inteligência global em tempo real. Qualquer pessoa pode acessar para o navegador e essa ferramenta agrega mais de 150 fontes de notícias.

E aí rastreia conflito armado, movimentação militar, protesto, infraestrutura crítica,

submarino, oleoduto, sinal de mercado, mercado preditivo, e vai mostrando tudo no mapa 3D interativo. E aí ele consegue gerar vários alertas de guerra, análise geopolítica, tudo gerado por IA, com base nas notícias do momento. É um tipo de ferramenta que até pouco tempo atrás só ia existir dentro de uma agência de inteligência. Agora qualquer um consegue montar uma coisa dessa complexidade. Bom, qualquer um é um exagero, mas consegue montar uma plataforma como essa anticorrupção, essa que rastreia os sinais. E isso aí acaba sendo

uso mais realista dessas ferramentas, um uso que faz mais sentido, inclusive, que é agregar e filtrar dados. Aqui no Brasil, a medida que é reduzir imposto para construção de data center no Brasil vai vencer nessa quarta-feira. Então, com isso, vai ficar mais difícil construir esses data centers. Eu não sei se é uma notícia ruim ou uma notícia boa, porque, por um lado, o Brasil precisa entrar nessa corrida de ar, começar a se posicionar, não virar só um consumidor e ficar dependendo

do que vai ser produzido lá fora. Mas, por outro lado, as grandes potências de IA querem jogar esses data centers o mais longe possível do território deles e por que será, né? Muito bem, não pode fazer. Então, é de se questionar se a gente quer, né? Se o Brasil deveria fazer parte desse novo universo em IA dessa forma, consumindo lixo. Eu acho que não. E eu acho que tem que pensar bastante antes de sair dando espaço, né? A infraestrutura pra coisa que talvez nem os próprios

países que desenvolvem essa tecnologia queiram. E o Washington Post trouxe uma notícia bem distópica de duas propostas que estão sendo analisadas na Comissão Federal de Comunicações dos Estados Unidos, o FCC, que pode acabar transformando o céu noturno. As duas startups querem lançar uns satélites espelhados para refletir luz solar de volta para a Terra durante a noite, para iluminar essas cidades que têm fazenda solar e assim continuar produzindo energia mesmo durante a noite.

que a intensidade dessa luz que o satélite supostamente vai refletir de volta na Terra é quase transformar a noite no dia. E a outra proposta é da SpaceX que quer enviar um milhão de satélites pra funcionar como data center em órbita. Isso aí é mais de 70 vezes o número atual de satélites que tem no espaço. Pode gerar vários problemas de comunicação, de tráfego, de lixo espacial. Mas agora você imagina um lugar que não vai mais ficar de noite.

Não é por causa do sol da meia-noite. Não é um processo natural. É um aumento de poluição luminosa mesmo.

Isso aí traz vários riscos, desde camada de ozônio até uma dificuldade de detectar asteroide, ou os observatórios astronômicos não vão conseguir enxergar nada porque está tudo aceso o tempo inteiro. Já tem estudo que indica que mesmo esses satélites mandando luz do sol de volta para a Terra de noite, a luminosidade do céu já aumentou 10% por causa de satélite. Além do crescimento anual de 10% da poluição luminosa terrestre que vem desde 2011.

Isso aí tem vários efeitos ecológicos, efeitos de saúde, ritmo biológico, de animal, de humano.

Reflect Orbital, que é essa startup que quer lançar esse satélite, diz que quer atingir uma luminosidade equivalente a até mil luas até 2028 e 360 mil luas até 2035. Isso aí, galera. Vai aproveitando a noite enquanto tem, porque daqui a pouco nem o ditado vai poder valer mais, hein? Tem dia que é noite. Hora de relaxar com as dicas de ver, ler e ouvir.

Isso é muito louco, certo?

mas sim os efeitos negativos que a gente tem, né? Ansiedade, insônia, perda de habilidade social, já que ninguém mais se fala. E aí o filme mostra como esses jovens que cresceram hiperconectados estão questionando já esse sistema, que é desenhado para ser viciante. Então, a base vem forte, hein? Por isso que eu acho que as coisas não vão acontecer exatamente como a gente acha, ou como nos vendem.

O Orwell, 2 mais 2 igual a 5, dirigido pelo Raul Peck, é um ensaio político sobre como 1984, o famoso livro, virou uma leitura fundamental para entender o presente. O livro fala sobre uma sociedade que vive sob uma hipervigilância. O filme é focado no período em que o Orwell escreveu esse romance, e aí usa arquivos de imagens, desde a Guerra do Iraque, eventos do dia 6 de janeiro, para mostrar como esses mecanismos de manipulação, de vigilância,

lá em 1949, se concretizaram e seguem operando. O Gorilas, uma das favoritas da casa, lançou um novo disco e o clipe The Mountain, The Moon Cave and The Sad God, que junta três músicas desse novo disco, é uma das coisas visuais que o Gorilas fez mais legal em muito tempo. O curto é dirigido pelo Jamie Hewlett, que é a parte visual do Gorilas, foi produzido pelo estúdio The Line e levou 18 meses para ficar pronto. Foi todo feito de modo tradicional, fundos pintados à mão, materiais físicos,

no que é uma homenagem à época da animação clássica do século XX. A estética remete ao clássico da Disney, Mogli, O Menino Lobo, de 67, e mostra os personagens dos gorilas, o 2D, Noodle, Murdoch e o Russell, numa paisagem inspirada na Índia. E no atual momento, essa escolha do gorila por técnicas tradicionais é um posicionamento que defende os aspectos humanos da criatividade. Nesse episódio, você ficou sabendo que pessoas contratam sósias de celebridades

E aí

no WhatsApp, no Instagram, faz um stories, eu compartilho tudo que vocês postam. Também não deixe de curtir, assinar, seguir, dar cinco estrelinhas e deixar uma resenha na plataforma que você estiver escutando esse episódio agora. E se você quiser comprovar que escutou esse episódio até o final, é só você deixar um comentário aí, onde você estiver ouvindo, com a palavra secreta da semana, que é promessa. O resumido é produzido e apresentado por mim, Bruno Natal.

O roteiro é escrito por mim e pelo Agenor Neto. O Cauê Marques coedita a newsletter O Futuro Explicado e as redes sociais,

Resumido Resumido