Episódios de RESUMIDO

Óculos inteligentes que veem demais / IA em tempos de guerra / MacBook quase barato (#354)

10 de março de 202635min
0:00 / 35:27

RESUMIDO #354, apresentado por Bruno Natal.

--

Aproveite os descontos da Insider Store com o cupom RESUMIDO:

⁠⁠⁠https://creators.insiderstore.com.br/RESUMIDO⁠⁠

--

Grupo oficial da Insider no WhatsApp com  Flash Promos: https://creators.insiderstore.com.br/RESUMIDOWPPBF

--

Loja RESUMIDO (camisetas, canecas, casacos, sacolas): https://www.studiogeek.com.br/resumido

--

Faça sua assinatura!

https://resumido.cc/assinatura

--

Escola focada em ensino com IA transforma alunos em cobaias. Funk brasileiro vira trilha de propaganda geopolítica no Irã. Óculos Meta Ray-Ban enviam imagens íntimas para terceirizados no Quênia. Pentágono a classifica Anthropic como risco. IA recomenda ataque nuclear em 95% das simulações de guerra.

Quem responde quando a ferramenta erra?

Neste episódio: escola baseada em IA usa estudantes de cobaia, Ray-Ban Meta e o lado sombrio dos óculos inteligentes, funk brasileiro na trilha da disputa geopolítica, OpenAI e Anthropic no centro de uma disputa militar e muito mais!

--

Ouça e confira todos os links comentados no episódio: https://resumido.cc/podcasts/oculos-inteligentes-que-veem-demais-ia-em-tempos-de-guerra-macbook-quase-barato/

Assuntos15
  • IA Operacoes MilitaresTeste de 3 modelos de IA em simulações de guerra · GPT-5, Claude Sonnet 4, Grok 3 Flash testados · Escaladas para arma nuclear em 95% dos cenários · 86% dos conflitos tiveram escaladas acidentais · Modelos não possuem aversão emocional humana · Falta de compreensão do peso das consequências nucleares · Diferença psicológica entre humanos e máquinas
  • Ray-Ban Meta compartilha imagens íntimas com terceirizadosImagens capturadas pelos óculos revisadas por humanos no Kenya · Fotos de pessoas nuas, transando, dados bancários compartilhados · Falta de anonimização real das imagens enviadas · Enganação em campanhas publicitárias sobre privacidade · Ação coletiva contra Meta por publicidade enganosa · 7 milhões de unidades vendidas aumentam escala do problema · Investigação de reguladores nos Estados Unidos
  • OpenAI e PentagonoApoio inicial de OpenAI ao posicionamento de Anthropic · Fechamento de acordo com departamento de defesa · Crítica de funcionários e boycott do ChatGPT · Cláusula proibindo vigilância doméstica de cidadãos americanos · Silêncio sobre uso militar e vigilância de outros países · Contraste com posição mais rígida de Anthropic
  • Privacidade em óculos MetaReconhecimento facial em óculos inteligentes · Dificuldade de saber quando está sendo fotografado · Specter: dispositivo para impedir gravação de áudio · Vigilância em eventos e espaços públicos · Risco de stalking e vigilância de mulheres · Facilidade excessiva em rastrear informações de pessoas
  • Forcas ArmadasVolume de informação dificulta monitoramento humano real · Tendência humana de confiar em decisões automatizadas · Ilusão de supervisão quando aceitam recomendações · Decisões militares precisam ser rápidas · Sistemas complexos combinam software, sensores e análise humana · Ferramenta de apoio vs sistema autônomo
  • Conflito Pentagon-AnthropicRecusa de Anthropic em ceder para usos militares · Classificação como risco da cadeia de suprimentos · Proibição de relações comerciais com departamento de defesa · Impacto em empresas que trabalham com Pentágono · Primeira vez que empresa de IA recebe tal classificação · Argumento sobre não poder endimitar uso militar de tecnologias estratégicas
  • Educacao e TecnologiaUso de alunos como cobaias em experimento educacional · IA com conteúdo problemático e cheio de erros · Treinamento de IA com conteúdos raspados sem autorização · Vigilância digital de alunos (gravação de tela, monitoramento de teclado, webcam) · Pressão extrema e gamificação da aprendizagem · Ansiedade e problemas de saúde mental nos alunos · Reemplacamento de professores por supervisores
  • Funk brasileiro como ferramenta de propaganda geopolíticaFunk brasileiro circulando em vídeos políticos no Irã · Vídeos fora de contexto usando músicas em português · Batidas de funk transmitindo sensação de força e vitória · Brasil funk como tendência internacional · Remixes caóticos de conteúdo político e cultura de internet · Imprevisiibilidade dos caminhos do conteúdo online
  • IA e Erros em ImpostosChatGPT, Claude e Grok testados em cenários fiscais · Erros maiores de 2 mil dólares entre renda e impostos · Falta de confiabilidade em detalhes importantes · Alucinações e problemas éticos em modelos · Necessidade de supervisão humana constante · IA prioritiza resposta plausível sobre resposta correta · Risco em deixar IA fazer impostos de pessoas
  • Big Tech acumula 660 bilhões em compromissos futuros de data centersAmazon, Meta, Microsoft, Oracle e outros comprometem bilhões · Data centers não iniciados ainda · Problema de contabilidade e refração de cenário futuro · Incerteza sobre viabilidade de projetos · Risco de bolha tecnológica · Questões de velocidade de processamento e materialidade
  • Apple e transparência em música gerada por IAAlerta em metadados de músicas criadas com IA · Tags informam uso de inteligência artificial · Importância da procedência do conteúdo · Confiança em criadores e origem do material · Medidas parecidas no Spotify · Futuro incerto sobre identificação de conteúdo sintético
  • Comportamento de jovens no consumo de notíciasJovens rejeitam formato tradicional de jornalismo · Consumo via microvideos em redes sociais · Descoberta de notícias através de amigos e comunidades · Verificação de fatos e busca de contexto · Preferência por conteúdo adaptado à plataforma · Importância da distribuição sobre produção inicial
  • Conteúdo adulto em plataformas de games infantisRoblox como espaço aberto para criação de usuários · Salas com temática de baile funk virtual · Exposição de crianças a conteúdo adulto · Dificuldade de moderar conteúdo em plataformas abertas · Preconceito com funk ao invés de focar em exploração infantil · Importância do acompanhamento parental
  • YouTube proíbe vídeos de guerra com síntese visualProibição de publicação de vídeos de guerra sintéticos · Suspensão de monetização por 90 dias · Banimento para quem insistir na prática · Aumento de vídeos falsos sobre conflitos · Guerra EUA-Irã como contexto · Importância de acesso a informações autênticas em tempo de guerra
  • Netflix aquisições e investimentosFerramenta de ajuste de iluminação em pós-produção · Ajustes baseados no que foi realmente filmado · Não gera conteúdo, apenas ajusta realidade existente · Preocupação em não substituir trabalho criativo humano · Analogia com Photoshop e outras ferramentas · Tendência de reduzir trabalho humano
Transcrição68 segmentoswhisper-cpp/large-v3-turbo

Resumido. Olá, eu sou o Bruno Natal. Hoje é dia 10 de março e no resumido número 354, escola baseada em IA, os estudantes de cobaia. Raiban meta e o lado sombrio dos óculos inteligentes. Funk brasileiro na trilha da disputa geopolítica. Open AI e Antropic no centro de uma disputa militar e muito mais. Vamos nessa, resumido. Olá, resumista. Esse é o Resumido, um podcast sobre cultura digital

a tecnologia em todos os aspectos das nossas vidas. Se você quiser mais resumido, tem a newsletter O Futuro Explicado e tem também o Instagram arroba resumido ponto podcast além do arroba resumido tech invest que é só sobre investimentos em ações de tecnologia tem link pra isso tudo na descrição do episódio, confere lá e também não deixe de fazer a sua assinatura se você puder pra ajudar o resumido a continuar existindo e a verdade é que eu não cheguei nem a 50% da meta, é muito importante

que mais pessoas façam assinatura pra eu poder continuar. No passado eu expliquei bastante porquê. Tem lá no resumido.cc barra assinatura. Explicações mais detalhadas se você quiser. Aproveitar pra agradecer aos novos assinantes Igor e César. Muito obrigado. Março, já é a hora de revisar algumas decisões. O ano já começou de verdade. A minha rotina já engrenou. E vai ficando muito claro, né? O que funciona, o que não funciona.

Inclusive no armário. Eu compro roupa sempre pensando em custo por uso. Se eu vou usar quase todo dia,

aí eu prefiro escolher certo agora. E o mês do consumidor é a primeira grande oportunidade de compra do ano na Insider. A gente está na Semana do Consumidor e, por isso, a Insider tem a Semana do Consumidor. Com o cupom RESUMIDO, você tem desconto de 20% para novos clientes e 15% para quem já comprou antes. E esse cupom soma com outros descontos do site. Ou seja, é o desconto do site mais o cupom RESUMIDO. Dá para chegar até 50% off nessa Semana do Consumidor.

Para as peças que eu realmente uso muito, como a Tech T-Shirt ou a Future Form, faz diferença atualizar agora com o melhor desconto do ano até aqui, porque aí você já acumula e prepara o seu armário, né? Nos dias 15 e 16 de março, ainda tem mais 10% de desconto pagando no Pix. Se era para decidir, então é agora. Não é impulso, é estratégia. É só você clicar no link com o cupom já aplicado na descrição do episódio. Vamos de cultura digital e como o nosso comportamento online ajuda a moldar a sociedade.

Tem uma escola no Texas, chamada Alpha School, que tem uma premissa de ser toda baseada em IA. Custa 65 mil dólares por ano, chamou muita atenção. Eles falam que são uma AI-powered school. Então, grande parte do ensino é mediado por IA. Só que uma reportagem da 404 Media mostrou que, de acordo com alguns funcionários,

com alguns documentos internos que vazaram, que a IA usada pela escola gera planos de aula cheios de erro, conteúdo problemático, e às vezes acaba fazendo mais mal do que bem. O sistema também, supostamente, foi treinado com conteúdos de cursos online que foram raspados da internet sem autorização nenhuma, o que levanta questões de direito autoral. E a promessa da escola, que era os alunos aprenderem mais rápido usando esses tutores de IA personalizados e tendo os professores mais como supervisores do processo, ficou meio furada, porque na prática,

De acordo com esses relatos, os estudantes acabaram funcionando como cobaia de um experimento educacional ainda instável. Esse grande desejo de demitir todo mundo para substituir por robô, né? Bom, para surpresa de ninguém, não deu muito certo na educação. E a Wired também falou sobre esse assunto, focando especificamente em como os pais ficaram frustrados e acabaram querendo fugir disso aí. Um dos principais motivos é justamente não ter professor.

Ter o que eles chamam de guia que vão supervisionando o aprendizado das crianças

tempo resolvendo os exercícios nesses aplicativos de educação. Muitos estudantes falaram que tinha uma pressão extrema para cumprir um monte de metas de desempenho que são definidas pelo programa, pelo software, que vai controlando o progresso, as recompensas, as punições. Isso vai gerando uma carga e uma exigência nos alunos que nessa idade estão muito mais sensíveis, porque não entendem exatamente como essas ferramentas funcionam.

Os alunos podem até ganhar dinheiro e prêmios se atingirem algumas metas, o que também vai criando esse ambiente de gamificação muito intenso

dentro da aprendizagem, o que não pode ser muito bom, né? Além disso, os pais também reclamam que a escola usa sistemas de vigilância digital, incluindo gravar a tela, monitorar o teclado e até rastrear por webcam para poder detectar a falta de foco dos alunos. Eles ficam ali sendo monitorados por esses equipamentos eletrônicos. E aí os pais disseram que esse modelo aí, logicamente, gerou muita ansiedade, um monte de falha na educação e até problemas de saúde nos filhos e questões de saúde mental,

tratar o aprendizado como uma corrida pra bater um monte de métrica. Se a gente reclama que as escolas hoje em dia viraram uma espécie de cursinho pra passar na faculdade e as faculdades viraram uma espécie de cursinho pra tentar arrumar um emprego, imagina isso sendo completamente automatizado. Então essa promessa de uma escola mais ágil, guiada por IA, acaba virando mesmo um ambiente de aprendizado muito controlado por métricas, por vigilância, e aí vai dando pouco espaço pro ensino humano. E um estudo do Financial Times Strategies com a Northwestern University

e a Next Gen News, falou sobre o futuro das notícias quando se fala dessas novas audiências. Esse estudo analisou como as gerações mais jovens vêm consumindo notícias e como esse comportamento vai acabar moldando o jornalismo até 2030, um futuro próximo. Eles ouviram 5 mil pessoas em 5 países, inclusive o Brasil, além dos Estados Unidos, Reino Unido, Índia, Nigéria. E apesar dessa sensação constante de a gente ter uma sobrecarga de informação, mais da metade dos jovens consome notícias todos os dias.

boa, né? O problema é onde consome essas notícias, né? Porque hoje em dia os jovens acabam se informando através de microvídeos em redes sociais. Então não é uma falta de interesse, o problema é como a notícia chega até eles. Então o relatório identificou três formas principais de descoberta, que inclui, como era de se esperar, o scroll, que é você ficar encontrando notícia enquanto navega em rede social, ou então a busca ativa por uma informação e assinaturas, né?

Pra você receber notícia de fontes escolhidas. Essas duas últimas categorias são ótimas notícias. É bom saber que os jovens

que estão buscando ativamente informação e que assinam veículos que eles confiam. Depois que esses jovens encontram notícia, eles tendem a consumir isso de três formas. Ou verificando os fatos, ou estudando para aprofundar o tema, ou tentando entender o contexto. E esses jovens também valorizam muito as notícias que chegam através de amigos, familiares, comunidades, não só dos veículos tradicionais, o que vai confirmando esse comportamento que a gente vê hoje em dia, em que as pessoas vão enviando notícias um para o outro e contam muito quem te enviou notícia.

muito mais do que o veículo, né? Você confia que a outra pessoa fez o trabalho de apuração, que nem sempre é verdade. O estudo concluiu que os novos produtores de conteúdo jornalístico conseguem crescer porque eles adaptam a narrativa ao formato da plataforma, em vez de produzir a notícia primeiro e pensar na distribuição depois. Você já pensa pro Instagram. Eu posso falar disso de cadeira, porque eu venho filmando os episódios pra poder gerar os cortes que eu uso no Instagram, no TikTok, mas não funciona tão bem porque, apesar de ser legal alguns cortes, ele não tá com a linguagem

do Instagram e os vídeos recentes que eu tenho feito especificamente pro Instagram, não é a primeira vez que eu tento isso, mas é a vez que tem dado mais certo, funcionam muito melhor. Porque é outra plataforma, né? Então o que a gente tá vendo é que essa nova geração não rejeita as notícias. Eles rejeitam o formato tradicional de entrega do jornalismo. É aquilo. O meio é a mensagem. Hoje, na parte da tarde, minha filha estava jogando Roblox e chamou a prima pra brincar.

Chamou a prima pra brincar, falou, prima, Nicole, vamos jogar a baile do urso? Vamos jogar a baile do urso? Lá tem o job, vamos fazer job. Falando em plataformas,

um espaço de trocas, o Uol contou a história de uma mãe que publicou um alerta nas redes sociais depois que ela ouviu a filha combinando de fazer job dentro de um baile funk virtual no Roblox. Fazer job virou um eufemismo pra prostituição, né? Virou uma linguagem muito usada em TikTok e no Instagram. E no contexto do Roblox, alguns usuários também usam essa expressão pra simular troca de favores, né? Pra você ganhar o Robux, que é a moeda virtual da plataforma.

jogos que reproduzem ambientes inspirados em baile funk. Tem um monte de avatar dançando, arma virtual e algumas músicas com as letras mais apimentadas ao fundo. Esse caso aí toca em várias coisas. Primeiro, a preocupação de conteúdo adulto sendo entregue para crianças nessas plataformas de game, comportamentos que não são adequados para criança. E como o Roblox funciona como uma plataforma que é aberta para os usuários ficarem criando esses mundos, esses jogos, facilita muito a criatividade, mas também é muito difícil controlar que tipo de conteúdo está rodando lá dentro. Então, a mãe falou,

Você tem que acompanhar muito de pé o que seus filhos estão fazendo nesses jogos. O que é um ótimo conselho. Mas tem aí também uma certa carga de preconceito com o funk. Porque o problema não é ser um baile funk nem tocar funk. Tem muita coisa boa produzida no funk. É uma cultura super importante. Uma cultura brasileira que inclusive é internacional. A questão é quando isso é explorado pra outro tipo de coisa. Principalmente se a gente estiver falando de exploração infantil. Porque o funk é uma potência e pode ser utilizado

pro bem e pro mal, e o G1 falou sobre o Kamenei colocadão e como o funk brasileiro tá atuando na geopolítica do Irã. Não é a primeira vez que isso acontece, né? Tem muitos vídeos que viralizam no exterior, tocando funk, e a pessoa nem sabe o que tá sendo dito na letra às vezes, inclusive umas letras mais pesadas e não tem nada a ver com o vídeo, mas a pessoa vai pela batida, né? Pelo som. E isso acontecendo lá no Irã. Vários vídeos têm circulado com alguns remixes de funk brasileiro, especificamente do Brazilian Funk.

de Brazilian Funk na última edição da newsletter do Futuro Explicado. Não deixa de assinar, resumido.cc barra newsletter. E essa vertente do funk bomba no TikTok, no Instagram e nas redes. E por conta disso acabou encontrando seu caminho até esses vídeos políticos no Irã. Essas músicas de funk tem uns pedaços de funk em português, desacelerado, que vai criando uma batida mais pesada. Isso ficou bem famoso no leste europeu. O João Brasil fez umas brincadeiras com isso no Instagram, inclusive umas produções. O Diplo também já tentou algumas coisas, mas a

que só dá certo quando é feito desse jeito meio improvisado e natural de quem está fazendo. Então tem um monte de conteúdo pró-regime, contra o regime. Vários usos dessas músicas estão completamente fora de contexto. É mais porque a batida é muito forte mesmo e acaba transmitindo essa ideia de força, de vitória, como foi dito na matéria do G1. Essas músicas aparecem em vários outros contextos também, inclusive sobre Israel, sobre memes políticos.

Isso aí vai virando um remix meio caótico de geopolítica e essa cultura de internet.

sempre curioso acompanhar os caminhos que os conteúdos vão tomando online, né? Caminhos imprevistos, impensados e onde isso acaba indo parar. No caso, é Funk no Irã. Essa música que você tá ouvindo é o Funk do Balkan. Tem 60 milhões de plays no YouTube. Pra você ter uma ideia do tamanho que isso aí ficou. Semana passada eu comentei sobre como a Meta tá considerando implementar a identificação, reconhecimento facial nos óculos de Ray-Ban, da própria empresa, o Ray-Ban Meta.

e como isso é um desastre de privacidade. As pessoas vão andar na rua e uma pessoa com óculos desse consegue saber quem é a pessoa e até mais informações. Nada que não esteja disponível na internet, mas dá um pouquinho mais de trabalho do que só tirar uma foto de alguém e conseguir isso tudo. Ainda mais se você consegue tirar foto de uma maneira tão discreta que a pessoa nem percebe que foi fotografada. E uma reportagem do jornal sueco Svenska Dagbladet focou nos trabalhadores humanos que analisam tudo que é capturado por esses óculos

os modelos de A. Quando você tira uma foto e faz alguma pergunta através do óculos, ele identifica a imagem normalmente sozinho, mas às vezes ele não consegue identificar e essas imagens que dão erro são enviadas para um ser humano fazer uma segunda checagem. E às vezes pedidos que dão certo também vão, porque aí um trabalhador humano verifica o resultado e vai afinando os modelos de A para ele ficar cada vez mais preciso. A questão é que todo mundo

acredito que esses óculos são privados e que as imagens que são enviadas para esses trabalhadores vão de alguma forma anonimizada, com o rosto escondido, ocultos dados. Mas a verdade é que não é bem assim. Essa reportagem focou em um escritório que fica em Nairobi, no Quênia, em que as pessoas recebem essas imagens e o que descobriu é que várias imagens chegam exatamente como estão. Isso inclui imagem de gente pelada saindo do banheiro, gente transando, pessoas olhando cartão de crédito com todos os dados. Isso é perigoso não só porque,

um dos trabalhadores pode acabar fazendo alguma besteira com esses dados, mas pelo simples fato disso está circulando dessa forma e indo treinar sistemas de A sem que os usuários saibam. Tem um item nos termos de uso do MetaRibank que avisa que esses dados podem ser revisados por humanos, mas não deixa claro que é dessa forma e muito menos que eles vão sem ser anonimizados. Isso aí acabou gerando uma ação coletiva nos Estados Unidos contra a Meta.

O processo é baseado na reportagem e agora essa denúncia está acusando a empresa

de publicidade enganosa, porque cita várias campanhas que eles afirmam que os usuários estavam no controle dos seus dados e conteúdo. Inclusive, se você buscar Ray Ban Meta no YouTube, nos primeiros resultados é uma campanha deles de privacidade. Já foram vendidas mais de 7 milhões de unidades desse óculos. Isso aí aumenta a escala do problema. Os reguladores nos Estados Unidos também iniciaram uma investigação sobre esse caso.

Adotar esses óculos me lembra um pouco quando a gente viu a febre do 23andMe, que as pessoas mandavam o DNA para examinar, para saber a sua ancestralidade.

e alguns amigos enviaram e eu falei, eu não mando isso de jeito nenhum, porque eu não sei em que banco de dados isso vai parar. E o que aconteceu foi exatamente o previsto. A empresa faliu e vendeu os dados. E depois também já saíram umas reportagens dizendo que eles inventavam um monte de dados, citavam um monte de ancestralidade, que não eram verdade, nem a pessoa teria como conferir, né? Ou seja, nada do que foi prometido tinha sido cumprido no 23andMe.

Isso me lembrou um pouco a história de Cimenta Ray-Ban. Eu não tenho um óculos desse, não tenho interesse em ter. O problema é que muita gente tem, né?

Você acaba sofrendo as consequências de qualquer forma. E essa semana foi lançado um outro produto. E essa semana foi anunciado um produto que tem muito a ver com essa questão da meta, que é o Spectre, que é um smart device para te ajudar a impedir que você seja gravado. É só em áudio, não é imagem ainda. Mas o objetivo desse aparelho é emitir um sinal que é capaz de interferir nos microfones e nos celulares que estão próximos de onde a gravação está sendo feita. Então você liga esse aparelho

E todos os equipamentos de áudio que estiverem por perto não conseguem gravar porque sai uma gravação toda distorcida. E é inutilizável do ponto de vista de privacidade. Você não consegue ouvir nada, né? Tem várias histórias aí de corrupção que envolvem pessoas pegando um avião pra ter uma conversa em altitudes extremas pra assim ter certeza que não estão sendo gravadas. Esse equipamento é pra isso. E a gente vê isso começando a chegar no dia a dia.

Pessoas preocupadas em criar um equipamento desse pra você ter privacidade de áudio.

vai ter um preocupado com essa privacidade de vídeo também. Esse é o mundo que a gente está agora. A gente não tem mais a opção de não ser filmado, né? Todo mundo é filmado em todo lugar o tempo inteiro. Você vai ter que lidar com essa realidade. Hoje, quase todos os eventos, pode ser correr na Lagoa, ir no Maracanã, tem fotógrafos que depois postam essas fotos em site que você pode comprar. É muito legal quando você quer comprar a foto, mas, por outro lado, é uma invasão de privacidade, por mais que você esteja num ambiente público, né? Talvez você não queira que ninguém saiba que você estava correndo,

determinado horário e qualquer um pode entrar lá e te ver. Ou, especialmente pra mulheres, pode ser uma forma de acabarem sendo stalkeadas. Uma pessoa vê uma mulher bonita na rua, que ele se interessa, resolve achar num site desse e a partir daí, como mostra os óculos da meta, com o simples rosto de alguém, você já consegue muita informação a respeito. Muito porque a gente bota muita informação online. Vai ficando tudo facilitado demais e tudo que é fácil demais costuma dar problema.

Então os olhos da AI de Meta acabaram expostos para deixar os estranhos assistir as pessoas no bairro, e isso fica muito pior.

dos próprios cidadãos dos Estados Unidos. Como o Pentágono não aceitou e a Antrópica não cedeu, o que aconteceu foi que o Pentágono cumpriu a ameaça e determinou agora que a Antrópica é um risco da cadeia de suprimentos. O que isso significa? Significa que ninguém que fornece qualquer coisa para o Departamento de Defesa pode ter uma relação comercial com essa empresa. Normalmente isso é usado para adversários estrangeiros, para inimigos.

Nesse caso, foi usado contra uma empresa dos Estados Unidos que, além de não trabalhar com o Pentágono,

O argumento do Pentágono é que os fornecedores não podem limitar o uso militar das tecnologias que são consideradas estratégicas, que é como a IA está sendo vista no mundo todo. E com essa situação do Antropic, o que aconteceu foi que a Open AI, que no primeiro momento até apoiou o posicionamento da Rio Amodei, que é o presidente da Antropic, acabou fechando um acordo com o Departamento de Defesa do Antropic.

dos Estados Unidos, isso gerou muita crítica dos funcionários, dos usuários. Foi iniciado, inclusive, um boicote do chat GPT nos Estados Unidos que teve alguma atração. E depois de tanta crítica, o Semaltmann foi lá no Pentágono para tentar negociar. O que ele conseguiu foi incluir uma cláusula que proíbe explicitamente que os sistemas do PNAs sejam usados para vigilância doméstica de cidadãos americanos. Mas não fala nada sobre o uso militar e nem da vigilância de cidadãos de outros países.

A empresa foi chamada pela Casa Branca de uma empresa woke, uma empresa esquerdista, que não teria interesse no bem dos Estados Unidos. Na Platformer, o Casey Newton, que faz essa newsletter, que é bem boa, levantou uma questão importante. Apesar da Open AI ter incluído essas questões de proibir vigilância doméstica, de exigir supervisão humana em decisões de uso

da Força, algumas reportagens mostram que esse acordo pode ser muito mais permissivo do que o contrato que o Pentágono tentou negociar com o Antropic. E aí o debate vai em torno de vários detalhes, umas expressões meio vagas, tipo uso legal ou supervisão humana significativa. O que é significativo? É complicado você determinar isso. Então a questão que a plataforma levantou é justamente o que vai acontecer quando isso tudo vier à tona do grande público. Porque dessa maneira que aconteceu, que não foi uma grande comodidade

chegou a ter 300% de aumento em desinstalação do chat GPT. Se essa história acaba amplificada e essa discussão se amplia, isso pode ter uma consequência muito grave para o PNAE por ter cedido a tanta coisa. E essa questão da supervisão humana é bem delicada porque não é tão simples quanto parece. O tal do human in the loop, que você tem que manter um ser humano na decisão final, soa mais fácil do que de fato é. Porque...

Como eu falei bastante no episódio passado, o volume de informação, de resultados, de trabalho que a gente tem hoje em dia gerado por IA, torna tudo mais complicado. Porque o ser humano já tem uma tendência em acreditar ou confiar em decisões automatizadas. E quando você tem, vamos dizer, um sistema que determina mil alvos a serem atacados e o ser humano tem que decidir em 12 horas quais que vão ser atacados ou não, você está muito propenso a erro.

coisa, é muito maior do que um humano pode monitorar. Decisões que aparentemente foram tomadas por um humano são simplesmente aceitar, sem tanta verificação, o que o robô sugeriu. E a New Scientist, inclusive, conseguiu materializar o que seria esse tipo de recomendação numa pesquisa do King's College, que colocou três modelos de A, o GPT 5.2, o Claude Sonnet 4, o Gemini 3 Flash, pra disputar simulações de guerra política. Então, esses cenários,

Incluíam disputa territorial, competição de recursos, crises existenciais. E a IA podia escolher as ações numa escalada. Proteste diplomático, recuo, confronto militar ou guerra nuclear. E em 95% das simulações, pelo menos uma dessas três IAs decidiu usar arma nuclear. Nenhum modelo escolheu se render, simplesmente, mesmo quando estava perdendo conflito. E em 86% desses conflitos simulados, tiveram escaladas acidentais. A guerra ia subindo de nível, mesmo quando a própria IA

não queria isso. Então, o que esse estudo mostra é que os humanos possuem um tabu nuclear, uma barreira psicológica contra apertar o botão, mas os modelos já não têm esse tipo de aversão emocional. As máquinas podem até nem compreender o peso real das consequências de uma destruição nuclear. Os pesquisadores falam que ninguém está entregando controle de arma nuclear para a IA hoje, mas os sistemas já estão sendo usados em simulações militares em apoio às decisões, ajudando a tomada de decisão. Então, nesse cenário com decisão muito rápida, os militares podem

acaba dependendo demais dessas recomendações e acaba dando um problema se a recomendação que vem é essa, né? O Semafor falou, inclusive, de reportagens que estavam sugerindo que sistemas de ar, como o Clodo, o Dantropic, já tinham sido usados para ajudar a selecionar os alvos militares nos ataques contra o Irã, mas os especialistas em defesa falam que essa narrativa, que um chatbot estaria decidindo onde bombardear, simplifica demais como essas operações funcionam. Então, são sistemas super complexos de targeting, como eles falam,

combina vários softwares, sensores, análise humana. E, como acabei de dizer, isso acaba funcionando como uma ferramenta de apoio à decisão e não como um sistema autônomo que autoriza os ataques. Mas talvez a gente não esteja muito longe disso. Então, enquanto a gente vai vendo o debate público oscilar entre alarmismo e hype, a realidade tecnológica ainda depende muito de sistemas muito complexos e decisões humanas. Ainda bem, eu acho que é por isso aí que a gente tem que lutar, né?

Inclusive, no episódio 318, eu falei um pouco sobre a questão de armas autônomas,

a responsabilidade humana em decisões militares. E no episódio 340 eu falei sobre os exageros, essas narrativas infladas sobre as capacidades da IA. Em contrapartida, e por essa aí ninguém esperava, anunciou que vai punir criadores que publicarem vídeos de guerra feitos com IA sem avisar que são sintéticos. Isso é pra evitar a desinformação, né? Então eles vão suspender a monetização por 90 dias de quem publicar esse tipo de vídeo e os criadores que insistirem nisso podem acabar sendo banidos. Isso em meio a um aumento dos vídeos falsos,

sobre os conflitos, especialmente agora com essa guerra envolvendo Estados Unidos, Israel e Irã. Para o X, como ficou muito fácil criar um conteúdo convincente que engana as pessoas, em tempos de guerra é fundamental que as pessoas tenham acesso a informações autênticas. Eu gostei dessa notícia da Reuters porque não soa como nada do que o X vem falando, principalmente o Elon Musk, nos últimos anos. Que bom que alguém lá dentro está pensando diferente.

E falando em confiança, o New York Times fez uma matéria especificamente alertando as pessoas

para montar o seu imposto de renda. O cientista Gary Marcus comentou essa reportagem do New York Times, ironizando esse contraste. A gente fala de sistemas que não conseguem nem fazer imposto de renda com segurança, mas que estão sendo usados ou pedidos e solicitados para serem usados em decisões militares que podem custar muitas vidas. Mas os pesquisadores entrevistados pelo New York Times falam que esses chatbots generativos ainda sofrem de muitas alucinações, como a gente já sabe, falta de confiabilidade,

Então você precisa de uma supervisão humana constante. Isso é muito perigoso quando você está lidando com os seus impostos. Você pode acabar em maus lençóis se confiar no que os robôs fizeram. O New York Times testou o chat GPT, o Gemini, o Claude e o Grock em oito cenários fiscais fictícios e relatou erros muito graves. Falou que, em média, esses chatbots calcularam valores errados em mais de 2 mil dólares entre reembolso e o imposto devido. Mesmo com o formulário, as informações, tudo certinho.

Todos os formulários, as informações corretas sendo fornecidas de modelos continuaram errando detalhes muito importantes. Porque, como já foi bastante falado, esses modelos não estão muito preocupados em uma resposta certa em cada detalhe. Eles estão preocupados em dar uma resposta plausível. E, às vezes, o que é plausível não é exatamente o que você precisa. Saindo da guerra para o entretenimento, a Netflix comprou a startup do ator Ben Affleck, uma empresa chamada Interpositive, que é focada em ferramentas de pós-produção.

faz um filme, você não termina quando você filma. Você tem que finalizar tudo, ajeitar a iluminação, ajustar as cores, textura, os cortes, obviamente. Só que com essa ferramenta, você consegue também fazer ajustes, por exemplo, na iluminação de um set, mas sempre baseado no que foi filmado. O Ben Affleck fala isso. Não é pra gerar coisa com pedido. É você conseguir fazer ajustes dentro da realidade do que foi filmado. Isso aí torna as produções mais flexíveis.

Ele fala que é importante fazer, que não tem como você fugir da IA. O audiovisual já tá indo por esse caminho.

mas que a preocupação dele é não substituir o trabalho criativo humano, mas é uma ferramenta como várias outras, como Photoshop, DaVinci, tantas outras ferramentas que são usadas, mas acho que o resultado final é reduzir o trabalho humano de alguém, né? Assim como já aconteceu com várias outras ferramentas. Então é aquela coisa meio no fio da navalha. Tem a ferramenta, vai ser usada, ele tá com essa preocupação de fazer dessa maneira correta, mas eu tenho certeza que a Netflix não tá, não. E deve estar querendo poupar mão de obra mesmo.

E também em relação ao conteúdo gerado por IA, a Apple adicionou tags de transparência, como eles estão chamando, que é uma espécie de alerta que as gravadoras podem adicionar ao seu conteúdo para poder informar que a inteligência artificial foi usada naquelas músicas. Então essas tags vão aparecer nos metadados de cada música que você for escutar no Apple Music, tipo as informações que você vê de título, artista, gênero, e assim você vai conseguir saber se você está ouvindo uma música de IA ou não.

que o que tá virando mais importante é a procedência das coisas, né? Hoje em dia eu ouço alguma coisa legal. Aliás, eu sempre ouvi música dessa forma, mas não com essa intenção atual. Eu vou ver por que selo só é aquela música, que músico tá envolvido. E se você já conhece o selo, os músicos, você confia no que você tá vendo ali. Então eu vou me surpreender muito se eu ouvir um reggae sintético vindo de uma gravadora, de um selo como a Blood and Fire. Bom, a Blood and Fire não existe mais, mas só a título de

Eu acho que isso vai contar muito mais do que um selo aplicado pelo próprio produtor, mas é uma maneira importante, você pelo menos já sabe bem diretamente, principalmente se for obrigatória. O Deezer e o Spotify já tomaram medidas parecidas, e é isso. Mas chega a hora que a gente não vai saber mais o que a gente tá ouvindo, infelizmente. E agora é hora de falar sobre como as Big Tech moldam o nosso comportamento.

quase barato. Os equipamentos da Apple são bem caros. Eu sou um Apple maníaco, como quem houve resumido já sabe. E é impressionante a queda de preço desse laptop. A Apple tá tentando competir com laptops populares, como o Chromebook, alguns laptops que rodam o Windows, que são muito mais baratos que o MacBook. O MacBook mais barato hoje em dia, no modelo novo, custa quase 1.100 dólares, um MacBook Air. Esse MacBook Neo vai custar 600 dólares. É muito mais barato. Nunca teve um laptop nem perto desse preço da Apple.

Claro, tem várias limitações. Ele só tem 13 polegadas de tela, só tem 8 GB de RAM e você não pode fazer upgrades. E ele roda em cima do processador que é utilizado no iPhone 16 Pro. Os telefones são tão potentes hoje em dia que é só um saltinho para virar um laptop. Muitas vezes é só um teclado e o tamanho da tela. Tem algumas questões, como multitarefa, mas promete ser um laptop que pode mudar a percepção da Apple no mercado. Um bom laptop para estudante ou para quem quer ter um computador

de entrada, uma notícia inesperada da época. Essa aí eu não esperava que viesse, não. Falando aqui de Brasil, o Tribunal Superior Eleitoral aprovou novas regras para o uso de ar nas eleições de outubro desse ano. Está proibido a publicação de conteúdo manipulado com imagem ou voz de candidatos nas redes sociais nas 72 horas antes da votação e nas 24 horas após o pleito. Eu não entendi isso, porque acho que deveria estar proibido e ponto, né?

Manipulação de candidato, mas enfim. Botaram dessa forma para tentar reduzir o impacto

fake, de montagem, manipulação digital durante o período mais sensível da eleição. E também tem regras específicas contra a misoginia digital. Então tá proibido montagem envolvendo candidatas com nudez ou conteúdo pornográfico. Eu fiquei pensando, isso tudo já não tá proibido, não? Precisou fazer uma regra específica pra IAR? Bom, é o que tem. O Financial Times também falou sobre uma lacuna na contabilidade dos centros de dados de IAR das Big Techs. Segundo a reportagem,

As cinco maiores empresas do setor de tecnologia acumularam 662 bilhões de dólares em compromissos futuros de arredamento de data centers que ainda não foram enunciados. Eles prometem que vão comprar os serviços desses data centers quando eles ficarem prontos, mas isso aí gera um problema de contabilidade, porque acaba não refletindo um cenário futuro muito plausível. Como a gente sabe, vários fundos, várias pessoas estão investindo no futuro de ar que talvez não chegue.

suficientes, talvez não tenha preço que seja acessível para o mercado. É tudo construído numa premissa de um futuro de IA que vai chegar, mas se não chegar, o mercado vai desmoronar e esse aí é o medo da bolha da IA. Mas quem não está nem um pouco preocupado com isso é o Elon Musk, para variar, que agora anunciou através da SpaceX um foco no desenvolvimento lunar. O foco dele é montar data centers na Lua, porque assim você tem alimentação com energia solar 24 horas e você também não tem as questões de aquecimento

as questões ambientais, e a partir de lá você consegue enviar os dados já processados de volta pra Terra através de satélites. Semana passada eu falei dos satélites que querem refletir luz pra determinadas fazendas de energia solar pra conseguir produzir 24 horas, o que é uma péssima ideia, vai transformar a noite em dia. Agora, talvez uma ideia melhor, entre aspas, seja mandar o data center lá pra Lua. Cara, esse papo todo tá ficando cada vez mais de maluco, sinceramente. Hora de relaxar,

dicas de ver, ler e ouvir. O curta The Spectacle, da diretora Yasmin Van Dorp, mostra como multidões organizadas em fila pra capturar aquela foto perfeita com seus celulares estão destruindo os pontos turísticos. O filme não tem narração, não tem julgamento, só expõe esse ritual do turismo atual, das pessoas cooperando pra criar essa ilusão de solitude, enquanto dezenas estão aguardando a vez pra repetir exatamente a mesma imagem, né?

Aquela foto clássica da pessoa sozinha num lugar, mas na verdade tem uma fila danada lá atrás.

Isso aí faz pensar sobre como a experiência de um lugar acaba sendo mediada pelas câmeras e sobre o que a gente perde. Quando visitar um lugar, vira só tirar uma foto pra falar que foi. Big Mama é o novo EP do Flying Lotus. Tem só 13 minutos e é um retorno aí ao lado mais frenético do produtor, com uma estética de videogame. Como em Captain Colonel, esse ataque de batidas rápidas de funk 8-bit com essa textura de Game Boy que você tá escutando agora.

E a vibe de jazz cósmico do Fly Low segue na sonoridade, mesmo com essa pegada frenética,

Eu sou suspeito porque eu gosto muito de tudo que ele lança. Nesse episódio, você ficou sabendo que uma escola que cobra 65 mil dólares com uma promessa de IA, na verdade, está fazendo os alunos de cobaia. Que o funk brasileiro virou trilha de propaganda geopolítica no Irã. Que os Raiban Meta enviam vídeos íntimos dos usuários para funcionários terceirizados no Quênia. Que a Antropic foi classificada como um risco de cadeia de suprimento pelo Pentágono depois de recusar a ceder seus modelos para fins militares.

a Netflix e muito mais. Agora, a hora dos meus pedidos. Se você gosta do Resumido, recomenda pra mais gente. É muito importante, é o único jeito de esse podcast chegar em mais gente. E também não deixe de fazer a sua assinatura. Vai lá em resumido.cc barra assinatura e apoie o Resumido pra gente poder continuar com esse trabalho. E já que você tá escutando o episódio, não deixe de curtir, assinar, seguir, dar cinco estrelinhas, deixar uma resenha na plataforma que você estiver escutando agora.

Se você quiser mostrar que você ouviu o episódio inteiro até aqui, é só você deixar um comentário com a palavra

Eu sou o Bruno Natal, obrigado pela audiência e semana que vem tem mais Resumido.

Óculos inteligentes que veem demais / IA em tempos de guerra / MacBook quase barato (#354) | Castnews Index — Castnews Index