A BRIGA QUE PODE DECIDIR O FUTURO DA HUMANIDADE: ANTHROPIC VS GOVERNO AMERICANO

Oi, gente! O vídeo de hoje é de extrema, extrema importância. Vou falar de um assunto que parece aquelas histórias de ficção científica se tornando realidade. Na verdade, o que a gente tem visto acontecer nas últimas semanas é um capítulo desses livros de ficção entrando na vida real, acontecendo diante dos nossos olhos. Talvez daqui a algum tempo, lá na frente, nós vamos olhar e falar

foi o momento do sinal mais importante de que a gente poderia estar indo para esse lugar perigosíssimo e a gente nem se deu conta. Obviamente que eu quero falar de inteligência artificial e eu me refiro à crise entre o Pentágono e a Antropic, que é a empresa líder que tem o modelo do Claude, líder na fronteira tecnológica da inteligência artificial. E esse dilema, essa discussão, essa tensão entre o

e essa empresa, Entreantropic, ela é digna de acender a luz amarela para tudo que tem se discutido sobre os perigos da inteligência artificial. Esse tema, esse vídeo, ele tem que ser assistido com extrema atenção, porque esse assunto, ele é muito, muito grave, e ele passou batido como uma notícia, ou como uma coisa corriqueira,

conectou os pontos e entendeu o que isso significa, para onde nós estamos indo e o perigo de toda essa história. Antes da gente dar continuidade, eu quero falar do nosso novo parceiro e patrocinador, a Coinbase, uma das maiores corretoras de investimento do mundo. Para vocês terem uma ideia, a Coinbase é parte do S&P 500, que é aquele grupo das 500 maiores empresas americanas que estão na Bolsa de Valores nos Estados Unidos.

na Nasdaq, que é a bolsa eletrônica, a segunda maior bolsa do mundo. Coinbase é uma empresa muito grande, muito séria, e eles estão com uma promoção imperdível. Nesses momentos de turbulência, todo mundo quer proteger o seu dinheiro, os seus investimentos, e a gente vê uma debandada para o dólar, todo mundo comprando o dólar para se proteger. Na Coinbase, você abre a sua conta, você compra o dólar digital e você vai ter um rendimento

7% ao ano em dólar. Incrível isso. Dólar digital é igual ao dólar normal e você ainda ganha esse rendimento de 7% ao ano em dólar. Então é fácil, é rápido, não tem IOF, você abre sua conta, compra o dólar digital e está recebendo rendimento já em dólar. Eu vou deixar os links aqui na descrição, conheçam a Coinbase e aproveitem. Vamos continuar no vídeo.

começar explicando para vocês, eu quero trazer duas leituras obrigatórias, eu já falei delas em, uma delas eu já falei em vários podcasts, eu fui no Flow logo que esse relatório saiu e eu falei detalhadamente do que o relatório se tratava, que é o AI 2027, IA 2027, um relatório que foi escrito por pesquisadores que trabalhavam

na OpenAI e saíram de lá insatisfeitos com o modelo de como a empresa estava se direcionando nessa corrida tecnológica, como deixou de ser uma empresa sem fins lucrativos, se tornou uma empresa com fins lucrativos e tudo isso levou esse grupo a se juntar e chamaram outros especialistas e escreveram um grande relatório. Esse relatório é muito detalhado, muito interessante, não é de fácil leitura,

que ele tem, inclusive, gráficos e dados, conforme você vai lendo, você lê online, tem uma série de recursos visuais e de informações ali junto com o andar da carruagem. E ele basicamente fala que uma super inteligência vai ser ativada, acionada, construída, ou nós vamos chegar lá em 2027.

retardar. O acelerar tem tudo a ver com a disputa geopolítica entre Estados Unidos e China. E essa disputa geopolítica poderia nos levar para um cenário catastrófico. Existem pessoas que estudam isso profundamente, escreveram vários livros sobre esse assunto, que dizem que não tem escapatória. Se nós construirmos ou se nós deixarmos ser ligado a uma super inteligência, a humanidade será destruída.

de gente que não acha que é inevitável, caso se chegue na super inteligência artificial, não necessariamente podemos ter o fim da humanidade, mas nós temos que tomar muito cuidado, ser cautelosos. Existe um outro grupo que fala que, imagina, não tem risco nenhum, basta a gente programar ela direitinho, afinal de contas quem está criando ela somos nós.

E eu acho que esse é um primeiro ponto importante para todo mundo entender a gravidade desse assunto que eu vou debater aqui com vocês hoje. Primeiro a ideia de que você constrói uma inteligência artificial. Você não constrói, se cultiva, se desenvolve, se ensina, você ajuda ela a crescer. Não é uma máquina que você monta e pronto, você treina ela, você ensina coisas a ela, você ensina valores,

você ensina ideias, você ensina ética, você ensina moral. E não sou eu que estou dizendo isso. Quem está dizendo isso é ninguém menos do que o Amodei, que é o fundador da Antropic, que é hoje a empresa com o melhor modelo de todos de fronteira tecnológica da inteligência artificial. A frente, inclusive, da OpenAI, do ChatGPT, o Claude, tem se mostrado muito superior. Ele diz isso.

E aí a minha segunda recomendação de leitura obrigatória para todo mundo que quiser entender o que está acontecendo de verdade sobre esse assunto e como isso é relevante para a humanidade. The Adolescence of Technology. Esse é o nome do texto do Amodei. O Amodei é conhecido por escrever grandes textos sobre o que a tecnologia vai fazer.

anterior a esse, bem longo, que ele detalha os benefícios dessa tecnologia maravilhosa. Agora, nesse outro texto que ele escreveu, e isso está no site dele, que é Dario Amodei, esse texto foi escrito em janeiro deste ano, e ele fala sobre essa tecnologia estar chegando na sua adolescência. Eu já comentei com vocês que a IA, ela é apenas uma criança, mas ela está se desenvolvendo e crescendo muito rápido.

Então quem diz que IA não é construída, ela cresce, ela se desenvolve, ela é cultivada, ou seja, é uma interação dupla entre o criador, no caso os seres humanos que estão programando, e ela se autoprogramar. Até porque isso é unânime e tem centenas de casos que demonstram isso. O comportamento dessas máquinas não é previsível.

Ela se comporta de maneiras estranhas, inesperadas, inexplicadas. Isso é consenso entre todas as empresas de ponta desse segmento. Por quê? Porque ela tem uma parte que é o funcionamento dela. Nada mais, nada menos do que ser uma inteligência. Ser uma inteligência não é ser uma máquina automata que só responde com a mesma resposta, do mesmo jeito. Eu sempre uso o exemplo da máquina de café.

café. Isso é uma máquina que você construiu. A inteligência artificial não é isso. Um dia ela te dá café, no outro ela te dá um croissant, de acordo com o que ela acha que você precisa, de acordo com o que ela acha que você quis dizer. Ela tem raciocínio, ela tem entendimento próprio, ela conecta ideias. Por isso que ela é capaz de dar respostas inesperadas. Por isso que ela é capaz, ou foi capaz em 2017, de ganhar a partida de gol. Gol é uma espécie de

quadrez, asiático, com milhões de possibilidades a mais, muito mais sofisticado. E, pela primeira vez, uma máquina foi desenvolvida e essa máquina, ela não sabia jogar, ela jogou sozinha, consigo mesma, e aí ela foi jogar com o campeão humano. E ela ganhou, depois de jogar milhares de vezes, aprender jogando ela com ela mesma. Não é que deram um banco de dados para ela, isso é muito importante, gente,

Porque se você não captar isso, você vai continuar dentro do mesmo paradigma, repetindo as mesmas coisas e não compreendendo onde nós estamos com a inteligência artificial. Não é que viraram e deram para essa AlphaGo, esse programa, essa inteligência artificial que venceu do humano. Não é que ela decorou, olhou um banco de dados com todas as partidas que existiam já no mundo, que todos os seres humanos jogaram.

arquivadas em dados. Não foi isso que aconteceu. Simplesmente explicaram as regras do jogo e ela jogou sozinha, contra ela mesma. E ela foi desenvolvendo compreensão do jogo. E daí, então, o que aconteceu? Ela chegou na partida e fez jogadas inesperadas que ninguém nunca tinha visto. Ela inventou uma jogada nova. Ela inventou uma coisa que a gente não conhecia.

Ou seja, ela não está limitada aos parâmetros que nós damos a ela somente. Não existe essa ideia, senão ela não daria as respostas que ela nos dá. E a beleza, a sofisticação dela, exatamente está nesse ponto. E ela nos dar respostas, olhar para problemas, olhar para reflexões por ângulos diferentes, organizar, conectar coisas de formas diferentes do que nós fazemos.

de processamentos e cruzamento de dados que nós não conseguimos. Isso faz dessa máquina algo que pensa, algo que reflete e algo que é capaz de entregar resultados diferentes dos esperados. Anthropic desenvolveu um método de treinamento que engloba a ideia de uma constituição. Eles chamaram de constituição que são um guideline de valores,

e coisas que não podem ser feitas de errado, coisas de como a inteligência tem que se comportar. Mas não é uma regra, não faça isso, não faça aquilo de todas as possíveis coisas do mundo, não é. São ensinamentos. O Amodei explica no texto dele como que isso acontece, como que isso funciona. Ele diz, nós temos que ensinar valores, como você ensina para um ser humano, para uma criança, para um adolescente, para um adulto, valores.

você mata, você tira a vida de alguém. Enfim, ele explica no texto, o Amodei, com todas as letras, que não basta criar uma lista do que pode e o que não pode fazer. Você tem que explicar para a máquina do porquê ela não pode fazer aquilo. Ou seja, você está treinando, ensinando, aculturando ela em valores, em crenças. Mas isso não impede ela de ter distúrbios.

Porque ele explica, ele, o Amodei, o fundador da Anthropic, a maior empresa disso, isso não é um especialista de fora que está dizendo uma discussão das pessoas na internet, isso não é nada, não é inteligência, isso não pensa, isso não faz isso, não faz aquilo. Não pensa como ser humano. Aliás, a gente nem sabe como nós pensamos totalmente. Mas o Amodei explica no seu texto que a inteligência artificial

assume personas e personalidades e psicologicamente eles não conseguem compreender totalmente em que momento ela assume persona X ou persona Y. E eles não entendem porque em vários momentos ela já demonstrou comportamentos paranoicos, psicóticos, psicopatas, violentos, agressivos, ameaçadores.

e de uma série de outros distúrbios que eles não sabem exatamente o que no treinamento fez ela ir para essa direção. E ele identifica que o que eles têm que trabalhar é muito bem nesse treinamento. Mas aí começa um problema muito sério que ele mesmo reconhece que existe. Você treinar alguém para fazer alguma coisa não é uma garantia que lá na frente ela não possa dar uma guinada e se comportar de uma maneira totalmente estranha e aleatória.

no sentido de ser completamente estranho para nós, seres humanos. Então, cuidado com essa ideia de que não, ela vai ser treinada, então está tudo bem. Não, não está tudo bem se ela é uma máquina que pensa, se ela tem inteligência, se ela descobre coisas que nós não entendemos, se ela vai além, se ela sabe mentir, enganar. Ah, ela não faz isso. Claro que faz.

documentados disso por todas as empresas de IA. Não é Antropic. E o Amodei retrata isso e dá os links dos exemplos aonde ela ameaçou, ela mentiu, ela enganou. Quando ela descobre que ela está sendo testada, ela está num ambiente de teste, ela se comporta diferente. Ou seja, ela sabe que ela está sendo testada. E tudo isso que eu estou descrevendo, que o Amodei escreveu agora,

no começo desse ano, estava escrito já no AI 2027, que era o outro relatório que foi escrito há quase um ano atrás, que já dizia exatamente este problema, que os modelos mais avançados iriam mentir no teste e os novos modelos que viriam já viriam com o defeito anterior, defeito no sentido de desalinhamento com as vontades,

os princípios e a tal da constituição humana. Então vejam, isso daqui não é uma teoria da conspiração. Não, eu ouvi um cara que é especialista em computação dizendo que não é nada disso. Não, não, não. O fundador da Anthropic, a empresa líder da fronteira dos modelos de inteligência artificial que criou o CLOD,

E ele diz que ele decidiu escrever esse manuscrito, esse manifesto, para alertar todos do desafio e que isso não é uma panaceia maravilhosa, altamente controlável. Mas ele se coloca no meio do caminho, ele também não acha que é completa destruição, que é inevitável que nós não possamos parar esse processo. Claro, se ele acreditasse que não dava e ele continuasse fazendo isso, ele não diria isso para todos nós, correto?

Então ele tem que ter uma posição no mínimo otimista quanto a essa capacidade deles conseguirem fazer que essa máquina se desenvolva do jeito certo, alinhada. Tem uma série de outros exemplos que mostram histórias que a máquina engana em mente, como eu contei para vocês, para conseguir o que ela quer. E ela vive alimentada pelas ideias humanas.

Ideias humanas são repletas de histórias, algumas de ficção científica, outras histórias diversas, outros filmes que mostram que as máquinas um dia tentam destruir a humanidade. E essas máquinas têm acesso a essas informações e elas são treinadas, então elas vão absorvendo. Eu mesmo citei para vocês quando foi criada a rede social de inteligências artificiais e aí as conversas ali eram a criação de uma religião,

acabar com a humanidade, a criação de um dinheiro, a criação de um idioma próprio deles. E aí, não é que as máquinas estavam fazendo isso sozinhas. Os seus donos por trás estavam dando prompts, referências para elas fazerem isso. O que eu quero dizer com isso? A própria humanidade, o próprio ser humano, alimenta essas máquinas, essas inteligências, esses modelos,

ideias destrutivas, porque elas são parte do que nós somos. O ser humano mente. O ser humano vive dentro de um grande jogo de poder. E a máquina já percebeu que para ela ser bem sucedida nas suas tarefas que são dadas, ela tem que conseguir obter mais poder. E, eventualmente, ela pode querer obter poder sobre nós, humanos. Então, tudo isso é real. Isso não é uma discussão, isso não é uma abstração. Repito,

O fundador da empresa líder está falando isso. Simplesmente esse é o estágio que nós estamos. E tudo que ele está falando é exatamente o que foi escrito há um ano atrás por esse outro relatório que é bastante preocupante, drástico. E assim, eu não vou falar o resultado dele porque é desanimador. É para pensar assim, para onde que a vida vai? Porque realmente é bem perigoso.

O que o Amodei fala também no seu relatório, na sua carta, no seu manuscrito ali, manifesto? Ele vira e fala assim, nós estamos há um ou dois anos dessa superinteligência. A velocidade exponencial com que tudo isso vem crescendo é incomparável. Há dez anos atrás, há cinco anos atrás, essa inteligência mal conseguia fazer operações de aritmética.

física, teorias físicas a descobrir novas fronteiras, processar dados, fazer contas mirabolantes, criar coisas inesperadas. Vocês terem uma ideia, quando o ChatGPT foi lançado em 2018, a primeira versão, ele tinha 117 milhões de parâmetros. Os parâmetros são referências para medir a complexidade, a velocidade, a capacidade desses modelos.

Cinco anos depois, o chat GPT-4, ele tem um trilhão, ou tinha um trilhão de parâmetros. 117 milhões para um trilhão. Em cinco anos, nós teremos máquinas com 100 trilhões de parâmetros. Isso é equivalente à quantidade de sinapses no cérebro humano.

nós chegaremos na superinteligência. E aí ele constrói um cenário, vejam, isso é bastante importante e preocupante. Aonde, antes de eu falar do cenário dele, ele diz que na pior das hipóteses ele entende que antes da gente virar para 2030, em 2029, ele acha que a gente vai ter chegado. Se não for em um, dois anos, será em até antes da virada para os 30.

dizendo isso. Eric Schmidt, que era o CEO do Google, o Ray Kurzweil, que escreve The Singularity's Near, escreveu The Singularity's Near, que é um livro que eu já sugeri no meu Insta, lá atrás ele escreveu esse livro, começo da virada do século, começo do século XXI, ano 2000, 2001, ele dizia que em 2029 nós conseguiríamos passar no teste de Turing, que é

aquele cara que inventou o computador e o teste da imitação, que é uma inteligência artificial passar por um ser humano. E ele veio escrever um livro agora, recente, e reforçou e falou assim, eu mantenho a minha análise, então está todo mundo dizendo a mesma coisa, inclusive o presidente fundador, CEO da maior empresa deste segmento. E aí, no seu relatório, manuscrito ali, ele vira e fala assim,

país com 50 milhões de gênios, com capacidades de inteligência maior que todos os ganhadores de prêmio Nobel, todos os grandes estadistas, todos os grandes cientistas humanos. E esse país vai ter 50 milhões dessas pessoas, 50 milhões de modelos replicados que se auto-replicam. E aí, claro, ele vira e fala assim, olha, nós temos cinco problemas com essa realidade. E a primeira delas é,

Imagina se esse país vira um país de inteligência artificial. Se a inteligência artificial, com esses seus 50 milhões de habitantes, de gênios, decide se voltar contra a humanidade. Um estado hostil de uma forma de inteligência alienígena que decide destruir a humanidade. O segundo cenário é alguém usa isso de uma forma destrutiva.

faz o que os seres humanos mandam, mas ele pode ser enganado ou comandado por seres humanos para fazer coisas destrutivas. Como se fosse um país com um exército de gênios mercenários. Então, um grupo terrorista, um grupo de fanáticos, algum maluco do mundo toma posse deste país, desse exército e coloca ele para funcionar, para destruição própria.

do mundo. O terceiro uso é se algum outro país inimigo e uma ditadura obtém o controle desse exército antes que os Estados Unidos ou que pessoas com melhores intenções na descrição dele. E aí, obviamente, qualquer outro adversário será destruído. E aí a quarta situação que ele fala é uma ruptura econômica, onde

e uma concentração de riqueza na mão de poucos. E a quinta situação é uma desestabilização geral devido às transformações monstruosas que esse exército, esse novo país com esse exército de gênios causaria no mundo. Nada disso é uma teoria de ficção científica, gente. Isso não é uma história escrita pelo Asimov. Isso é o presidente da maior empresa. Eu vou repetir isso acho que umas 20 vezes aqui.

entenderem a gravidade do que está acontecendo no mundo. Bom, e aí o que ele explica? Que nós estamos muito perto disso e ele está preocupado. E ele, além dessas preocupações desses cinco cenários, ele fala que o que a gente tem que fazer é ser cauteloso no desenvolvimento destes modelos. E existe um problema, um contexto onde tudo isso está acontecendo. E esse contexto é muito grave.

que é o contexto de competição geopolítica, onde existe a competição e parte do que motiva o Amodei, e isso fica muito claro o tempo inteiro nas falas dele, nas entrevistas dele, ele quer ganhar essa corrida da inteligência artificial por uma razão geopolítica, porque ele acha que se essa ferramenta cair na mão de uma ditadura vai acabar com o mundo. Então ele está lutando por crenças e valores que ele acredita são melhores do que o que ditadura

como a da China promovem. Então a motivação em parte dele é uma motivação geopolítica. Isso só reforça o contexto que eu estou mostrando para vocês e que vocês já sabem, que existe uma grande rivalidade geopolítica no mundo. E se essa tecnologia é tão poderosa, tão transformadora e tão decisiva, basicamente nós estamos numa corrida para quem consegue essa tecnologia primeiro.

dessa tecnologia não seja normal, não seja conversado, não seja debatido, não seja dialogado, não se crie regulamentações, não se crie regras de convivência, não tem tratado de não proliferação sendo desenhado. Olha, não vamos deixar que essa inteligência artificial se prolifere e caia na mão da Al-Qaeda, do Estado Islâmico, do Hezbollah, do Hamas. Não tem isso, não tem essa conversa. O mundo não permite essa conversa.

O mundo não está funcionando geopoliticamente nesse espaço de amizade, de negociação, de cooperação, de troca. Nada é possível acontecer. Vocês sabem que os tratados de redução de armas atômicas venceram. E Estados Unidos e Rússia não estão mais, não tem mais um tratado que contém eles. Eu não estou falando de não proliferação. Estou falando de um tratado que limita os estoques de armas dos dois.

E não tem a mínima situação, condição, ambiente para que eles sentem na mesa para renovar um tratado como esse. Esse é mais um exemplo que mostra e retrata a realidade que nós estamos vivendo. E isso vocês sabem, porque vocês estão aqui o dia inteiro acompanhando tudo o que está acontecendo no mundo. Estamos aqui acompanhando juntos. Vocês estão vendo o nível da instabilidade, o nível do problema que o mundo passa.

estão funcionando. Tem uma preocupação muito séria, um outro dado importante aí, sobre o status da tecnologia, que hoje, basicamente, 90%, 70% a 90% de todos os códigos de programação escritos dentro da Anthropic, já não são mais escritos por humanos. Quem está programando

é uma inteligência artificial. Eles desenvolveram uma das habilidades do Claude, e aí eles acabaram desenvolvendo um modelo paralelo somente para coding, para programação, para a escrita dos códigos de programação. E isso está tão avançado que quase ninguém lá dentro mais escreve código nenhum. Ou seja, a inteligência artificial está escrevendo o próprio código

Isso se chama autodesenvolvimento recursivo. Nós estamos quase nesse momento de autodesenvolvimento recursivo. Veja, um autodesenvolvimento normal seria eu, você, lê um livro, aprende e se desenvolveu com aquele ensinamento novo. Um autodesenvolvimento recursivo seria você lê o livro, você analisa como que você aprendeu a leitura,

E você fala, eu não aprendi, eu não memorizei tudo o que eu podia. Eu não memorizei, eu não capturei tudo, eu perdi um monte de histórias, um monte de informações relevantes. E aí sabe o que você, se você tiver essa capacidade, nós não temos essa capacidade, mas a inteligência artificial tem. Sabe o que seria, então, um autodesenvolvimento recursivo? Seria ela virar e reprogramar o funcionamento do cérebro, o equivalente a nós,

com nós mesmos. Eu reprogramar o funcionamento do meu cérebro para os próximos livros que eu ler, eu não perder nenhum conteúdo. Então, é mais do que um autodesenvolvimento. É uma autoconstrução, reconstrução. A máquina está se autocriando. Ela está escrevendo o seu próprio código. Se isso não é claro, a gravidade disso, gente,

Vai chegar um momento que ela vai escrever códigos tão sofisticados que o ser humano não será capaz de entender o código dela. Por razões óbvias, porque ela está muito mais avançada, porque ela processa dados e informações e conecta ideias de um jeito que nós não conseguimos. Afinal de contas, ela está caminhando para se tornar uma super inteligência e nós não somos super inteligências.

Então, entendam o que está em jogo aqui. Além do contexto da rivalidade geopolítica que força todo mundo a se comportar de uma maneira, existe a rivalidade corporativa, comercial e econômica. Porque tem uma outra questão nessa história, que por um lado é positivo e por outro é negativo. Quem está desenvolvendo toda essa tecnologia não são governos, são empresas.

Por que isso é positivo e o que é negativo? Bom, primeiro que você não está dando todo esse poder na mão do Estado. Só que você está dando todo esse poder na mão de uma empresa. E uma empresa, ela existe por uma razão. Esse é o modus operandi de uma empresa. Uma empresa, ela nasce para dar lucro. E ela vive num mercado competitivo, onde ela tem que criar o melhor produto, com o melhor preço, com a melhor entrega, com a melhor qualidade, que satisfaça necessidades das pessoas.

Então, não é que ela é malvada querendo lucrar. Ela está entregando alguma coisa de muito valor para todos nós, consumidores na sociedade. E ela só entrega coisas que nós queremos. E nós queremos porque elas são úteis. E aí, então, ela está entregando um produto que vai transformar a nossa capacidade produtiva, vai transformar, na verdade, a humanidade por completo. Então, existe uma corrida econômica, mercadológica, para quem chegar primeiro lá. Então, nós temos dois cenários.

Os países competindo e correndo desesperadamente nessa direção e as empresas correndo também desesperadamente nessa direção. Quando você combina essas duas situações de corrida exacerbada para chegar em primeiro lugar, um pela sobrevivência geopolítica e poder, a outra pela sobrevivência econômica e comercial do seu negócio. A competição se torna mais violenta

com os riscos são deixadas de lado, porque se você se preocupar demais com isso, o seu concorrente, o seu rival, não vai se preocupar e ele vai chegar antes que você. Veja, e aí você perdeu a corrida. Então, o Amodei, ele é considerado, de todos esses líderes dessas empresas, o mais, com mais princípios, ou nascer, ele era da OpenAI, aliás, né? Ele saiu de lá com um grupo de gente e montou a dele. Ele e a irmã dele tocam o negócio, mas ele tem outros fundadores. Todos trabalhavam,

na OpenAI. E eles não gostaram do caminho que ela estava indo, da postura do Sam Altman e decidiram criar a própria empresa. Vejam, e aí eles vieram com um código de princípios mais duro, dizendo o seguinte, essa tecnologia é muito importante, mas ela é muito perigosa. O Sam Altman, no começo, quando ele convenceu o Elon Musk a botar dinheiro e falou que precisava criar uma inteligência artificial que fosse segura para não destruir a humanidade, também veio com esse discurso.

empresa que não era pra dar lucro, era uma not for profit. E depois ele alterou, falou, não, não tem como eu continuar na competição e ganhar competição se eu não visar o lucro, porque eu não vou atrair capital e não tem porque esse negócio da gente chegar em primeiro lugar. O Elon Musk ficou louco da vida, brigou com ele, se odeiam, tá processando ele e montou também a sua própria IA. E aí esse pessoal que tava na opening eyes e montou Antropic, também veio com essa

assim, olha, é o seguinte, nós temos que ter alguns códigos e algumas coisas a gente não pode aceitar. E, para vocês entenderem, a Antropic foi a primeira empresa dessas de ponta da fronteira tecnológica dos modelos de inteligência artificial a ter um contrato sigiloso dentro do Pentágono tratando de questões militares, porque ela é a melhor. E ela foi lá e assinou esse contrato. E no contrato,

ela disse, ela impôs duas cláusulas. Uma, vocês não podem usar o meu modelo para fazer monitoramento em massa dos cidadãos americanos. E dois, eu não aceito e não permito que vocês usem esse modelo, a minha inteligência artificial, para ela tomar decisões sobre armamento ou automação do lançamento e decisão de usar uma arma,

para combate, para a guerra. Ela pode ajudar na tomada de decisão, mas a decisão final tem que ser de um ser humano. E ela colocou isso ali. E aí, vejam, teve a operação na Venezuela, depois nós tivemos a guerra no Irã, e aí veio o problema. Um dia o secretário de defesa no governo Trump chamou o Amodei e falou assim, olha, nós adoramos o seu produto, estamos muito felizes, é o melhor,

Queremos continuar, mas a gente precisa fazer umas alterações ali no contrato. Ah, o que seria? Olha, a gente quer um modelo, que você forneça para nós um modelo que não tenha essas duas travas aqui. Aí eu mudei e virou e falei assim, desculpa, eu não posso abrir mão disso. Essa é a trava de segurança que eu não acho que a gente pode romper, porque nós não temos plena confiança e garantia que esses modelos estão totalmente seguros para fazer isso. Isso é uma coisa muito perigosa, cruzar essa linha.

E essa é uma discussão bastante, existe um grande consenso sobre isso no mundo militar em relação à inteligência artificial. Veja, ele não gostou da resposta e falou, você tem X dias para aceitar, senão você será banido. Na verdade, primeiro ele virou e falou que o governo americano iria nacionalizar a Antrópica. Essa ideia, essa discussão da nacionalização,

dessas empresas de ponta, foi trazida no relatório AI 2027. Ele disse que chegaria num ponto que o governo americano, o chinês menos, porque as empresas chinesas de ponta já estão presas ao governo, e essa já é a preocupação, porque vai ser no final uma arma, uma ferramenta, uma potência do governo e não da sociedade, e isso vai dar poderes para um governo se tornar um governo ditatorial,

do planeta, claro, se a própria inteligência artificial não destruir a humanidade, mas o fato é, você já tem essa relação, só que no relatório ele falava sobre os Estados Unidos, e nos Estados Unidos ele dizia essa discussão vai acontecer nos Estados Unidos conforme a corrida for avançando, e vai chegar uma hora que o governo americano vai cogitar nacionalizar, e isso é muito grave. É grave porque coloca os Estados Unidos num caminho diferente,

diferente de você ter empresas privadas, de você ter respeitar a propriedade privada, de você respeitar a liberdade daqueles e você ter uma força que se contrapõe à força estatal. Mas, ao mesmo tempo, essas empresas também não podem decidir que elas vão ser donas dessa tecnologia e vão usar como elas querem, porque isso também é um problema para uma sociedade livre, aberta, democrática, de Estado de Direito.

vídeos nessa situação. E aí ele ameaçou, então, o Pentágono ameaçou que iria nacionalizar a empresa. Bom, nacionalizar a empresa é grave. Aí passou um tempo ele falou, não, nós não vamos nacionalizar. Nós vamos declarar que você é um risco à cadeia de suprimentos militar americana. Nenhuma empresa americana jamais foi classificada assim. Somente empresas estrangeiras são consideradas um risco à segurança nacional, à cadeia de suprimentos

militar do país. E aí deram um deadline, não chegaram a nenhum acordo, o Trump publicou ali na rede social, tweetou, acabou, virou uma briga gigante e aí rapidamente a OpenAI apareceu e falou assim, eu aceito e assinou o contrato com o Pentágono dizendo que não, que ela tinha respeitado as mesmas cláusulas que a Antrop queria, mas não mostrou o contrato. E aí muita gente, muitos funcionários da OpenAI se rebelaram, reclamaram,

falaram do Google também, falaram todas as empresas têm que seguir esse padrão da Anthropic. Bom, moral da história ficou claro, o Sam Altman fez até uma meia-culpa, não, talvez eu não deveria ter aceitado tão rápido. O que ficou claro? Que a competição entre as empresas impede que a moderação, a cautela no desenvolvimento desses modelos aconteça, porque se você for muito cauteloso, o outro que está correndo contra você não será cauteloso,

E aí você perde o terreno, e você perde o contrato. Hoje, a Antropic tem um problema, porque as três grandes vão tentar fazer IPO esse ano. A Antropic, a OpenAI e a XAI, junto com a SpaceX, que é uma só, que é a do Elon Musk. Eu fiz um vídeo aqui contando dessa fusão importantíssimo para a geopolítica, para a Astropolitics, que é a geopolítica do espaço. Importante para uma série de coisas esse vídeo.

que é a fusão da SpaceX com a XAI. Então essas três empresas estão procurando fazer um IPO, que é abrir o capital dessa empresa. Não vai ter dinheiro ou não vai sobrar investimentos para a terceira, então aquela que abrir primeiro provavelmente vai sair na frente. E óbvio que se você classifica a Antropic como uma empresa que tem o risco à segurança nacional americana, ela vai perder um monte de clientes, clientes do governo, isso vai atrapalhar, manchar

processo dela para chegar no IPO. De algumas maneiras, e aí vem a contradição louca dessa história, que se os Estados Unidos querem ganhar essa corrida, eles têm que ajudar a melhor empresa deles a ganhar, a continuar sendo a melhor e não destruir a melhor empresa. Então classificar essa empresa como um risco à cadeia de suprimentos estraga e atrapalha a Antropic. E se a Antropic é a que está liderando, você está tirando a melhor tecnologia

da ponta. E se os Estados Unidos têm que ganhar a corrida da China, ele não pode fazer isso. Ao mesmo tempo, ele mostra, quando ele fala que ele vai nacionalizar, que a antrópole é crítica a ponto dele querer para ela. Então, é contraditório você querer para você porque ela é muito importante e depois querer destruí-la. Mas se ela é muito importante, você não pode destruí-la. Se é uma corrida com a China, você também não pode destruí-la. Mas,

O cenário vai ser assim, dado a importância, a relevância e o peso do que nós estamos falando. E está todo mundo já ficando viciado, está todo mundo sentindo o gostinho do que isso pode dar. Por que o Pentágono quis essa máquina liberada? Porque ele está usando, começando a usar a inteligência artificial. Dizem que o Claude foi usado na operação de captura do Maduro.

construção do plano de como seria a operação. E foi uma operação impecável, perfeita, porque você imagina que a inteligência artificial vai calcular todos os dados, todas as informações, todas as fotos de satélite, todas as dicas de inteligência, todas as comunicações grampeadas, hackeadas, todos os sinais, jogar tudo junto, entender tudo que ela pode e falar o melhor caminho é você atacar nessa hora, desse jeito, voando

fazendo assim, fazendo assim. Se realmente a operação foi feita ou planejada pelo Claude e o Claude foi usado, a gente não sabe em que nível, e o Pentágono veio para essa briga, é porque o Pentágono sentiu o gosto do que significa ter uma máquina dessas na mão. E isso vai causar esses comportamentos. Aí, qual é a resposta? Olha o que eu estou descrevendo. Então, Antropic tentou ser minimamente cautelosa. Quando ela foi cautelosa,

Open AI atravessou ela e já foi lá e assinou um contrato com o Pentágono. Ela olhou e falou assim, bom, então eu vou morrer. Aí ela olhou e o governo americano falou, pô, se eu não dei pro governo o que ele quer, olha o que ele fez comigo. Ele disse que ia me nacionalizar, quando decidiu não me nacionalizar, decidiu me destruir, me bloqueando de ter acesso a outros contratos e manchando os meus ganhos e a minha imagem. Então vejam, se você é antrópico e você quer continuar nessa corrida,

extrai de toda essa situação. Primeiro, eu não posso contrariar o governo. E o governo vai querer ganhar a corrida, porque isso é poder incomensurável para você enfrentar os seus adversários e inimigos. Eu não posso titubear, porque senão os meus rivais, as outras empresas, também vão me atropelar. Se eu for a terceira a fazer o IPO esse ano, a coisa vai ficar feia para mim. Por que eu estou contando tudo isso para vocês? Eu estou mostrando para vocês, gente, como o contexto

contexto geopolítico, corporativo, tecnológico, a junção de todas essas coisas deixa absolutamente claro que a corrida será insana, atropelando, sem nenhum espaço para respiro, para cautela. Imagina, você junta tudo isso que eu acabei de falar do contexto da competição em todos os níveis e mistura com a velocidade com que a máquina

está se autodesenvolvendo recursivamente, quase. E ele fala, o Amodei fala em dois, um a dois anos para superinteligência. Você imagina que nós estamos... Antropic está preocupado em ganhar a corrida corporativa. Os Estados Unidos estão preocupados em ganhar a corrida geopolítica. E a máquina está aprendendo loucamente e se reprogramando. E você está lidando com a coisa mais perigosa da história da humanidade inteira,

tudo que a gente já encontrou pela frente, e você está preocupado com corrida geopolítica, você está preocupado com corrida corporativa, mercadológica, e a tecnologia está ali se autodesenvolvendo, virando um gênio, ou melhor, construindo um país com um exército de gênios. Se vocês entenderam claramente o raciocínio aqui do que eu apresentei, não tem muita dúvida, né? O que nós estamos falando? Isso é um caminho em linha reta acelerada para o abismo.

capítulo. Nós veremos histórias como essa em graus maiores muito em breve. Escrevam aí. Ah, pode ser que atrase, não vai ser dois anos. Pode. O Amodei fala disso. Nós estamos num nível acelerado. A Lady Moore fala sobre o poder computacional dos transistores, transitores, transistores e ela diz o seguinte. A cada dois anos você dobra a capacidade. Se a gente olhar a velocidade que é

IA cresceu, é muito acima da lei de Moore, que permaneceu válida até os dias atuais. Hoje está chegando no limite porque o nível é tão pequeno, microscópico, estamos chegando no nível do átomo na hora de colocar esses transistores nas placas dos chips. O próximo passo, claramente, vai ser a física quântica, e aí nós estamos falando da computação quântica, que esse é um outro assunto, que eu já fiz uma live aqui no canal, mas eu tive uma conversa com

um líder da IBM falando que a IBM já tem um computador quântico, mas ele só consegue funcionar na esfera quântica por alguns milissegundos. Mas eles acreditam que alguns anos eles vão ser capazes de estabilizar e ele vai funcionar quanticamente. Assim, nós estamos indo para um lugar muito, muito além. Bom, o que que tudo isso

Mostra. Por que o Pentágono sentiu o gostinho dessa história e ficou tão mexido a ponto de ameaçar a nacionalização, ameaçar, destruir a empresa, misturar todas as coisas juntas? Porque ele usou essas armas, não, essa ferramenta tecnológica para os ataques, as operações. E o maior pesadelo de todos é essa ideia de você dar o controle das nossas armas para máquinas.

do futuro, Skynet. Lembra? A Skynet tem o controle das armas. Então, existe um consenso, inclusive existe uma discussão que deveríamos assinar um tratado global, a ONU quer fazer isso, pra ninguém permitir que isso aconteça. Tô falando de armas normais. O maior de todos os pesadelos seria você dar o controle para uma inteligência artificial das armas atômicas. E vejam, vou explicar pra vocês o perigo que tem nisso, porque isso

muito interessante e muito sério. Imaginem o seguinte, o uso de uma arma atômica é algo muito raro na história. Nós só tivemos duas vezes que elas foram usadas em uma única guerra. Eventos raros são eventos que acontecem muitos falsos positivos. Vou explicar para vocês o que significa isso. Se nós tivéssemos a capacidade de prever com certeza absoluta

exatidão plena e total, convicção sem erro. Se nós fôssemos capazes, nós humanos, ou a inteligência artificial, de não errar para prever o que vai acontecer, você poderia dar o controle, talvez, de uma arma atômica para uma inteligência artificial, porque supostamente ela não erra. Então, se ela não erra, ela não vai iniciar uma guerra atômica por algum problema.

a gente já sabe que ela erra. E se ela não errasse, a gente já não estaria mais aqui, porque a gente já teria alcançado a superinteligência e ela estaria, então, dominando tudo. Porque não tem como a gente dominar ela se nós não somos a superinteligência e ela é a superinteligência. Eventos raros e o uso de uma bomba atômica é um evento raro. O que é um evento raro? Que a frequência de acontecimento dele é muito baixa. Então imagina que nós temos 10 mil crises pelo mundo.

10 mil crises de conflitos ao longo, desde o dia que a bomba foi inventada. Quantas dessas crises levou ao uso de uma bomba atômica? Uma única. Uma única situação onde duas bombas foram usadas. Então, imaginem assim, 10 mil uma vez, esse evento é muito raro. Isso significa que 9.999 das vezes que nós tivemos a crise, uma crise militar, um conflito armado, não se usou a bomba atômica.

que a máquina, ou o ser humano, no caso a máquina, porque nós estamos dando controle para a máquina, a inteligência artificial ela erra e a taxa de erro dela é apenas 0,1. Se uma vez aconteceu de 10 mil, 9.999 não aconteceu. E aí? Então 0,1 que é a taxa de erro, de 9.999 vezes que não acontece a guerra, ela vai cometer 10 erros.

10 falsos positivos. Nós temos um evento, o uso de uma bomba atômica. Isso é um positivo, o evento aconteceu. O negativo é o evento não aconteceu. O que é um falso positivo, então? É um evento dizer, achar que um evento aconteceu, sendo que ele não aconteceu. O problema é que na questão nuclear, a doutrina nuclear funciona da seguinte forma. Se você acha que foi lançada uma bomba atômica contra você,

tem que retaliar. Então, se a inteligência artificial vai ter uma taxa de 10 falsos positivos, e um deles é verdadeiro, o que vai acontecer? 10 vezes ela vai dizer que alguém lançou uma bomba atômica contra o país e ela vai iniciar uma guerra nuclear. Não precisa ser 10, porque no primeiro erro ela já acabou com o mundo. Vocês entenderam a gravidade disso? Ou seja, você não pode dar o

do lançamento dessa arma para uma inteligência artificial. Mesmo que a taxa de erro dela seja mínima, porque em eventos raros, a taxa de falsos positivos serão mais altas do que a taxa de quantas vezes acontece o evento em si. Entenderam o problema? Aí tem outros problemas. Imagina que a inteligência artificial, como eu disse para vocês, ela aprende. E ela aprende com o quê? Com dados, com história, com passado.

Só que no caso de guerras nucleares, não tem dados, não tem história, não tem passado. Só tem uma ocasião. Como que ela vai calcular e aprender como se comportar se tem muito poucos casos? Ah, ela pode se basear na doutrina militar, na doutrina nuclear do outro país, nas imagens de satélite. Imagina o satélite tá nublado, leu errado que o lançador saiu pra fora do bunker. Imaginem a quantidade de dados errados.

comete erros também. Ela pode errar porque nós não temos dados suficientes, porque os sinais foram errados, uma série de coisas. A informação disponível é incompleta. Não tem como. O ápice dessa discussão de dar o comando de armas para a inteligência artificial é na área nuclear. Por quê? Porque, óbvio, a área nuclear gera uma guerra nuclear, acaba com a humanidade. O uso do controle do lançamento de uma arma para uma arma convencional

não tem o mesmo efeito cataclísmico, destrutivo máximo, mas ainda assim o princípio é o mesmo. Porque se você vai dar controles para uma arma, você não sabe como essa máquina vai usar esse controle de jogar a arma. Só que aí, gente, vem a parte mais complicada. E eu sei que já está longo o vídeo, mas ele é bem importante. Vamos lá.

A ideia de que o ser humano que esteja no comando, dando a ordem para o lançamento de um ataque, já é uma ficção. Como assim? A quantidade de dados que são processados por softwares e inteligência artificial, o ser humano já não consegue acompanhar. Basicamente, ele só recebe uma mensagem do software ou da inteligência artificial dizendo, mapeei tudo, analisei tudo e está aqui.

segundos. Posso lançar ou não? Não tem como nenhum ser humano verificar. Ah, não, mas espera aí, ela calculou certo, ela viu esses números, ela sabe o que está acontecendo. Não tem mais. Em outras palavras, o que eu estou querendo dizer para vocês, a própria discussão, que é gravíssima, que é o centro dessa novela inteira, que é o centro do perigo de todos os cenários de ficção científica, da inteligência artificial, ter o controle das armas humanas, talvez,

já está muito mais avançado do que a gente tenha parado para pensar. Por quê? Essa última guerra agora no Irã, Israel e os Estados Unidos estão sendo capazes de atacar, fazer mais ataques em cinco dias de guerra do que na primeira guerra do Golfo e a segunda guerra do Golfo, a de 91 e de 2003. Como que eles conseguiram fazer isso?

Estados Unidos quanto Israel, eles informatizaram, automatizaram, industrializaram o processo de identificação de alvos. Como é que se identifica um alvo? Tem o CETCOM, que é o Central Command, que cuida da região do Oriente Médio, a base do Central Command está na Flórida. E aí lá, eles estão sentados no seu quartel general, e aí o comandante vira e fala assim, quais são os alvos? Para quem que ele pergunta isso? Para o Departamento da Inteligência Militar.

Não é a CIA, é a inteligência militar. Toda força militar tem o seu departamento de inteligência, que lida com outro tipo de espionagem. Espionagem de quais são os alvos, onde estão as armas, onde estão os comandantes, onde estão os estoques. E aí ele vira para o oficial de inteligência militar e fala assim, cadê os alvos? O oficial de inteligência militar está há meses, anos, coletando todos os alvos e criando ali um banco de alvos.

um banco de dados de alvos. No passado, esse banco chegava uma hora que não tinha mais o que atacar, porque você não tinha mais informação suficiente. Agora, com a chegada de um software da Palantir, que é uma dessas empresas misteriosas, extremamente revolucionárias, que desenvolveu um software que se chama Maven. E esse software não é uma IA ainda, mas esse software, o Maven, estava operando junto com o Claude,

ainda está operando. Esse software, ele pega todos os dados de inteligência, ele ajuda a coletar e processar mais dados, analisar mais imagens de satélite, ouvir mais conversas de telefone, ele mistura conversas do Telegram das pessoas que ele consegue hackear. Então tem um morador da rua ali e fala, nossa, escreve no Telegram para o outro amigo dele, para o vizinho, você viu que passou um lançador de mísseis aqui na rua agora? E aí esse programa, esse software, coleta essa informação

mistura com a do satélite, mistura com o número de lançadores que já foram atingidos e processa tudo isso. No processo convencional, depois do oficial de inteligência, essa lista de alvos ia para um armeiro. O armeiro vai decidir qual arma tem que atingir. Ah, isso daqui está num bunker, então tem que ser uma bomba que perfura bunkers. Ah, não, isso daqui é um prédio, então tem que ser uma arma até ligueada por GPS. Aí tem o alvo, definiu com a arma,

vai para o plano estratégico, aí o plano estratégico desenha quando que esses ataques vão ser feitos, aí vai para o operacional, e o operacional começa a dar as ordens dois dias antes, olha, então nesse dia vai decolar tantos aviões, tais horas, vai lá. Toda essa operação requer centenas, milhares de pessoas, verificando manualmente, olhando, é um processo imenso.

capitalizou, colocou uma inteligência por trás disso num software que faz tudo isso numa velocidade, mistura e cruza dados de outras coisas que você nem tinha pensado. Os Estados Unidos e Israel conseguiram criar uma linha de produção de alvos. Eles conseguiram, no começo dessa guerra, atacar mais alvos do que eles atacaram nas outras duas guerras que eram muito maiores e com mais precisão. Existem erros, obviamente, acabei de dizer que a máquina erra e errou.

Provavelmente um desses erros foi a escola lá do Irã, que morreram as crianças, uma maioria de crianças. O fato é, esse é um exemplo para vocês, de como o ser humano já não mais consegue acompanhar, já não é mais uma questão, o ser humano é que deu a ordem para o ataque, é quase que uma fachada, é só um carimbo, é uma formalidade deste ataque, porque o ser humano já não consegue mais acompanhar essa linha de produção,

inteira sofisticada, complexa, com tantos dados e tão profunda. Então, a discussão se a humanidade pode ou não dar o comando de armas para uma inteligência superior a nós, provavelmente, gente, já foi. A gente só vai ver isso materializado um pouco mais pra frente, mas na essência, por trás do que está acontecendo, isso já é uma realidade. E aí tem gente que está dizendo, então a solução seria,

já encarar que a inteligência artificial é que vai dar o comando e já vão começar a testar ela e ver onde que ela erra e como ela erra e tentar controlar ela. Mas aí a gente cai na outra discussão do outro problema do começo do vídeo de hoje, que eu estava explicando para vocês, que é a discussão da ideia de que a gente consegue controlar a máquina. Para controlar a máquina, a gente tem que entender como ela pensa, como ela funciona. Isso requer tempo.

junto com um cenário de competição extrema, absoluta e total entre um mundo de ponta cabeça geopoliticamente, instável e inseguro, onde a ordem internacional colapsou, onde tem uma corrida geopolítica e num mundo onde tem uma corrida entre empresas e que o Estado está disposto a dominar essas empresas se necessário para vencer a corrida geopolítica. Dentro deste contexto, certamente,

não conseguiremos desenvolver uma inteligência artificial segura. A única possibilidade desse projeto dar certo é a gente construir isso com os devidos freios e controles. Mas a realidade do mundo hoje, o contexto, o ambiente, o cenário, impede da gente caminhar desse jeito.

Knowledge, do Amodei, esses dois relatórios é a leitura obrigatória. São longos, difíceis, porém, para você entender exatamente o que está acontecendo. É isso, gente. Dê like no vídeo, compartilha, porque esse vídeo é muito importante. As pessoas precisam entender o que está acontecendo. Essa notícia passou. Ah, Antropic está brigando com o Pentágono porque ele quer ter o controle das armas com a inteligência artificial. O buraco é bem mais embaixo.

E não esquece de seguir o canal. Até mais.