Quem vai controlar a inteligência artificial?

Bem-vindos todos ao Dado da Ava Especial. Nossa pergunta de hoje para provocar a vocês, ela é razoavelmente, só razoavelmente, vou alertando, simples. Quem é que vai controlar? Dá para controlar a inteligência artificial? Eu, por exemplo, já estou preocupado, porque diz que a inteligência artificial está fazendo o trabalho de apresentador de televisão muito melhor do que os trabalhadores humanos, como ainda é meu caso. Então, eu já estou pensando o que vai acontecer comigo com a inteligência artificial.

Na verdade, todo mundo está pensando o que vai acontecer com a inteligência artificial.

E a pergunta do programa é quem vai controlar por razões óbvias. O mais recente participante nesse debate de enorme relevância, o próprio Papa, soltou uma homilha na semana que passou de enorme importância, de enorme importância, porque é uma homilha que lida justamente com as ideias em torno do que significa do ponto de vista da história da humanidade.

essa extraordinária, e eu faço aqui sublinho a palavra extraordinária, revolução tecnológica. Mas vamos lá, vamos para o programa. Três são os participantes, como sempre, eu começo a apresentação deles, por Alexandre Gonçalves, ele está remoto falando conosco lá de Los Angeles, obrigado Alexandre por estar conosco. O Alexandre é jornalista, doutor em comunicação pela Universidade de Colômbia, mestre em estudos de mídia comparada pelo MIT.

Atualmente o Alexandre leciona na Universidade de Linoise Urbana lá nos Estados Unidos e o ponto de atuação dele, o foco de atuação dele são os impactos sociais da inteligência artificial. Alexandre, novamente, obrigado. Obrigado aqui a você. Prazer em estar aqui.

Obrigado a você, Diogo Cortes, aqui pela presença no estúdio da CNN na Avenida Paulista. O Diogo é doutor em Tecnologias da Inteligência e Design Digital pela PUC de São Paulo. Ele também é professor nessa instituição. Tem o MBA em Economia Internacional pela USP, especialista em neurociência. Foi pesquisador e visitante do Laboratório de Ciência Cognitiva da Queen Mary University em Londres. Obrigado mais uma vez, Diogo.

E igualmente, meus agradecimentos a você, Rafael Medeiros, é um especialista em estratégia de inteligência artificial, professor de programação, empresário na área de tecnologia. Rafael é fundador e CEO da plataforma AI Transformation, que desenvolve plataformas de IA. AI, IA. E atua como parceiro de tecnologia do SAI. Está certo? SIC, SIC, SIC, SIC.

CIECTEC, braço de inovação tecnológica do Centro Internacional de Estudos em Compras da USP. Alexandre, é a liturgia aqui do WDAR especial, a gente começa sempre pelo convidado remoto. Quem vai controlar?

Olha, eu acho que há um certo consenso de que provavelmente a gente vai ter um duopólio na inteligência artificial. Hoje, 70% dos recursos humanos que estão relacionados a essa área tecnológica, eles estão baseados ou na China ou aqui nos Estados Unidos. E 90% da capacidade de processamento computacional...

dos chips que são usados para treinar os modelos, eles também estão aqui ou na China. Então, basicamente, há uma competição entre essas duas grandes potências e uma série de pessoas em outros países debatem como elas podem participar dessa competição tecnológica.

Mas me parece que os Estados Unidos e a China vão ser os dois principais atores nessa disputa. Você tomou a palavra controle na acepção de domínio da tecnologia e desenvolvimento. Eu vou trazer você novamente por outro significado da palavra controle, que é quem é que segura esse bicho? Essa é a pergunta. Hoje a gente tem uma discussão muito grande sobre a questão da governança da tecnologia.

E o que a gente entende, começa a entender com muita clareza, é o potencial de impacto que a inteligência artificial tem, mas ao mesmo tempo como isso está acontecendo no mundo. E hoje a gente vê uma concentração muito grande na mão da indústria.

Tem uma discussão muito grande que, pela primeira vez na história da humanidade, uma tecnologia tão poderosa está sendo guiada por interesses econômicos, com o capital privado. E o governo, os estados, eles estão tentando participar dessa discussão, muitas vezes por meio de regulação, por meio de uma estratégia. É até curioso, porque a China...

Acho que ela está bem diferente dos Estados Unidos nisso. Ela tem uma estratégia de inteligência artificial que foi criada em 2017. Recentemente, eles lançaram um novo plano que se chama AI Plus, que foi inclusive incluído no plano quinquenal, que é para transformar toda a economia. Então, lá o Estado tem um papel maior. Nos Estados Unidos, não. Nos Estados Unidos nem tem, por exemplo, ainda um plano central de inteligência artificial. Isso está muito na mão das empresas.

E é algo até que chama a atenção do próprio governo dos Estados Unidos. Recentemente, eles vêm trabalhando muito para tentar fortalecer esse papel mais de governança, embora a administração Trump seja um pouco avessa a palavra regulação, eles estão buscando formas de controle, formas de entender melhor o que está acontecendo dentro dos Estados Unidos também. Então, hoje, está muito claro que quem está guiando esse futuro da humanidade está sendo a indústria privada, concentrada em poucas mãos.

Isso que vocês dois já mencionaram, controla quem domina. Quem domina são essas duas potências. Uma tem uma visão clara do que ela pretende fazer disso. A outra está engatinhando no sentido da eventualidade de estabelecimento de controles que venham pela política. O pessoal que lida com geopolítica...

Diz que é um caso raro, no qual não há até aqui nenhum grande sinal de, digamos, restrições políticas ao desenvolvimento da inteligência artificial. Ou sim? Então, é que aí eu acho que, além desses dois grandes grupos, os Estados Unidos, por um lado, com esse sentido de Estado mínimo e muita autonomia para a iniciativa privada.

o governo chinês que tem um controle maior, no sentido, se pensar que eles têm toda essa parte de social score, eles já usam inteligência artificial para esse sentido de monitoramento também da própria população e, de certo modo, também o próprio governo chinês acaba sendo sócio de todas as empresas de AI chinesas. Então, ele também está presente nisso. Aí, nessa linha de uma regulamentação mais forte, acaba...

Sendo talvez aí a Europa realmente, a União Europeia tem já avançado mais nisso, no sentido de várias regulamentações, várias díteres. Como avançou também no controle das big techs. Mas então, aí entra uma diferença.

Estou falando no sentido de amadurecimento dessa parte regulatória. Acho que, nesse sentido, quem está mais avançado seria a União Europeia. Nos Estados Unidos, como nação, tem poucos estados norte-americanos. Tem alguns estados que têm um pouco mais de parte regulatória do que outros. Mas tem esse aspecto.

que não tem nenhum, assim, no fundo tem o Mistral, que é um dos modelos de AI que é francês, mas não tem tantos modelos que são europeus. Só que tem um aspecto que eu queria comentar, que é o fato da descentralização e, na verdade, em termos práticos, é hoje impossível controlar. Por quê?

Tem um site, depois podem entrar, não sei se dá para mostrar na tela, Hugging Face. Hugging Face é a maior comunidade de inteligência artificial do mundo. No Hugging Face, hoje, você consegue fazer o download, imagina quantos modelos? Você vai falar, pô, 100 modelos, 1.000 modelos de inteligência artificial diferentes. Hoje, você consegue fazer o download de 2.926.000.

modelos de inteligência artificial diferentes, que você faz o download, que estão abertos para quem quiser desenvolver, são modelos open source, que você pode baixar e fazer as mudanças que você quiser. Então, por mais que um Estado chegue e fale assim, olha, é proibido fazer tal coisa.

qualquer usuário, qualquer telespectador aqui, pessoa que está assistindo, pode baixar esse modelo e fazer um fine tuning nele. Você precisa basicamente de um computador minimamente potente com algum GPU ali e tal, você consegue alterar. Por exemplo, uma coisa que chama a atenção, entrando na tela agora do Hugging Face, você tem lá um modelo Qen.

Quen 3.6, de 35 bilhões de parâmetros. Esse modelo, que agora está escrito isso, sem censura agressivo. O que quer dizer isso? É que foi tirado todos os guardrails, todas as políticas no sentido de restrição, é lógico.

Também por ser um modelo chinês, muitas vezes você ia perguntar lá, o que aconteceu na Praça da Paz? Aí eu falo, não, não aconteceu nada, é um lugar aqui. Continua a Paz Celestial, nada aconteceu na Praça da Paz Celestial. Nada aconteceu, então aí o modelo chinês, ele fala isso daí. Então o pessoal tira tanto censuras do governo, mas você também pode tirar censuras como fabricar uma arma.

Então, nesse modelo que é sem censura agressivo, você no fundo tira, você mexe na configuração do modelo de inteligência artificial, que ele tira essas refusals. Ele sempre vai responder o que você perguntar usando todo o conhecimento e toda a capacidade de inteligência que tem no modelo. Então, isso daí é uma coisa que implementa uma dificuldade sobre a pergunta que você está falando, quem vai controlar?

Nesse sentido... Você está dizendo que o público, na verdade, é incontrolável. É incontrolável. É incontrolável. É exatamente isso. É que ele chegar e falar assim, imagina só, eu vou decretar uma lei aqui, que fala assim, é proibido as pessoas ficarem doentes e espirrarem. Você não consegue fazer isso.

Então é uma coisa que é incondolável. Deixa eu pegar esse aspecto em função da cena que a gente viu quando o Papa anunciou a encíclica dele. Do ponto de vista do Vaticano, esse é um momento de grande relevo. Sim, claro. Os papados são associados a essas encíclicas.

E do lado do Papa, quando ele anunciou, estava o Chris Ola. Ele é cofundador da Antropic, talvez seja um dos nomes mais importantes hoje no debate sobre inteligência artificial, Alexandre. Sugere.

que mesmo entre as grandes empresas, a Antrópica é uma das maiores. Agora está numa situação difícil com o Pentágono, porque do ponto de vista do governo americano, o que interessa é ter um enorme gigante desse inteligente artificial associado, de alguma forma, à plataforma de defesa e segurança.

Agora, tirando isso aí de lado, nesse instante, que nós vamos voltar a isso também, sugere que uma parte desses grandes conglomerados, que são os que têm uma enorme capacidade financeira e técnica para levar adiante essa revolução tecnológica, começam a achar que alguma coisa tem que ser feita que, no fundo, vai restringir a própria atividade deles.

E aí, Trump nunca perde uma oportunidade de aparecer. Logo depois da encíclica do Papa, o Donald Trump vem com uma proposta, ainda tímida, de regulação. Nós estamos vendo isso nascer nos Estados Unidos ou é jogo de cena?

Eu acredito que há, sim, um interesse... Na verdade, isso é uma coisa até que a gente observou com as empresas de mídias sociais. Que, de certa forma, enfim, elas fazem parte da mesma genealogia de Silicon Valley. Dessas empresas quererem, num certo sentido, fazer parte do aparato de segurança nacional americano. Então, todos os debates sobre a...

os leaks que tiveram lá do whistleblowers, do pessoal que criticava a desinformação na plataforma do Facebook e tal. E o próprio Facebook veio, a meta veio em público e falou, olha, a gente precisa ser regulado, a gente precisa, o Estado, de certa forma, precisa estar dentro das nossas empresas para ajudar a gente a regular.

o discurso na nossa plataforma. Me parece que aqui há uma analogia. Eu acho que as empresas de inteligência artificial, elas também têm o interesse de trabalharem em parceria.

Com o governo americano. Por quê? Porque talvez uma das coisas... Essas empresas têm a tendência, assim como as empresas de mídias sociais, em se tornarem monopólios ou oligopólios gigantescos. E como os Estados Unidos têm uma tradição...

de tentar controlar oligopólios e monopólios por causa do efeito que eles têm no mercado, essas empresas, elas veem que é muito interessante se unirem ao Estado, se tornarem quase sistemas híbridos, com muita regulação e com aspectos do trabalho dela, no caso principalmente da inteligência artificial, com o aparato de defesa americano, para que seja mais difícil quebrar essas empresas, para que uma ação antitrust...

não consiga separar essas empresas ou diminuir ou limitar o poder delas. Me parece assim, no caso da Antropic, eu até acho que existe uma certa sinceridade de todas as empresas de AI aqui dos Estados Unidos, a empresa que tem sido mais generosa.

no sentido de vir a público e de tentar entrar em comunicação, em conversar com outros, com representantes da sociedade civil, com membros do governo, para tentar criar um ambiente regulatório para o AI, tem sido antrópico. Mas me parece que não é simplesmente caridade.

Eles vieram assim, não, a gente precisa porque essa tecnologia é muito perigosa. Tem esse elemento, mas também eu acho que para eles é interessante serem vistos como parte da política de segurança nacional dos Estados Unidos. Porque isso vai proteger eles, de certa forma vai diminuir a regulação que o governo vai estar disposto a impor a eles.

Eu acho que tem uma coisa fundamental que entra nessa equação, que é a opinião pública nos Estados Unidos. Então, várias pesquisas que estão saindo mostram que a sociedade americana está olhando com muita desconfiança para a inteligência artificial. Está com medo. Está com medo. Então, tem uma das pesquisas que mediu quanto você confia na inteligência artificial. Foi uma pesquisa que rodou vários países.

Enquanto os Estados Unidos ficam em torno de 28%, de achar, de acreditar que a IA vai trazer mais benefício do que malefício, na China, esse indicador bate 89%. Mas é claro, você teve essa narrativa desses mesmos grupos de CEO falando, olha, a gente vai ter um apocalipse de empregos, várias profissões vão desaparecer. E agora você vê eles mesmos mudando o discurso. O próprio CEO da OpenAI, o Sam Altman, essa semana mesmo começou a dar uma equalização.

no discurso, não, acho que o impacto não vai ser tão grande assim. E, claro, impacta politicamente. Então, mesmo o Trump com esse viés muito mais de uma IADS regulada, vem promovendo a implementação de data centers. Esses data centers muitas vezes são em comunidades na qual tem uma base muito grande republicana.

Isso está trazendo um impacto para a comunidade. Então, às vezes, para fazer o data center, os Estados Unidos não têm uma geração de energia suficiente. Então, você faz o data center, você tem que colocar a turbina, a gás, para gerar energia para abastecer o data center, que gera uma poluição. O data center consome mais que uma cidade média.

É, e aí isso está impactando a comunidade local, e aí você tem candidatos democratas que estão se colocando contra o data center, e o pessoal está indo a favor dos democratas, então isso assusta até o Trump politicamente pensando nas eleições de meio de mandato. Então esse é um ponto que acho que também entra na equação. Eu acho que só nesse começo de conversa a gente tem três planos aí.

A gente tem o plano ético, que é um plano importante do ponto de vista da igreja, mas não só. A gente tem o plano econômico que você acabou de mencionar. Afinal de contas, isso traz mesmo os benefícios prometidos ou, na verdade, causa uma disrupção de tal ordem que ela inicia uma crise, em vez de iniciar um grande potencial de crescimento.

E em terceiro, a gente tem as questões de segurança, praticamente as militares, que jogam os governos forçosamente nisso. E aí vem você, Rafael, diz o seguinte, esqueçam, esse troço é incontrolável. E eu ainda vou dar um dado adicional.

Que é o seguinte, tem uma plataforma que chama-se Open Router. Essa plataforma é uma forma de você conectar todos os modelos de inteligência artificial. É mais simples do que você ir lá contratar Open A, ir lá contratar Antropik, ir lá contratar... Então você vai na Open Router, você contrata a Open Router e conecta com todos. Aí você que escolhe qual que você vai usar.

Então, ela é usada... Isso ao alcance de qualquer um. Ao alcance de qualquer um. Então, hoje, no Open Router, o que é impressionante? Essa semana, o pessoal utiliza ela para benchmarking de modelos mais utilizados. Então, eu vou falar aqui, não quero ser técnico, mas só para dar um contexto da coisa. Então, modelos que estão lá na lista dos top 20, que muito provavelmente, talvez poucas pessoas aqui vão ter escutado. RAI 3.

Minimax 2.5, Mimo, Queen, aí eu acho que tem o DeepSeek, que é um pouco mais famoso. O DeepSeek ficou famoso. Ficou famoso, exatamente. Então o fato é o seguinte, esses modelos chineses somados, nessa semana, foi consumido 10.2 trilhões de tokens. 10.2 trilhões de tokens.

que é a medida de consumo de uso dos modelos de inteligência artificial. Aí você pega e soma as empresas americanas. Então você pode somar lá Antropic, Google, OpenAI, XAI do Elon Musk. Você soma todas essas, deu no consumo, na mesma plataforma, OpenRouter, 9.6 trilhões de tokens.

Então, o que eu estou falando é que hoje, nessa semana agora, os modelos chineses foram mais consumidos do que os modelos americanos. Se bem que não tão grande a diferença, né? Exato. Mas o que impressiona é que antes, se a gente for para o ano passado, os modelos chineses eram muito piores que os modelos americanos. Então, teve uma evolução muito rápida dos modelos chineses.

Quando a gente fala sobre essa parte de regulamentação, acho que aí tem um grande desafio de como vai ser para implementar a regulamentação com os modelos chineses. Porque não adianta, lógico, é super importante o Antropic e todos os modelos americanos. Mas o que a gente está vendo é nesse sentido um crescimento super rápido dos modelos chineses, que são open source, que não tem nenhum controle de regulamentação dessa.

Então acho que não adianta a gente falar de regulamentação também sem falar dos modelos chineses e dos modelos open source. E desses modelos que você consegue controlar na sua casa, editar na sua casa. Então esse é um desafio que a gente não pode ignorar realmente.

Então, tem dois pontos no teu argumento. O primeiro que você trouxe na tua primeira resposta, que é dada a natureza desse animal, digamos assim, ele é incontrolável. Dois, dada a natureza da competição tecnológica, também. O que nos obriga a pensar neste exato momento da conversa em quem está ganhando essa corrida, Alexandre. Você se arrisca dizer? Eu...

Eu acho que é difícil a gente dizer... Houve uma escolha aqui, me parece, da China de apostar em modelos abertos. E essa foi uma escolha estratégica. E isso...

A consequência dessa escolha é isso que o Rafael está falando, que na prática uma série de pessoas em muitos lugares, principalmente em países em desenvolvimento, mas mesmo aqui nos Estados Unidos, eu tenho muitos amigos aqui que são pesquisadores aqui, que eles utilizam modelos chineses. Por quê? Porque eles são open source. A única empresa que decidiu deixar o modelo aberto foi a Meta.

o Lhama. E a meta agora está mudando a política. Eles também estão fechando, eles também vão querer investir em modelos fechados. Então, isso do ponto de vista estratégico para a China, me parece que foi uma escolha interessante. Porque eles acabam se tornando o fundamento

de todos esses modelos derivados que estão sendo feitos com base no Cuenco, com base no Deep Seek, em todos esses modelos que eles foram publicando. Contudo...

os Estados Unidos ainda tem esses modelos que eles chamam de frontier models, esses modelos de fronteira, eles ainda são os modelos americanos. Tanto pela hegemonia que eles têm com chips da NVIDIA e tal, só que, de novo, o fato é que se os modelos abertos da China Cada Cada Cada

eles acabam tendo muito sucesso e uma série de pessoas decide usar esses modelos porque o custo é muito baixo ou nulo, junto com o modelo também vem a infraestrutura computacional. Então as pessoas também vão estar mais tentadas a comprar essa infraestrutura computacional da China. E isso pode capitalizar as empresas produtoras de chips na China. E com esse capital eles podem desenvolver também...

soluções que são competitivas, que são talvez um dia mais competitivas do que a própria NVIDIA, né? Os modelos, os GPUs da NVIDIA, né? É, mas aí também... Então me parece... Desculpa, não, perdão. Diga, diga. Não, perdão, fala, desculpa, não quero te derrubar. Conclua, conclua, Lefano, conclua.

Você concluiu? Me parece que agora os modelos de fronteira ainda são os modelos americanos, mas me parece que a China tem essa vantagem, que foi uma vantagem, de certa forma, uma vantagem que foi forçada.

que eles tiveram que se adaptar às restrições que o governo americano, o governo americano em um determinado momento, percebeu que era necessário tentar colocar barreiras no desenvolvimento tecnológico da China. Eu queria pegar esse ponto.

Eu sei que vocês vão precisar de tempo, eu vou fazer o seguinte, vou chamar o intervalo e retomo na sequência contigo, Diogo, com essa questão, em que medida isso que em inglês se chama choke point, particularmente as restrições de exportação americanas, a tentativa de cercear o desenvolvimento tecnológico chinês, estão ou não estão funcionando, ou na verdade é um tiro no pé? A gente volta aqui um instantinho, pessoal, até já.

Diogo, retomando o programa, um brevíssimo resumo do que a gente deixou parado no ar ao final do último segmento. Uma das questões centrais hoje, inclusive geopolíticas, em que medida essa corrida tecnológica em torno da inteligência artificial, os americanos conseguiram ou não dirigí-la em favor próprio, óbvio, interesse próprio, óbvio, na medida em que tentaram impedir que os chineses tivessem acesso, sobretudo a esses chips de ultimíssima geração, os da NVIDIA. Ou isso não está tendo efeito?

Foi uma estratégia dos Estados Unidos de tentar estrangular, e não é de agora, então isso vem desde o governo Trump 1, passou pelo Biden, que colocou um controle de exportação, dividido o mundo em três grandes grupos, os que podiam comprar, os que precisavam de permissão. O Brasil, inclusive, estava nesse segundo grupo, nem podia comprar direto, tinha que pedir uma permissão. E os terceiros que estavam banidos, e aí a China era um deles. Qual que era a estratégia?

Os Estados Unidos entendeu, a China tem uma quantidade de engenheiros muito maior, tem uma quantidade de doutores muito maior, inteligência artificial, e uma capacidade de produção maior. Qual que é o gargalo da China hoje? É a parte de semicondutores, que são esses chips. Então, para fazer esses chips, a NVIDIA, é até curioso que o pessoal fala, é o chip da NVIDIA, mas a NVIDIA não fabrica chip, ela é boa em fazer o design.

Para a gente entender essa disputa, acho que é importante a gente entender o que a gente chama do trio de ouro, que é a NVIDIA, que faz o design do chip, e aí ela é uma empresa americana, a maior empresa do mundo hoje, que depende de uma fabricação que é da TSMC, que é uma empresa de Taiwan, que faz o chip não só para a NVIDIA, faz o chip da Apple, faz o chip para todo mundo.

E ela é a maior empresa da Ásia. Então a gente vê como... Ligada à Holanda. Aí a holandesa é a SML, que fabrica a máquina que a TSMC usa. E hoje 89% da fabricação da TSMC fica na ilha de Taiwan.

Eles têm outras fábricas ao redor do mundo, mas com uma capacidade muito baixa. Então essa também é uma estratégia do Trump de tentar levar essa produção para dentro dos Estados Unidos. Porque, embora seja uma carta na manga dos Estados Unidos, não é os Estados Unidos que domina esse processo. Mas eles foram colocando controles de exportação para tentar estrangular a China.

para ter a sua capacidade para treinar esses modelos. Tem uma obra corrente hoje chamada Ship War, que passou a ser o livro de referência para o leigo, eu sou leigo. Passou a ser o livro de referência, fica a dica para você que nos acompanha. Eu só sei o título em inglês, já deve estar traduzido em português. Ship War.

Tenham isso na prateleira, porque a melhor explicação, digamos, para leigos como eu, nessa área, sobre o que significam todos esses passos. Um, nas tecnologias. Dois, quem depende de quem. Três, quem está tentando fazer o que com quem. Mas prossiga, Doutor.

Então a gente tem esse trio de ouro e os Estados Unidos, então, ele coloca restrições, controle de exportação em todos esses. Então a NVIDIA não pode exportar o chip final para a China, a TSMC não pode fabricar para uma empresa chinesa e a SML, que faz a máquina que é usada para fabricar o chip, também não pode exportar para a China.

E qual o resultado disso tudo? Então, qual que levou o resultado? A gente teve quatro anos desse controle de exportação e agora a gente começa a ver os efeitos. Bom, no ano passado, o CEO da NVIDIA, o Jason Huang, conseguiu convencer o Trump, falando assim, Trump, se a gente não voltar a exportar para a China, a gente vai estar acelerando o desenvolvimento deles.

E o pior, quando a gente fala do chip, parece que é só pecinha. Não, mas tem uma coisa que é muito importante. Dentro do, ou em cima do chip, vai uma camada de software, que é o CUDA, que é essa interface, que a NVIDIA domina dentro desse processo de treinamento de inteligência artificial. E o Jensen Huang falou, se a gente perder esse padrão, se a China conseguir desenvolver algo e o mundo começar a utilizar, a gente vai perder essa corrida.

Então ele convenceu o Trump a permitir exportar os chips, não o mais avançadão, mas um relativamente bom. O chamado segundo da linha. É, um relativamente bom. E aí foi a vez da China falar, não, não quero.

Não preciso mais do seu chip. E aí é a China agora que está colocando controles de importação. Porque a China entendeu que ela conseguiu desenvolver uma cadeia que para a autossuficiência dela faz sentido, que é um chip da Huawei, o Ascend, uma família Ascend que vem crescendo muito.

Então hoje vários modelos já estão sendo treinados com o Ascend e mais do que isso, hoje uma parte do custo computacional está sendo na fase do uso da inteligência artificial, não mais o treinamento, porque muita gente usando, os modelos estão ficando cada vez mais complexos e o Ascend entra como uma estratégia boa nesse sentido. Então hoje aquilo que era um...

Um ponto de estrangulamento dos Estados Unidos começa a se dissolver também. Mas essa disputa ainda começa a ficar entre os dois países. Só que o fato da China entrando nesse mercado e virando um potencial exportador também ajuda o resto do mundo a se equalizar. Porque acho que para a nossa audiência, a gente fala do chip, da GPU, para a gente ter um contexto, um chipzinho, uma GPU, ela custa de 35 a 40 mil dólares. Uma.

E para a gente entender a divisão que está no mundo hoje da infraestrutura computacional para inteligência artificial, a USP anunciou recentemente, na Universidade de São Paulo, um dos maiores clusters, ou o maior cluster para inteligência artificial da América Latina, que tem 92 GPUs. Bom, você pode fazer a conta, 92 vezes 30 mil dólares dá um montante bom.

Só que quando a gente vai, por exemplo, para o treinamento de modelos que não são super grandes, mas clusters que a China usa, tem no mínimo de 25 a 30 mil, os menores, mil GPUs. Para 92. É, para 92. O Elon Musk, só o Elon Musk tem o Colossus, que é um dos clusters dele, que tem 200 mil. Então a gente começa a ter essa divisão muito grande, em que esses dois países não têm só a capacidade...

a mão de obra, o talento, mas passa a ter a infraestrutura necessária para isso, que é uma infraestrutura muito cara. O que você arrisca de prever dessa competição? Nessa competição agora também tem um outro player, que é o Terafab, do Elon Musk. Então, o Elon Musk se propôs agora, falou que vai lançar em três anos, vamos ver quanto tempo vai ser. Toda essa cadeia, toda a cadeia, então, substituindo os três players,

Porque ele falou que ele sozinho, com o Optimus, que são os humanoides, mais a SpaceX, né? Para poder ter os processadores, os data centers no espaço que ele vai lançar. Ele falou que a produção de chip da Terra inteira é 2% do que eles vão precisar. Então, por isso que ele se propôs a criar essa fábrica lá no Texas, né? Para ele ter toda a cadeia interna.

Ele vai verticalizar tudo. Vai verticalizar tudo, exatamente, com a Terafab. E, de fato, ele é uma pessoa que tem o estilo dele, coisas positivas, outras nem tanto, mas é uma pessoa que tem uma capacidade de execução impressionante. Se pensar, fez o foguete da ré. Ele consegue, de fato, levar adiante muitos projetos muito difíceis. Então, é muito provável que ele vá adiante.

O que eu ia comentando um pouquinho antes, quando o Alexandre falava da parte também dos modelos open source, então, acho que duas ideias que eu queria comentar. Um é que também essa estratégia do open source acaba sendo uma estratégia de acelerar o desenvolvimento. Porque, inclusive, você contratar uma equipe lá de 100 programadores, 200, 1000, sei lá o quanto for, e eles estarem desenvolvendo o código, quando você coloca o código aberto para qualquer pessoa contribuir, então todo mundo edita.

E você consegue melhorar muito mais rápido, porque tem muito mais interação, muita gente usando. Então, essa é uma estratégia que a China utilizou, adotou isso como padrão. Vamos fazer o seguinte, nossos modelos são muito piores do que os modelos americanos. Então, vamos tornar todos os nossos modelos públicos.

E aí todo mundo vai usando, vai acelerando e a gente vai fazer com que os nossos modelos sejam tão bons quanto os americanos. Então, isso daí foi uma estratégia que, de fato, foi muito bem sucedida. A gente comentava antes, antes de começar o programa, em janeiro agora, teve um modelo chinês chamado Kimi 2.5. Aí foi lançada a versão 2.5. Esse modelo bateu...

o modelo da Antropic, melhor que tinha na época, que era o Opus 4.5, em vários testes. Aí na semana seguinte a Antropic foi forçada, de certo modo, a lançar a versão 4.6, porque esse modelo aqui a gente está perdendo para o modelo chinês. Então também aí é um desafio da regulação. Porque se você regula, você fica mais lento.

É uma das coisas que o próprio Chris Ola falou no pronunciamento dele na segunda-feira junto com o Papa. Ele falou assim, a gente tem pressão para estar na frente, pressão financeira, pressão dos governos, pressão da vaidade. Então tem pressão de todos os lados. Então precisa ter...

também atores da sociedade civil, sociedade religiosa, universidade, diferentes players para poder também estar refletindo sobre o impacto dos modelos de inteligência artificial. Então, eu acho que... Bom, mas voltando aqui para essa parte só dessa questão financeira e dos modelos chinês, eu queria trazer um outro dado. Os modelos chineses são...

muito mais baratos, como falava, então 10 vezes mais barato, 20 vezes mais barato que o modelo americano. E aí o que acontece? Agora nas últimas semanas, teve dois que foram liberados para poder utilizar gratuitamente. Então você pegava esses GPUs aí que o Diogo descreveu.

E está processando isso gratuitamente. Por que também a China faz isso daí? Por que essas empresas chinesas estão fazendo isso? Porque aí ela consegue também ter...

os dados das pessoas privadas. Então, aí todo mundo está usando aquela expressão, se é de graça é porque, no fundo, o produto é você. Se você não está pagando para usar esse serviço aqui, é que você que é o produto. Então, aí também tem esse aspecto que você falava, de segurança, privacidade, mesmo a questão das guerras, que é um outro tipo de controle, não é nenhum controle físico.

É um controle digital virtual que as pessoas vão tendo, dando seus dados pessoais.

sem, às vezes, ter a consciência que ela está fazendo isso. O que nos leva para uma outra esfera agora, forçosamente, se a gente pensa em competições tecnológicas com impacto enorme na capacidade de sobrevivência da humanidade, a primeira que vem à cabeça de todos nós é a questão da proliferação nuclear. Quer dizer, quando nos últimos 80 anos, os esforços de evitar que as tecnologias que possam levar à fabricação de capacidades nucleares foram...

razoavelmente sucedidos, mas não completamente bem sucedidos. Então, os controles que se impôs à aquisição e desenvolvimento de tecnologias nucleares sem supervisão, bem dito, existem tecnologias nucleares à disposição de qualquer um, sob supervisão.

Aqueles sem supervisão que levaram a bomba de Israel, levaram a bomba do Paquistão, levaram a bomba da Índia, levaram quase a bomba da África do Sul. Há pouquíssimos, talvez apenas um exemplo, um exemplo da, digamos, disposição de um país de se livrar de um arsenal nuclear e ele se deu muito mal, que foi a Ucrânia.

Brasil e Argentina têm, junto com a Agência Internacional de Energia Atômica, um dos grandes exemplos de esforço comum de dois países que competiam em torno de uma tecnologia, vou botar entre aspas, perigosa, e se entenderam num acordo que tem funcionado. Cada um sabe o que o outro faz, está todo mundo quietinho. Pelo que vocês descrevem da inteligência artificial, isso é virtualmente impossível, considerando a natureza dessa inovação tecnológica, Alexandre.

Ou não, ou medo, que eu confesso que eu também tenho, na boa. Ouvindo vocês falarem, eu não sei não. Acho que nós estamos indo para um cenário, não vou dizer apocalíptico, que seria um exagero, sem ser a solenismo barato da minha parte, mas se considerar que tecnologias muito mais fáceis de serem coibidas, por exemplo, a de lançamento de mísseis, que o Brasil foi obrigado a aderir em um determinado momento.

não funcionaram, por que alguém tem a ilusão que com a inteligência artificial funcionaria, Alexandre? Eu acho que até para deixar você ainda mais preocupado, o momento geopolítico que a gente está vivendo agora, algumas pessoas, o cientista político Ian Bremer, ele chama do G0, que é o momento em que basicamente os Estados Unidos não querem ser.

policial do mundo, ele não quer usar a hegemonia militar dele para determinar, para criar frameworks, para criar enquadramentos de política internacional. A China também, me parece que ela tem essa visão de uma potência multipolar.

de um arranjo multipolar, em que você não tem... Basicamente, eles também não querem ter essa... Eles querem influenciar, sim, as organizações internacionais, mas eles não querem ter esse controle.

É nessa situação que acaba surgindo um pouco a lei da selva. Manda quem pode e obedece quem tem juízo. E numa situação desse tipo, isso também é uma coisa que o próprio Papa na encíclica fala, é muito difícil criar um arcabouço de regras, um arcabouço de falar, olha, essa tecnologia é uma tecnologia...

muito perigosa. Ela pode ser usada por atores, tanto atores estatais como não estatais, e causar um tremendo prejuízo para as comunidades humanas. No contexto que a gente está agora, a gente tem basicamente esse desenvolvimento, essa explosão de desenvolvimento tecnológico e, ao mesmo tempo, sem do PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK

as estruturas políticas que permitiriam a gente criar um ambiente regulatório para domar essa revolução tecnológica. Eu acho que você estava fazendo referência a um dos últimos...

newsletter, uma das últimas comunicações da Eurásia, da qual o Ian Brammer é o criador e o diretor. Nós no WW temos enorme orgulho, porque a Eurásia é nossa parceira na produção de conteúdo. Só que é mais voltada aqui na página do WW, no portal da CNN. A Eurásia é nossa parceira, mas o foco deles aqui no nosso pedaço, no nosso pequeno orquidário.

é política doméstica brasileira. Agora, a frase que você provavelmente está fazendo referência do Ian Bremmer nessa semana que passou é muito dura. Ele diz que existe no momento, é a lei da selva. Uma lei da selva, e ele diz, pior ainda que a lei da selva, que você descreveu muito bem, é o fato de que é uma lei da selva na qual grandes empresas estão atuando, elas como atores geopolíticos, por direito próprio.

Ou seja, não é que há governos com os quais você pode fechar um acordo. Há uma floresta de empresas atuando com a qual, com essa floresta, é impossível fechar qualquer tipo de acordo. Boa parte delas está desenvolvendo inteligência artificial para as fins militares. Inclusive, a última situação que a gente acompanhou, que foi o ataque americano ao Irã, não teria sido possível.

Quantos foram? 13 mil alvos em pouco menos de 10 dias, se não fosse inteligência artificial. Para ilustrar a nossa audiência, na Segunda Guerra Mundial, depois de um bombardeio, tinha que ir a um avião de reconhecimento que ia mandar fotografia.

que um indivíduo com uma lente ia dizer, este alvo precisa ser atacado novamente ou não. Isto hoje acontece à medida que o alvo está sendo atacado. Então, essa rapidez, essa capacidade do emprego da coerção militar via inteligência artificial, já está no campo de batalha. O que é que vem mais?

Bom, agora o que a gente começa a olhar, a entender, é a evolução da própria autonomia de armas. Então, acho que o que está sendo usado hoje, por exemplo, nas estratégias militares, é a inteligência artificial que vai ajudar muito no processamento de dados, no reconhecimento de padrões.

E claro, a partir de toda essa inteligência, fazer sugestões de possíveis ataques ou até mesmo encontrar pontos de vulnerabilidade da sua defesa. Que é o caso da Antrópica com mitos. Isso, e aí é uma questão de cibersegurança, que a Antrópica tem esse grande modelo aí que é o mitos.

Que, inclusive, recentemente, a própria Mozilla, que faz aquele navegador Firefox, encontrou, assim, numa semana, o que eles não encontraram durante anos. De falhas, brechas. Então, você, hoje, a IA atua muito mais nesse sentido da inteligência. Claro, com um poder absurdo. Agora, a próxima medida que se coloca é muito mais dar uma autonomia de decisão com armas autônomas. Aí, a coisa fica muito mais perigosa.

Porque a partir do momento... Que é para onde estamos indo. Que é para onde estamos indo, que é um dos pontos principais... Já estão funcionando algumas, né? Algumas já estão funcionando. Já existe protótipos disso já acontecendo no mundo, que inclusive é um dos pontos principais da encíclica do Papa. É decidir quem vive e quem morre. Então essa é a medida última, do ponto de vista militar, nesse curto prazo. Se a gente considerar a competição estratégica nuclear...

PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK PK

entre Estados Unidos e China e Rússia, e tem o que considerar também. Do ponto de vista dos americanos, eles consideram que Rússia e China hoje são uma unidade. E o papel da inteligência artificial aí, qual é o cenário que você desenha?

Aí você tem um aspecto de você conseguir fazer muitos ataques sem envolver o risco humano. No passado você tinha um risco humano, como você falava da Segunda Guerra Mundial, Primeira, então você tinha ali também pessoas que arriscavam sua vida para tentar acertar esses alvos que você descreveu agora há pouco. Aqui você tem um outro cenário, por exemplo, alguns drones que funcionam de tal modo que

Ele não precisa se comunicar com a base. Ele tem um modelo de inteligência artificial que roda localmente, já está treinado localmente para identificar determinado padrão de alvo e ele atua.

Com autonomia, ele vai até matar, ele vai até explodir, ele encontra aquele tipo de alvo e ele faz a execução. Só que é lógico, pode ter uma criança do lado, pode ter um idoso, pode ter outras pessoas, mas ele vai, então, autonomamente executar aquela diretriz. Esse é um problema muito grave que, com os humanoides, vai potencializar mais ainda. Tem alguns humanoides chineses.

que eles fizeram, acho que vocês devem ter visto a competição de corrida.

de vários humanoides chineses, que inclusive bateu o recorde, né, de superando a velocidade dos seres humanos. Então você pega esse tipo de ação no sentido de corrida, que poderia, sei lá, um humanoide soldado entrar em uma determinada cidade, uma determinada casa, né, então você dá um nível de poder de destruição realmente complexo, né, sem contar a parte dos ataques virtuais.

que eu acho que você pega a própria... Que é o Cyber Attack. O Cyber Attack. Você pega, por exemplo, a gente falou, e eu realmente gosto bastante, não tenho nenhum vínculo financeiro com a Antrop, mas eu gosto muito, de fato, é um modelo muito bom, que eles têm, vários modelos muito bons que eles têm, mas, por exemplo, eles têm hoje uma grande preocupação por ética, como foi falado, ou talvez a maior preocupação dos AI Labs que existem, porém...

Com todos esses guardrails, o CLODE foi usado no começo do ano para invadir o Tribunal Superior Eleitoral do México e a Receita Federal do México. Foi roubado 150 gigas de dados usando o CLODE.

Então, assim, é um negócio que a gente fala de toda aquela parte do controle, da autonomia, como que vai ser, como vai regulamentar e tal. Então, tem muitos problemas aí que a própria natureza técnica, você não consegue controlar nesse sentido. Por mais que os criadores definam guardrails, o pessoal consegue.

furar esses guardrails e utilizar para fazer essa piratex como esse. Você tem hoje uma grande quantidade de ensaio, todas as semanas, todas as semanas saem assim, uma das maiores empresas de hospedagem do mundo, a Vercel, a Netflix, a Adobe, vários usam Vercel. Vercel foi hackeada três semanas atrás. GitHub é a maior plataforma de compartilhamento de código, foi hackeada semana passada.

O próprio Mythos hackeou o Linux, identificaram um bug, só que a quantidade de servidores Linux no mundo são enormes. Então, todo mundo usa Linux.

E eles conseguiram ainda fazer um hackeado de tal modo que você consegue se tornar o administrador do servidor. Entende? Você fica dono. Dono do servidor. Imagina, hackeia aqui na emissora e aí o cara fica dono do servidor. Deixa eu fazer o seguinte, então. Vocês estão sugerindo um terceiro ponto para a gente pegar aqui.

Depois que a gente pegou algumas das questões éticas, a capacidade ou não que a gente tem de controlar isso, que medida que os governos estão envolvidos, qual tem sido o papel de empresas privadas, o que os cenários que se desenham do ponto de vista de segurança, geopolítica, defesa e equilíbrio estratégico ou não. Tem um ponto na encíclica que eu gostaria de pegar agora, que é a questão da verdade.

no ambiente digital. Alexandre, eu vou voltar com isso só depois do intervalo, para não interromper você. Eu retorno o programa com você daqui um instantinho. Até já, pessoal. É rápido o intervalo.

WW Especial, estava voltando no intervalo, Alexandre. Eu estou usando o Papa porque é talvez o exemplo mais recente de um grande ator em escala planetária, 1.4 bilhão de católicos ouvem o Papa, ou se espera que ouçam o Papa, e que está discutindo inteligência artificial do ponto de vista das ideias. No texto dele, é um texto enorme.

Ele está preocupado, via inteligência artificial, com o que ele caracteriza. Estou lendo aqui. Fake news, manipulação emocional, polarização política e o que o Papa chama de enfraquecimento do discernimento humano causado por redes sociais controladas por sistemas algoritmos. De novo, a gente sempre pode pensar que...

Que poder tem o Papa, ou que força tem o Papa, para interferir nisto que ele descreve como um cenário, aí sim. Quando a gente considera isso, é um cenário apocalíptico. Sim.

Isso é uma coisa que, enfim, no outro programa a gente conversou sobre isso, do poder do Papa. Nesse caso, é o poder, basicamente, ele tem essa visão, ele tem uma clareza tremenda de que a gente não pode deixar esses atores econômicos fazerem aquilo que eles quiserem.

que a gente precisa ter um controle político dessa infraestrutura econômica. Só que, ao mesmo tempo, não é qualquer estrutura política. Eu estava lendo um paper lá do pessoal do Center for Security and Emerging Technology, da Georgetown University. A Georgetown é uma universidade em Washington, aqui nos Estados Unidos, que o centro, o foco deles é a geopolítica.

uma série de pessoas do corpo diplomático americano é formado na Georgetown. E lá eles fizeram uma pesquisa muito interessante olhando os documentos, basicamente os pedidos de compra do exército chinês, do People Liberation Army, do exército da liberação do povo, do exército chinês. E eles estavam olhando especificamente...

que tipo de tecnologias relacionadas a AI o exército chinês estava comprando. E é interessante que uma série de coisas que eles estavam comprando eram relacionadas com deepfake. No fundo, o exército chinês estava comprando tecnologias relacionadas a deepfake basicamente para usar em operações psicológicas.

Operações em que, basicamente, você vai no seu inimigo e você tenta semear discórdia, você tenta semear ódio, você tenta semear divisão, para fazer com que o seu inimigo, com que o seu adversário, de fato não consiga mais diferenciar a realidade da ficção, a verdade da mentira. E aí ele fica muito mais vulnerável ao seu ataque.

e é interessante uma coisa era isso dos deepfakes e a outra coisa era isso que o Diogo estava falando, que basicamente sistemas decisórios o exército chinês tem um problema que ele não tem muita experiência

no campo de batalha. E o governo chinês sabe disso. Então eles basicamente confiam que sistemas de inteligência artificial podem talvez substituir essa falta de experiência no campo de batalha. Só que isso também vem com um problema.

Basicamente, isso é um problema que o Papa também fala, que aí a decisão de você assassinar um alvo, a decisão de você atacar ou de você retaliar, ele passa a ser uma decisão tomada não por atores humanos, mas por atores informáticos, por atores de inteligência artificial. Isso, um, do ponto de vista moral, é bastante problemático, mas também cria essas oportunidades de você escalar.

de você basicamente ir do sistema, porque assim, o sistema de AI, como qualquer sistema computacional, ele recebe alguns inputs e produz um output, produz um resultado, uma decisão. E um sistema desse jeito, que é tão mecânico, você consegue manipular.

Você, algum terceiro ator, por exemplo, poderia colocar os inputs para forçar uma situação de conflito. Então, enfim, eu acho que me parece que isso a gente falava bastante, desse problema da desinformação, desse problema de você ter, das pessoas pararem de, terem muita dificuldade de separar aquilo que é a aparência daquilo que é a verdade.

Com a inteligência artificial, isso se torna ainda mais sério. Uma coisa que o Papa também questiona na encíclica, quantas pessoas vão procurar conforto emocional no AI? Elas criam uma relação que é uma relação fictícia, porque é um sistema digital, não é uma pessoa, mas que as pessoas facilmente se enganam. E elas veem no AI basicamente um substituto para uma relação humana.

É, sem fazer piada, não é piada não, está substituindo o padre do ponto de vista da Igreja Católica. As pessoas estão procurando a inteligência artificial por causa da capacidade, entre aspas, interpretativa dos modelos de inteligência artificial em relação à própria Bíblia. Mas voltando à questão de verdade, desinformação, manipulação, de novo, estamos diante de algo incontrolável?

Esse é o maior desafio, porque eu acho que a gente já entrou no mundo em que o ver para crer...

morreu. Então antes a gente falava, olha, tem algo aqui que mostra, a gente está muito difícil controlar essa situação, pensando assim, acho que são diferentes pontos de vista e diferentes problemas que a gente pode olhar nessa mesma questão. O primeiro deles acho que são a criação de mídias sintéticas, então essa produção de conteúdos que são deepfakes, que são conteúdos fabricados, manipulados, então isso tem um desafio enorme.

tecnológico, então a gente até estuda, tem um consórcio hoje de empresas, então quase todas as grandes empresas fazem parte desse consórcio e aí a ideia é como que eu garanto que eu consigo ter rasterabilidade desse conteúdo. Então um conteúdo, uma imagem que é feita por inteligência artificial, como que eu consigo garantir

que aquilo é feito por inteligência artificial. Então, se discute vários caminhos. Então, nesse consórcio foi criado um primeiro padrão, que já está implementado hoje. Então, todos os modelos de IA, eles já têm esse padrão implementado, que é por meio de metadado. Então, na hora que você cria a imagem, ele fala que horas você criou, a data. Então, isso é um metadado, é o dado sobre aquele conteúdo. E aí está sendo incluído, então, um novo metadado falando, é feito por IA.

Mas isso é muito pobre, porque basta eu mandar no WhatsApp, basta eu tirar um print da imagem que ele gera um novo metadado. Vai para o espaço. Então, hoje, a técnica mais avançada que se tenta, mas é muito difícil buscar esse padrão, é por meio de uma marca d'água. Que seria mudar alguns pixels da imagem, que não muda semioticamente falando, do ponto de vista perceptual humano.

mas aí outros modelos conseguem interpretar aquilo. O Google tem uma solução implementada, mas funciona muito bem dentro das plataformas Google. O que querem fazer é criar um padrão interoperável entre todas as plataformas. É muito difícil chegar nisso. E aí também tem a questão dos modelos de código aberto, que você vai lá e retira isso e continua criando. Então é um desafio enorme e aí a gente tem que pensar, acho que aí é uma outra parte da equação.

que não é só o processo da IA na criação do conteúdo, mas também na inteligência artificial, na distribuição. E aí entra as redes sociais. Exato, porque hoje, onde os conteúdos estão fluindo? Eles fluem pelas redes sociais. E as redes sociais, elas hoje são 100% mediadas por algoritmos. Algoritmos, inclusive, que acho que pegando essa questão do impacto social, é uma coisa que me preocupa muito mais do que a IA querer nos matar.

que é um controle do fluxo informacional mesmo. Então, hoje a gente tem no mundo as grandes plataformas dos Estados Unidos dominando esse cenário, focando... Das redes sociais. Das redes sociais, e aí com um objetivo muito simples. Então, recentemente teve o julgamento da meta nos Estados Unidos sobre vício. Então, acho que foi uma estratégia muito interessante dos advogados, porque...

Eles não falaram do conteúdo, eles falaram do design da plataforma que leva ao vício, que foi uma vertente um pouco diferente. E aí entra o algoritmo. E aí o Zuckerberg, na hora que ele vai dar o depoimento, ele fala não, mas a gente não quer, a gente não olha mais para a taxa de aumento de engajamento.

Ele falou isso, só que quando você pega o balanço, um dos balanços trimestrais da meta, está em destaque do ano passado. Conseguimos aumentar o tempo de tela, o tempo de uso, graças ao avanço da nossa inteligência artificial. Claro, porque aí você ganha dinheiro. Claro, porque aí você conhece muito bem a pessoa, você conhece muito bem o que ela vai entregar, o que ela vai aumentar o tempo de tela dela e você entrega aquilo.

E aí, acho que começa também, só para trazer uma reflexão, uma divisão no mundo em relação a isso, porque as plataformas dos Estados Unidos têm essa operação global, então elas estão a todo momento tentando evitar qualquer tipo de regulação.

Só que alguns países, algumas regiões, então a Europa, vem olhando muito para essa questão da inteligência artificial dentro dos sistemas de recomendação. Quando isso causa vício, isso tira a transparência do fluxo informacional e mais do que isso, pode levar a uma manipulação. E tem um terceiro ponto, o conteúdo que circula, que mais engaja, é o conteúdo que tem baixo, vamos dizer assim, conteúdo informacional. É dança, é bobeira, não sei o que lá. Isso está levando a uma discussão até em fóruns internacionais.

de como isso começa a impactar outros países, diferente um pouco da China. A China tem um órgão, que eu acho o nome até meio ficção científica, que chama Administração do Ciberespaço, mas é um órgão regulador da internet. E eles olham com muita atenção para essa questão dos sistemas de recomendação.

Então, eles falam, algumas empresas, elas não podem usar muito o sistema de recomendação, tem que deixar muito mais livre porque eles acreditam, e isso é muito interessante, né? Porque o próprio governo fala, a gente tem que dar opção para as pessoas escolherem. Se eu tiver um sistema de recomendação muito rígido...

eu vou limitar a escolha das pessoas. Eu tiro a autonomia delas. Então, olha que momento que a gente entra no mundo. A partir do momento que eu abro uma rede social, eu não consigo escolher o tema que eu quero ver. Eu não consigo escolher que conteúdo. Ele simplesmente começa a entregar e ele que decide para mim.

Então, a gente começa a discutir que o Ocidente começa a perder um papel de escolha quando ele está navegando nas redes sociais. Perde a autonomia, o usuário. Nós estamos no meio disso. A gente teve só esse ano duas tentativas. O TSE com uma tentativa de que maneira se pode controlar algoritmos para as eleições agora de outubro.

E tivemos recentemente um decreto do presidente tentando impor algum tipo de restrição a determinados conteúdos nas Big Techs. Nós estamos conseguindo reagir?

Então, eu acho que, por um lado, tem esses aspectos e o governo pode tentar fazer esse controle, mas, por outro, como a gente viu, a própria natureza da tecnologia é incontrolável. E, por um lado, eu acho que tem esse aspecto que é bom de pluralidade. Eu acho que a internet, de certo modo, trouxe uma pluralidade para o mundo, vários aspectos.

que foram muito positivos, mesmo para um debate democrático. Acho que tem um ponto por aí. E um outro... Os cientistas políticos são um pouquinho mais céticos. Eles dizem que, na verdade, se acelerou a calcificação de bolhas e o comportamento tribal. Então, por um lado, existe esse aspecto de o algoritmo, que aí entra o problema do sistema de recomendação de criar a bolha.

que aí o sistema de recomendação que o Diogo falava agora há pouco, ele cria essa bolha. Mas, por outro lado, tem um aspecto de um acesso a um conteúdo que antes você não teria. Então, no sentido que, por exemplo, a gente está aqui em São Paulo, mas a gente pode acompanhar tudo que está saindo lá de últimos modelos de AI em São Francisco com a facilidade, como se a gente estivesse morando lá.

Então é isso que eu estou querendo dizer nesse sentido de acesso que a internet traz. Mas eu acho que o que o Diego comenta agora há pouco é muito interessante, que no fundo é o drama da liberdade humana.

Liberdade como autodeterminação para o bem, Aristóteles falava disso, Ética Anicômico, a gente falava de indicação de livros, acho que esse daí é um livro muito interessante, que Ética Anicômico é um livro que Aristóteles faz uma reflexão sobre a vida feliz.

sobre a felicidade, que é um bem em si mesmo, e que é aquilo que a gente aspira não como um meio, sei lá, essa caneca aqui, eu estou segurando ela, não pela caneca em si, mas pela água que eu quero beber, que eu quero matar a sede, então ela é um meio. Felicidade é um bem em si mesmo. E aí, eu acho que, ampliando um pouquinho o debate, acho que a inteligência artificial radicaliza a reflexão sobre quem é o ser humano.

E é a liberdade humana. Isso é o que o Papa também comentou na encíclica, comentei em outros momentos, ele até falava sobre isso, ele falava sobre rostos humanos e voz humana. Porque a voz é algo muito único da pessoa, assim como a digital. E hoje, com a inteligência artificial, você clona a voz.

Você clona o rosto. Todo esse problema da misinformation que a gente falou agora. Então, aquilo que era o próprio único da pessoa fica massificado. Então, aí a gente vai ter que pensar sobre quem é o ser humano. Tem um outro livro muito interessante de um filósofo chamado Robert Spemann. Ele fala, Person, the Difference Between Who and What.

Pessoal, a diferença é sobre quem e o quê. O ser humano é quem? A inteligência artificial é o quê? Então, mas é preocupante. Você está no servidor. Desculpa, perdão. É que aí a gente...

Queria amarrar com, depois quando a gente voltou do intervalo, você falou todo esse aspecto aí também do próprio ser humano e do pensamento crítico. Do discernimento. Do discernimento. Ou seja, a capacidade de fazer escolhas. A capacidade de fazer escolhas, a liberdade humana, próprio do humano. O que é o próprio do humano? A liberdade de fazer escolhas. Exatamente. É isso que é a preocupação. Essa é a preocupação. Então aí, eu acho que tem um aspecto que vale a pena a gente pensar. Por quê?

Por mais que a tecnologia é algo fantástico, sou super entusiasta, mas eu acho que tem coisas que a gente não pode abrir mão se a gente deixa de ser humano. Se a gente pensar as atividades cognitivas, por exemplo, antes a gente decorava os números de telefone. Para existir um esforço da memória, a gente lembrava vários números de várias pessoas. E as ruas também. A gente tinha esse esforço cognitivo de geolocalização. Então a gente terceirizou.

a memória para o telefone. A gente terceirizou a memória da geolocalização para um outro aplicativo. E aí com a inteligência artificial existe o risco também de a gente terceirizar o pensamento, no sentido, o raciocínio de você não pensar. Então também o Papa fala disso. O Papa fala, olha, é necessário educar as pessoas para pensar criticamente.

É necessário educar as pessoas para pensar criticamente também sobre a inteligência artificial, de não assumir aquilo que está sendo exposto. Lógico, existe essa dificuldade de discernir o que você está vendo.

Mas vou tentar refletir, então vou tentar questionar, vou tentar buscar a origem, a primeira fonte, que é um pouco o que o trabalho do jornalista faz, de confirmar os dados, confirmar... No fundo, acho que essa batalha, por um lado, a inteligência artificial facilita essa batalha psicológica de desinformação, mas por outro, acho que aí também tem esse papel da gente conseguir...

e aumentar a educação para o ser humano ser ser humano mesmo, ser mais humano. Então, acho que esse é um grande aspecto. Acho que você tem riscos grandes, você tem problemas... Só estou também comentando um pouco assim, William, só para ficar um pouco esperançoso aqui, não é para ficar um apocalipse návaco aqui. Então, acho que tem alguns aspectos que são também, nesse sentido, uma provocação dessa situação.

ação, da gente tentar fazer esse resgate do humano. Salvar e guardar a humanidade. Então, acho que é esse ponto. E se me permite, posso até comentar aqui alguns aspectos que eu acho que vale. A gente, indo para a pergunta primeira do programa, como controlar...

Arredondar as coisas. Exatamente. Então, eu acho que assim, por um lado, eu acho que não vai ter um controle top-down, no sentido que, olha, baixei um decreto aqui e agora tudo assim. Então, não vai ter isso. Mas eu acho que é importante que os governos, de fato, tenham algumas medidas, algumas diretrizes e também no sentido de punições de atores que estão fazendo coisas. Então, não sei, vamos supor.

Hoje é um problema, na verdade desde o ano passado a gente já tem isso daí. Tem modelos chineses que fazem filme pornográfico perfeito. Você bate uma foto, faz o upload e ele faz um filme perfeito com as coisas mais bizarras possíveis. Pode ser com criança, o pessoal está usando para fazer isso daí, filme de pedofilia, qualquer pessoa. Então assim, uma pessoa que foi encontrada fazendo isso daí, por um lado essa pessoa precisa ter algum tipo de ação social.

porque é uma pessoa que denigre a imagem da outra, você não consegue separar se essa criança fez ou não fez, se isso daqui é focinho de porco ou se é tomada, então você não consegue separar. Então, assim, tem um aspecto do governo de ter algumas medidas realmente que vai ter a legislativa ali, que eu acho que é importante. Por outro, tem uma parte das próprias empresas, acho que nesse sentido a Antrópica, mais uma vez, é um exemplo muito positivo.

porque eles criaram essa Constitution, que é todas as diretrizes, princípios de ética e inteligência artificial. É um documento muito distinto, vale a pena ler, é muito legal.

Aí depois você tem as próprias empresas, outros atores e tal, que acho que tem que ter boas políticas, ou ali um guidance, algumas diretrizes. Mas eu acho que tem um aspecto super forte aqui, e que o Papa fala na encíclica, que é da educação das pessoas. Educação e inteligência artificial. Tudo isso que a gente está conversando aqui é uma coisa que não pode ser para poucos. Tem que ser para todo mundo. Todo mundo tem que ter esse acesso a essas informações e estar preparado para enfrentar o mundo que...

Porque a gente tem uma mudança constante, mas se a gente não se preparar, não vai adiantar. Eu agradeço esse teu editorial. Foi um editorial que você fez agora no final. Porque um bocado da ideia dessa edição aqui do WW Especial é trazer a nossa audiência para essa conversa. Eu acho que está apenas começando.

É o começo. Eu sou obrigado porque a gente vive no mundo da física newtoniana. Eu tenho uma grade de televisão, já me batei em mim. Esquece essa grade de televisão, enfim, mas eu vivo nela. Eu sou obrigado a encerrar essa edição. Eu queria começar, então, por você, Alexandre Gonçalves, que é professor da Universidade Illinois Urbana, participou remotamente de Los Angeles aqui do nosso programa. Meus agradecimentos. Muito obrigado, Alexandre, pela participação.

Eu que agradeço, foi um prazer imenso participar do programa com vocês. Fico aqui também expressando meus agradecimentos a você, Diogo Cortes, professor do Programa de Tecnologias da Inteligência da PUC de São Paulo. Obrigado por ter participado. E igualmente, Rafael Medeiros, especialista em inteligência artificial, pela presença aqui no programa. Eu que agradeço, muito obrigado, William. Obrigado, Alexandre, obrigado, Diogo.

O meu agradecimento especial é a você que nos acompanha. Até a próxima, pessoal.