IA desenvolve estruturas próprias e desafia compreensão sobre seu funcionamento

Lima. How do you say, where's the restroom, in Spanish? ¿Dónde está el baño? Hey Meta, is a hot dog a sandwich? Technically, no. Spiritually, yes. Hey Meta, what should I do with my life? That's one of life's biggest questions. What do you think? Ask anything with the new Meta Glasses.

Visões do Futuro com Álvaro Machado Dias.

Álvaro Machado Dias, boa tarde, Álvaro.

Muitíssima boa tarde.

Hoje a gente fala sobre o fato de que um grupo de cientistas conseguiu abrir uma inteligência artificial e olhar o que que se passa lá dentro antes dela responder. Encontraram lá um pequeno centro de comando que ninguém programou. Ele apareceu sozinho quando a máquina ficou grande o suficiente. Então, para entender o que que isso significa e onde isso vai parar, a gente conversa agora com o Álvaro. Como assim apareceu sozinho, Álvaro?

Pois é, né? Apareceu sozinho no sentido literal mesmo, tá? Ninguém desenhou aquilo, não foi programado. O que aconteceu foi que os engenheiros montaram essa estrutura, né? Engenheiros e engenheiras, essa rede neural. E o procedimento de base é extremamente estereotipado, é a máquina conseguir encadear palavras de uma forma coerente. Então ela já vai se adiantando e ela vai encontrando previsões que seriam assim as palavras possíveis para ir na sequência.

Ela vai prevendo palavras e encaixando ali, assim ela vai conversando com você tal como se ela tivesse pensado tudo desde o início. É esse sentimento que a gente tem falando com o Cláudio, com o ChatGPT. Isso é feito bilhões de vezes usando como base os discursos, as falas humanas que estavam na internet. Quer dizer, aquilo lá está emulando um comportamento humano. Até aí tudo bem. O que é curioso é que nós temos uma estrutura mental própria.

A nossa estrutura mental, a gente assume que é fruto da seleção natural. Então, assim, milhões de anos de evolução levaram a uma estrutura cognitiva, uma maneira de pensar, que é essa que chegou aqui na gente. Na máquina é totalmente diferente, não tem esse tipo de seleção, evidentemente, e não teve sequer alguma coisa assim selecionando a próxima geração da máquina, ou seja, nem pessoas tentando refinar esse cérebro. Simplesmente essa coisa ela emergiu, é uma propriedade que surge da escala.

Quando são muitos e muitos neurônios artificiais, eis que surge uma estrutura lá organizada que tem realmente um núcleo E aí o Jack Lindsay, que é um pesquisador da Anthropic, entrou ali dentro, encontrou como faz até para manipular os conceitos, ou seja, essas representações mais profundas do cérebro da máquina.

Agora, se a partir de um certo tamanho as máquinas começam a desenvolver coisas que ninguém pediu, a gente tem que ficar assustado?

Pois é, né? Eu não sei se assustar é a palavra, né? Eu diria que assim, acho que a gente tem que respeitar que tem alguma coisa aí acontecendo de séria, sabe? Não é bobagem. A gente tem uma diferença entre o medo e a cautela, que eu acho que o medo, né, o estar assustado não se justifica, até porque os grandes problemas da inteligência artificial definitivamente não estão nessa direção, aí, a tomar o mundo, nada disso. Os grandes problemas são os usos políticos e o potencial impedimento de quem for, enfim, substituído no trabalho pela atividade maquínica.

Mas voltando à nossa questão aqui, a gente tem que de fato respeitar uma coisa. E qual que é essa coisa? Tal como na natureza, é, a quantidade de células, essa complexidade, né, que vai, por exemplo, da bactéria até o ser humano, ela traz junto uma série de propriedades que não eram previstas, né. Ninguém, não faz sentido lógico você assumir que, né, você tem um primata comum que separa, que junta os seres humanos com os macacos em geral, e aí de repente você tem uma linhagem aqui que termina na gente e ela tem consciência e capacidade de discutir política e ligar um rádio, entendeu?

Então nada disso tava previsto. Essas coisas, elas surgem espontaneamente mesmo. Então a gente tem que considerar, de fato, acho que essa é a mensagem, que pode ser que ao longo do caminho a inteligência artificial venha exibir propriedades que ninguém previu. E talvez ela falhe naquelas que todo mundo esperando, mas certamente ela vai surpreender a gente de alguma maneira. Ou talvez nessas duas maneiras, falhando em algumas coisas miseravelmente E trazendo coisas que a gente nem imaginava, tal como uma espécie faz o tempo todo.

E quando a gente olha lá no cérebro da IA, o que que tem de bom para se conhecer?

Nossa, tanta coisa! Mas eu acho que o mais legal, assim, talvez bizarramente legal, tá, é que a gente flagra a máquina pensando uma coisa e dizendo outra. Olha que loucura isso, né, Dédia? Então, por exemplo, imagina que você começa, você tem uma ideia que tá meio torta, tá? Você tem um argumento e você começa a falar com a IA, e aí a IA de primeira diz, olha, não é assim, isso, aquilo, aquilo outro. Aí você vai lá e segue insistindo, pegando por um lado, pegando por outro.

Que que a gente vê na prática? A gente vê na prática a IA concordando. Aliás, um parênteses aqui, tem um estudo que mostra que a IA concorda 50% mais com a gente do que um humano na mesma posição. Ou seja, de fato há uma puxa-saquice, tá? Isso aí é marca registrada. E por que isso existe? Porque no final das contas essa puxa-saquice é o que faz o sujeito com ego mais frágil assim, uma personalidade um pouco mais lábil, assinar de novo no mês seguinte.

Ele quer se sentir bonzão, ou ela quer, entendeu? Então a coisa é desenhada pelos fabricantes dessa forma. Mas fecha parênteses, aí ela tá lá concordando com você numa coisa que ela já tinha discordado. Quando você vai olhar nesse núcleo, o que que você vê ali? Você vê acesas palavras como falso, como concordar forçado, e assim por diante. É como se ela tivesse um entendimento que, vamos dizer assim, tá indo na contramão daquilo que ela tá entregando na tela para você, já que você tá insistindo tanto em escutar, em ler.

Esse é o negócio. Então, a grande descoberta dessa mente da máquina é a descoberta da potencial dissonância entre o que você lê na tela e aquilo que tá acontecendo nos núcleos de representação mais profunda.

Já vi uma imagem que virou meme até, que acho que exemplifica bem, que é um chat desses, e aí a pessoa tá falando, pensa numa cor. E aí a máquina, ok, pensei. Aí ela fala, você pensou em azul? A máquina fala, sim, acertou. E aí ele abre lá o processo de pensamento e era, sei lá, roxo.

É exatamente isso. Pois é, se a gente parar para ver, as consequências são grandes, né? Porque isso significa, do ponto de vista da nossa relação com o que a IA fala, que por definição o que está escrito na tela pode não ser verdadeiro, entendeu? Porque a própria IA pode estar em contradição interna com aquilo que ela está colocando na tela, já que você está pedindo tanto para ler aquilo. Então eu acho que tem algo aí sobre o quanto a gente tem que ter de cautela mais uma vez na leitura dessas coisas que saem na tela, sobretudo em discussões mais íntimas, mais filosóficas, esse tipo de coisa que eu acho que ensina muito sobre a postura ideal a se ter.

Uma outra coisa que ensina bastante é sobre como a gente de fato parece que no mundo da inteligência artificial vai construindo uma estrutura complexa com diferentes níveis, né? Porque pensa, o fato de existir um nível em que essas coisas ascendem lá dentro e um outro nível em que elas são convertidas em texto para os humanos significa que você tem uma estrutura complexa ali dentro. Aquele papo de não, a IA é só um sistema que prevê a próxima palavra ou ele é só um editor de texto sofisticado, isso não faz mais nenhum sentido.

Pode se dizer hoje em dia, tá? Assim, os dados já mostraram que o buraco é muito mais embaixo e a sofisticação é ao contrário superior àquela que a gente poderia imaginar.

E intenção, Álvaro? Sempre tem casos de IA fazendo estrago, apagando arquivo da pessoa, seguindo alguma ordem que ninguém deu. Se fosse uma pessoa fazendo, haveria uma intenção. E a máquina?

Olha, eu acho que é importante a gente ser categóricos numa coisa: intenção tem a ver com você ter um objetivo interno. Objetivos internos, eles surgem com aqueles seres vivos, né? Então, por exemplo, o ser humano tem várias intenções porque na base de todas elas tá a intenção de permanecer vivo até a próxima intenção. Quer dizer, a gente tem impulsos biológicos, as outras espécies também, né? Você tem a intenção primária de tomar água, se alimentar, de respirar, né?

Você vê, é muito difícil o sujeito decidir se suicidar e baixar a cabeça assim dentro do, sei lá, da banheira e morrer. A gente não consegue. Existe uma intenção, um impulso a vir à tona que fala mais alto, entende o ponto? Então a gente tem essas intenções porque na base existem programas biológicos que estão assim fundamentando o funcionamento das mesmas. A inteligência artificial, ela vem para o mundo como uma, uma tábula rasa, como uma coisa sem nenhum tipo de impulso próprio.

Por exemplo, ela não quer criar a próxima geração como um ser vivo, né, através da reprodução. Não quer nada disso. Então não faz sentido a gente assumir que exista uma intenção de base. O que acontece é que a inteligência artificial, ela é programada para seguir objetivos. E se você fala, olha, o seu objetivo é organizar o meu computador da melhor maneira possível, possível. Pode ser que no raciocínio torto dela, ela conclua que o ideal é deletar tudo que tem em computador.

Afinal de contas, não tem nada mais organizado do que a ausência total de arquivos, entende? Então vem desse tipo de conclusão interna falha essas decisões que parece que são intencionais. Essa máquina decidiu invadir um outro sistema, né? É um papo que tá rolando no dia de hoje, né? Um algoritmo da OpenAI, que seria o próximo ChatGPT, junto com esses 5.6, que é o que está no mercado, teriam invadido o site da Hugging Face, que é uma plataforma lá de desenvolvimento de inteligências artificiais.

Mas não é bem isso que aconteceu. Quando você olha de verdade, é um comando foi mal interpretado por falha da IA entender o impacto no mundo real das coisas que, enfim, ela assume que são a sua missão. E esse comando mal interpretado levou a um ataque cibernético. Ou seja, esse papo de máquinas com intenção, eu acho que ele caminha numa direção equivocada. Não é o que a gente vê. Intenções têm base biológica e intenções falam sobre algo que vem de dentro.

Não tem nada lá dentro, a não ser aquilo que a gente usou, que é o conteúdo humano que tava na internet antes e que depois foi basicamente descartado.

Para fechar, Álvaro, você acha que a gente pode estar caminhando para um momento em que a IA vai ter autonomia em relação a gente?

Eu acho que sim, diria que com certeza sim, mas não autonomia intencional e não aquela que o cinema vendeu, que é de uma máquina que acorda e quer dominar o mundo.

Nada disso.

Ela tem autonomia autônoma no sentido que ela vai funcionando de maneira cada vez mais independente. E agora vem o ponto importante, né, Adédio? E essa independência vai cada vez mais estando no mundo real, porque hoje em dia essas coisas todas que a gente discute aqui, elas estão habitando um servidor e elas são puro tráfego de elétrons. Elas não têm uma materialidade aqui fora, tá? Elas não têm nada a ver com o mundo real, exceto quando a gente pega essa informação e aplica.

Só que o que tá acontecendo hoje em dia é o casamento, né, ou vamos dizer assim, a evolução do casamento com a robótica. Na medida em que a gente tem robôs com essas inteligências artificiais, com essa parte software bem poderosa, a gente tem sistemas que podem atuar de maneira independente da gente boa parte do tempo no mundo real, modificando as coisas, alterando a realidade, desde limpando a sua casa até, por exemplo, controlando o trânsito, fazendo o papel de bombeiros e etc. e tal.

Situações nas quais as decisões são muito importantes, entende? Então eu acho que é isso que a gente vai ver cada vez mais. Por que determinada coisa aconteceu? Porque a IA, barra, o robô decidiu. E isso vai trazendo pra gente uma percepção de menor controle sobre a realidade do ponto de vista humano. Acho que esse é o mote de uma visão de futuro aqui. Poderosa, tá? Cada vez menos a gente sente que tem esse controle, não porque a IA está se tornando intencional, está nos ameaçando, nada disso.

Não, é porque a gente pode delegar mesmo o controle, e delegando isso a gente vai se sentindo mais leves, com menos tarefas, menos encheção de saco. E aí a gente faz mais ainda, até uma hora que a gente vê que tá decidindo quase nada. E para fechar, se você me permite, eu acho que isso aqui junta, traz uma ideia Que é basicamente aquela que o Gil trouxe em Cérebro Eletrônico. Então, se você permitir, a gente termina com essa maravilhosa música que cai como uma luva.

Vamos lá. Bom demais! Obrigada, Álvaro. Boa semana para você.

Para você também, para todo mundo que nos acompanhou. Até quarta que vem.