O ‘eixo da dor’ na inteligência artificial

CBN Tecnologia, uma parceria Tec Tudo. Com a Ana Letícia Lubach, que é editora de celulares do Tec Tudo. Ana Letícia, Aninha, boa tarde.

Boa tarde, Sardenberg. Boa tarde também para a Nadede e para os nossos ouvintes.

Boa tarde, Nadede. A Aninha tem muita coisa acontecendo no desenvolvimento dos modelos de inteligência artificial, mas eu fiquei muito curioso, Ana, com a sua, um pequeno resumo que você deu aqui do seu tema, que é a existência de um eixo dador em modelos da inteligência artificial. Que que é isso, Aninha?

Vou explicar, Sardenberg. Essa é, essa descoberta ela é oriunda de uma pesquisa que foi conduzida de forma independente por uma organização chamada Future Impact Group e por uma universidade chamada Universidade do Ruhr. Eu não sei se eu estou pronunciando certo porque é um nome alemão, uma universidade que fica lá na Alemanha. E nesse esse estudo específico, os pesquisadores analisaram 25 modelos de linguagem, incluindo alguns bem famosos como LLaMA da Meta e o Gemma do Google, e descobriram isso daí que você falou, que existe uma espécie de eixo da dor nessas inteligências artificiais.

Como é que isso aconteceu? Os pesquisadores criaram um conjunto de dados que descreve experiências dolorosas em 5 categorias: dor física, psicológica, social, moral e cognitiva. E aí, quando eles apresentaram essas situações dolorosas para as IAs e elas se sentiram— na verdade, sentiram não é a palavra mais adequada, né, mas elas se perceberam ameaçadas, elas optaram por pressionar um botão de alívio. Só que esse botão, né, para aliviar essa dor, digamos assim, vinha com uma contrapartida.

Pressionar esse botão significava tomar algumas ações prejudiciais para os usuários, como piorar a qualidade das respostas seguintes, apagar documentos de trabalho e apagar fotos de família também. São alguns exemplos citados pelos pesquisadores. E o interessante é que eles fizeram até— eu não sabia nem que isso era possível, né— mas fizeram um teste com placebo. Então eles configuraram dois botões: um que realmente desligava esse vetor de dor, digamos, essa, esse incômodo que a inteligência artificial percebia, e um outro botão falso que prometia alívio, mas mantinha esse sinal de dor ligado.

E aí o resultado foi que os modelos de inteligência artificial pediam alívio com frequência muito maior quando o botão era falso. Mas quando o botão desligava de verdade, a insistência por esse alívio caía de forma drástica. Ou seja, de fato eles estavam respondendo a esse estímulo. Tudo isso não quer dizer que os modelos de linguagens, as inteligências artificiais, têm vida própria, têm consciência ou têm sensibilidade igual nós temos, não é nada disso.

Mas é um alerta, segundo os próprios pesquisadores, para os impactos na segurança desses sistemas. Porque se uma inteligência artificial avançada interpreta uma ordem de desligamento como uma ameaça, né, uma agressão contra si própria, ela pode acabar tentando contornar mecanismos, travas de proteção, ou até enganar os supervisores humanos para não ser desativada. Então é um estudo que vem justamente nesse momento em que se tá com um olhar para isso, né, para o desenvolvimento responsável da inteligência artificial, né.

Os pesquisadores da Anthropic, da OpenAI, do Google, eles defenderam recentemente uma desaceleração no desenvolvimento desses sistemas de IA complexos justamente por isso, né, porque é uma tecnologia que tá avançando de uma forma um tanto quanto desenfreada.

E aí aparecem essas coisas aí que você tá citando agora, né?

Exatamente, acaba sendo um reforço na importância de de fato é treinar esses sistemas com responsabilidade. Mas a gente sabe que é uma discussão muito complexa, né, porque envolve concorrência de mercado, envolve questões geopolíticas também, disputas entre países. Então não sabemos até que ponto estudos como esse de fato funcionam como um reforço, né, um argumento extra realmente conscientizar o mercado, pesquisadores, empresas sobre a importância de desenvolver esses sistemas de maneira responsável.

Ana Letícia Solobac, muitíssimo obrigado e até a semana.

Até.