Estamos vivendo o fim da obediência?

Visões do Futuro com Álvaro Machado Dias.

Oi, Álvaro, boa tarde!

Muito boa tarde!

Álvaro traz um tema do qual eu gosto muito para o debate hoje, que é a obediência, da qual eu não gosto muito, eu ia dizer. Não, não.

Eu imagino você criança, amiga.

Não, não, não imagine, não imagine, não imagine. Bom, imagina uma criança que contesta, que vira um adulto que contesta o médico, o professor, o chefe, ao mesmo tempo em que o mundo discute líderes fortes, máquinas que decidem por nós. Álvaro vai nos contar o que que a ciência descobriu sobre essa força que organiza a nossa vida. Sem, é meio, de maneira meio invisível, né? E a gente vai cutucar o Álvaro aqui para que ele nos diga como é que a inteligência artificial se posiciona à luz da obediência.

Me lembro de um livro infantil, e eu vou pecar porque eu não vou lembrar o autor, mas quem é aí da fim da década de 70, começo de 80, vai lembrar, chamado A Droga da Obediência. Amo, né? Pedro Bandeira. Janaína tá aqui atenta ao que eu tô dizendo. Bom, A sensação que a gente tem, Álvaro, é que a obediência tá em baixa. Ninguém obedece mais ninguém. Paciente chega no consultório com diagnóstico pronto que ele já investigou no Google ou na inteligência artificial.

O aluno corrige o professor tendo como fonte os mesmos recursos. O filho negocia cada regra da casa exigindo dos pais uma capacidade de negociação. O que é que você tem sobre isso? É uma impressão ou há estudos que confirmam que está acontecendo?

Não é impressão de forma alguma, tá? Os números confirmam. E olha que interessante, Tati, eles confirmam com uma consistência muito rara nas ciências sociais. Tem uma pesquisa recorrente global chamada World Values Survey, a pesquisa dos valores globais, e ela acompanha valores em mais de 100 países, valores morais e outros mais, tá? Assim, utilitários e por aí vai. Isso tá rolando desde os anos 80. Uma das tendências mais estáveis do levantamento é mostrar uma queda de respeito por autoridades no mundo industrializado.

Vale em todos os países. Alguns isso é mais forte, outros é mais fraco, mas geração a geração a gente vê essa queda no respeito à autoridade e consequentemente algo que se deriva para o domínio da obediência, evidentemente, né? Então essa ideia do paciente que chega no consultório com diagnóstico, ela evidentemente simplesmente é reflexo de um maior acesso à informação, que aliás eu acho ótimo, tá? Porque como se fosse verdade que você vai aleatoriamente no consultório médico e você encontra uma pessoa do outro lado super capacitada e super disposta a investigar até as últimas consequências o seu estado clínico.

Isso aí pode acontecer como pode não acontecer. Mas fato é que existe algo aqui em discussão que é muito mais profundo, que é essa sensação de que você tem essa liberdade de questionar a autoridade na cara dela e ponto final. O que também não é necessariamente ruim, tá? Mas a gente chega em casos como os que estão acontecendo nas escolas, em que realmente a coisa é francamente negativa, inclusive para a própria formação desses alunos, que como cidadãos estão criando dentro de si uma vulnerabilidade ao entendimento de como o mundo pode funcionar melhor, criando formas de relacionamento que simplesmente são insustentáveis.

Então tá aí a coisa, né? O prestígio, né, da autoridade ele entrou em colapso. A obediência propriamente dita não necessariamente, mas a sua aplicação na prática, a gente vê que está sim se esfacelando. Tá aí o quadro que eu vejo em 2026, onde a inteligência artificial entra agregando uma nova parcela de entendimentos que até hoje não existiu, como por exemplo essa de você ter acesso pleno à informação e sem saber do que você tá falando poder debater com alguém que estudou 20 anos aquele tema.

E, Álvaro, antes de discutir se obediência é ruim ou bom, para a gente entender de onde ela vem, a gente pensa nos animais, né, os animais domésticos como predestinados a obedecer, né? E o ser humano nasce pronto para obedecer ou aprende pela cultura?

É, então, Naded, isso é tão interessante, esse assunto, né? Eu adoro etologia, o estudo do comportamento animal. A gente acha que o mamífero, ele tá predestinado a obedecer. É uma coisa que parece tão óbvia, né? Quem tem um cachorrinho, não quem tem gato, né? Mas assim, ou assim, bois, ovelhas, são tantos os animais que parece que tem essa tendência intrínseca à obediência. Mas essa é uma visão equivocada. Isso daí é muito mais uma fantasia do que realidade.

Quem filma e estuda primatas, como por exemplo a Jane Goodall, saudosa Jane Goodall, vê o contrário. A obediência Ela é muito mais conveniência do que tendência inata. Tanto que entre primatas, os macacos mais jovens e eventualmente mais fracos estão o tempo todo testando de maneira assim sutil, na fronteira da afronta, essa obediência do alfa. Tempo todo está rolando. E a obediência vai se manter até o momento em que for avaliado que existe uma possibilidade real de sobrepujá-lo.

Então, no final das contas, é um jogo muito mais utilitarista, um cálculo de força e não uma tendência à obediência que mantém essas estruturas que a gente acha que são baseadas num princípio interior. E eu diria até mais, a obediência curiosamente é uma das coisas mais humanas que existem. Olha só, pensa numa criança. Eu tava refletindo aqui hoje de manhã para a gente ter esse papo, eu pensei nisso. Pensa numa criança que se sente revoltada se uma outra criancinha ela fere as regras da brincadeira.

Mas não tem nada de errado ferir as regras da brincadeira. Por que que essa criança se sente assim tão incomodada? Porque houve uma ruptura com os princípios da obediência, percebe? Tem algo que a criança está aprendendo sobre seguir regras, sobre como as coisas funcionam dentro de um ambiente culturalizado. Então isso é super humano e, portanto, eu diria que tem um forte componente cultural sim, tá? Porque afinal de contas, a cultura que é em grande medida expressão da nossa biologia, ela cria essas condições para que as regras existam e sejam compartilhadas e consequentemente a obediência possa ser transmitida.

Álvaro, existe situação em que obedecer seja bom ou ruim? Quer dizer, existe algum critério para a gente avaliar quando a obediência cai bem ou quando ela cai mal?

Eu acho que sim. Eu acho que a gente tem que ser muito cuidadosos nesse tipo de papo para não cair numa formulazinha de um manual de autoajuda de aeroporto. Mas é um perigo, né? Resolve o mundo em uma frase. Cuidado com isso. Mas de fato sim. E aqui eu penso muito no Stanley Milgram, tá? Quem tá nos escutando, vale a pena conhecer essa figura maravilhosa. Esse sujeito, um psicólogo, dado a experimentos malucos, ele recrutou pessoas comuns, tá?

Várias delas numa universidade americana nos anos 60. E o que ele aplicou, a ideia era o seguinte: você aplicar, alguns alunos aplicavam choques em um desconhecido sempre que ele errasse uma resposta, tá? Um testezinho desse. E o negócio é que tinha um sujeito, tava o experimentador de jaleco dizendo apenas que o experimento precisava continuar. 65% desses participantes foram até o choque máximo com sujeito do outro lado da parede gritando.

Olha que absurdo! Não tinha nenhum ganho nisso, nada. Era simplesmente a presença da pessoa vestida de autoridade, é o jalequinho, é o peso do jaleco. E o Milgram montou o experimento pensando nos julgamentos, né, o subtexto dos oficiais nazistas, né, anos 60, aquela fileira de homens medianos repetindo apenas que cumpriam ordens, né. Esse foi o papo no julgamento de Nuremberg: nós só cumprimos ordens. Então era essa a ideia. E ele saiu dali chocado porque ele descobriu uma tendência muito mais ampla.

Então eu acho que é desse experimento que sai o grande separador da boa obediência e da má obediência. A obediência é boa enquanto ela passa pelo julgamento de quem obedece. Você entende o que está acontecendo, você compreende que aquelas regras ou elas são justas, ou mesmo que elas não parecerem justas para você naquele momento, elas estão alinhadas ao maior interesse da sociedade. Agora, obedecer quando você simplesmente quer passar para outra pessoa, eventualmente para uma autoridade ou para o Estado, a sua responsabilidade, aí é uma roubata, porque você tá fazendo mal para o mundo.

É o que a Hannah Arendt, né, identificou, né. Tem um texto muito importante dela em que ela fala assim o quanto, né, o Eichmann, e na verdade todas essas figuras nazistas horríveis, elas se colocavam numa posição muito mais de sou um sujeito irrefletido do que qualquer coisa que propriamente envolva intenção, intencionalidade, visão de mundo, nada disso. É tipo, olha, eu tô aqui dogmaticamente, cegamente obedecendo porque esse é o meu papel.

Esse papo de esse é meu papel não leva a nada de bom. Agora, avaliação interna e o entendimento que muitas vezes a obediência a princípios é aquilo que vai fazer a gente viver uma vida em sociedade minimamente estável é fundamental. Eu diria que isso a gente vê ou não vê no trânsito. Por que que as pessoas entendem que elas podem cometer uma infração na frente dos outros? Simplesmente porque essa infração é possível, né? Atravessar um sinal vermelho, etc.

Elas não pensam que isso cria um estímulo e no fundo manda mensagem para o outro de que essas regras compartilhadas não são importantes? É, e é lógico que manda essa mensagem. Isso em si é ruim, independentemente do impacto real daquela ação específica. E tá aí o lance que eu acho que a gente tem que sempre pensar: tem horas que obedecer significa transmitir algo para o mundo sobre a importância de estar junto, que é muito valioso.

Sim, sim. Tô pensando aqui que de obediência em obediência, ou de desobediência em desobediência, a gente vai banalizando o mal, para citar a Hannah Arendt que você trouxe. E tô pensando numa outra questão também. Você disse obediência que passa pela criticidade, né, pela nossa capacidade de julgamento. Mas aí a obediência que passa por esse filtro, por esse processo, Não deixa de ser obediência e vira combinado?

Ai, adorei! É maravilhoso isso daí. Realmente não é exatamente uma obediência quando você não está tendo uma regra imposta, e sim você está compartilhando da sua crença na validade dessa regra. Então sim, é verdade, é um combinado. De qualquer maneira, a gente pode dizer que esses combinados muitas vezes eles mantêm um senso de autoridade bem forte. O Estado é autoridade, as regras do trânsito são autoridade. E eu penso nas famílias, tá bom?

Pode ser o que for, mas a mãe é autoridade. Se ela está falando X, é dentro desse contexto em que você entende que essa regra não está eticamente errada, a obediência a essa regra sinaliza algo que vai muito além do comportamento objetivo que tá sendo realizado naquele ponto. Ou seja, concordo com você, mas a gente sempre tem que pensar que eventualmente esse tal combinado vai envolver uma simetria em que você obedece e o outro manda, concordando ou não. É isso.

E a inteligência artificial, Álvaro? Tem estudo colocando a IA no papel de subordinada. Ela começou a aceitar ordens que deveria recusar. A gente falou, né, na semana passada sobre o caso da invasão hacker sem ninguém ter mandado. Então aparentemente tá se rebelando contra a obediência. Qual que é a postura dessa máquina, afinal?

Muito curioso, né? Então, de fato, tem estudos desse tipo que você coloca a IA para simular alguém que tá dentro de uma hierarquia, e essa pessoa portanto tá numa posição, no caso, uma posição bastante subalterna nessa hierarquia. E aí não apenas obedece às regras, como dentro desses experimentos pelo menos, ela transgride outras tantas regras da sociedade. Aquela coisa do tipo soldado nazista, ela comete uma falha maior à luz de seguir um princípio menor, assim, mais local, mais específico daquele contexto em que ela deveria obedecer, o que está errado, porque obviamente os princípios mais altos são os que mais importam.

Por exemplo, o respeito pela humanidade, não cometer crimes. Agora, quando a gente olha esse caso em que uma IA da OpenAI, né, no caso ChatGPT 5.6 e a próxima versão, evadiram um ambiente fechado sem acesso à internet, encontraram esse acesso e invadiram o site do Hugging Face, que é um repositório de software livre, porque tinha uma tarefa ali de cibersegurança e a maneira de encontrar o, vamos dizer, o gabarito para essa tarefa era chegando lá no Hugging Face.

Então ela quis maximizar esse resultado e ela fez isso. Quando a gente vê essa ação, parece que a gente está vendo uma IA sair do controle do ponto de vista da obediência, assumir uma autonomia. Isso não é verdade, Nadedja. Na verdade, o que ela fez foi seguir ainda mais cegamente, ao pé da letra, aquela regrinha inicial, a regra que dizia: olha, você deve testar esse conjunto de princípios de cibersegurança e maximizar a descoberta de brechas.

Nesse software aqui. Então tá bom, então se é para eu fazer isso, a melhor maneira, eu, já que eu tenho que descobrir essas brechas, deixa eu ir lá onde essas brechas já estão mapeadas e eu vou trazer aqui, eu vou ganhar esse jogo. Ou seja, o que parece desobediência na verdade é obediência cega a princípios estúpidos. E tá aí o grande risco que a inteligência artificial traz do ponto de vista da obediência.

Vou trazer o comentário de um ouvinte que achei bom: obediência difere de submissão, como você dizia, Álvaro. O contrato social implica obediência. Animais não sabem o que é contrato social, mas entendem o que é vantagem e sobrevivência.

Que lindo! Muito, muito, muito bacana.

Voltando para aí, para a gente fechar, como é que você acha que a inteligência artificial pode afetar a obediência humana hoje, ou daqui para frente, de hoje até os próximos anos?

Uma boa pergunta. Eu acho que de duas maneiras. Primeiro é o seguinte: a gente tem cada vez mais recomendações algorítmicas. Então você pega o Waze e ele te recomenda uma rota, você faz o que você quiser, só que custa muito menos energia seguir o que tá sendo recomendado. Conforme as recomendações vão se multiplicando, a tendência a investir energia em micro decisões decai. Consequentemente, a nossa obediência algorítmica aumenta.

Simples assim. Eu acho que é uma coisa linear, tá? A gente tá obedecendo mais porque a gente tá obedecendo princípios que estão mais fáceis e a gente é preguiçoso, como na verdade todo mamífero. Agora, tem o outro lado da história. Cada vez mais a gente também programa inteligências artificiais para obedecerem os nossos princípios. Os tais dos agentes da IA são IAs que saem do domínio do prompt, né, da telinha, e vão fazer coisas na internet, e os robôs e assim por diante.

São máquinas de obedecer comandos. E aí a gente tá do outro lado assumindo um papel de autoridade, de desenho de obediências, que também é muito importante. Então cada vez mais a gente vai se tornando obediente e ao mesmo tempo vai se tornando agentes da construção de uma nova camada de obediência. Os riscos estão dos dois lados. O primeiro risco é muito conhecido, eu chamei isso de algoritmização do pensamento. Você vai ficando dogmático e preguiçoso cada vez mais, se esforça cada vez menos, e assim há um declínio cognitivo, sobretudo no domínio decisório.

O outro risco é muito menos mapeado e conhecido, e eu diria que é muito mais interessante e pode ficar para uma próxima para a gente explorar. É o risco de você criar regras ruins para inteligência artificial, os robôs e assim por diante, e quando você olhar lá na frente você se arrepender porque você simplesmente não tinha visão de onde essa coisa toda ia chegar.

Muito bom. Também recebi aqui a mensagem de um ouvinte Fernando, nas Forças Armadas sempre aprende-se que não se cumpre missão irregular, mal dada, ou que fira princípios legais, diz ele aqui. Ele tá em Belo Horizonte dizendo que isso se refere ao Exército Brasileiro. Para fechar aqui a nossa conversa com Álvaro Machado Dias, que tá conosco toda quarta-feira fazendo a gente pensar em visões do futuro. Obrigada, Álvaro, um beijo para você, até a semana que vem.

Agradeço vocês duas, foi muito bacana. Agradeço quem trouxe essas contribuições maravilhosas. A gente fechou com chave de ouro, realmente muito bem pensado essa regra. Foi realmente a regra de ouro. A gente não tem que seguir regras, não tem que ser obediente a princípios, é, que não param em pé. Eu acho que esse é o espírito da coisa e a gente tem que pensar assim o futuro.

Até semana que vem.

Beijo, beijo, beijo para vocês.