Riscos da IA sem controle: ‘medo existe para virar cuidado’
Learn more about your ad choices. Visit megaphone.fm/adchoices
- O risco da inteligência artificial exterminar a humanidade na próxima décadapesquisador da Anthropic alerta sobre IA·Geoffrey Hinton concorda com estimativa·falta de consenso científico sobre o risco
- A reação humana ao risco catastrófico da IA e a negação da mortemente humana não sabe morar em 10%·psiquismo opera em negação ou desespero·civilização como sistema de negação da morte
- O papel do medo como cuidado e fiscalização diante da IAIA como remédio e veneno·medo existe para virar cuidado·fiscalização e pressão pública
- A falta de controle sobre o avanço da inteligência artificialninguém tira o pé do acelerador da IA·cada laboratório jura que o perigoso é o do outro·a vassoura trabalhando sozinha no Aprendiz de Feiticeiro
Refletir para Viver com Rosandro Klinger.
Um avião com 10% de chance de cair não decola, ninguém embarca, pois a humanidade acaba de embarcar e com os filhos no colo. Um pesquisador de segurança da Anthropic, a empresa dona do Claude, publicou que vê mais de 10% de chance de a inteligência artificial exterminar a humanidade na próxima década. Geoffrey Hinton, pioneiro das redes neurais, disse que a estimativa não é absurda. O número é subjetivo, e também vale dizer que essa informação não tem consenso científico.
Mas veja o detalhe que muda tudo: o aviso veio de dentro da cabine. O sujeito pago para manter o avião sob controle confessou medo do próprio avião. E quando o piloto confessa, o passageiro ganha o direito de fazer perguntas. Aí entra a psicologia. A mente humana não sabe morar num 10%. Diante de risco catastrófico, o psiquismo opera em dois modos: nega e transforma em zero, Ou desespera e vive como se fosse 100. 10% é um número sem morada emocional.
Então a maioria escuta risco de extinção, solta um riso nervoso e rola o feed, e depois leva os filhos para escola, ou seja, segue a vida. Ernest Becker mostrou que a civilização inteira é um sistema de negação da morte. A espécie recebeu um diagnóstico coletivo e reagiu como reage ao individual. Mudou de assunto. E ninguém tira o pé do acelerador da inteligência artificial, porque cada laboratório jura que o perigoso é o do outro.
Goethe escreveu isso há 2 séculos no Aprendiz de Feiticeiro: a vassoura trabalhando sozinha e ninguém lembrando a palavra que desliga. O eco já chega às escolas e consultórios e conversa de família na mesa do jantar, com jovens perguntando para que estudar, para que poupar, num futuro que parece ter prazo de validade. E se me perguntarem se eu uso, ia, uso sim. Remédio e veneno sempre foi questão de dose e vigilância. O medo tem função, ele existe para virar cuidado, fiscalização, pressão pública. Nesse contexto, o medo maduro protege, enquanto o medo negado vira estatística.