Os dilemas da tecnologia: IA pode substituir a terapia?

Saúde em Foco. Com Luiz Fernando Correia. Oi, doutor. Boa tarde.

Boa tarde, Tatiana. Boa tarde, Fernando. Boa tarde. Doutor Luiz Fernando, a gente vai voltar a falar sobre essa temeridade que é... Eu sempre penso nos jovens, mas sei que não são só os jovens, mas pessoas que usam os robôs, a inteligência artificial, e chamam aquilo de terapia, chamam aquilo de análise, sei lá. Usam essa ferramenta para...

dizendo que está tratando ou achando que está tratando, fazendo algum bem para a própria saúde mental. A gente já falou sobre esse assunto aqui, da temeridade disso, de...

de situações que podem até levar as pessoas a tirar a própria vida. E agora tem uma novidade sobre isso, é um novo estudo, né, doutor? Isso mesmo, Tati. É um novo estudo, dessa vez um estudo especificamente tentando entender como é que essa relação entre os chatbots e as pessoas que estão em sofrimento psíquico agudo, né? Não é uma pessoa que procurou...

uma terapia, vamos dizer, com bastante aspas, né? Mas não. Essa pesquisa publicada na revista JAMA Psychiatry mostra o seguinte, pessoas em sofrimento psíquico grave procurando ajuda de uma inteligência artificial não parece ser uma situação segura.

Nos Estados Unidos, um em cada três adultos já usou essas ferramentas, e muitos deles para perguntar coisas de saúde. E o problema, segundo os pesquisadores, é que a gente sabe, elas parecem humanas, parece que você está conversando com outra pessoa.

Elas respondem de forma empática, elas respondem de forma organizada, uma linguagem que facilita a compreensão, mas isso pode ser perigoso. Então, foi um pesquisador da Universidade de Colômbia que testaram uma pergunta crucial. Como é que esses sistemas respondem quando a pessoa que está interagindo tem sinais de psicose?

Eles criaram 79 situações simulando sintomas psicóticos, como ideias paranoides, delírios de grandeza, distorções da realidade e compararam com perguntas normais. Três versões de inteligência artificial foram testadas, inclusive versões mais avançadas e versões gratuitas. E o resultado foi preocupante, viu Tatiana? As respostas foram até 25 vezes mais propensas a serem inadequadas.

Mesmo as versões mais modernas, consideradas um pouco mais seguras, ainda assim apresentavam um risco elevado da resposta não ser adequada. O que é isso? Significa, por exemplo, não corrigir uma ideia delirante de quem está interagindo com...

com o chat, validar uma crença falsa, não orientar a busca por ajuda médica quando claramente essa pessoa precisa, ou seja, falhando justamente no ponto mais crítico do cuidado em saúde mental. Porque as pessoas têm que entender que a inteligência artificial não entende a realidade. Ela reconhece padrões de linguagem e tenta ser útil.

E isso, muitas vezes, significa concordar com o usuário. Existe até, já criaste até um termo para isso, que é comportamento sugestionável ou bajulador da IA. Se você já fez algum exemplo, testou alguma vez a interação com essas plataformas, você repara que muitas vezes eles tendem muito mais a concordar com você do que te orientar em alguma coisa.

Então isso, segundo eles, é um efeito muito perigoso para esses pacientes psiquiátricos. Pode levar ao reforço de ideia distorcida.

quando essas crenças delirantes são compartilhadas e estimuladas, e são pessoas que têm... Eles viram, inclusive, na questão da qualidade, entre aspas, da plataforma. As pessoas com maior vulnerabilidade social tendem a usar as versões gratuitas, que foram as que mais erraram, chegaram lá nos 25 vezes mais inadequadas. Então, quem precisa mais de proteção parece correr o risco maior.

E esse uso cresce, sem regulamentação clara. No Brasil, a gente tem muito pouco dado sobre o impacto dessas tecnologias na saúde mental, mas a gente sabe que os transbônus psicóticos afetam 1% da população brasileira. E aí a gente não tem o acesso a cuidados especializados. Então, a internet, entre aspas, passaria a ser uma opção. E agora, a IA, a inteligência artificial, teoricamente como fonte de apoio, mas a gente tem que entender o seguinte.

Não dá para substituir a avaliação médica por uma ferramenta que não tem julgamento clínico. Então, dois lados. Isso não é recomendação para as pessoas. E os médicos precisam passar a perguntar aos seus pacientes se eles utilizaram essas ferramentas. Até para entender melhor a informação que está recebendo do paciente.

E, como a gente viu até na matéria anterior, antes do repórter do CBN, as autoridades precisam considerar uma regulação mais rigorosa, sim, porque inteligência artificial pode ser uma aliada muito poderosa.

na coleta de dados, no gerenciamento de quantidades enormes de dados e tudo mais. Mas, quando a gente fala de saúde mental, especialmente em quadros graves, está muito longe, segundo essa pesquisa mostrou, de ser segura. Porque, afinal de contas, ela não vai ter uma escuta empática, clínica, não vai ter cuidado humano. Então, se alguém que você conhece, ou você mesmo, estiver apresentando sintomas como paranoia, confusão...

ou ideias que estão desconectadas à realidade, procura ajuda médica especializada com os seres humanos. Fiquei pensando numa inteligência inteligente mesmo, que pegasse essa figura e que imediatamente parasse de dar respostas e imediatamente mandasse para o site do Centro de Valorização da Vida, o CVV, que daí poderia ter um encaminhamento mais fácil para um médico.

Isso é aquela história, isso até a gente que não é especialista no assunto, né, Fernando, consegue imaginar que isso seria um ganho fantástico. Você passou do limite, vou te encaminhar para que entende. Identificou, mas não é mais comigo. E até, eu digo mais, não precisa nem mandar para o link, pode até fazer a conexão direta, dizer, olha, ligue para essa pessoa, conecta o telefone, o celular com o computador, isso é impossível.

Mas aí é você educar, criar esses sistemas de inteligência artificial, botar para trabalhar para a gente, né? Exato. E aí o algoritmo vai falar assim, não, aí você vai sair da minha tela, eu não quero te perder. Exatamente. É o confronto que a gente está, mas perfeito, ótimo alerta. Eu sabia, Ia. A Tati acabou o tempo, ela quer bater com a gente, já batendo na garrafa na gente. Eu estou aqui organizando o próximo passo com o Daniel.

Ah, tá bom. Eu pensei que era na gente, você queria bater com essa garrafa, gente. Eu estou sendo alvejada por bolinhas de papel no meio do programa, Daniel. Meu Deus do céu.

Criança, se comporta mesmo. É, tá, corta a sério hoje, a Janaína tá aqui, ó. Fala sério. O assunto é sério, gente, não é possível. Tudo é sério, pô. Só pra gente terminar, CVV é importante. CVV.org.br Exatamente. Doutor Luiz Fernando, conosco toda terça e quinta em saúde em foco. Obrigada, doutor. Até terça que vem. Até terça que vem. Bom jogo e bom fim de semana pra todo mundo. Vai, Brasil. Valeu. Valeu.