Embora possa ajudar, IA não substitui consultas, pode dar respostas erradas sobre saúde e concordar com c

Saúde em Foco com Luiz Fernando Correia.

Doutor Luiz Fernando Correia, muito bom dia.

Bom dia, Milton. Bom dia, Cássia. Bom dia, ouvintes. Bom dia, doutor.

Ainda ontem no Hora No dia seguinte nós conversamos, e foi um assunto que o Teco Medina nos trouxe aqui, o caso daquele pastor americano, 55 anos, da Flórida, que foi à justiça agora contra a OpenAI, que é a empresa do ChatGPT. Isso porque ele tinha feito uma consulta lá no ChatGPT, recebeu uma resposta, aliás, uma resposta bem curiosa, né? E claro que não deu certo, sofreu problema, e agora ele tá indo à justiça porque ele quer uma indenização. Eu queria olhar esse caso aí do ponto de vista da medicina, né?

Pois é, Milton, a gente já como médico, a gente já vem convivendo há décadas. Primeiro era com o Dr. Google como segunda opinião, né? O paciente já chega no, chegava no consultório com várias páginas impressas, quando se imprimiam coisas, né? Hoje em dia nem isso imprime mais, é com informações achando já sabia tudo que ele tinha. E que acho que a gente tava ali mais para reforçar o que o computador disse ou não, muitas vezes.

Mas agora isso é pior, porque as pessoas não vão ao médico, porque não é mais a segunda opinião, né? É, passou a ser a primeira. E aí complica. Esse caso do, realmente, do pastor também me chamou atenção, e eu fui dar uma olhadinha nas evidências que existem. Existem estudos mostrando isso, né? Teve um estudo publicado na revista Digital Medicine, do grupo Nature, que fez o seguinte: avaliaram 858 respostas de 4 ferramentas, 4 chatbots, a perguntas reais de pacientes, feitas do jeito que a pessoa faria.

O cara vai lá e diz: tô sentindo isso, o que que pode ser? Ou coisa parecida. Resultado: de 5% a 13% das respostas eram inseguras, ou seja, tinham potencial de causar dano grave. Nenhum dos sistemas, de uma das ferramentas, chegou a não ter respostas inseguras. Todos eles, os melhores que tinham eram 5%. E o segundo achado, que foi uma pesquisa feita pela Universidade de Oxford, também publicada na Nature, os pesquisadores treinaram os modelos de inteligência artificial para serem mais calorosos e empáticos quando atendessem os pacientes.

E aí avaliaram 400 mil respostas. Os modelos que ficaram mais acolhedores, vamos dizer assim, aos pacientes erravam entre 10 a 30% mais vezes, em cima daqueles erros que já existiam. E o que é pior, eles tinham a tendência de concordar com as crenças incorretas de quem tava perguntando em 40% vezes mais frequentemente. Ou seja, se a pessoa inclusive expressava tristeza ou medo, ou seja, o sistema ficava menos confiável exatamente quando o paciente estava mais frágil.

E aí, para amarrar, tem um terceiro estudo, um estudo com 39 mil atendimentos de emergência no Hospital Universitário na Grécia. Comparou 7 modelos de classificação de risco feita por emergencistas treinados, médicos humanos, com os modelos de inteligência artificial. Nenhum deles atingiu a concordância forte, e o pior desempenho das ferramentas de IA foi justamente nas categorias de maior gravidade. Ou seja, não é tanto, nem tanto ao mar nem tanto à terra, né, Milton?

Não é que inteligência artificial não serve para saúde, ela serve sim. Ela serve para organizar dúvidas, pode ajudar a preparação para consulta do paciente, O problema é quando ela deixa de ser um caminho e a pessoa acha que aquilo ali é a solução. Então é o seguinte, você pode estar em dúvida, vai ao médico, tá sentindo alguma coisa estranha, pode usar a ferramenta de inteligência artificial para te ajudar a formular as perguntas, mas não para decidir se você vai ao médico.

Esse aqui é o problema. E uma coisa importante: se a ferramenta de inteligência artificial te acalmar, a ponto de você adiar consulta ou deixar de ir ao hospital, não siga isso. Para de fazer isso. Nada, falta de ar, dor no peito, tontura que não passa, inchaço na perna, não dá para você fazer diagnóstico pela internet, por IA. E é o seguinte, gente, sabe qual é o melhor conselho? Se alguém da tua família, alguém que gosta de você, insiste que você precisa ir no médico, Acredite, gente, essa opinião vale mais do que qualquer ferramenta artificial, porque essa pessoa tá olhando para você.

A ferramenta artificial, ela é feita para concordar com você. É muito difícil que ela— quem já usou, e a gente usa isso todo dia geralmente, sabe que é mais fácil você fazer uma pergunta que ela vai dizer para você. Ela quer ser seu amiguinho, gente, e no ponto de vista de saúde, às vezes não dá para ser amiguinho. Né? Então você tem que dar respostas duras, você tem que propor coisas que a pessoa não quer ouvir, você tem que discutir coisas que a pessoa não quer discutir.

Então, gente, é melhor você tratar com humanos e deixa a inteligência artificial na saúde para ser como uma ferramenta. Para nós médicos é fundamental. A quantidade de informação que tem no mundo é surreal. Só realmente com esses mecanismos a gente consegue compilar essas informações e nos ajudar a entender o que tá acontecendo.

Muito obrigado, Doutor Luiz Fernando Correia. Pode ter certeza que aqui nós vamos sempre consultar você antes, tá? Antes, pode ter certeza disso. Um abraço grande, até mais.

Abraço, bom fim de semana para todo mundo. Bom fim de semana, doutor.