Episódio #15 - Saúde Mental e IA, com Luiz Dieckmann

Olá, está começando Futuramente, um podcast da CBN sobre como as novas tecnologias estão impactando a nossa vida. Esse podcast é apresentado por Marta Gabriel, futurista, especialista em inovação e tecnologia, e por mim, Carol Tamacia, jornalista aqui da rádio CBN. Hoje a nossa conversa é sobre novas tecnologias na medicina, especialmente o uso da inteligência artificial na saúde mental. Marta, cada vez mais as pessoas estão recorrendo a IA para buscar um acolhimento emocional.

Então, tem o chatbot, os aplicativos que fazem escutativa, organização de pensamentos e até apoio em momentos de ansiedade, coisas assim. Você acha que isso, esse momento em que a gente está entrando, ele vai ampliar o acesso aos cuidados emocionais ou ele pode ser algo que vai enfraquecer os vínculos humanos? Na realidade, acontecem as duas coisas, né, Carol? Toda vez que tem tecnologia entrando, ela amplifica. E ela amplifica possibilidades e amplifica também desafios.

no processo. Se a gente pensar, fiz minha colinha aqui também, que eu analiso antes, como que ela amplia os cuidados? Inclusive, ano passado, a gente teve uma discussão bem forte aqui, conforme os chatbots começaram a entrar inteligentes, as pessoas começaram a se apegar, a gente tinha gente usando de maneira muito inadequada, gente que ficava deprimida, não entendendo a relação com a tecnologia, e gente que usa de maneira muito boa, inclusive quando você está em isolamento,

regiões que você não tem com quem conversar, para aprofundar assuntos. Isso te ajuda a adquirir conhecimento, confiança. A gente sempre fala isso, que o maior antídoto contra o medo é o conhecimento. E você pode ampliar conhecimento em um monte de áreas, mas tem que saber, aquilo que a gente fala do pensamento crítico, quando aquilo realmente faz sentido e quanto aquilo está te afetando. Então, como amplia acesso aos cuidados emocionais, democratiza o suporte psicológico,

Inclusive, você começa a ter atendimento 24 horas, apoio inicial para quem tem medo e vergonha. Medo e vergonha é uma coisa muito interessante, porque eu lembro que, não sei se eu cheguei a comentar em algum momento aqui, mas o meu mestrado era sobre interfaces de voz na web. E lá atrás eu estudava o comportamento das pessoas no uso de tecnologias de voz. Isso em 2004, lá para trás não. E quando você tinha situações de perigo, situações de medo, de vergonha, por exemplo, fazer uma aplicação.

Você tem muito dinheiro, você ocupa lá o atendente uma hora e ele vai te dando as opções. Agora, você tem 100 reais para aplicar, 150? Você tem vergonha de aplicar aquilo? Você fala com o chatbot durante horas, mas você não tem coragem de alugar uma pessoa para falar aquilo. Então, tem várias situações onde você consegue realmente ser porta de entrada, vai nessa situação. Detecção precoce de risco emocional. Hoje, conforme as pessoas utilizam a tecnologia, da mesma forma que um ser humano consegue detectar sinais

de que pela fala, o jeito da pessoa, ela pode estar com burnout, ela pode estar, sei lá, com depressão, dando sintomas de alguma coisa, você pode detectar isso pelos sistemas. Então, o problema é como que você transforma isso numa ajuda humana depois no processo, né? Mas isso pode ajudar a intervenção precoce, encaminhamento adequado, monitoramento contínuo, etc. Personalização baseada em dados biológicos e comportamental. A gente usa hoje já os wearables com IA, pra gente entender como é que é.

nosso sono, como é que está a nossa saúde, como é que a gente está reagindo com o ambiente. Então, isso melhora nossos cuidados como um todo. Só o sono, e a gente vai ter um convidado muito especial aqui que vai falar sobre todas essas dimensões com muito mais propriedade, usando a parte da medicina, mas o sono tem inúmeros estudos que comprovam quanto ele regula um monte de coisa, inclusive o nosso humor. Quando você não dorme, você fica doido, estressado, não pensa direito. Então, você consegue ter esses direcionamentos.

A mente, ela consegue ser útil, sim, ainda mais para quem está em áreas remotas, mas pode enfraquecer vínculos humanos. Esse é o grande debate que a gente está tendo desde o ano passado. O principal deles, substituição da presença humana. A presença humana é muito importante pelo desenvolvimento biológico do nosso cérebro. Inclusive, cria recompensas quando você está na presença humana. A gente viu na pandemia quanto isso fez falta para a gente também. Então, o contato humano gera vários hormônios, oxitocina, etc.

quando você tira isso, fica só ali com o chatbot, você tira o humano. Ilusão de vínculo de reciprocidade real, que não acontece com essas tecnologias. Na realidade, conflito, negociação, coisas que acontecem com os seres humanos, acontece pouco com esse chatbot, a menos que você configure para isso. Ele sempre acha que tudo que você está falando é lindo, que tudo está maravilhoso. Te dá a informação que vai te... E a falta desse embate, ela tem problemas no desenvolvimento da nossa personalidade,

Dependência psicológica, esse é apontado como um dos principais riscos para a humanidade, não só na parte emocional, mas na parte cognitiva. Você terceirizar o seu cérebro para fazer coisas, você acaba não desenvolvendo aquilo que você precisa e isso pode criar problemas. Outra coisa que é legal, que é risco na realidade, mas que é legal observar, empobrecimento da diversidade relacional. Quando eu estou com pessoas,

as pessoas são extremamente diferentes, né? Mesmo que você pense num ambiente que você já tá num cluster, vai, das pessoas que convivem com você, trabalham na mesma área, etc. Mas é diferente, um é mais expansivo, outro é menos, um adora esporte, o outro gosta de alguma outra coisa. Quando você tá com chatbot, você não tem essa diversidade, né? Você tem uma coisa muito mais homogênea, pasteurizada. Então, pra pensar no equilíbrio, ela pode ser ferramenta de apoio, ponte pra terapia humana, né? Pra ajudar a gente, inclusive, né?

Procurar o humano, sistema de triagem, recurso psicoeducativo e monitoramento complementar. Problemas graves é substituição, ela vira problema, né? Substituição de vínculos, refúgio permanente contra relações reais, você está fugindo daquilo que é o atrito com as outras pessoas, e única fonte de validação emocional. Vamos aprofundar ainda mais agora, trazendo um convidado, que é Luiz Dickmann, médico psiquiatra pela Unifesp, especialista na aplicação da inteligência

Inteligência Artificial na área da saúde. Seja bem-vindo, doutor. Muito obrigado pelo convite, fico muito honrado. É um prazer ter você aqui. Bom, em 2023, quando muita gente ainda nem sabia o que era o chat GPT, o senhor já estava falando dos benefícios da inteligência artificial para a psiquiatria, né? Hoje existem esses chatbots que a Marta estava comentando aqui, os aplicativos que usam IA como apoio emocional. Eles podem realmente, na sua prática clínica, no que você vê, eles podem realmente ajudar essas pessoas que sofrem de transtornos de ansiedade ou de depressão?

Bom, esse é um ponto que é sempre central em qualquer discussão que a gente vai iniciar na psiquiatria. Como a gente estava falando, existem potenciais utilidades que são fenomenais. O alcance, a democratização, levar esse tipo de acesso a pessoas que antes não teriam nenhum tipo deles. Porém, como toda tecnologia, vem com o risco do uso inadequado, o uso ingênuo, o uso não devido e por várias questões éticas.

sempre, quando a gente está falando sobre isso, que sim, tem uma utilidade, mas tem que ter uma regulamentação. E todo esse trabalho agora, por exemplo, o CFM acabou de publicar sua nova diretriz sobre IA na área de saúde, ou seja, atualizando, porque é um tema que está mudando a todo momento e as perguntas não param de brotar. De quem é a responsabilidade? Quem faz o quê? Quem toma decisão? E aí, eu acho que o mais importante nessa conversa é a sobreconfiança, ou seja, tem que ter muito cuidado

quando as pessoas vão para os dois extremos. Ou nega por completo, e aí aquela pessoa que é o mais tardio, que não adota, não quer saber, e ele é o rebelde, fala daqui não entra, aqui não vai. E o outro extremo, que é de confiar demais naquela capacidade de uma máquina, de uma matemática, de um algoritmo, trazer soluções que são eminentemente humanas. Você pode simular, você pode emular sentimentos,

emoções, falas, eu posso ser galanteador, eu posso ser rude, eu posso ser isso ou aquilo. Mas ainda assim isso é só um padrão que está sendo replicado por um algoritmo, por uma matemática que gera uma ilusão de um apego, de um attachment, de um vínculo e que ele não existe. Então entendendo isso e deixando claro dentro, por exemplo, da terapia cognitivo-comportamental. Por que eu falo dela? Porque ela é mais estruturada do ponto de vista de começo, meio e fim, quais são as técnicas, como é que você trabalha isso.

uma sessão e outra, por exemplo, de um psicoterapeuta, e eu não sou psicoterapeuta, sou psiquiatra da linha biológica clínica, mas vamos falar de um psicoterapeuta. Entre uma sessão e outra, tem uma série de exercícios que são feitos para você identificar gatilhos, para você identificar o que você pensou na hora que você teve um sintoma ruim de medo, de angústia, de tristeza, qual foi o pensamento alternativo que gerou aquilo, o que você estava fazendo na hora, qual foi o pensamento que brotou na sua cabeça, e isso é um exercício, como em matemática,

você vai lá repetindo, repetindo, repetindo. Então, se você tem um agente entre uma sessão e outra que pode te ajudar a trabalhar aquilo entre um dia e o outro da sessão, ótimo. Eu tenho um professor de música, ele me dá uma aula, ele me ensina uma série de teorias e técnicas. Eu vou ter que treinar entre uma sessão com ele e a próxima sessão. Então, eu acho que quando o chatbot, o algoritmo, o agente, ele entra nesse complemento à humanidade,

de algo que está sendo supervisionado, sim, por humano, porque a gente está falando de algo preciosíssimo, que é a saúde mental e a vida, porque isso traz riscos, né? E você não está negando a tecnologia, pelo contrário, você vai poder amplificar a quantidade de pessoas que vão receber esse cuidado que antes nunca receberiam durante toda uma vida. É, tem chatbots ligados a universidades, por startups interessantes e tal, mas para quem está ouvindo a gente aqui nesse podcast, como que eu diferencio uma ferramenta

séria, por exemplo, de um chatbot desses que apenas simulam empatia. Você tem algum exemplo? Perfeito. Primeiro, você acabou de falar um ponto central. Quem é a autoridade por trás? Quem está referenciando aquilo que você está oferecendo? Porque hoje, com as chamadas LLMs, essas linguagens, Largo Land Models, você tem as chinesas, as asiáticas, as europeias, as americanas, e todas elas, todas elas são boas. Ou seja, todas elas fazem bem o papel de

conversar com alguém. E se você não faz o que a gente chama de guardrail, que é como se uma proteção daquilo, até onde eu vou, qual a base de conhecimento, onde eu acesso, aonde eu tenho que travar a conversa para não fluir a partir dali e ter um humano conversando. Isso tudo, quem vai garantir? Quem programou aquilo? Então, quando você está ligado a um grande serviço de saúde, a uma universidade, a uma academia, do ponto de vista da academia, da parte científica,

Isso traz o background de quem está cuidando para que aquilo seja sério, para que aquilo seja validado e principalmente monitorado. Não a conversa e a privacidade das pessoas, mas como que as IAs têm reagido àquilo que traz. Porque tem muita coisa, como foi dito, que não está mapeado. São problemas que vão aparecer em algum momento que você não previu. Ninguém consegue prever tudo. Então alguma coisa sempre vai escapar. Mas isso não é sinônimo de frear o avanço,

é sempre um fenômeno de até onde eu posso ir sem uma supervisão. E aqui é muito pouco. Toda vez que você envolve saúde e risco, você tem que ter sim uma regulamentação. Isso não é censura, isso não é nada do ponto de vista de tirar liberdade, mas sim trazer respeito e responsabilidade, porque tem um humano na outra ponta. E você nunca gostaria que fosse com o seu pai, com a sua mãe, com a sua irmã, seu marido, sua mulher, o seu filho, um risco associado.

os outros o façam se a gente não faria pra gente também. É pra garantir, né? Na realidade é pra garantir a segurança, pra garantir saúde, pra garantir saúde mental, não deixar isso desviar. Então é super importante ter esse equilíbrio. E olha só, isso é tão importante que foi o foco agora de atenção lá nos Estados Unidos, o embate entre o governo norte-americano e o Claudio, o CEO da Claudio, falou, eu não quero a minha IA envolvida, eu quero uma garantia que isso não vai existir, não vai ter vigilância

em massa e não vai ter o uso de armas autônomas. Eu não quero que uma IA decida se pode ou não atacar alguma coisa. Por quê? Uma arma militar, ela automaticamente vai gerar um dano. Então, assim, a responsabilidade que vai na pessoa que detém esse conhecimento. Isso gerou um embate enorme e teve um corte do relacionamento, um vínculo cortado entre o governo e o cloud. Porque o cloud hoje é a que está mais no hype, falando, cloud code, antrópico.

É uma empresa muito grande, tem outras tantas maravilhosas, mas são decisões centrais, porque não é o como, é o porquê, qual é a razão, qual é o propósito. É para ajudar ou para atrapalhar? E aí eu posso defender os dois lados da moeda e tem argumentos bons dos dois lados. Mas o Antropic, o Claude, a Modei, que é o CEO, das IAs todas, é que desde o começo tem tido um cuidado super especial com os guardrails.

Inclusive, uma coisa muito interessante, de que como a gente está mudando a forma como a gente obtém informações na sociedade, você usar tecnologias avançadas, inclusive com uso militar, em contextos que antes eram inofensivos, agora passa a ser prejudicial. E o exemplo que ele dá é, obviamente, na rua, ninguém pode querer ter direito à privacidade. Você está na rua, você está no espaço público. Então, o que você fala na rua, etc, etc. Só que existe um consenso,

que o que as pessoas falam na rua não é ouvido pelas outras. Eu estou batendo papo com você ali na calçada, ele está batendo papo com outra pessoa. A gente sabe que existe uma distribuição espacial do que a gente está falando e mesmo as câmeras, o que elas conseguem pegar. Com o IA, e com o IA mais avançada e tecnologias que você consegue pegar maior alcance de voz, você consegue pegar todos esses dados, mapear tudo e você pode, por exemplo, saber quem está falando mal do governo, quem está falando tal coisa. Então, isso não existia antes.

a gente não entender esses gaps, por isso que eu falei que surgem vulnerabilidades. E a Antrop, que o Claud fez tanto sucesso em colocar essas questões éticas, que eles caíram dois dias atrás, por causa de tanta gente que começou a assinar a parte de confiança que o Luiz estava falando. Quando você mostra... Hoje, confiança é o crítico para subir bolsa, descer bolsa, serviços, para a gente ter qualquer tipo de relacionamento mais assim. E aí, quando a gente tem uma coisa séria dessas,

confiança, você acaba querendo se apegar. E tem uma outra coisa, por exemplo, um chatbot orienta mal alguém que está sofrendo, que está passando por uma situação difícil. Quem responde por isso? E hoje já deixo claro. Quem responde por isso e aí eu acho que é um ponto central e para todos os nossos colegas da área de saúde, principalmente os nossos colegas médicos. Hoje, qualquer tomada de decisão, ah, mas foi o algoritmo, me deu no guideline isso e aquilo. Não. Quem assina, quem carimba é o responsável.

Ah, mas a Open A, o Antropic... Não, não, não. Isso ficou reafirmado agora pelo CFM de que a tomada de decisão independente foi uma sugestão de A. É sugestão. A conduta é sua. Agora você vai para um ponto além. E quando não tem ninguém carimbando e assinando? Ou seja, é a empresa, é o usuário que tem que ter uma responsabilidade maior de saber algo que ele não tem eventualmente uma capacidade de ser nisso sobre aquilo? E aí começam os problemas éticos.

isso, que determinados assuntos como saúde tem que ser muito regulamentado dentro das LLMs do que está aberto ao público. Por quê? Porque o público vai usar. Todo mundo aqui, eu tenho certeza, que antes jogava no Google os sintomas, agora vai lá no chat EPT da vida e fala o seguinte, estou com isso, isso e isso, eu quero saber o que eu tenho. Só que a gente tem que lembrar sempre que diagnósticos diferenciais existem diversos, ou seja, uma coisa que parece gripe pode, com certeza, ser um câncer agressivo,

que o paciente tem, mas aquilo é um diagnóstico diferencial raro, tem probabilidade, tem estatística. Então, dependendo de quem configurou e como configurou aquele modelo de linguagem, ele pode estar indo atrás só do raro. E aí você vai fazer um assustar uma pessoa com algo que não tem nenhum cabimento naquele contexto. Então, o humano bom, quando se junta a uma IA boa, aí a coisa sai muito melhor do que a média. Por quê? Porque eu vou pegar o melhor dos dois mundos, que é capacidade de processamento,

padrão, ver algoritmo, ver grandes bancos de dados, que o computador faz muito melhor do que o cérebro humano, mas discernimento, tomar decisão, empatia, se colocar na dor do outro. Porque às vezes você vai falar a mesma coisa, mas tem jeitinho. O jeitinho, o gato subiu no telhado, essas coisas, eles são muito interessantes. Por quê? Porque eu posso dar a mesma notícia e acabar com o seu dia, ou dar uma notícia de uma forma que vai te fazer uma tomada de ação, vai te ser transparente, não vai ser mentira, mas vai

fazer com que você reflita, pense e tome uma outra ação. Então, eu acho que esses pontos são importantíssimos, porque eles precedem a IA. Eles são o propósito. E aí vai muito com o que a gente está falando. Por que uma IA faria ou não uma vigilância total? Eu vou ler o lábio das pessoas? Eu vou ver o cochicho? Eu vou fazer um foco direcional do áudio para pegar? Será que isso está correto? E aí são perguntas maiores do que a IA. A expectativa de privacidade, inclusive, isso de quem é responsável,

E A não é uma entidade reconhecida legalmente. Então, em qualquer área, se você é designer, se você é engenheiro, se você é o que for, a responsabilidade, inclusive tem essa discussão no judiciário, tem essa discussão em conselhos, como sugestões, como o uso de ampliar a decisão, ok, decisão final é sua, você é responsável. Se você usou direto e o negócio estava errado, você é responsável. Eu trouxe um dado aqui, um estudo publicado,

na revista científica JAMA Network Open, revelou que mais de 13% dos jovens americanos que têm entre 12 e 21 anos já usaram a IA generativa para buscar conselhos de saúde mental. E na faixa dos 18 aos 21 anos, esses índices subiu para 23%. E desses que usam, mais de 90% consideram os conselhos úteis ou muito úteis. Então eu queria perguntar um pouco sobre isso, esse aconselhamento de jovens com as IAs, que é um pouco diferente dos chatbots.

é positivo, ou você tem que tomar mais cuidado do que os chatbots, e se é aquilo que eu falava com a Marta lá atrás, se isso pode estar tirando um pouco a humanização da pessoa, enfraquecendo o vínculo dessa pessoa, se pode trazer problemas. O que hoje acontece? As pessoas vão lá e usam. E é útil? Sim, se você me perguntar como CPF, pessoa física Luiz, aficionado por tecnologia, eu vou dizer, nossa, maravilhoso. É muito legal. Por quê? Porque a IA hoje, com 3 anos

de LLMs no mercado, ela já tem uma capacidade muito boa de reconhecer o que é uma boa resposta, o que é uma resposta ruim, o que aquilo vai dar de trigger, de gatilho, de sintoma em quem está recebendo. E o jovem, ele tem muito essa questão, ele quer a validação pelos pares. Então, quando começa esse peer, que é o que a gente chama, que a gente começa a prestar muita atenção em quem está do lado na adolescência. Então, conforme a gente é criança, é o pai, a mãe, etc.

11, 12 anos, é o que os amigos estão falando. Então você começa, uma exclusão social ali é matadora. É muito pior do que apanhar de alguém. Por quê? Porque a sensação de estar fora do bando, estar fora do padrão, estar fora daquele grupo, ela é devastadora. O tipo de emoção que suscita é muito ruim. E aquilo vai permanecer, não é que isso deixa de existir quando a gente é adulto, mas a gente amadurece e vai lidando com isso de outra forma. E aí eu acho que esse número do JAMA, que é interessante,

talvez seja até subestimado, porque as pessoas às vezes não consideram o que estão fazendo como um tipo de pergunta de suporte de alívio. E aí vem um outro problema. Principalmente o GPT, a Open AI, já foi, já voltou para isso, ela é muito flattering, ela é muito lisonjadora, ela fala muito, perfeito, você está fazendo uma baita burrada, nossa, que ideia legal, você está fazendo isso e eu acho que isso, a minha mulher brigou comigo e tal, é, não, eu entendo você, porque realmente você é um marido esforçado e tal,

acabou de fazer uma alburrada e ela está tentando ler dos dois lados. Então, o jovem que vê isso muitas vezes é o que ele quer, porque ele quer ser reafirmado, ele quer sentir incluído, ele quer sentir apoiado e a IA vai fazer isso de modo automático porque ela está lá configurada para fazê-lo. Então, tem riscos? Muito, principalmente nessa idade. Ah, Luiz, então vamos banir tudo e censurar? Não, não, não, não, não. Vamos ver como fazer e como você faz com que a IA,

Seja essa, por exemplo, que é de uso aberto, ela identifique que é um tipo e ela já existe. Por exemplo, se você falar algum tema ligado a suicídio, todas elas ligam um gatilho de, olha, você tem que procurar ajuda, os números são esses, o telefone é esse, etc. Mas a pessoa pode ir lá para uma outra que não tem trava e fazer a mesma pergunta. Então, como é que a gente faz esse equilíbrio? Tem pessoas, adolescentes, adultos, jovens que estão procurando.

que ensinar essas pessoas sobre o cuidado que tem que ter na confiança daquele tipo. Ou seja, tem que deixar muito claro, as pessoas esquecem. Aquilo é só matemática, aquilo é só algoritmo, aquilo é só um chip, é silício, é fazendo cálculo. Não tem nada ali que pareça um humano. Por mais maravilhoso eu posso dar uma forma humanóide, eu posso pôr um robô com uma pele de látex linda, maravilhosa, uma boneca falante, ainda assim,

aquilo é tudo máquina. Máquina não tem sentimento. Não vai ter. Ela pode simular, pode emular, pode fazer o que quiser. Mas, por definição, aquilo não é nada próximo do humano. E nem vai ser. Ela vai simular e emular. Então, esse é o papel de pais, adultos, professores, entidades, sociedades, grupos médicos, de sempre lembrar. Porque cada vez que a gente usar mais, mais parecido com o humano aquilo vai ficar. E a gente, se não tiver essa reflexão todo dia, vai cair naquilo. Você sabe que

vai ser enganado, é aquele, me engana que eu gosto. Você vai, vai, vai, fala pra mim, mente pra mim. E você quer ouvir aquilo. Então, esse é o cuidado. Tem que ter entidades boas, tem que ter academia por trás de estudos, tem que ter estudo, tem que ter regulamentação, mas principalmente os responsáveis, nós, pais, eu sou pai, tenho o Lucas de 13 anos, tenho a Ana Luísa de 10 anos, e isso é sempre reforçado. Eu usar uma IA como psiquiatra, como médico, como executivo, como empresário, já sabendo de todo assunto, pra melhorar

a minha produtividade, é uma coisa completamente diferente de eu perguntar a fórmula de Bhaskara e pedir para ele resolver aquela equação matemática por mim. Porque eu tenho que bater a cabeça, eu tenho que, meu Deus, eu não consigo fazer isso, eu tenho que rascunhar, eu tenho que escrever, eu tenho que repetir. Isso faz parte do aprendizado humano, porque no final do dia a gente tem que lembrar. E se tudo isso acabar de um dia para o outro?

Não estou falando do apocalipse nem nada, mas assim, e se de repente não tem luz, não tem energia, não tem sistema ou vem alguma coisa ditatorial e tira?

não sabe nem cozinhar, nem lavar alguma coisa. Ou seja, a gente não pode desaprender. Perder as capacidades humanas, né? É isso. E aí? A gente vai morrer por inanição porque não sabe fazer absolutamente nada. Então as tecnologias têm que ser implementadas a mais e não a gente perder o que a gente sabe fazer. Posso até falar uma coisa que é uma reflexão que eu fiz quando eu era garota, porque a gente tá falando aqui da IA, né? Mas eu lembro que eu li Robson Cruzoé e ele fica naquela ilha. E aí ele começa e não sabe fazer nada. E o cara depende de

coisas básicas pra sobreviver. A partir de então, isso me dá um desespero existencial, do tipo, eu não consigo, tem várias coisas que a gente não consegue fazer. A sociedade, conforme ela vai crescendo tecnologicamente, a gente distribui essas funções e a gente perde esse básico. Por isso que hoje, até por causa da IA, tá tão em voga você fazer, aprender as coisas que são básicas de sobrevivência, independente de você ter estruturas que façam isso pra você. Porque, além disso,

te desenvolver, isso te dá uma segurança de que eu opero no mundo, mesmo que eu não tenha nada. E, aliás, eu vou dar uma dica aqui, que eu não sei quem já assistiu, é Pelados e Largados. Excelente. Excelente. Pelo título, eu não queria assistir. Aí, uma vez, meu filho estava lá em casa, ele veio visitar a gente. Ele, não, mas isso é ótimo. E aí, você sabe que, porque eu assisti aquilo que eles colocam, em suma, pra quem nunca viu, assista, por favor, um episódio, pelo menos, eles pegam uma pessoa pelada,

verdade, um casal pelado no meio do mato, e às vezes é na África, às vezes é não sei aonde, e se vira aí com as suas habilidades. Quando eu vi aquilo, eu falei assim, gente, a gente consegue. Por causa disso, eu comecei a fazer trilhas que eu não faria antes. Você fala assim, uau, eu tenho esse potencial. Então, isso não é só coiar. O alerta que eu queria falar aqui é, a gente tem que garantir que a gente consegue ter o mínimo de todas as nossas competências pra que a gente consiga sobreviver como um todo. Perfeito, falou tudo.

citou ali a nova resolução do Conselho Federal de Medicina, vou só passar aqui alguns pontos, porque ele é bem recente, não sei se ainda todo mundo tá sabendo, vai entrar em vigor ainda daqui 180 dias, mas na prática o que muda aqui, né? Os médicos vão ter que começar a registrar o uso de A no prontuário do paciente, os pacientes vão ter direito de saber quando a tecnologia foi usada por aquele profissional, a decisão final continuará sendo exclusivamente humana do médico, né?

E os diagnósticos não poderão ser comunicados aos pacientes por sistemas automatizados, não vai ter uma IADES ainda

que você tem. E os hospitais e clínicas vão ter que criar a estrutura de governança formal de A, que também é uma coisa interessante, que tira cada um fazendo de um jeito e acaba ficando mais complicado. Essas normas, de um ponto de vista geral, você acha que elas protegem o médico, o paciente, ou elas vão mais para a linha de frear a inovação? Não, elas são excelentes e eu acho que elas estão certíssimas. O CFM está acertando nessa regulamentação.

Então, por exemplo, dentro da empresa a gente tem, a gente constrói um prontuário

há 5 anos, chama Tribe Media Assist. E a gente implementou várias funções de A lá dentro. Transcrição de áudio. Então, o paciente chega no meu consultório e eu falo o seguinte, olha, eu posso escrever e ligar a transcrição aqui e a gente vai conversando. Eu olho muito mais para o paciente, para o olho no olho. O registro formal eu faço nos últimos 3 minutos quando eu mando sumarizar e ele me traz toda a nossa conversa organizada, antecedente pessoal, antecedente familiar, queixa, duração, etc.

E aí é a minha responsabilidade ver se tudo aquilo está certo para eu dar um incluir. Ou seja, eu não posso incluir sem olhar. Eu tenho que ter um botão humano da minha responsabilidade. Só que o que isso tirou? Por exemplo, o escriba dentro do nosso prontuário. O escriba, que é isso de transcrever, ele é uma das maiores burdens, que é o que a gente chama de cansaço, que é o que faz o médico entrar em burnout. Burocracia, ficar fazendo papel, fazer documento. Isso está muito cansativo.

também, você está falando e o médico escrevendo. É muito chato. É incômodo, não é? É claro. Parece que você está conversando no WhatsApp com outra pessoa. Se rir, então piorou. Então, isso nos dá a possibilidade de voltar àquilo que a gente é. Uma relação humana. Agora, eu posso pegar e usar isso para o mal e aí fazer só uma produção maior e atender mais gente. Bom, eu posso. Ou seja, toda a tecnologia, eu posso desvirtuar ela em vez de melhorar aquela uma hora que eu vou

estar com o paciente, então eu vou pôr cinco pacientes no mesmo momento para simplesmente aumentar a minha produtividade. E aí que vem os freios reguladores, ou seja, qual é a teoria? É melhorar o atendimento e o tratamento do paciente ou é simplesmente fazer mais e melhor? Porque as pessoas falaram, quando vier a IA, a gente vai trabalhar menos, a gente vai fazer menos coisa, o dia de semana vai durar três dias. Não, não, não, o que a gente viu é que a produtividade aumentou

pessoas estão trabalhando mais, ou seja, se você aqui na rádio CBN consegue, em vez de fazer uma coisa em uma hora, consegue fazer três coisas em uma hora, você não vai deixar de fazer duas. Vão te colocar para fazer três e aí aquilo vira o novo normal. Então assim, existe um cuidado e aí eu acho que é um direcionamento, um propósito e eu acho que mais importante que isso é dar os dados e aí eu como psiquiatra falo muito e casa é de ferreiro, espeto de pau. Eu tenho que me cuidar muito porque senão eu vou privar meu sono,

tenho 3 mil coisas para fazer. Então tem empresa, tem consultório, tem paciente, tem aula, tem curso. Eu tenho que fazer um monte de coisa. E se eu simplesmente for colocando mais coisas, eu vou me sobrecarregar. Vai sobrar menos tempo para minha esposa, vai sobrar menos tempo para meus filhos. Eu vou atender depois. Alguém vai atender os meus filhos falando que eu era um pai ausente, que é a mesma coisa que eu recebo no meu consultório. Então a gente tem que tomar muito cuidado,

vira vítima da nossa própria solução. Então, dentro do prontuário, a gente faz sugestões, mas sempre dentro da IA, antes de falar o que ela vai fazer. Você não pode falar o que o médico vai fazer, porque isso também traz um empobrecimento cognitivo. E além do empobrecimento, nem pode, por regulamentação. A gente tem um módulo, que olha que legal, uma das nossas ferramentas, que é discussão entre especialistas. Então, a gente tem implementado isso em outros lugares, e a ideia é chegar nos hospitais grandes, que é o seguinte.

Você põe na nossa ferramenta, você fala um psiquiatra discutindo com um cardiologista e aí eu tenho um juiz. Então, o psiquiatra vai rodar uma ferramenta, por exemplo, a gente escolhe lá, ele roda o GPT 5.2, que é o mais avançado. O cardiologista vai rodar um outro, que é o Cloud Sonnet 4.6, que é o outro avançado. E o juiz vai ser o Google avançado. E aí, qual que é? Olha, eu tenho um paciente que tem um problema no coração e eu quero usar uma medicação chamada Estalopran e eu estou na dúvida se eu posso,

se eu não posso, o que eu devo fazer, ele já usou, não funcionou. Esse é o mote. E aí você põe o especialista 1, psiquiatra, ele formula tudo, pega todas as evidências, checa se a evidência é verdadeira, se não é alucinação e traz. E aquilo manda na nossa ferramenta para o segundo, que é uma outra empresa, que é o cardiologista. Aí o cardiologista vai dar o pitaco de cardiologista. Olha, isso aqui pode, isso aqui não pode, isso aqui eu acho que é um erro, eu faria por aqui, por aqui, por ali, você já pensou nisso, nisso, naquilo, tá bom.

E aí tem um juiz, que é o terceiro, que é o chato, que é o cara que minimiza tudo, ou seja,

a qualquer criatividade maior para trazer para o chão. Isso é o primeiro round. E a gente roda três ou cinco rounds, ou seja, passa por nove inteligências sequenciais para quê? Para diminuir a chance de uma alucinação acontecer. Só que isso demora mais, isso tem um tempo de processamento maior. Então, assim, que tipo, em que lugar que eu vou implementar isso? Na UTI? No pronto-socorro? No pronto-atendimento? Eu vou passar por tanta rodada para ver uma coisa boba assim, porque precisa? A pegada de carbono,

que vale a pena gastar eletricidade para rodar nove vezes uma coisa que era mais simples e eu resolveria? Então, essas são as perguntas que a gente tem que fazer hoje. Mas, do ponto de vista técnico, é muito bonito. Você olha a discussão que a gente mostra ali e finaliza, poxa, aqui você fala, olha quanta ideia, quanto insight que eu poderia perder se eu simplesmente estivesse na pressa e falando o seguinte, ah, não, prescreve aí.

Ou, não, não, não prescreve. É muito pobre essa resposta. Então, as respostas têm que ser embasadas e para embasar tem que ter ciência, para ter ciência, tem que ter trabalho,

trabalho, né? Ou seja, são várias variáveis. Então, alguém tem que regulamentar isso, porque senão vira festa, né? Todo mundo pode fazer o que quiser, etc. E aí, o que a gente vai colocar? A população em risco. Muito bom. O que mais legal também, inovador, você tem visto pra aplicação de tecnologias na área de saúde mental? Outro dia eu vi a questão de realidade virtual pra tratamento de traumas, fobias. Isso já não é nem tão novo, tá?

Eu sou fanático, por isso a gente tava conversando aqui antes, né? Os gauges, os brinquedos que a gente tem.

Então, desde os óculos virtuais, que já desde a década de 90 começaram e eles foram ampliando. Então, hoje, esses mais novos, eles conseguem colocar uma imersão com uma qualidade fantástica. É uma tela 4K nos seus dois olhos, você está ali imerso. Então, você realmente mergulha naquilo. E aí, se você simula um ambiente, vamos imaginar, você falou de um trauma. Então, vamos falar de uma fobia que é mais fácil de entender.

sei lá, gato. Qual o problema? Gato tem em todo lugar. Então você vai ver vários gatos ao longo da sua vida. E se toda vez que você vir um gato, você vai ter o coração disparado, suor frio, mal estar, quase vomitar, a sensação de morrer, sair correndo. Ou seja, a sua vida vai ficar extremamente limitada. Ah, eu tenho medo de canguru. Tudo bem. Quanto que você vai ver o canguru se você não for lá pra Austrália? Então deixa. Agora o gato vai existir.

E aí, como é que você desensibiliza? É uma das técnicas, né? Então tem medo, vamos falar do rato, que é mais fácil de entender, porque gato todo mundo gosta.

tem o rato. Então, o rato. Você mostra lá como é uma técnica normal. Você mostra um desenho mal feito de criança. Ah, a pessoa fala, não, tá bom, não tem nada. Aí você mostra um desenho mais bem feito. Aí a pessoa já começa a ficar incomodada. Aí você mostra um colorido. Opa, aqui já começa a dar uma paura. Aí você mostra uma foto. Pior ainda, um bichinho de pelúcia. O bicho em si. O bicho dentro da gaiola. Vamos lá passar a mão.

Ou seja, tem todo um step até você chegar lá, porque depende do medo. Isso tudo é uma técnica.

e é repetição, e é comportamento, e é padronizado. Agora, se eu consigo fazer isso numa escala maior, no conforto do indivíduo, num lugar longe, ou seja, eu tenho um especialista lá em Boston, que é o cara que manja mais desse assunto, e eu consigo fazer com que ele, ali, numa cidade do interior de São Paulo, consiga ajudar tal pessoa por causa de tal tecnologia, não é legal? Poxa, é maravilhoso, né? Eu consigo andar e simular, então hoje eu tenho simuladores de andada, que o cara não sai do lugar, mas fica um tapetinho,

embaixo, né? E o cara pode jogar joguinho de tiro, né? Que é o que a maioria dos seres humanos fazem, mas eu posso simular uma cirurgia, eu posso simular um tratamento, uma visita no hospital, posso simular a dessensibilização do ratinho. Pra gente finalizar a sua participação aqui, Luiz Dickmann, compartilha com a gente uma dica de um filme ou de um livro, uma série, que possa auxiliar aqui quem quer saber mais dessa discussão que a gente tá tendo. Ah, tem várias, né? Eu acho que aí depende muito

que a gente brinca, do humor, do mood que a pessoa está. Se ela está indo para o caminho de, ai meu Deus, estamos lascados, o que está acontecendo? Ou, olha que coisa maravilhosa e o precedente está se abrindo. Então, para cada coisa. Vamos lá. Então, você pegar lá os Arares da vida. Então, o Arares escreveu Homo Deus, Homo Sapiens, e ele tem falado muito sobre esse tema, e ele traz uma visão dessa. E olha o cuidado e o perigo que a gente tem na mão. Assim como o Eric lá, o que foi o...

O antigo presidente... Estou tentando lembrar o cara do Google, que é o pai da... Eric Schmidt. Eric Schmidt, né? Que também virou um desses catastróficos. Agora, vamos pensar o seguinte. Do ponto de vista técnico, você quer ver alguma coisa, quer ver como é tecnologia distópica, você vai lá para os Black Mirror da vida. Então, uma série do Netflix ficou muito famosa e que mostra situações que parecem totalmente absurdas, mas que hoje a gente começa a pensar, poxa, se o cara tivesse uma lente na câmera do olho

Vigiar o filho. Será que é bom vigiar o filho até o final? Aí ele mostra toda uma coisa como isso pode terminar muito, muito mal. Você quer cuidar. Você quer garantir a tranquilidade. Então, Black Mirror é uma dessas. Ah, Luiz, eu quero ir para um campo das possibilidades. Aí eu acho que a gente vai para o campo dos documentários e dos avanços atuais. E aí depende muito de quanto você sabe do assunto. Então, tecnicamente falando, deixa eu pensar aqui. Black Mirror assusta.

ajudar, vou até pedir uma ajuda sua, vamos ver. É muito difícil ter os que ajudam, vou explicar por quê. Nesse momento, né? Não, em qualquer momento. Porque o que acontece? O ser humano, a gente adora o passado porque a gente escolhe o que a gente pensa nele. O passado sempre é gostosinho, o lugar é gostoso de a gente voltar, porque a gente tira, ao menos tem a trauma, né? Você entende melhor do que eu sobre esse assunto. É, verdade.

Mas o que a gente faz? O futuro, a gente tem o viés da loss aversion, a gente tem mais medo de problemas e riscos do que a gente tem prazer,

Isso. E aí o que acontece? As ficções, normalmente, elas são muito mais de cenários catastróficos, que é um treinamento que a gente faz do que a gente faria nessa situação. Então tem vários, além de Black Mirror, tem vários outros. De documentário, eu gosto bastante da Era dos Dados, que ela mostra das possibilidades da Era dos Dados. E o que eu mais gosto, se a gente for pensar que não é documentário, mas é ficção, que pra mim é a melhor ficção ever, pra gente pensar no que seria um futuro legal,

da humanidade é Star Trek. Star Trek a gente já passou, piorou para melhorar, teve uma terceira guerra mundial no século XXI. Depois dessa guerra, a humanidade se juntou, não existe mais países, você tem a Terra. E aí o planeta começa a entrar numa prosperidade grande, se junta com outros planetas. E é tão legal que quando você assiste Star Trek conscientemente, prestando atenção no que está acontecendo, os capitães aprendem antropologia, diplomacia,

de falar com qualquer um, não pode interferir na outra cultura, a tecnologia, os impactos da tecnologia, não tem mais dinheiro, você, na realidade, o que é perguntado para a pessoa é, então, como é que você faz as coisas? Eu faço para ter o meu melhor desenvolvimento, cada um se desenvolve. Então, para mim, o grande modelo utópico, ideal, e que mostra, inclusive, os problemas da humanidade, seria a gente chegar num Star Trek. As outras todas, e aí eu vou dar uma dica, eu tenho um site, é marta.com.br,

BR Marta com TH, fofos, barra filmes, que tem mais de 75 filmes, séries, documentários. Agora vamos para aquele quadro, o Takeaway, que você embala a nossa conversa aqui para a viagem. Uma super conversa, né? Então deixa eu ver aqui se eu estou organizada. Estou, bora lá então. Olha só, a gente começou falando como a IA tem possibilidade de ampliar o acesso aos cuidados emocionais e como ela consegue enfraquecer. Então como resuminho, ela consegue ampliar com democratização do suporte psicológico,

o Luiz falou sobre isso, detecção precoce de risco emocional, personalização baseada em comportamentos, você consegue entender como a pessoa está se comportando para dar alertas, redução de estigma para treinar, começar a treinar com aquilo para você depois ir para a ponte com o humano real, e enfraquecendo vínculos humanos é quando tem substituição da presença humana, isso é complicado, ilusão de vínculos sem reciprocidade real, dependência psicológica,

risco que a gente tem hoje, e empobrecimento da diversidade relacional. Lembrando que o uso intenso de algo não é igual à dependência. Então, a pergunta que tem que fazer é de controle, consigo parar? Flexibilidade, consigo ficar sem em alguns momentos? E função, isso está evitando algo, ou seja, é uma fuga. Então, é o primeiro sinal. Então, esse é o resumo. E depois a gente teve um papo delicioso aqui, divertido e super informativo, rico,

Luiz Dickmann, ele falando sobre alcance, a IA realmente ajuda a alcançar, democratizar acesso para quem não teria, especialmente em momentos entre uma sessão e outra, para ajudar a fazer exercícios, assistida junto com o profissional que entenda disso. A regulamentação do CFM agora vem muito bem-vinda, porque ela está trazendo guardrails necessários para que a gente consiga ter a aplicação de uma forma mais pronta,

produtiva, saudável, segura para todo mundo. Então, vendo de quem é responsabilidade? É de quem usa e aplica aquilo. Quando não existe um profissional da saúde no meio, passa a ser uma questão de desenvolvimento de plataforma e educação, especialmente educação de todo mundo. Uma das coisas muito interessantes que ele falou é sobre a confiança. Então, a confiança, quando ela não existe nenhuma, é um problema. Negando, negando, negando, isso não serve para nada.

de utilizar uma ferramenta extremamente poderosa e confiança demais te deixa cego e você começa a ter problemas em função dessa confiança exagerada. A terapia cognitiva comportamental, por exemplo, os exercícios e reflexões que são feitas nesses caminhos podem ser melhorados ou aplicados com o auxílio de tecnologias poderosas. Para a gente saber qual ferramenta é que é séria ou não, autoridade. Quem está por detrás dela,

colocando aquilo pra gente? É uma ferramenta que você não sabe a origem? É uma ferramenta geral de mercado? Ou é uma ferramenta que é mais especializada e que vem com vários guardrails e com várias pesquisas? Falamos do Cloud, sou fã da Anthropic, porque ele já vem by design. A gente fala disso, by design é quando você é projetado já pensando nas características de proteção, etc. A gente falou da situação aqui também dos

adolescentes, é bastante grave, porque é um momento bastante vulnerável do desenvolvimento humano, então precisa ser assistido, precisa ser educado para que não tenha problemas. A gente falou, uma das coisas também que achei muito interessante que o Luiz falou, é de você usar várias IAs, como se fossem vários perfis, para que você consiga avaliar o que uma fala, não só perfis diferentes, mas com modelos diferentes por detrás, que você consegue limitar os tipos de problemas

de guarda e rails e viés e você consegue ter opiniões informadas com background adequados de médicos com várias especialidades, juízes e as consequências que você tem de uma área na outra. Um dos critérios é também entender quando que isso vale a pena fazer ou não. A gente não faz isso todo dia, é a brincadeira que eu faço. Você não fica gastando horas para pensar se você compra um chiclete de 10 centavos ou 11 centavos, mas você gasta muitas horas para comprar uma casa ou pensar aquilo que realmente tem um impacto importante.

realidade virtual com apoio emocional. Eu também trabalhei bastante com realidade virtual lá atrás, inclusive não as imersivas apenas, mas Second Life, já existiam terapias dentro do Second Life pra você experimentar. Lembre que quando a gente tem problemas, o fato de você exercitar aquilo em algum ambiente seguro, te ajuda a desenvolver, né? A gente treina na frente do espelho, não é? A gente pode treinar usando essa ferramenta, tanto a IA quanto isso daqui. Pra encerrar, algumas recomendações de sugestões,

na realidade, para ampliar o assunto aqui, a Harari e Eric Schmidt são dois que eu gosto bastante, porque eles trazem, é muito importante a gente aqui, é futuramente, então futuramente a gente pensar em futuros, a gente tem que considerar os futuros que podem ser ruins e os futuros que podem ser bons, para a gente evitar os ruins, para a gente criar os bons. E eles têm uma lucidez muito grande, são pessoas que trabalham com isso há muito tempo, com história, com desenvolvimento humano, e o Eric Schmidt com tecnologia,

para onde a gente pode estar indo, e a gente tem, tanto que a gente falou dos vários Black Mirror, uma infinidade, Ex Machina, que a gente falou em algum episódio aqui também, e vários outros que treinam a gente para se isso acontecer, o que eu faço, o que a gente tem, inclusive, que fazer para que isso não aconteça. Mas tem alguns bons que a gente pode assistir, vários documentários, tem a área dos dados, que é interessante, é um documentário, Coded Bias também, que é bem interessante, privacidade hackeada, a gente já falou isso em alguns momentos, e para quem quiser ver uma sequência,

enorme de filmes, séries e dar uma olhada no que foi desenvolvimento e a preocupação dos humanos com isso, eu tenho um hot site que é marta.com.br, marta.com.th barra filmes, lá tem uma série, uma sequência, vai uma linha do tempo, o que é cada um daqueles marcos e por que eles são importantes pra gente assistir. Então é isso, foi um papo delicioso, super obrigada. Obrigada, doutor, por ter vindo, adoramos. Obrigado a vocês pelo convite, fico muito honrado em falar sobre o tema,

trazer isso. Futuramente vai ficando por aqui. A gente se encontra na próxima terça-feira com mais um episódio. Você pode encontrar, enquanto isso, a Marta Gabriel no Instagram, arroba martagabriel. Pode mandar um e-mail pra gente, futuramente arroba cbn.com.br. Esse podcast pode ser assistido no Spotify e no YouTube também. Futuramente teve a apresentação de Marta Gabriel e Carol Tamacia, produção de Ellen Menezes, trabalhos técnicos de Priscila Gubiotti.

A coordenação é do Tiago Barbosa e a direção do Pedro Dias Leite. Tchau, gente. Até mais. Até lá. Tchau, tchau.

Você é micro, pequena ou média empresa e quer ir ainda mais longe? Bora com a Claro Empresas! Aproveite para assinar essa oferta especial. 600 MB por apenas R$ 59,90 ao mês, por 3 meses. Bora economizar! Saiba mais em 0800-720-1234 ou acesse claroempresas.com.br Claro Empresas, bora fazer juntos!