PÍLULA - Médicos de IA invadem o YouTube

O Ciência Suja tem o selo da Rádio Guarda-Chuva. Jornalismo para quem gosta de ouvir.

A maioria dos brasileiros acima dos 60 anos está bebendo água do jeito errado. Eu vou te apresentar 5 ingredientes que você pode adicionar à sua água, do número 5 até o número 1. Vamos começar pelo número 5: uma pitadinha de sal de qualidade na água.

A mulher que você ouviu aí falando que idosos deveriam botar sal na água, uma recomendação que vai contra todas as diretrizes de cardiologia e nutrição, tem um canal com 23 mil inscritos no YouTube.

Oi, eu sou a Doutora Isabela Carvalho, urologista, e esse é o meu canal. Eu criei esse espaço por um motivo simples: Informação de saúde de qualidade não deveria ficar trancada dentro de um consultório. Deveria estar acessível pra todo mundo, de graça, em linguagem clara.

Os conteúdos da Doutora Isabela são um show de desinformação. Tem vídeo falando que guardar alguns alimentos na geladeira dá câncer, que uma bebida natural pode baixar o açúcar no sangue da noite pro dia, e até que colocar limão no café Apaga rugas profundas da pele de pessoas idosas. E aí, nos comentários, tá cheio de gente agradecendo e dizendo que essas dicas funcionam mesmo. Só tem um detalhe, tá, gente? Uma coisinha besta aqui.

A Doutora Isabela não existe. Ela é uma médica gerada por inteligência artificial. E o canal é bem real, desinforma muita gente. A médica que não é. E antes fosse só a Doutora Isabela. A gente vai contar hoje aqui sobre uma apuração inédita que o pessoal da Ctrl+Z compartilhou Consciência Suja em primeira mão. Em um levantamento rápido feito manualmente, eles levantaram 29 canais de médicos que não existem e que dão orientações insanas como essas.

E esses canais já somaram 70 milhões de visualizações. Sim, 70 milhões de plays em conteúdos que botam a vida das pessoas em risco e que ao mesmo tempo dão dinheiro tanto para os donos desses canais quanto para o YouTube. E olha que a gente tá olhando provavelmente só para uma pontinha de um iceberg que se esconde nas engrenagens do YouTube para lucrar em cima da saúde alheia. Eu sou a Clé Pinheiro, produtora e roteirista, e essa é mais uma pílula do Ciência Suja, o podcast que mostra que em crimes contra a ciência as vítimas somos todos nós.

Eu acho que o jornalismo de tecnologia em geral nesse tipo de pauta fica muito nessa camada do conteúdo, que é importante, óbvio, denunciar, né, a plataforma removeu o conteúdo, mas acho que é importante a gente falar da responsabilidade das plataformas nisso, né.

Aí você ouviu a Tatiana Dias. Ela é diretora de programas da Ctrl+Z, uma ONG recém-criada para responsabilizar as Big Techs pelos problemas que elas têm causado na sociedade.

Porque no final das contas tem uma infraestrutura que premia esses tipos de criadores de conteúdo, né? Não à toa existe uma indústria desses canais, né?

A Tatiana, que fez esse levantamento sobre canais de médicos feitos com IA, veio contar dele pra gente. E ela é uma baita jornalista. Ela foi editora executiva do Intercept por anos e agora ela se jogou de vez nessa missão de fiscalizar as big techs. Que, pra quem não sabe, são as grandes empresas de tecnologia, como Microsoft, Google, Meta, enfim. Bom, no começo de junho, a Tatiana tava vendo um vídeo sobre saúde no YouTube, um vídeo sério, quando a plataforma recomendou um outro conteúdo pra ela, de um canal diferente, um conteúdo mais esquisito, digamos.

Se vocês forem ver as thumbs, as imagens dos vídeos, são todas muito sensacionalistas, assim, né? Não faça isso e morra em uma semana. Tome, coloca esse pozinho na sua água e cure o câncer. São todos uns negócios muito absurdos, né? Eu olhei aquilo e falei, o que que é isso? E aí, quando eu cliquei no vídeo, eu vi que era um médico de IA. Eu achei muito bizarro.

Tava bem óbvio pra ela que a médica do vídeo não era uma pessoa de verdade. Então ela viu esse vídeo e outro e depois outro e entrou na chamada toca do coelho. Que é um termo que vem do livro Alice no País das Maravilhas, que o pessoal usa para descrever essa espiral de recomendações do YouTube. Ela começa num troço meio inofensivo, mas aí você vai entrando e de repente tá inundado de desinformação e conteúdos alarmistas, conspiracionistas, ou com viés extremista, violento, enfim.

A Tatiana resolveu mergulhar na lama e catalogar essa pesquisa. E acabou mapeando toda uma rede de canais de médicos gerados por IA. Sim, se você achava que médico antivacina era o cúmulo, saiba que sempre dá pra piorar, né? E foi assim que ela chegou nesses 29 canais de médicos fake que têm 70 milhões de plays e contando.

Então, a contagem de seguidores dos canais, de visualizações. Tanto que os números que eu tinha no começo do mês, que eu comecei a mapear, depois eu tive que atualizar. Porque quase todos tinham crescido consideravelmente, assim. Quer dizer, são canais que estão em franca ascensão no último mês, né? E a gente sabe que isso é uma coisa exponencial. Se a rede inteira cresce, todo mundo cresce junto, porque eles puxam a recomendação uns dos outros, né?

Quando a Tatiana fez a conta pela primeira vez, esses canais tinham 60 milhões de views. Um mês depois, ela refez os cálculos e a rede já tinha ganhado mais 10 milhões. Ou seja, chegando nesses 70 aí que a gente contou. E essa rede funciona como uma fábrica mesmo. Por dia, eles produzem mais de 10 vídeos em média e ganham mais de 266 mil views diários. Os conteúdos seguem um padrão: chamada alarmista, médico simpático e muita linguagem científica.

E os temas se repetem bastante, até os roteiros e os tópicos são parecidos. Parece que tá vendo coisas repetidas ali com o tempo. Mas o maior gatilho para o clique é o medo ou a promessa milagrosa mesmo. Escuta só alguns títulos que a gente pescou nesse mapeamento.

Alerta do médico: nunca reaqueça esses 6 alimentos, risco de câncer. Seu tipo sanguíneo revela como você pode morrer. Coloque isso na água toda manhã e sua ereção fica mais forte todo dia naturalmente.

Esses vídeos são monetizados, ou seja, geram lucro pro criador mesmo que ele não esteja vendendo nada. E olha que alguns estão vendendo sim. A maioria dos canais exibe anúncios no próprio YouTube, o que significa que a plataforma lucra com o conteúdo exibido. Aliás, a Tatiana reforçou que o principal problema nem são esses 29 canais, até porque eles são uma amostra pequena obtida num levantamento manual ali que ela mesma fez.

A gente precisa discutir a responsabilidade do YouTube nisso. Porque sim, existe uma rede de pessoas, de criadores de conteúdo que estão se aproveitando da vulnerabilidade das pessoas idosas pra disseminar desinformação ou informação limítrofe aí. Mas isso não aconteceria se não tivesse incentivo da plataforma. Que premia com engajamento, recomendação e principalmente monetização.

Boa parte desses vídeos até tem uma marcação que indica que o conteúdo foi feito por IA. E alguns nem têm. E essa marcação é bem discreta, tá num quadradinho minúsculo que fica embaixo do título. E é descrita em mais detalhes só quando você clica pra ler a descrição do vídeo até o fim. Quem tá mais acostumado bate o olho e na hora desconfia. Porque tem umas coisas bem toscas mesmo nos vídeos. O problema é que pelos comentários dá pra ver que muita gente acredita mesmo naquilo.

Pra entender como as pessoas acreditam, a gente pediu uma ajuda rápida pro André Bach. Ele é farmacologista, professor da Universidade Federal de Rondonópolis e um parceirão de longa data nosso. O André manja muito de desinformação em saúde e ele também pesquisa os motivos que fazem as pessoas acreditarem em pseudociências e outras picaretagens.

E tudo isso, todas essas estratégias retóricas que estão presentes ali, desde o título do vídeo até as frases e argumentos que são construídos ali, Eles acabam explorando vieses cognitivos nossos mesmo, né?

Além do apelo emocional, o mecanismo que o André destaca é o da heurística da disponibilidade. Eu vou traduzir esse conceito aqui. A pessoa fica assistindo tantos conteúdos falando a mesma coisa que aquilo acaba reforçando as crenças dela e se torna verdade. Mesmo se tiver muito, mas muito longe de ser verdade. E é o que a Tatiana falou. Não é só que os conteúdos são parecidos, mas um vídeo puxa o outro no sistema de recomendação do YouTube.

Outra coisa é o direcionamento claro de público-alvo. Os vídeos são, em sua grande maioria, voltados para os idosos e prometem soluções contra questões de saúde que são muito associadas ao envelhecimento: falta de memória, dor nas articulações, doenças cardiovasculares e por aí vai. E os idosos são um público suscetível a golpes. Pela falta de letramento tecnológico mesmo. O que também não quer dizer que jovem não acredita em mentira online não, viu?

Tá cada vez mais difícil distinguir vídeo de IA da realidade, não é? A tiazona Regina Rouca aqui já caiu no vídeo da baleia amamentando, em falsa galeria de look do Met Gala. E eu sei que você que tá me ouvindo provavelmente também já caiu em alguma coisa do tipo. Bom, por trás desses vídeos tem uns golpes óbvios, como a venda de cursos, por exemplo. Mas tem também umas coisas mais sutis, como os que indicam trocar medicamentos convencionais por certas substâncias naturais.

E aí tem 3 coisas: uma, que a gente não sabe se aquilo é natural mesmo; 2, que natural não é igual a inofensivo; e 3, que largar tratamentos cientificamente comprovados é uma baita furada. E fora que esses vídeos podem atrasar um diagnóstico correto. Por que ficam mandando a audiência tratar um sintoma com, entre aspas, truques simples que ninguém te conta, em vez de buscar com um médico o que realmente pode estar por trás dessas queixas?

O André Bach vê esses vídeos como uma evolução de boatos que circulam há muito tempo em lugares como o WhatsApp. Mas agora eles estão mais perigosos, porque não é um texto X que foi encaminhado ou assinado por um doutor de Harvard. É uma pessoa ali de verdade, entre aspas, de jaleco, sorrindo, acessível. E vale destacar que a tecnologia tá evoluindo muito rápido, criando imagens e vozes cada vez mais realistas. E também tá cheio de curso online ensinando a gerar influenciadores e conteúdos 100% artificiais como esses.

Então é bom a gente tá preparado para esse futuro, meus amigos, porque ele não é nada bonito. Bom, mas será que criar um médico falso para dar conselhos perigosos é crime? Ou será que pelo menos viola alguma regra do YouTube? Então aí é que tá, é tudo uma grande zona cinzenta. A Tatiana explicou que esses vídeos se aproveitam de uma brecha nas políticas do YouTube que proíbe desinformação médica Mas abre exceções pra conteúdos, entre muitas aspas, educativos.

Então, o que os caras fazem? Eles colocam na descrição do vídeo um disclaimer dizendo que esse material tem caráter educativo e informativo e não substitui uma consulta médica. Pra Tatiana, as regras atuais não contemplam a complexidade deste novo e terrível mundo digital. E o Luan Cruz, jurista, que é diretor de litigância na Crusoé, Apontou que existem sim possíveis violações que esses conteúdos cometem e que seriam passíveis de punição.

Uma é a esfera criminal mesmo, porque esses canais podem estar cometendo estelionato quando vendem produtos ou cursos falaciosos. A outra esfera é a do direito do consumidor. Fala aí, Luan.

Então essa relação entre usuário e plataforma é uma relação que é protegida pela Defesa do Consumidor. Então, da mesma forma que você não pode ter um carro sem airbag ou um remédio que não passe pelos trâmites da Anvisa, o YouTube não deveria poder veicular esse tipo de produto e esse tipo de conteúdo, porque é um conteúdo prejudicial à saúde e à segurança das pessoas.

E tem ainda o fato de que no ano passado o Supremo Tribunal Federal reinterpretou o Marco Civil da Internet e ampliou as hipóteses em que as plataformas podem ser responsabilizadas pelo conteúdo publicado por usuários. Verdade que a desinformação médica não foi citada diretamente entre os tópicos que as plataformas devem moderar de antemão, mas a formação de redes do tipo viola outros aspectos dessa lei. Então assim, não dá para tirar o corpo fora.

Esses canais só existem por causa do YouTube, E o YouTube lucra com a existência deles.

Então, se houver uma rede de disseminação de conteúdo que esteja disseminando conteúdo criminoso, a plataforma também é responsável por cuidar dessa rede, enfim, tirar do ar, identificar. E a gente tem visto que essa rede aí tá vivendo em polpa, né?

Com a nova definição de responsabilização dada pelo STF, há uma oportunidade de melhorar esse cenário. Mas pra isso, a lei precisa ser cumprida. E isso, pelo que a gente viu até agora, parece estar bem longe de acontecer.

Oi pessoal, aqui é o Pedro Belo, produtor do Ciência Suja. A gente pediu um posicionamento pro YouTube e eles responderam com a seguinte mensagem: Todo conteúdo no YouTube, incluindo aquele gerado com ferramentas de IA, deve seguir nossas diretrizes da comunidade. Isso abrange nossas políticas sobre desinformação médica. Que proíbem informações incorretas a respeito de prevenção e tratamentos capazes de causar, comprovadamente, danos graves no mundo real.

Também adicionamos rótulos a conteúdos gerados por IA para garantir que os espectadores estejam informados sobre o que estão assistindo. Ao identificarmos material violativo no YouTube, aplicamos as medidas cabíveis em conformidade com nossos termos de serviço, as regras do Programa de Parcerias do YouTube, e nossas diretrizes da comunidade. Fecha aspas.

Pessoal, essa pílula ficou curtinha, até porque a ideia é essa, né, ser uma pílula. Mas a gente já falou bastante sobre o tanto de desinformação científica que circula nas redes. Se você quer se aprofundar mais nesse ecossistema, eu recomendo especialmente o episódio A Máquina de Drausos Falsos. Onde a gente mergulha na discussão sobre como as plataformas lucram com anúncios falsos de saúde. E tem também o As Redes da Discórdia e a pílula fresquinha sobre o ECA Digital.

Enfim, material não falta para entender o tamanho do buraco em que a gente tá. Esse episódio foi apurado pelo Pedro Belo e por mim, Clé Pinheiro. O roteiro é meu e E a edição de texto ficou com o Pedro Belo, a Meg Rodrigues e o Téo Rupresti. A edição de som, mixagem, trilhas originais e masterização são do Felipe Barbosa. O Ciência Suja tem o apoio do Serrapilheira. Você também pode financiar o nosso projeto lá no site. São vários planos diferentes pra caber no seu bolso.

E fica de olho que em agosto o Ciência Suja completa 5 anos e a gente vai trazer uma novidade super bacana. Nav Reportagens.