Deepfakes e IA: como saber o que é real na internet? | O estopim Tech

Tchau, tchau.

Uma das situações mais delicadas hoje começa de um jeito comum. Chega um áudio no WhatsApp, supostamente enviado para alguém da família, pedindo ajuda com urgência. A pessoa do outro lado diz que teve um problema, que está sem acesso ao próprio celular e que precisa de uma transferência rápida para resolver a situação. A voz parece familiar, o tom parece conhecido e é exatamente aí que o golpe ganha força.

Não é uma mensagem qualquer, é uma voz que lembra alguém com quem você tem vínculo. Numa situação assim, muita gente não para para investigar. A preocupação vem antes da checagem. A pessoa faz o pix, tenta resolver logo e só depois descobre que aquele pedido nunca saiu de quem ela imaginava. Esse tipo de fraude mostra o ponto central deste episódio.

A falsificação digital ficou mais convincente, mais barata e mais fácil de distribuir. O problema já não se limita a uma notícia falsa mal escrita ou a uma montagem evidente. Agora a mentira pode chegar com tom e aparência profissional. Eu sou o Raul Silva e este é o Stopping Tech. E hoje a gente vai discutir uma pergunta que atravessa tecnologia, segurança e vida pública.

A internet está sendo soterrada por conteúdo falso? A desconfiança na internet não nasce com a inteligência artificial. Ela já existia quando o problema principal era o texto falso, o print sem origem ou a manchete feita para circular fora de contexto. O que mudou agora é a qualidade da simulação.

A falsificação deixou de depender apenas de uma frase mentirosa. Ela passou a aparecer em formatos que muita gente ainda associa à prova. Um material que chega com voz, imagem e presença suficientes para muita gente baixar a guarda. Essa mudança não transforma toda informação em uma fraude, nem faz da inteligência artificial uma ameaça automática. O ponto é mais específico. Então, vamos lá.

Ficou mais barato produzir material falso com aparência suficiente para enganar no ritmo das redes sociais. Quando isso acontece, o dano não está apenas no conteúdo enganoso, está também na dúvida que ele espalha. O público passa a precisar de mais elementos para confiar no que recebe, e aquilo que antes parecia uma evidência começa a exigir verificação.

Mas olha só, deixa eu fazer uma pausa rápida para a gente falar de quem apoia este episódio por aqui em Arco Verde. Quando a gente fala em golpe digital, parece que o problema está bem longe, escondido em algum tipo de sistema complicado.

Mas ele aparece mesmo é na rotina, no celular que toca no balcão da loja, na mensagem que chega durante o trabalho, nos áudios que assustam alguém da família. Por isso, cuidar bem do aparelho não é frescura. É parte da segurança de quem depende dele para resolver a própria vida e confirmar uma informação importante antes de cair numa pressão desnecessária. Por isso, faz sentido que este episódio tenha o apoio da Mateus Cell e o apoio da Mateus Cell

A Mateus Cell é daquelas lojas que o pessoal de Arco Verde já reconhece quando o assunto é Apple. Quem está precisando comprar um novo aparelho, trocar um iPhone ou tirar uma dúvida antes de fechar o negócio, sabe como esse atendimento...

próximo faz toda a diferença. É outra relação quando a compra não fica presa em um anúncio distante. A pessoa conversa, olha com calma, entende as opções e compra com mais segurança. E é justamente esse o ponto que conecta a Mateus Céu ao tema de hoje.

Num ambiente digital, cheio de promessas duvidosas, ter uma loja local para procurar antes de decidir ajuda o consumidor a não comprar por impulso. Ela sempre te deu melhor, mesmo quando o dela não era. Talvez esteja o ano e retribui da melhor forma do jeito que ela merece.

Neste Dia das Mães, o presente dela está aqui. Trabalhamos com toda a linha Apple. iPhones novos e seminovos. E também Macbooks, iPads, AirPods e Apple Watch. Todos os aparelhos revisados com garantia e a pronta entrega para surpreender quem sempre esteve por você. Não perca a oportunidade de tornar o seu presente inesquecível. Venha esta semana a garantir as ofertas exclusivas do Dia das Mães aqui na Matesel.

Esse material falso, com aparência convincente, costuma receber um nome mais técnico. Conteúdo sintético. A expressão parece distante, mas descreve algo que já aparece na rotina de quem usa a internet. É um conteúdo produzido ou alterado digitalmente para parecer natural, como se tivesse sido captado no mundo real. Isso não torna a tecnologia ilegal ou ruim, por definição.

Uma produção audiovisual pode usar esse recurso de uma forma transparente, assim como uma ferramenta de acessibilidade pode recriar voz ou imagem para uma finalidade legítima.

O problema começa quando a fabricação é escondida para enganar quem recebe. O deepfake é um exemplo mais conhecido desse tipo de falsificação. Ele usa a inteligência artificial para imitar a imagem ou a voz de uma pessoa e atribuir a ela uma fala, uma presença ou uma atitude que nunca existiu. O risco não está apenas na edição, está no uso dessa edição para criar uma confiança falsa.

Há alguns anos, muitas dessas manipulações ainda denunciavam o próprio truque. Hoje, parte desses sinais ficou mais discreta e a circulação rápida nas redes diminui o tempo de dúvida. A pessoa recebe, se assusta, acredita ou encaminha antes de procurar a origem. E é nesse espaço curto entre o impacto e a checagem que a fraude consegue avançar.

No Brasil, esse debate já aparece nos dados. Um levantamento do Observatório Lupa, divulgado pela Agência Brasil, identificou 39 conteúdos falsos feitos com inteligência artificial só em 2024. Porém, no ano seguinte, esse número chegou a 159. Esse dado, é claro, precisa ser lido com cuidado, porque ele não mede tudo o que circulou. Ele mostra apenas o que foi encontrado e verificado.

Ainda assim, a mudança de escala é suficiente para indicar que a inteligência artificial deixou de ser um recurso ocasional dentro da desinformação e passou a entrar na rotina de quem produz fraude informacional.

No começo, boa parte desses conteúdos apareceu em golpes comerciais, principalmente em anúncios com aparência de oferta legítima e uso indevido da imagem de pessoas reconhecidas. Depois, o mesmo tipo de recurso passou a ganhar espaço em disputas políticas e campanhas ideológicas.

Essa passagem também é muito importante. No golpe financeiro, a vítima perde dinheiro. Já na desinformação política, o prejuízo atinge a confiança pública, porque a dúvida fabricada interfere na forma como as pessoas enxergam instituições, notícias, adversários e até mesmo registros verdadeiros. Um caso brasileiro ajuda a entender essa lógica.

A Reuters noticiou uma investigação envolvendo golpistas que usaram deepfakes da Gisele Bicham e de outras celebridades em anúncios no Instagram. A pessoa via uma figura conhecida, via uma oferta com aparência de campanha oficial, clicava, pagava uma taxa pequena e esperava receber o produto.

Só que esse produto não chegava. Muitas vítimas perderam valores baixos. E isso faz parte da estratégia do golpe. Quando o prejuízo é pequeno, muita gente não denuncia. Algumas pessoas sentem vergonha. Outras acham que não vai dar em nada.

Outras ainda sequer entendem que foram vítimas de uma fraude organizada. Para o golpista, isso é muito conveniente. Ele não precisa tirar muito de uma pessoa, basta tirar pouco de muitas pessoas ao longo do tempo.

E quando o golpe vira anúncio, a discussão precisa incluir as plataformas, porque aquele conteúdo foi distribuído, segmentado, exibido e em algum ponto até mesmo monetizado. Não dá para tratar tudo como se fosse apenas uma postagem solta na internet.

Um anúncio fraudulento não aparece por mágica, ele passa por sistemas de distribuição, por decisões de recomendação e por uma cadeia de monetização. Se a plataforma demora a agir diante de uma fraude evidente, quem paga a conta é o usuário.

O uso político dessa tecnologia é ainda mais sensível. O Tribunal Superior Eleitoral, TSE, já atualizou as regras da propaganda eleitoral para lidar com o uso da inteligência artificial. Quando uma campanha usa conteúdo sintético, o eleitor precisa ser avisado de forma clara. Além disso, está proibido usar deepfakes para favorecer ou prejudicar uma candidatura.

E a razão é simples, uma eleição não acontece apenas na urna, ela acontece no ambiente de informação que cerca o próprio eleitor. Um áudio falso, divulgado perto da votação, pode não convencer todo mundo, mas ele pode criar dúvida, raiva, medo ou até mesmo confusão. E em política, às vezes, a dúvida já é suficiente para produzir algum dano. Olha só.

O objetivo de uma peça falsa nem sempre é fazer a pessoa acreditar completamente. Muitas vezes basta fazer a pessoa pensar. Ninguém presta, não dá para confiar em nada, é tudo manipulado. Esse tipo de cansaço favorece principalmente a quem vive de desordem informacional e institucional também.

Quando a população passa a tratar tudo como suspeito, a mentira não precisa vencer a verdade. Ela só precisa atrapalhar o reconhecimento da verdade em si.

A gente cresceu ouvindo frases como está gravado, tem vídeo, eu vi com os meus próprios olhos. Essas frases, elas continuam sim sempre importantes, mas elas já não bastam. Um vídeo verdadeiro pode ter sido cortado de um trecho maior, ele pode ter sido publicado fora do contexto original ou mesmo reaproveitado anos depois, como se fosse um vídeo recente.

E tem também a possibilidade de o vídeo ter sido fabricado. Por isso, quando um vídeo aparece como prova, o trabalho não termina ali. A partir dali é que começa a checagem. De onde veio, quando foi gravado, quem publicou e se há uma confirmação fora daquele arquivo.

Com o áudio acontece algo bem parecido. Antes, reconhecer uma voz era quase o mesmo que reconhecer a pessoa. Hoje, isso já não basta, principalmente quando existe pedido de dinheiro, por exemplo, ordem de pagamento, denúncia grave ou mesmo uma pressão para agir muito rápido. É aí que o problema sai da teoria.

Uma família pode receber um áudio falso pedindo ajuda, exatamente como o exemplo que nós conversamos lá atrás no início do episódio de hoje.

Uma empresa pode ser pressionada a liberar uma transferência. Uma redação de um jornal pode receber um vídeo sem origem clara. Uma campanha eleitoral pode ser atingida por um material fabricado na véspera da votação. E essa dúvida abre um outro caminho perigoso. Se a falsificação ficou possível...

Uma pessoa flagrada em um vídeo verdadeiro também pode tentar escapar dizendo que aquilo foi feito por inteligência artificial. Esse fenômeno é conhecido como dividendo do mentiroso. Na prática, é uma brecha de convivência.

A pessoa não precisa provar que o vídeo é falso, ela só precisa plantar uma dúvida suficiente para enfraquecer a prova. Esse é o estrago mais difícil de medir. O deepfake não serve apenas para fazer uma mentira circular como se fosse verdade. Ele também dá munição para que uma verdade incômoda seja descartada como uma falsificação.

Existe uma ideia confortável de que só quem cai em golpe é quem é desatento. Isso não é bem uma verdade universal.

Uma fraude bem feita explora momentos de pressão, ela usa medo, urgência, autoridade e afeto. Se um áudio parece vir de uma pessoa da família, a reação não é apenas racional. Existe um vínculo, existe uma preocupação genuína, existe uma memória daquela voz.

Se um vídeo mostra uma autoridade dizendo algo extremamente grave, muita gente reage antes de verificar a informação. Um estudo publicado na Psicologia da Comunicação, segmento da revista Nature, mostrou que os participantes da pesquisa continuaram sendo influenciados por vídeos deepfake mesmo quando foram avisados de que o material era falso.

Esse dado importa porque derruba uma solução muito fácil. Avisar que o conteúdo é feito por IA não ajuda a resolver o problema sozinho. A imagem ainda pesa, a voz ainda pesa, a emoção vinculada a ela também pesa.

A checagem chega depois com um contexto, uma explicação. A falsificação chega primeiro com o impacto. É por isso que a educação midiática precisa ser tratada como uma habilidade básica. Esse tipo de cuidado precisa entrar na rotina de qualquer pessoa que usa o celular, recebe notícias por aplicativo ou toma decisões a partir do que vê nas redes.

Para o jornalismo, esse ambiente é extremamente desafiador. Hoje, muita coisa ruim chega ao público com uma embalagem de reportagem. Nós falamos exatamente sobre isso no último episódio de O Estopim Política, quando analisamos o caso da Brasil Paralelo.

Um vídeo hoje pode ter uma legenda bem feita, a narração pode passar segurança. O recorte visual até pode parecer profissional. Em alguns poucos segundos, aquilo ganha cara de notícia. Só que aparência de notícia nem sempre é notícia. É nesse ponto que o jornalismo precisa se diferenciar.

Não pela estética, porque a estética já foi copiada, nem pela pressa, porque a pressa costuma favorecer o erro. O diferencial está no caminho da apuração. Por exemplo...

Se uma redação recebe um vídeo, não basta colocar ele no ar só porque a imagem que está ali é forte. É preciso entender de onde foi que aquele material saiu, quando foi que foi gravado, se a pessoa retratada é mesmo quem estão dizendo que é, se existe algum documento que sustente a denúncia e até mesmo se existe outra fonte fora daquela corrente inicial que confirme a história.

Esse cuidado não é um detalhe qualquer de bastidor, é o que separa o jornalismo da encenação. Numa internet em que qualquer conteúdo pode imitar a forma de uma reportagem, o rigor jornalístico, ele precisa aparecer mais do que nunca.

Aqui no portal Wistopin, essa preocupação orienta o trabalho diário. A notícia precisa servir ao interesse público e precisa ser sustentada por uma apuração verificável. Quando um conteúdo falso adota o formato de reportagem, o que diferencia o jornalismo é a capacidade de demonstrar a origem, o contexto e a confirmação daquela informação.

Na redação, a pressa só vale quando a apuração a acompanha. Uma informação que é publicada sem checagem pode até render uma atenção no primeiro momento, mas o preço vem logo depois, corrigir o erro publicamente e tentar recuperar a confiança de quem foi mal informado.

A defesa mais importante continua sendo a decisão que a pessoa toma antes de clicar, responder, pagar ou compartilhar. Essa defesa não tem nada a ver com viver desconfiado de tudo. A desconfiança permanente também traz prejuízo, porque reduz a nossa capacidade de reconhecer uma informação bem apurada. O cuidado necessário é mais objetivo.

Confirmar a origem do conteúdo antes de tomar uma decisão. Se um áudio chega pedindo dinheiro, principalmente com um tom de urgência, a primeira atitude não deve ser responder na mesma conversa. O mais seguro é ligar para a pessoa pelo número que você já conhece e confirmar a história fora daquele contato suspeito.

Parece meio óbvio, mas às vezes o óbvio precisa ser dito, pois escapa aos nossos olhos em momentos tensos, como os provocados por golpes desse tipo. O mesmo vale para uma promoção com o rosto de uma celebridade.

Em vez de seguir o link do anúncio, procure a página oficial da marca ou da loja. Golpes desse tipo costumam funcionar porque pegam a pessoa no impulso com a oferta que parece boa demais para exigir desconfiança.

Lembre-se daquele velho ditado, quando a esmola é demais, o santo desconfia. Na política, o cuidado precisa ser ainda maior. Um vídeo forte, divulgado perto de uma votação ou no meio de uma crise, deve ser tratado com calma.

Antes de acreditar ou repassar, procura saber se há informação ou confirmação em veículos confiáveis, se a pessoa envolvida se manifestou e se o material aparece em outras fontes com o contexto mais claro. Se a mensagem tenta levar você a decidir na hora, pare e confirme por um outro caminho. E o ponto mais importante é o compartilhamento.

Quando você envia uma mensagem sem ter certeza, você não está apenas repassando um arquivo, você está emprestando a sua confiança para aquilo. Muita gente acredita porque recebeu de alguém conhecido. Por isso, se a informação ainda não foi confirmada, o melhor é não colocar o seu nome na circulação dela.

É claro que existem os detectores de deepfake, existem as marcas d'água, existem padrões de procedência digital, como as credenciais de conteúdo, por exemplo, que tentam registrar a origem e as edições de uma imagem ou de um vídeo. Essas ferramentas são importantes, mas nenhuma delas resolve tudo sozinha.

Um detector pode falhar, principalmente quando a fraude foi feita com uma técnica recente. Além disso, parte das informações que ajudariam a confirmar a origem de qualquer arquivo pode se perder quando o conteúdo passa por aplicativos e redes sociais.

a lei também não acompanha esse ritmo na mesma velocidade. E esse intervalo entre a fraude e a resposta das instituições é justamente o espaço que o golpista usa para continuar atuando. Por isso, a resposta precisa combinar várias camadas.

A saída passa especificamente por uma divisão clara de responsabilidades. As plataformas precisam agir com mais rapidez, o jornalismo precisa sustentar a informação com apuração, o poder público precisa atualizar as regras e o público precisa incorporar a checagem à sua rotina. A questão é não entregar a confiança no automático.

Quando o conteúdo mexe com dinheiro, reputação ou decisões políticas, a verificação precisa vir antes da reação.

A inteligência artificial não destruiu a internet. O que ela mudou foi o nível de cuidado que todos nós precisamos ter diante do tipo de informação que nós recebemos. Um vídeo bem feito, uma voz parecida ou mesmo uma imagem convencente já não bastam mais para encerrar uma dúvida.

Antes de aceitar um conteúdo como verdadeiro, vale olhar para a origem, procurar a confirmação em outro lugar e perceber se aquela mensagem está tentando provocar uma reação imediata ou não. Essa vai ser a diferença entre consumir uma informação e ser conduzido por ela. Isso vale para o golpe financeiro, para a disputa política e para qualquer debate público atravessado por um material que seja suspeito.

Antes de reagir, é preciso saber se aquilo tem uma origem verificável ou se ele foi colocado em circulação justamente para gerar algum tipo de tumulto ou algum tipo de reação imediata. Se esse episódio te ajudou a entender melhor todas essas situações...

A gente está em todas as plataformas de áudio, então você pode ouvir o podcast Estopim Tech ou o podcast Estopim Política ou até mesmo Teoria Literária na sua plataforma de áudio preferida. Se você está no YouTube, não se esquece de se inscrever, curtir, compartilhar e marcar a sineta para ser notificado sempre que um conteúdo novo aparecer por aqui.

E envia esse conteúdo para alguém que precisa de mais informação ou que muitas vezes se vê perdido tentando entender toda essa coisa de inteligência artificial e desinformação na internet. Se você está ouvindo tudo isso no Spotify, por favor, segue o podcast, avalia e deixe também o seu comentário. Ele é muito importante porque isso delimita também os próximos temas dos nossos próximos episódios.

Eu sou o Raul Silva, esse foi o Isto Pintec dessa semana. Um abraço para todo mundo e a gente se vê na próxima semana com um novo episódio para vocês.

Este podcast é uma produção de O Estopim mais comunicação e conteúdo. Gravado nos estúdios de O Estopim.