🚨 A IA JÁ ESTÁ DECIDINDO.

Imagine que você liga para um serviço de emergência. Do outro lado, quem atende primeiro é uma inteligência artificial. Agora mude de cenário. Você está num processo judicial e descobre que uma das partes apresentou decisões e citações que parecem perfeitas, mas não existem bem daquele jeito. Mais uma cena agora. Você recebe no celular um vídeo de um político dizendo algo gravíssimo às vésperas de uma eleição. O rosto parece verdadeiro e a voz também, mas talvez aquela pessoa nunca tenha dito aquilo.

E numa escola, um professor começa a desconfiar que aquela redação impecável não foi escrita pelo aluno. Nenhuma dessas situações é ficção científica, elas já fazem parte da discussão sobre inteligência artificial. Artificial hoje. Todas elas levam à mesma pergunta: quando a gente começa a entregar parte das nossas decisões para uma máquina, quem ainda fica com a última palavra? Fique com a gente até o final, porque hoje a Cereja do Bits vai trazer o teste dos 10 segundos, uma forma muito simples de saber quando você pode confiar na IA e quando precisa parar um pouquinho antes que o erro vire um problema de verdade.

Olá, sejam muito bem-vindos ao Bits, o podcast que traduz tecnologia, inteligência artificial, segurança e privacidade para a vida real.

Eu sou Andressa Carvalho e eu sou o Fábio Xavier. E hoje as notícias mostram uma mudança muito interessante, Andressa. Durante muito tempo, nossa preocupação era qual? Saber até onde a inteligência artificial conseguiria chegar. Mas agora ela chegou. A internet ainda não, mas tá, não tá longe, eu acho. Aí agora tá na educação, ela tá no atendimento, ela tá na justiça, na política. E nas plataformas que crianças e adolescentes usam.

Ele é até um ativo para vender alguma coisa, né? Ó, esse aqui contém IA.

A geladeira tem IA. Hoje nada se vende se não tiver IA. Então a conversa precisa amadurecer. Não basta perguntar se a tecnologia funciona, precisamos perguntar quem controla, quem confere e quem decide.

A gente vai começar aqui com uma notícia que não é nem exatamente sobre inteligência artificial, mas conversa aqui diretamente com a Conversa diretamente aqui com essa discussão. O Discord entrou no centro de debate no Brasil depois de casos envolvendo adolescentes suspeitos de violência e coação dentro da plataforma. Esse caso chamou bastante atenção aqui no Brasil, né? E a Agência Nacional de Proteção de Dados abriu aí uma fiscalização.

E a discussão ganhou ainda mais repercussão depois que a primeira-dama, a Janja, defendeu publicamente o banimento do serviço. Houve toda uma discussão aí se seria necessário ou não, né? E o projeto Comprova, do UOL, explicou que uma plataforma não pode simplesmente ser retirada do ar por vontade do presidente da República. Uma medida desse tipo, claro, envolve regras, fiscalização e, claro, uma decisão judicial. Fábio, onde isso se conecta aqui com a inteligência artificial?

Basicamente na questão da responsabilidade, né? Quando uma empresa cria um ambiente digital, uma plataforma que é usada por milhões de pessoas, Inclusive crianças, né? Aí ela não pode dizer que é apenas dona da tecnologia e que o comportamento ali dentro não é problema dela. É parecido com o shopping, né? Imagina o shopping. O shopping não consegue controlar cada pessoa que entra, mas precisa ter segurança, câmera de vigilância, saída de emergência e seguir regras.

O mundo digital, a discussão é parecida: quais proteções uma plataforma precisa oferecer E até onde vai a responsabilidade de quem criou aquele ambiente virtual?

A segunda notícia que a gente vai tratar aqui leva a inteligência artificial para um lugar onde o tempo faz muita diferença. Nos Estados Unidos, algumas centrais de segurança pública já usam a IA para assumir parte das chamadas não emergenciais, como reclamações de barulho ou situações sem risco imediato. Se o sistema identifica que pode ser uma emergência de verdade, aí sim ele transfere a ligação para um operador humano.

Isso é um bom exemplo de uso da IA que faz sentido. Uma central sobrecarregada, quantas ligações o nosso, né, sim, o nosso sistema de emergência recebe por dia, por hora, por minuto, né? Então quando um atendente registra uma reclamação simples, alguém que tem uma emergência real, séria, pode estar esperando. Se a IA consegue cuidar de casos mais básicos, liberar as pessoas para aquilo que realmente exige julgamento humano, ótimo, né?

Melhor solução. Mas aí vem a pergunta que precisa acompanhar qualquer automação: e quando a máquina classificar o caso de maneira equivocada?

Pois é, porque recomendar um filme errado, por exemplo, é uma coisa. Agora, errar numa chamada de emergência é outra completamente diferente, né?

Exatamente, o impacto é outro, né? Muda o nível de cuidado necessário. Então é uma situação que tá ali, tem que estar sempre sendo monitorada para evitar problemas e evitar essa falsa classificação, essa classificação de casos emergenciais de maneira indevida.

E na educação, a Dinamarca decidiu atacar outro problema: alunos usando IA para fazer trabalho sem realmente dominar o conteúdo, né? E uma das medidas anunciadas É ampliar avaliações em ambiente controlado e provas orais. E a pessoa não vai ter jeito, vai ter que estudar, viu? Ou seja, você pode entregar aquele trabalho maravilhoso, mas você vai precisar sentar diante do professor e explicar o que escreveu. Coitados dos introvertidos.

Coitado, ele vai explicar assim: eu escrevi o prompt tal. Eu acho a ideia bem interessante, ficou, ficar tentando aí descobrir se cada frase foi escrita por uma IA pode virar aí uma situação impossível de detectar muitas vezes. Agora, se eu pergunto ao aluno: por que você chegou a essa conclusão? Ele precisa demonstrar, explicar que entendeu, né? A IA pode até ajudar a estudar, e acho que para isso ela é uma ferramenta extraordinária. O que ela não deveria fazer é criar a ilusão de que alguém aprendeu.

Então todo mundo tá virado nessa aí desde pequenos na escola, né? E essa necessidade de conferir Chegou também aos tribunais brasileiros. Isso porque o Tribunal de Justiça lá de Minas Gerais analisou um caso envolvendo decisões judiciais fictícias e trechos de juristas apresentados de maneira distorcida em uma peça produzida com o auxílio de IA. Houve multa por litigância de má-fé e comunicações para apuração pelos órgãos competentes, né?

Esse caso traz uma lição muito simples para qualquer profissional: a IA pode ajudar a pesquisar e até ajudar a escrever. Mas ela não vai assinar. Quem vai assinar é você, é o seu nomezinho que vai estar lá. Então, se você coloca uma jurisprudência no documento, precisa abrir aquela decisão, pesquisar, validar e verificar se ela realmente existe. E mais, se ela diz realmente aquilo que tá escrito, porque aí pode produzir um texto extremamente convincente e ainda se inventar alguma coisa. Ela é muito cara de pau.

É o que a gente chama de alucinação da IA, né?

Sim, o nome parece complicado, mas significa basicamente a máquina inventar uma informação e apresentá-la com confiança.

Assim, ou seja, ela é uma boa mentirosa.

Ela mente e convence bem, né? Como aquele amigo que conta uma história com tanta certeza que você até acredita, né? O pescador lá que pescou aquele peixe enorme.

Gostaria de ver se era, né? Mas essa notícia aqui da IA lá do Tribunal de Minas, que essa condenação da multa aqui Por parte dos advogados houve um questionamento também, porque houve a notificação de 3 doutrinadores, né, e um deles já é falecido. Então os advogados começaram a questionar: foi também a IA que fez essa notificação e quis aplicar essa multa? Não percebeu que o doutrinador já havia morrido? Quem vai aplicar multa ao judiciário?

São questões todas para ficar— a gente precisa realmente tratar com parcimônia, seja quem está decidindo, seja quem está peticionando, né? Todo mundo precisa usar a IA aí com uma boa revisão.

Sem dúvida, né? Ela não é aí a solução para todos os problemas, como muita gente imagina, né?

Que vai sair do erro humano, né? Mas fica parecendo que é uma IA, porque agora a gente tá achando que tudo que erra também é IA, né?

Verdade.

E a gente chega agora às eleições. O TSE já estabeleceu regras específicas para uso de inteligência artificial nas campanhas de 2026, incluindo a identificação de determinados conteúdos artificiais e restrições para manipulações. Agora, e os casos concretos envolvendo vídeos produzidos ou alterados com IA podem ajudar a Justiça Eleitoral a definir até onde esses limites vão?

E aí, talvez aqui esteja um dos maiores desafios. Durante muito tempo, quando alguém dizia eu vi o vídeo, era prova cabal, né? Tá filmando, tá valendo. Isso quase encerrava a discussão. Hoje não encerra mais. Uma pessoa pode aparecer dizendo algo que nunca disse Uma voz pode ser clonada com alguns segundos da sua própria voz, vídeos da internet. Uma cena pode ser criada completamente do zero. Então, uma nova habilidade que nós temos que trabalhar na nossa vida é, antes de acreditar, descobrir de onde veio aquele vídeo para verificar se é autêntico.

Tá difícil ser uma pessoa digitalmente alfabetizada.

Tá difícil, tá difícil.

Fábio, olhando aqui essas notícias juntas, parece que a IA tá entrando justamente em lugares que a gente costumava confiar muito em pessoas: professora, advogada, atendente, jornalista, servidor público, não é?

Exatamente. Daí eu costumo dizer, qualquer solução precisa equilibrar 3 coisas. Você já ouviu isso, né? Tecnologia, pessoas e processos. Tecnologia é a parte que mais chama atenção porque ela é nova, é rápida, é impressionante. Mas colocar uma tecnologia boa dentro de um processo ruim só vai fazer a coisa errada acontecer mais rapidamente, né? Automatizada vai ser um erro mais rápido. Veja o atendimento de emergência. A pergunta não deve ser apenas: a IA consegue atender?

Temos que perguntar: quais chamadas ela pode atender? Quando transfere para uma pessoa essa chamada, quando deve transferir, né? O que acontece quando está em dúvida? Alguém acompanha, monitora o que a IA tá fazendo para ver se tem erro?

Então, porque a porcentagem aí de acerto sozinha não vai resolver, né?

Não, não. Críticos às vezes Imagina alguém dizer para você que o elevador funciona corretamente em 98% das viagens.

Por isso que eu subo escada, né? A primeira pergunta provavelmente vai ser: e os outros 2%?

E se eu tiver nesses 2%, né?

Exatamente.

Então esses 98% não importam para mim, a consequência que importa, né? Na IA é igual. Para escolher uma música, podemos aceitar bastante erro, escolher um filme. Agora, decidir o que pode afetar liberdade, dinheiro, saúde, direitos, segurança, aí a régua é mais alta.

A gente pode automatizar muita coisa, mas a gente não deve automatizar a nossa responsabilidade, até mesmo porque isso gera consequências e a gente vai ser cobrado disso, né?

Exatamente. Quanto maior o impacto, mais importante é saber onde está o ser humano que pode dizer, que pode afirmar que conferiu, que discorda, que não é bem assim, né? Esse senso crítico é fundamental.

E agora a gente vai para a cereja do bolo. Fábio, o que a pessoa que tá ouvindo aqui consegue levar desse episódio para sua vida, para sua rotina?

Um teste muito simples que eu vou chamar de teste dos 10 segundos.

É igual comida que cai no chão, 3 segundos, não pode nem um segundo.

Quanto mais fácil ficou gerar a informação, mais importante verificou, verificar.

Sim, verdade.

Então, 3 perguntas que devemos fazer. Sim, tá.

Qual que é a primeira?

Isso, se você está prestes a entregar um relatório, um trabalho, etc., tente explicar com as suas próprias palavras. Se você não entendeu aquilo, ainda não deveria colocar seu nome embaixo. Existe uma testemunha, e a testemunha aqui pode ser uma fonte, né, uma decisão original do tribunal, vai lá e pesquisa um site oficial, uma reportagem, uma matéria de sites jornalísticos de confiança. Então, se a IA trouxe uma informação importante, pergunte algo fora da própria IA que confie. Vai no velho bom Google, pesquisa as coisas.

Vai no site oficial. Esse argumento de autoridade que a sua IA trouxe, né? E qual que é a terceira pergunta aí?

O que acontece se estiver errado? Então, a gente errar às vezes é fácil, porque um médico, alguma coisa assim, É, então, se a IA está orientando uma emergência, influenciando uma decisão, produzindo uma peça jurídica sozinha, o risco é outro. É diferente de indicar um filme. Quanto maior a consequência, maior precisa ser a revisão humana.

Então, eu consigo explicar, existe aí uma testemunha disso. O que acontece se eu tiver errado? Vamos ter essa consciência.

São 10 segundos que podem mudar muita coisa, muda muito, porque IA está cada vez mais rápida. Então essa habilidade de criticar o que a IA faz é fundamental nos dias de hoje.

É, o senso crítico deve ser o novo. E agora a gente quer saber de você: em qual das situações você confiaria numa IA? Em qual ainda faria questão de ter uma pessoa com a última palavra? Compartilhe esse episódio com alguém que precisa participar dessa discussão.

Isso, e siga o Assuntos, né, no Spotify, Amazon Music, Apple Podcast, Instagram também, né? YouTube, né? Se inscreva no canal, curte, ative o sininho. Todas as fontes também das reportagens aqui estão lá no nosso QG. Qual é o QG?

bits.fabioxavier.com.br. E para mais conteúdo sobre a tecnologia, segurança e transformação, acessa lá fabioxavier.com.br ou procura lá no LinkedIn o Fábio Corrêa Xavier.

Eu sou Andressa Carvalho e eu sou Fábio Xavier.

Bits, decodifique o futuro. Hoje.

Até a próxima, até a próxima.