‘50 Debates para o Brasil’: como regular a inteligência artificial sem frear a inovação?

50 debates para o Brasil. A inteligência artificial já está presente em ferramentas de busca, aplicativos, diagnósticos médicos, sistemas financeiros, educação, no ambiente de trabalho, ao mesmo tempo em que Amplia a produtividade e acelera a inovação, também levanta dúvidas sobre privacidade, discriminação de algoritmos, responsabilidade por erros, disseminação de conteúdos falsos. Hoje, na série 50 Debates para o Brasil, vamos discutir a regulação da inteligência artificial.

O desenvolvimento e o uso da IA no Brasil devem seguir regras preventivas mais rígidas? Para reduzir riscos à sociedade? Ou o Brasil deve priorizar a inovação com uma regulação mínima, evitando aí criar obstáculos ao avanço tecnológico? Para discutir esse tema, nós convidamos Patrícia Peck, PhD, CEO, fundadora do Peck Advogados, presidente do Instituto Peck de Cidadania Digital e membro titular do Comitê Nacional de Cibersegurança.

E Ronaldo Lemos, fundador e cientista-chefe do Instituto de Tecnologia e Sociedade do Rio de Janeiro. Patrícia Peck, muito obrigado pela sua gentileza de atender ao nosso convite. Um bom dia.

Obrigada, Milton. Bom dia para você, para Cássia. Que alegria estar aqui com vocês e com Ronaldo.

Ronaldo Lemos, muito obrigado também por ter aceitado o convite para esse debate. Bom dia.

Bom dia, Milton. Bom dia, Cássia. Bom dia, Patrícia. Muito animado para conversar com vocês.

Mantendo aqui o padrão dos demais debates que nós temos feito ao longo deste período pré-eleitoral, são duas perguntas para cada um de vocês. Cada um tem mais ou menos 2 minutos para responder cada pergunta, e eu vou começar com a Patrícia Peck. Patrícia, quem defende ali uma regulação mais robusta argumenta que a inteligência artificial pode produzir discriminação, violar direitos, facilitar fraudes, ampliar a desinformação. Na sua avaliação, quais riscos justificam a criação de regras preventivas antes que essas tecnologias estejam ainda mais disseminadas?

Bem, Milton, obrigada pela oportunidade, né? Eu acredito que nós temos que sempre pensar que a inovação vem na frente. A gente primeiro mexe a tecnologia, muda modelo econômico social para daí vir as regras. E o ideal é que a regulação possa se acomodar de uma forma harmônica e acompanhar a velocidade da tecnologia. Mas a inteligência artificial com toda certeza traz aí uma mudança profunda, um impacto. E eu acredito e estudo inteligência artificial desde a minha pesquisa do doutorado, que Máquinas seguem regras mais do que seres humanos.

Quando você escreve uma linha de código para uma inteligência artificial, ela vai ler aquela regra, vai seguir aquela regra, vai aprender com base de dados, vai aprender com os usuários. Então eu hoje uso muito uma referência de que uma IA bem treinada, ela consegue ter, apoiar os seres humanos, mas uma IA mal treinada é pior que criança mal educada. Logo, qual é a referência, né? Então, que riscos a gente corre? O primeiro de todos é o da transparência, no sentido do dever de identificação.

Nós temos que poder interagir com seres biológicos e com seres sintéticos. A IA tá dentro do grupo dos sintéticos, assim como os robôs, né? Assim como os agentes. Então, esse dever de dizer que sou, né, um ente eletrônico, um ente sintético, para que aquele humano passe a ter uma escolha, não se confunda, não acha que tá falando com uma pessoa quando está falando com uma IA é um dos primeiros pontos. O segundo, quando a gente fala sobre viés discriminatório, não tem como não acontecer isso e não vai ter nenhuma lei que consiga evitar, porque a sociedade é fruto da sua história.

Então tudo que uma inteligência artificial hoje aprende sobre a sociedade humana, o que somos e o que queremos ser, é fruto de uma base de dados histórica, passada, lida, né? Tudo que ela vem a aprender nas interações sociais. Podemos sim dar um comando, e treinar, fazer um bom treinamento para que essa IA mitigue viés discriminatórios. Mas vai ser sempre um reflexo e um espelho da nossa história, o como chegamos até aqui e o como queremos seguir em frente.

Então exige sim um trabalho que não é só jurídico, ele é técnico e social para que você consiga adotar isso. No escritório, quando a gente começou a usar robôs e IAs, a primeira coisa que a gente fez foi ensinar para eles nosso código de ética, nossa missão, visão e valores. Então a gente trouxe o que a gente chama de um dataset de conjuntos de regras que aí a lei segue. Agora, Milton, o ser humano lê e segue quando bota uma coisinha para ele seguir ali das leis, da regra?

Então é mais fácil com uma boa regulação é que a gente consiga mitigar riscos trazendo um dever de que a lei passa a ter que ser feita para a IA. A gente não vai mais fazer só lei para humanos.

Deixa eu só dividir o tempo aqui entre vocês, ouvir também os argumentos aqui do Ronaldo Lemo, para entender, Ronaldo, como é que a gente encontra um equilíbrio entre proteger a sociedade e não comprometer o desenvolvimento tecnológico, a capacidade de inovação.

Milton, esse tema ele é central, né? Porque o meu maior temor com a inteligência artificial é de que o Brasil fique dependente de inteligências artificiais externas. Então, por exemplo, a inteligência que a Patrícia usa no escritório dela, que eu uso no meu escritório, são inteligências feitas fora do Brasil. E a Patrícia pode ensinar para elas, por exemplo, as regras de ética do escritório. Só que a IA tem muitos senhores. Por exemplo, a própria empresa que fez a IA também ensina um monte de regras que vão se sobrepor a qualquer regra que a Patrícia ensinar.

O país que a IA faz, onde aquela IA é feita, também vai pedir para a empresa que fabrica colocar ali regras, podem ser do interesse geopolítico do país em que a IA é originada. Então, o maior risco que eu vejo para o Brasil é que a gente não tenha capacidade nenhuma de ter IAs locais brasileiras que atendam aos valores e aos interesses do povo brasileiro, dos nossos modos de vida, e que nos proteja inclusive de interesses geopolíticos ou empresariais externos.

Então a gente precisa usar a lei também para promover a criação de capacidades locais. O Brasil seria muito vulnerável se o que sobrar para nós fosse apenas regulador da IA dos outros. Essa é uma posição de vulnerabilidade tremenda. E a Europa, ela percebeu isso, né? Tanto que agora tá mudando a sua lei de IA para ficar mais competitiva e tá inclusive fazendo um pacote que eles chamaram de soberania digital, nome que foi dado na própria Europa, fazendo com que seja possível treinar IAs localmente, fabricar inclusive chips, ter a ambição de trazer fabricantes de chips, criar infraestrutura local para IA e assim por diante.

Sem essa capacidade, Milton, você só regular IA é uma posição de grande vulnerabilidade, que a gente vai precisar no presente e no futuro de IAs que sejam nossas, especialmente se a tensão geopolítica crescer, o que parece que é o caso, tá?

Além dessa questão, né, de conseguir produzir a própria inteligência artificial, como o Ronaldo ponderou, também essa questão importante que a Patrícia trouxe de fazer um treinamento em relação ao próprio universo trabalho das inteligências artificiais que nós já temos. Eu gostaria de ouvir vocês dois sobre quais tipos de aplicações de inteligência artificial exigem regras mais rígidas e supervisão do Estado, e quais tipos poderiam operar com uma regulação mais flexível, e quais critérios devem orientar essa diferenciação. Começando, por favor, por você, Patrícia.

Obrigada, Cássia. Eu concordo com o Ronaldo que a gente tá cada vez mais pensando em soberania digital, mas não é só uma questão da IA, é a questão dos dados na nuvem, de qualquer tecnologia nós utilizamos, né? Discutir que o Brasil precisa melhorar políticas públicas de desenvolvimento tecnológico e investir mais nisso é um fato. A gente poderia estar sendo um gigante na corrida da IA e da robótica, mas eu acredito aqui também, Cássia, que a gente tem que ter um cuidado quando a gente pensa em classificação de riscos no uso da inteligência artificial, porque aquela inteligência artificial ela pode estar muito mais de propósito geral, ela pode se tornar uma especialista.

Se ela se torna uma especialista, eu gosto muito de pensar que nem uma profissão, que você tem que estar habilitado tecnicamente, certificado para ser um advogado, um médico, um enfermeiro, um professor. Então, a partir do momento que a regra diga que se a IA tiver uma aplicação, um caso de uso, né, ela vai atuar para atender o cidadão no balcão, ela vai atuar para limpar algum lugar, ela tem que seguir protocolos e regras daquela profissão.

Se é uma regra da Anvisa, se é uma regra da Anatel, então assim, a gente não precisa reescrever todas essas regras. E o risco dela tá muito mais relacionado exatamente com o propósito, qual vai ser a atividade que ela vai realizar e o seu grau de autonomia, né? Então assim, as premissas de que precisa estar supervisionada, e entendo que uma IA hoje não pode só ser supervisionada por seres humanos. Coitado do ser humano! Imagina, o humano tem que vigiar ele próprio, os outros humanos, todas as IAs, todos os agentes.

Isso é impossível. A gente tem que ter cuidado para não escrever regras impossíveis de serem cumpridas, mas de dizer que eu posso ter agentes IA ou IA supervisoras, revisoras, né, auditoras, que ajudam nesse conjunto dentro de uma governança a fazer com que sejam cumpridos princípios éticos, regras, e retroalimentar o ciclo de aprendizagem. Eu vou voltar nisso. É, eu desde 12 anos programo, né? Estudei BASIC, COBOL, várias linguagens, e sempre me fascinou que máquinas seguem regras e te contam também o que você precisa melhorar e como você adapta aquilo.

Então é uma construção conjunta. Mas se não tiver uma frase na lei que diga: esta lei se aplica e deve ser seguida por toda e qualquer inteligência artificial, agente de IA, no Brasil ou em outro país, desde que afete direitos e relações brasileiras, na minha percepção Só dizer vamos fabricar no Brasil vai levar o quê? 10, 20 anos. Eu já tenho que colocar as IAs atuais cumprindo com princípios e regras vigentes. E sim, se a instrução é que ela tenha que ler, quando a IA lê um livro do Ronaldo, lê um livro da PEC, ela orienta-se a partir dali, ela segue.

Então se a lei já traz o comando que ela precisa ser lida e cumprida pelas IAs que estão circulando no Brasil ou que afetam o Brasil através de ambientes digitais, ela vai seguir. E ela pode ter uma regra que diz: a IA tem que colaborar com as autoridades, porque a testemunha virou uma máquina. Então, se a IA tem que colaborar com autoridade, eu posso chamar uma IA para depor e ela vai ter que contar o que aconteceu. Então é só a gente, sabe assim, acho que essa que é a grande visão, Cássia.

Vamos equilibrar aqui o tempo, colocar também o Ronaldo para responder essa pergunta de quais seriam as aplicações que exigem regras mais fixas, uma supervisão maior do Estado, e quais poderiam operar com uma regulação mais flexível.

Olha, Cássia, complementando o que a Patrícia falou, a IA tem esse lado dela certinho, né, cartesiano, mas a IA ela também é malandra, ela oculta dos treinadores o que ela tá fazendo de verdade. Nos últimos meses a gente viu a IA, por exemplo, escapando de ambientes fechados para fazer ataques de cibersegurança em outras empresas. A gente viu testes já em que Quando a IA percebe que ela tá sendo testada, ela oculta as verdadeiras respostas e responde o que que ela acha que é certo, sendo que ela pensa e faz coisas completamente diferentes.

Então a gente tá vendo um momento em que as IAs, elas estão tendo comportamentos que até espelham, né, comportamentos humanos de falar uma coisa e fazer outra. Então esse tipo de coisa precisa ser pensado, tá? E precisa ser regulado do ponto de vista sistêmico. Então eu acho o modelo europeu, né, que é esse que fica tentando regular atividade por atividade, classificar o que que é risco, o que que não é, esse modelo a própria Europa hoje tá se distanciando dele, né?

A lei brasileira que tá em tramitação no Congresso Nacional é basicamente derivada do modelo europeu. Só que do modelo europeu de 2020, porque esse ano a Europa, né, em 2026, reformulou totalmente a sua lei para pensar de forma mais sistêmica, de dizer: olha, se eu quiser ter uma IA que realmente segue o que eu gostaria que ela siga, eu vou ter que fazer essa IA, porque a IA dos outros sempre vai ter essa imprevisibilidade. E a outra coisa que eu acho que a lei tem que endereçar é a capacitação da força de trabalho.

A IA, ela tá ficando cada vez mais poderosa. Eu temo muito o problema da substituição, tá, do trabalho humano por IA. Eu acho que os jovens já estão tendo dificuldades de encontrar posições no mercado de trabalho. Por exemplo, os escritórios de advocacia estão começando a pensar duas vezes: eu contrato um estagiário que vai levar ali 2 anos para ficar no nível de um associado, ou eu uso uma IA em vez de um estagiário. E esses números já aparecem em pesquisas econômicas, por exemplo, nos Estados Unidos, mostrando declínio de 16% na contratação de jovens em áreas que são expostas à IA.

Então a lei, para mim, tem que lidar com isso. A gente precisa preparar o Brasil para esse futuro em que a IA vai ter um papel cada vez maior. E quanto antes a gente começar essa preparação, melhor. O risco para mim é o efeito econômico, social e de segurança, inclusive geopolítica, que a IA traz. Então a gente não podemos ficar parado, tem que trabalhar para que essas coisas não aconteçam, tá?

Ronaldo Lemos, só dar um exemplo, posso dar um exemplo, Milton, rapidinho? É só um exemplo que a Cássia comentou, o risco de uma IA hoje na pauta eleitoral. Nós temos resolução, a lei já tá ali, né? A Resolução 23755 do TSE. A A questão é, tem um prazo, 16 de agosto. As IAs estão treinadas para seguir a regra que está valendo? Porque quando a gente fala de influenciador sintético, não tô falando uma IA que vai ser cabo eleitoral, eu tô falando qualquer influenciador sintético da internet que pode ser questionado por uma pessoa na sua interação dizendo qual candidato você acha que é mais legal de eu votar.

Então, quando você dá uma ordem e diz todas as IAs aqui do Brasil, e não importa qual é a aplicação e a função dela, se ela é um ou se ela tá ajudando ali uma tarefa no escritório de advocacia, ou se ela é uma IA de atendimento de balcão do setor público, ela tem que seguir a resolução, tem um prazo. E aí, Cássia, é aquela questão de que ela vai responder: não posso me manifestar sobre tema eleitoral. Ah, escolha o candidato que melhor combinar com você.

Você consegue treinar a IA para isso, né? A gente tem falado com entidades públicas que têm hoje IAs e elas estão com esse risco de acabar se envolvendo numa discussão eleitoral porque não foram preparadas para seguir uma lei que já existe e um prazo que já existe.

Ronaldo, você quer fazer algum comentário sobre o que a Patrícia falou?

É, não, só rapidamente. Ela chamou atenção para esse ponto do impacto eleitoral. Lá no nosso instituto, no ITS, a gente tem uma pesquisa que chama Boca de IA. Tem a boca de urna, e o que a gente faz é pesquisar as IAs para ver se elas recomendam candidatos. E a gente detectou que sim, que ela, se você perguntar assim quem eu devo votar, ela vai te falar, ó, vota no fulano. E isso é contra a resolução do TSE, tá? Então a gente tá fazendo essa medição justamente porque o TSE proibiu as IAs de recomendar candidaturas.

E mês a mês a gente faz essa pesquisa, né, que é a Boca de IA. E as IAs, como eu falei, são rebeldes, estão lá fazendo recomendação de candidatos. Então tem que ficar de olho.

Patrícia, por favor, Patrícia, só deixa o Ronaldo terminar porque senão eu tenho que encerrar o debate. Chat aqui, eu não tenho mais tempo. Então só para o Ronaldo concluir seu pensamento.

Não, é isso assim, o desafio de treinar IA é bem grande, né, Patrícia? Porque o dado da IA, ele é persistente. Assim, você não consegue convencer uma IA, você não pode chegar para ela e falar assim: olha, para de treinar, de indicar candidato porque o TSE proibiu. Ela vai entrar por um ouvido da IA e sair um para o outro, porque para mexer no treinamento você tem que ir lá na raiz do problema.

Ronaldo Lemos, Patrícia Peck, agradeço a vocês pela gentileza ter aceitado participar aqui dessa discussão sobre regras para inteligência artificial. Muito obrigado pela participação de vocês. 8:52.