China proíbe namorados virtuais criados por IA

Com Tácio Veloso. Tácio Veloso gravou o comentário de hoje. Ele vai nos contar que a China decidiu dificultar a vida de quem usa IA. Veja só, Carol, para namorar.

Vamos ouvir.

E aí, Carol, Débora, boa noite para vocês, boa noite para todos. Mais uma vez nós vemos a China se mexendo para normatizar as coisas no ciberespaço, ou seja, a gente tá falando de internet, de plataformas digitais, do nosso dia a dia digital. A realidade é essa. E agora é uma história bastante curiosa porque os chineses decidiram passa uma regulamentação que impacta as inteligências artificiais de namoro. Isso tem sido muito comum em diversos países da Ásia.

Você fica ali conversando com o aplicativo, muitas vezes tem um avatar, um personagem com um namorado, uma namorada, você troca conversas, muitas vezes tem até mensagens mais picantes. Isso tudo está disponível de graça, só que acaba sendo uma dificuldade muito grande, principalmente quando estamos falando de públicos mais jovens, portanto mais vulneráveis. Tem toda a discussão sobre o momento em que a pessoa começa a entender efetivamente como lidar com a tecnologia para não causar tanta dependência.

Tem a questão dos vínculos emocionais entre a máquina e o usuário. Então a China passou essa lei, começou a valer na quarta-feira, imediatamente aconteceu um apagão. Empresas gigantescas como a ByteDance, que é a desenvolvedora do TikTok, e o Alibaba, que tem lá o principal, um dos dois principais aplicativos de pagamento da China, eles desativaram esse serviço. As interações foram interrompidas. As pessoas não conseguiam mais conversar com essas inteligências artificiais de namoro.

E essas empresas, elas concluíram que não tem como fazer isso, porque são ferramentas, são aplicativos desenvolvidos especificamente para este fim. É para ser sedutor, é para gerar dependência, é para criar vínculo do ser humano com a máquina. E o governo tá falando: não, a gente não quer que isso aconteça. Então em virtude dessa decisão, esses aplicativos pararam de funcionar. E é interessante porque tem um aspecto de tecnologia que possibilita que essas IAs existam.

E antigamente isso não era possível. Você tinha até jogos de RPG com simulação de namoro, mas agora o nível de imersão, o nível de sedução, eu diria, é muito maior. Isso porque a inteligência artificial Ela tem memória, ela consegue lembrar o que a pessoa gosta, do que ela não gosta, como é a rotina dela, lembrar o apelido, lembrar vários detalhes da rotina e fazer esses ajustes. Então ela vai se ajustando conforme o tom da conversa, conforme o que o usuário está colocando ali.

E essa imersão, portanto, ela é produzida de propósito e acabou incomodando demais. São milhões de pessoas, o que não é difícil, né, de chegar nesse número, mas de milhões de pessoas na China que se utilizam desse aplicativo ou de aplicativos dessa categoria. E agora vão ter que repensar a forma de interagir com essas plataformas, que também vale lembrar que terão que de tempos em tempos exibir uma mensagem dizendo: olha só, você tá conversando com uma máquina.

Isso terá que ser feito a cada 2 horas, essa mensagem terá que ser exibida para que a pessoa não perca de vista que tá ali interagindo com o sistema de informática. A China tá sendo pioneira nesse campo, ela já tinha regulamentado a questão de adolescentes jogando durante a madrugada, isso não pode mais na China, uso de celular tem várias restrições e agora mais essa. Teremos de acompanhar para ver o quanto disso será repetido em outros locais.

Nos Estados Unidos, a gente já sabe que estados como Nova York e a Califórnia exigem que os bots coloquem alertas de tempos em tempos. Lembrando que eles são tecnologias de uma natureza artificial. Débora e Carol, a que ponto chegamos, hein? Dá pra dizer que isso é muito Black Mirror. A gente volta a conversar na terça-feira.

Até lá.