Entenda as movimentações sobre segurança da IA

Conversa de Primeira, Vida Digital com Pedro Doria.

Muito bom dia para você, Pedro Doria.

Bom dia, Milton. Bom dia, Cássia.

Bom dia, Pedro.

Pedro, nos ajuda a entender em que estágio está essa discussão sobre a segurança com a inteligência artificial, já que nós temos visto diferentes movimentos surgindo nesse momento.

Pois é, Milton, tá pior. Vamos lá, é uma mudança, algumas mudanças concretas aconteceram nessa última semana. Primeiro, OpenAI, Anthropic e Google, que são as companhias que mais investem em inteligência artificial pelo lado da criação de modelos, estão ativamente trabalhando juntas. Elas montaram um comitê no qual existem encontros regulares dos seus cientistas para definir procedimentos. Além disso, a OpenAI anunciou que detectou pelo menos mais 6 casos em que o GPT Escapou da casinha, foi para fora da internet, entrou no site dos outros e invadiu, hackeou, modificou os sistemas.

O que o pessoal da OpenAI tá dizendo é o seguinte: eles não tinham uma maneira adequada interna de policiar o seu modelo, e portanto muitos desses incidentes aconteciam sem que eles percebessem. Alguém de fora dizia: tô sendo hackeado, parece que é uma IA. E aí a OpenAI ia lá e via que era ela que tava hackeando, que tava fazendo, ou o modelo dela por conta própria tava fazendo esse tipo de mudança. E a partir daí você também tem uma crise que a gente já sabia que ia acontecer conforme essas empresas começam a se articular, que é ter empresas de IA pequenas dizendo: olha, precisa aplicar a lei antitruste aqui, porque o que concorrentes de grande porte fazem no mercado quando começam a articular é evidentemente montar um cartel.

Isso não pode ser ilegal nos Estados Unidos. Então estamos também num problema legislativo. Existe, é necessário uma legislação especial, alguma autorização especial para que elas possam fazer essas reuniões concomitantes, coisa que ainda não apareceu. E o caminho continua sendo uma espécie de autorregulação dessas empresas, ou vai ter de ter algum tipo de interferência para que a gente tenha esses riscos diminuídos, Pedro? Olha, não tá claro, tá?

É evidentemente que os dois modelos são possíveis. Na Califórnia, e essas três são empresas da Califórnia, OpenAI, Anthropic e Google, na Califórnia o governador Gavin que é pré-candidato à presidência. Ele tem uma coisa meio John Kennedy ali, bonitão, jovem e tal, e é o candidato que os democratas estão gostando para presidência. O Gavin Newsom anunciou o início de estudos na Assembleia Legislativa da Califórnia para ter uma regra que imponha às empresas de inteligência artificial aquilo que a gente chama de um kill switch.

Um botão que você aperta para ela desligar imediatamente. E seria mandatório no estado da Califórnia que toda IA criada lá tenha algo assim. Então é algo que começa pelo, pela ponta da legislação estadual, entre outros motivos porque Donald Trump, o presidente americano, tá dizendo que embora as empresas de inteligência artificial digam que exista um risco, ele garante que não existe risco nenhum e que os americanos podem ficar tranquilos.

Então a gente vai ter que ver esse avanço também no bate com legislação. Americanos e chineses já combinaram, o governo americano, governo chinês, uma hotline, né, uma, um canal de comunicação em que a China possa dizer que tem uma crise de ar ou que os Estados Unidos possam dizer que tem uma crise de ar, como a União Soviética e os Estados Unidos já tiveram no tempo do perigo nuclear.

É bom que a conversa ocorra com a China porque senão de nada adiantará todas essas coisas. E é interessante eu saber da opinião de Donald Trump, do alto da sua sabedoria sobre inteligência artificial, que ele diz para nós que podemos ficar bem tranquilos quanto a isso. Muito obrigado, Pedro Doria.

Até mais.