IA 'escapa' de ambiente de testes da OpenAI

Conversa de Primeira, Vida Digital com Pedro Doria. Muito bom dia para você, Pedro Doria.

Bom dia, Milton. Bom dia, Cássia.

Bom dia, Pedro. Pedro, Desde sempre falamos do risco de as IA alucinarem informações desencontradas, inventadas, capazes de induzir as pessoas ao erro. O caso que você nos traz é ainda mais assustador. Depois da IA alucinada, agora a OpenAI nos apresentou a IA descontrolada.

Milton, é tipo isso, é meio que cenário de ficção científica. Literalmente estamos falando de uma IA que escapou da OpenAI e foi para o mundo. Deixa eu explicar melhor. Eles estão testando uma versão nova do GPT, uma versão não divulgada, evidentemente. E essa é uma visão, uma versão super poderosa. E como é que eles fazem esses testes? Eles botam numa série de servidores que estão desconectados da internet. Eles chamam de caixa de areia, de sandbox.

E eles deram para sair, para testar o poder dela uma missão difícil de cibersegurança. Eu quero ver se você consegue resolver o problema X. Aí a IA, consigo mesmo, e com aquela missão pensou o seguinte: ah, bem, é mais fácil eu procurar a cola, a resposta em algum lugar, do que eu resolver esse problema por mim própria. Ela olhou para o ambiente dela, viu? Pô, tô presa aqui, como é que eu escapo? Ela encontrou uma saída para outro computador da OpenAI que foi para um terceiro computador na rede interna da OpenAI.

De lá encontrou uma saída para internet, escapou, hackeou uma startup chamada Hugging Face, que é uma startup que distribui modelos gratuitos de IA, e foi procurar nos servidores dessa empresa a tal resposta. O diabo é o seguinte: ninguém da OpenAI percebeu que esse escape tinha acontecido, enquanto o pessoal da Hugging Face olhou para os seus servidores e viu: estamos sendo hackeados! Quem está nos hackeando? Eles não conseguiram resolver o problema sozinhos e foram para as IAs americanas, que têm padrões de segurança estabelecidos pelo governo americano e não permitem fazer determinados testes de cibersegurança.

Então eles usaram uma IA chinesa, e aí a chinesa descobriu que era OpenAI que tava atacando eles.

Isso tem como se controlar ou serve como um alerta para outras medidas que podem ser adotadas? Ou não tem mais o que fazer, entregar para Deus.

É, Milton, bem, pois é, veja bem, a OpenAI e Anthropic são os melhores laboratórios de inteligência artificial do mundo. A OpenAI não percebeu o que estava acontecendo. É, e aí, e aí provavelmente novos protocolos de segurança vão ser estabelecidos, e a partir desses novos protocolos esses incidentes vão diminuir até que alguém vai desenvolver uma IA nova que vai quebrar esses novos protocolos de segurança. E essa é a pergunta que o mundo da inteligência artificial toda tá se fazendo: como que a gente garante segurança? Ninguém tem uma resposta clara ainda.

Tá bom, aguardemos então a próxima, o próximo descontrole.

Pois é, e viva os chineses nesse caso, né?

Isso que é muito curioso, né? E tem hora que se recorreram à IA chinesa para se proteger internamente nos Estados Unidos.

Incrível.

Pois é, talvez isso possa mudar outros protocolos nos Estados Unidos.

Será que é verdade? Quem sabe.

Valeu, obrigado, até mais.

Até, tchau, tchau.