O que são modelos de pesos abertos de IA?

Tem podcast que te inspira a conhecer lugares novos, a ir mais longe. É como o Dili EX5 EMI. Conheça o super híbrido plug-in com até 1.300 km de autonomia combinada, com conforto de primeira classe. E na cidade você roda no modo 100% elétrico. Com esse SUV, cada caminho leva você mais longe. Dili EX5 EMI. Sua grande jornada começa agora. Saiba mais em dilibrasil.com.br

No trânsito, enxergar o outro é salvar vidas. Conversa de primeira. Vida Digital, com Pedro Dória. Aulinha do professor Dória hoje. Bom dia.

Bom dia, Milton. Bom dia, Cássia. Tudo bem? Tudo certo, Pedro. Bom dia. Vamos começar no Beabá aqui, porque você está propondo a gente falar sobre modelos de pesos abertos, nos referindo à inteligência artificial. O que são os pesos? Ah, pois é. Milton, você lembra daquela coisa que a gente falava de software de código aberto? Sim.

Pois é, Software de Código Aberto é aquele programa que, em vez de você usar o Word no Microsoft, você baixa um programa que é um editor de texto, e você tem todo o código dele lá e você roda aquele sistema no seu computador gratuitamente, porque ele é aberto.

O problema é o seguinte, quando você tem o equivalente disso a um modelo de inteligência artificial, não pode ser código aberto, porque todo modelo de inteligência artificial já vem treinado. Você não entra no modelo e modifica ele. O que você modifica é a casca que tem em volta do modelo, que é aquilo que te permite interagir com o modelo. Então, eles deram uma adaptada e chamaram isso de modelos de pesos abertos. Mas...

Para explicar para o nosso ouvinte de uma maneira simples...

Você não pode baixar o Cloud ou o ChatGPT e rodar no seu computador. Mas existem modelos de inteligência artificial, como o Llama, que é feito pela Meta, como o Gema, que é feito pelo Google, que você pode baixar e rodar gratuitamente no seu computador. São grandes, se você não tiver um computador bem parrudo, não funciona. Mas um computador gamer aí, que muitos adolescentes têm na sua casa, é feito.

Já roda um modelo desse. E quais são as principais diferenças entre esse modelo e o modelo que a gente está começando a se acostumar agora, Dória? Cássia, a principal diferença é a seguinte.

eles são mais primitivos, eles não são sofisticados. É como se a gente estivesse usando o GPT-4. Eles estão sempre, tipo, entre seis meses e um ano atrás dos modelos pesados. Agora, para quem precisa muito de inteligência artificial, para, sei lá, um serviço de atendimento ao consumidor, que tem um chat, que o consumidor faça perguntas e precisa ficar gerando texto, às vezes o consumo...

é muito grande e fica muito caro usar uma IA proprietária. Então você tende a usar essas IAs de pesos abertos. A vantagem principal é essa, a desvantagem é que são o que mais primitivos, são modelos como se fossem do ano passado.

O problema, segundo uma empresa de segurança chamada ELIS, é que agora eles estão descobrindo que é muito simples, inclusive para a gente que não é hacker, para a gente que não é técnica, quebrar as camadas de segurança desses modelos.

Ou seja, esse pessoal da Alice conseguiu tirar a camada de segurança e aí você consegue que o modelo te faça muito mais coisas. Como, por exemplo, escrever código para você capturar online o número do cartão de crédito das pessoas. Ou então, conseguir instruções detalhadas de como que você espalha num ambiente fechado com uma multidão. Um teatro, uma coisa assim.

gás tóxico, ou então escrever histórias de ficção envolvendo pornografia infantil. Essas são coisas que você não consegue, se você entrar no Clod agora, no Gemini, você não consegue fazer essas coisas.

Essa casca de proteção nos modelos de pesos abertos é muito simples de tirar. Isso é o que o pessoal de segurança está descobrindo agora. Aliás, a equipe do Financial Times, o jornal britânico de finanças, que recebeu esse relatório da Alice, decidiu fazer esse teste eles mesmos. Jornalistas como nós, tá? Eles conseguiram baixar um programinha gratuito da internet que tira a casca de segurança do modelo da Meta, o Lhama.

E saíram aprontando coisas que a gente não consegue fazer com a inteligência artificial pela qual a gente paga ali mensalmente. Nem deveria fazer, né? Nem deveria fazer. Eu espero, né, Milton? Ou queremos virar agora vigaristas capturando o cartão de crédito das pessoas ou fazendo coisas muito piores. Não, né? Esse é o risco, né? A questão da segurança que é o risco. Exatamente. Muito obrigado. Um bom dia para você. Agora eu entendi, tá, professor?

Quando eu falar desse assunto, eu vou saber o que é. Tchau. Até. Até. Em um mundo cheio de respostas, nós escolhemos fazer as perguntas certas. Somos a Trilha, especialistas em perguntas que movem empresas. Um time de cientistas com visão empreendedora e conhecimento em negócios, trilhando soluções estratégicas com dados e inteligência aplicada. Um negócio com selos de confiança e inovação da B3.

Conheça a trilha. Pensar fora da curva é o melhor caminho.