LLMs no Debian Linux: proibir ou aceitar, com Tiago Vaz

Olá pessoal, neste episódio eu converso com Tiago Bortoletto Weiss, desenvolvedor e membro das equipes de comunidade e front desk do projeto Debian. Nós conversamos sobre uma proposta recente que está sendo discutida no âmbito do projeto para rejeitar e restringir o uso de grandes modelos de linguagem, LLMs, inteligência artificial generativa na comunidade Debian. Quais são os problemas dos LLMs em projetos open source? O que está sendo proposto?

Tiago concorda com tudo que está na proposta? Vamos ver isso e mais no episódio. Olá pessoal, eu sou Adolfo Neto, professor da UTFPR Curitiba. Estou aqui com o Tiago Bortoletto Vaz. A gente vai falar um pouco sobre uma proposta de rejeição de LLMs, né, de grandes modelos de linguagem agenerativa, no projeto Debian. Então, em primeiro lugar, Thiago, eu queria que você se apresentasse. Quem é você? Onde é que você está?

Bom, meu nome é Thiago, eu sou desenvolvedor Debian, eu contribuo com Debian desde 2004, mais ou menos. Minha primeira grande experiência com Debian foi a Debconf no Brasil, em Porto Alegre, em 2004. Foi junto com logo antes ou logo depois do FISLI, que era o Fórum Internacional de Software Livre. E a partir daí eu me envolvi bastante. Em 2009 eu virei membro oficial do Debian, e no Debian eu mantenho pacotes. Nesse longo período eu trabalhei em diferentes lugares, então geralmente mantenho pacotes relacionados ao meu trabalho.

Mais recentemente eu sou parte do Community Team do Debian, que é um time de pessoas que lidam com questões de mediação social quando a gente tem algum problema entre os próprios membros contribuidores. E também eu sou parte do front desk, que é trabalhar junto com os dev account managers para aceitar novos membros, né? Faz toda a parte, gerencia as entrevistas, o processo de entrada, etc. É o que eu tenho mais me dedicado no Debian hoje, são essas essas duas coisas.

E eu tô, eu sou do Brasil, eu moro em Montreal faz 15 anos já, e aqui eu estudei música, estudei música, composição com tecnologia. Minha tese de mestrado em música foi lidando com inteligência artificial. Falei bastante do GPT-2 na época, 2022, e aí logo depois saiu o GPT-3, que foi o ChatGPT. Então eu tô meio envolvido nessa questão aí desde já tem um tempinho. Então é isso.

E pelo que eu entendi, você dá aula também numa faculdade?

Eu dou aula no college aqui, é um college público. A gente tem essa estrutura aqui no Quebec, na província do Quebec, que geralmente a gente, os alunos não saem do segundo grau para direto para universidade. Eles passam por um college que é como se fosse uma escola um instituto técnico no Brasil. E no college os estudantes escolhem continuar na universidade depois, então eles fazem todas as matérias básicas de requisitos para entrar no curso de ciências, de computação, ou eles vão direto para o mercado de trabalho, fazem um ano a mais e já saem pronto para indústria, né. Então eu dou aula num college aqui de computação.

Maravilha. A gente tem um fundador do Fronteiras da Engenharia de Software, o professor Fábio Petrillo. Agora ele não tá mais participando ativamente do podcast, mas participou por bastante tempo. Ele é professor na ETS, fica em Montreal também, né?

ETS é nível universitário, legal, que Montreal. A gente tem bastante um tipo de parceria com a ETS porque muitos alunos do Vanier College, onde ensino, depois saem no concurso e vão para o ETS. Então a gente se comunica bastante.

Legal. Então deixa eu contextualizar um pouco. A gente já teve no Fronteiras da Engenharia de Software, no meu podcast pessoal, Professor Adolfo Neto, várias coisas sobre a questão da IA na engenharia de software, umas mais positivas, outras mais negativas. Mas eu sinto que falta espaço talvez aqui no Brasil para pessoas falando sobre a visão negativa Por isso que eu às vezes me voluntario a ser essa pessoa. Então eu achei esse texto aqui, deixa eu colocar aqui na tela, mas quem tiver só escutando não tem problema, dá para ler depois, ouvir, etc., que é assim, ele é uma proposta, né?

Rejeite os LLMs e age narrativa na medida do possível. No projeto Debian, o que tá aqui no projeto Debian é da como é que fala, da tradução, né? Em inglês tá só: reject LLM generative AI as far as practical, na medida do possível. E aí eu vi isso aqui, eu acho que alguém postou lá no Blue Sky. Tiago Bortoletto Vaz, é aquela coisa, esse nome soa brasileiro. Eu perguntei para o Daniel Linharo, que é aluno aqui da UTFP, refletiva no meu Instagram.

Sim, não sei o quê. Então, tentar entrar em contato para conversar um pouco, sabendo que, claro, é uma proposta de várias pessoas, você pode não saber todas as motivações para todos os itens, mas eu queria conversar um pouco sobre isso. Então vou ler um pouco aqui e aí a gente vai comentando, né? Começa assim, vocês começam assim: os LLMs apresentam muitos problemas graves, incluindo o enfraquecimento de mecanismos de construção da comunidade de software livre.

Então, por que que vocês colocaram esse item aqui? O que que vocês querem dizer com enfraquecimento dos mecanismos de construção da comunidade de software livre?

Se você me permite, eu vou dar só um pouquinho de contexto para o— talvez nem todo mundo conheça como funciona essa dessas questões, dessas propostas no Debian, que a gente já tem 5, 6 propostas hoje diferentes e vão ter mais. O prazo é amanhã, mas isso é o que a gente chama de uma resolução geral, uma general resolution no projeto. O projeto Debian tem uma constituição que prevê que assuntos que, majors, assuntos importantes e que não existe um consenso claro na comunidade, a gente tem esse mecanismo de voto.

E o voto, todo membro do projeto pode votar. Existe uma metodologia bem específica, interessante de votação, que quem tiver curiosidade pode dar uma olhada depois. Mas os membros propõem opções para um determinado tema, a gente tem um período de discussão, e aí depois tem os votos. Basicamente isso. Nesse caso, o voto foi a primeira pessoa que propôs discutir esse tema. Isso já foi proposto alguns meses atrás. O consenso foi: não é hora de votar porque as coisas não estão muito claras ainda para gente.

E agora teve de novo essa nova proposta. Mas se você olhar a proposta original da pessoa que postou, foi a proposta número, letra A. Essa daí é a proposta, a proposta C, a que veio em terceiro lugar na discussão. A proposta A é uma proposta extremamente, digamos, bastante radical. A gente não vai, a gente vai proibir o uso de LLM no Devia, ponto. E a pessoa propunha, o desenvolvedor, ele propunha editar uma parte do nosso contrato social.

O Debian, quando você vira membro, você tem que aceitar com o contrato social do Debian e também com a definição Debian Software Libre, a DSG. E aí, o que que acontece? Na nossa Constituição, Debian é cheia de documentos. Na nossa Constituição, se uma votação implica em modificar um dos documentos de fundação do projeto, fundamentais, foundation documents, não sei Uma melhor tradução para isso. Ele precisa ter uma maioria de 3 para 1 na votação, uma super maioria.

E como essa proposta propõe uma modificação no nosso contrato social, ganhar essa proposta, vencer a votação, não é tão fácil conseguir suporte suficiente para fazer 3. Tecnicamente falando, ela precisa ter 3 vezes mais votos do que a opção default, que é normalmente nenhuma das anteriores. Então, e então o Ian, quando ele propôs, então logo teve essa proposta A, teve algum suporte. Depois uma pessoa, o Lucas, propõe a proposta B, que é uma proposta mais que permite e que não encoraja, mas permite consciente de todas as questões, problemas que podem acontecer, mas que é muito mais permissiva.

E aí o Ian, ele decidiu escrever a Proposta C, que é na linha da Proposta A, mas que não mudaria o nosso contrato social, nenhum documento de fundação do DEB, fundamental do DEB. Então não precisaria essa super maioria, seria mais fácil de vencer. Se você olhar a thread do Ian, ao início a proposta original era, era um pouco diferente, mas a gente vai falar, vai falar, eu posso falar um pouco da proposta original, que foi mudado.

Mas para sua pergunta agora, desculpe, eu quis só aqui dar um contexto para as pessoas saberem o que é essa proposta. É uma das opções de uma resolução que a gente vai votar daqui alguns dias. Uma das 6 ou 7, porque a discussão tá acontecendo ainda, vai manter outras, vão ter outras proposições aí. Então, enfraquecimento dos mecanismos de construção da comunidade software livre. O que eu tenho ouvido, e eu concordo, é o argumento de que a gente, a gente, e uma questão um pouco filosófica aí, a gente tá saindo no loop do fluxo de informação geral, em torno do nosso tema de formação, a gente como ser humano a gente tá cada vez menos presente nesse loop.

E o Debian enquanto projeto, ele é uma, ele tem o objetivo de criar um software de qualidade estável e apropriado para os nossos usuários. Mas o Debian, muita gente defende que no final das contas ele é um projeto que o objetivo final é a própria comunidade. Então, se você começa a pensar que existe uma tecnologia que vai tirar os próprios membros da comunidade desse loop, pouco a pouco a comunidade tende a desaparecer no futuro, ou se enfraquecer, ou de certa forma outros argumentos é de que ela pode virar uma comunidade mais elitista, porque quem contribui sem o uso dessas tecnologias talvez não consigam nem Não é a palavra, não é competir, mas acompanhar o desenvolvimento daqueles que têm condição de pagar os modelos mais poderosos hoje.

Então, nesse sentido, provavelmente quem defende exatamente essa questão do enfraquecimento vai ter outros pontos para te compartilhar, mas o meu entendimento é esse, é basicamente tá tirando o ser humano, o humano do loop, desse ciclo todo. Quando a gente fala hoje loop, a gente falava um tempo atrás prompt engineering, as pessoas falam em looping engineering, não sei se você já ouviu falar nesse termo, mas que é basicamente você, a gente não quer nem mais se dar ao trabalho de escrever prompt, a gente quer escrever um prompt para que a LLM continue em loop escrevendo novos prompts.

Se alguma coisa acontecer, isso implica fazer testes automatizados e propor merge requests automatizados. E se passar em tais testes, fazer o merge com as branches principais e fazer o deployment. Então tira completamente a gente do loop. Isso para uma comunidade pode ser— a gente não sabe ainda, mas pode ser bastante perigoso se a gente pensa em que o objetivo de uma comunidade é também se manter como comunidade.

É outra questão. A gente vai, eu, Michel Bonico, que foi o primeiro autor, Michel Bonico, eu e o Douglas, a gente vai apresentar um trabalho no CBSoft que é sobre como na comunidade ROS, né, que é o Robot Operating Systems, caiu o número de perguntas no fórum interno deles. A suspeita que tenha sido porque agora as pessoas estão perguntando para um LLM. Né, o Stack Overflow também parece que caiu bastante o número de usuários.

Então acho que também entra talvez indiretamente aqui, né. Aí o segundo, você quer complementar algo?

Não, eu só concordando com você, é interessante, certo.

Segundo item, eu acho que aí a gente não precisa, nós dois não somos muito especialistas, talvez a gente tem alguma experiência de alguma coisa, mas assim, a questão dos danos ambientais Eu vou simplificar o que eu sei, né, que assim está falando por aí no mundo todo sobre construção de data centers. Eu tive uma entrevista num dos meus podcasts com o professor Mauro Oliveira, que falou sobre data centers de IA e que eles são, eles gastam mais energia do que os data centers que não são de IA.

Tem várias comunidades no mundo todo reclamando porque estão construindo, estão construindo, estão querendo construir um data center naquela região. Acho que até aqui no Brasil tá tendo uma mobilização instalação lá em Belém, no Ceará também. Não sei se aí na região de Montreal tá tendo alguma coisa assim.

Por enquanto não, que eu saiba não.

Então, questão dos danos ambientais é isso, é questão da água, que dizem que não é um problema tão grave assim. Questão da energia, que mesmo que use energia limpa, tem um cara que é da Austrália, é Ketan Josh, ele é especialista nisso. Ele disse, mesmo que você diga, ah, vamos usar energia limpa aqui nesse data center, Por que que vai usar no data center? Não seria melhor ter energia limpa para usar nas coisas que a gente tem já, substituir em vez de criar novas?

E outra coisa também, que a energia limpa, que eu acho que é o caso um pouco do Ceará, essa energia limpa não é 100% sem impacto, né? A energia eólica tem impacto também na população.

Então essa questão é a questão, eu diria que é uma das questões mais sensíveis. Se você discute alguém que tá acompanhando bastante os danos que isso tem causado em comunidades, em cidades lá nos Estados Unidos, que eles fazem um lobby, as empresas fazem um lobby muito grande para chegar em cidades pequenas que tem muita área agrícola e construir mega data centers que utilizam energia muita. E a questão é o uso da terra, é o uso do espaço, da energia, e a geração de emprego é quase nula no fim das contas.

Então eu li o artigo sobre a possível criação de um data center no Ceará, e é incrível como— eu não lembro os números, mas ia empregar meia dúzia de técnicos para cuidar do negócio, porque também é tudo automatizado. Os danos ambientais e obviamente o poder de processamento, como existe uma uma corrida, né, uma corrida entre as empresas, entre as grandes empresas, mas também entre os países, principalmente entre Estados Unidos e China.

Essa corrida impulsiona uma ambição enorme de construir data centers sem muita preocupação com energia limpa, porque cada um quer ganhar, quer sair na frente, e o poder que precisa para processar todos esses dados, para principalmente para treinar os modelos É absurdamente maior do que tudo que a gente viu até hoje de rede social, de computação, processamento distribuído para tudo quanto é problema matemático, etc., que a gente tinha.

Treinar modelo de IA é muito, é uma ordem muito maior, realmente. Eu não sou especialista, como você disse, mas eu concordo, é muito, muito preocupante. A questão dos danos ambientais.

E aquela questão assim, mesmo que eles não entendam o suficiente, no mínimo a gente tem que ser prudente, né? Opa, pera aí, vamos parar e pensar bem antes de fazer qualquer coisa. Não sai por aí construindo data center à torto e a direito, que tem— eu falei da água, da energia, tem também as reclamações em relação ao ruído, né, o barulho que faz, né? Tem vídeos e mais vídeos por aí de pessoas que estão relativamente próximas de data center e tem que escutar um barulho 24 horas por dia.

E é porque justamente eles, eles não, eles estão às vezes, eles estão construindo antes de ter energia disponível. Então imagina, eles constroem uma coisa quilométrica e colocam geradores a gasolina para manter, para começar o funcionamento. Isso aconteceu nos Estados Unidos com uma das empresas do Elon Musk, não sei exatamente Mas tem, já é um absurdo o barulho. Imagine 2000 geradores a gasolina, a motor de gás rodando ao mesmo tempo perto de uma cidadezinha.

É isso, é falta de respeito em geral com as pessoas, com os animais, com o ambiente. Existe um total desprezo que é muito claro, e isso realmente E eles têm um poder muito grande, lobby. É difícil, é uma situação bem difícil que a gente tá.

O terceiro item é a exploração de autores. Recentemente eu postei lá no meu Blue Sky, que é @adolfoneto.alecheirenfoco.com. Alecheira em Foco é um outro podcast que eu sou apresentador. E é assim, foi um trecho do livro Empire of AI, que já foi traduzido para o português, Império da de Karen Hall, onde eles contam lá que foi da época que o pessoal tava lá, aquela negociação Microsoft e OpenAI. E aí, opa, o que é que a gente vai fazer?

A gente tá fazendo scraping, né, pegando os repositórios que tem no GitHub. Aí, como teve o acordo e a Microsoft tinha comprado o GitHub, a Microsoft disse, não, toma, toma aqui todos os repositórios do GitHub para OpenAI treinar, né? Quer dizer, eles pegaram todo o código que a comunidade livre de software livre deixou lá por um motivo, né? Para ajudar outras pessoas da comunidade de software livre, talvez algumas empresas. Mas não foi para treinar um sistema que depois tá sendo usado hoje em dia por muitas pessoas para gerar código proprietário, enquanto que se fosse software livre teria que seguir a mesma licença.

Tem uma série de critérios aí, né? Então eu acho que esse é um ponto, talvez vocês queriam dizer com exploração de autores. E outro é que eu acho que é importante explicar, porque eu sinto que algumas pessoas às vezes não entendem. Quando você tem um LLM de código que gera código e que você escreve um prompt em língua natural, ele gera um código. Isso não é somente baseado nos dados do código, é também baseado nos dados de texto que eles pegaram também toda a internet, inclusive de livros.

Né, livros com direitos autorais. Então são todos esses, não são somente, não foi somente as pessoas que deixaram o seu código com licença aberta no GitHub, mas também as pessoas que não deixaram seus livros com licença aberta em lugar nenhum e tiveram isso roubado de certa forma, né. Era isso mais ou menos que vocês estavam pensando aqui?

Sim, o argumento é esse, é o desprezo também total pelas leis de copyright que essas mesmas empresas eles sempre prezaram bastante, né? E isso envolve obviamente scraping na internet. Mas se você recentemente, você viu as notícias da Anthropic, eles compraram milhões. E tem um artigo pequenininho na Wikipédia, chama Projeto Panamá, não sei se você leu sobre isso, que a Anthropic basicamente encontrou uma forma de não infringir copyright, que é comprar livros raros em todos os sebos do planeta fazer um mega esquema de escaneamento automatizado industrial usando maquinarias e depois destruir o livro.

Para um dos primeiros julgamentos foi de que isso libera eles de copyright infringement. Então eles estão, imagina a situação, a gente parece que saiu da Idade Média que tinha os livros queimados, questões religiosas. Hoje a gente tem os livros queimados, destruídos uma questão quase religiosa também, né, que é a ambição desses caras e a falta de regulação. Então eles estão fazendo isso, eles estão comprando livros extremamente raros, conhecimento produzido por humanos que não estão mais aqui, que muitos, muito já é domínio público, mas que não tá nem na internet também, porque ninguém teve capacidade de escanear tudo e transformar isso em digital.

Então se apropriando desse conteúdo, treinando os modelos destruindo os livros, depois vendendo o acesso aos modelos só para quem pode pagar. É um desprezo total também, com completa falta de regulação das questões, justamente porque esse momento de transição é o momento que eles conseguem fazer tudo que eles querem, né? A lei de copyright não tá clara. Você comentou a questão de quem é o copyright do output de uma LLM. Até hoje não existe, pelo que eu saiba, nenhuma dessas empresas dizendo, ó, o copyright é meu, porque o meu modelo gerou.

Porque, mas não tá claro, no fim das contas ninguém sabe, né? Talvez em algum momento ele falar, tá bom, o seu prompt foi interessante para gerar esse output, mas digamos que 95% veio da inteligência do meu modelo, então eu detenho parte desse copyright que você gerou. E aí algumas pessoas falaram, no Debian, imagina se E uma das propostas era, se eu não me engano, a proposta B era de encorajar as pessoas ou forçar os desenvolvedores, se usarem LLM, de colocar lá uma tag, como commit no Git, uma tag dizendo qual foi o modelo que usou e tal, né?

Além de ser um super propaganda gratuita para essas empresas, a gente pode ter problema no futuro quando essas empresas por acaso começarem a dizer que que aquilo é copyright dele, foi gerado com os agentes dele, etc. Enfim, tá tudo meio difícil ainda, tudo meio complicado, tudo meio nublado, essas questões todas. E eles estão aproveitando disso, né, para explorar.

E isso que você falou também é importante. Uma coisa é legislação de direitos autorais do Brasil, outra dos Estados Unidos, outra do Canadá, né. Então, como as grandes empresas que estão por trás desses grandes modelos de linguagem estão nos Estados Unidos, então a maioria delas segue a legislação dos Estados Unidos e decisão judicial dos Estados Unidos, que foi o caso essa aí, que disse, ah, se você escanear o livro, tudo bem, você não pode abaixar um livro pirata que tá lá no site de livros piratas, né?

Outra coisa que tem me incomodado muito como leitor de artigos científicos, essa questão do scraping, quer dizer, eu sou incomodado indiretamente, né? Eu não tenho nenhum site que sofre scraping, pelo menos não que chegue a cair o site. Mas assim, hoje em dia todo artigo científico, mesmo os que eu tenho acesso aqui por ser professor da UTFPR, eu tenho que esperar 2, 3, 4, 5 segundos para dar o check lá para dizer que eu sou humano, porque provavelmente tem um monte de empresa por aí fazendo esse scraping agressivo.

Então vamos ler o item aqui: perturbação da hospedagem aberta na web por meio de scraping agressivo. Eu acho que essa foi uma reclamação. Você viu o documento? Na verdade, eu acho que foi mais um blog post, não sei se tem um documento associado, do pessoal do Codeberg. Eles falaram alguma coisa assim sobre, mas é, eu não me lembro se a reclamação deles era scraping, mas eles estavam falando que o pessoal, quem usava LLM, tava atrapalhando eles. Então, a partir disso, eles proibiram uma série de usos de LLMs.

Isso afeta bastante o Debian, bastante. Os DSA, que é o Debian System Administrator, e outras pessoas que mantêm serviço como a Wiki do Debian. Eu conheço o Steve, que é o admin da nossa Wiki, e ele, ele o tempo todo tá lidando com bloqueio de endereço IP, gente pedindo para liberar, e aí bloqueia, porque a Wiki do Debian fica fora do ar por causa disso. Bastante frequente. Enfim, de novo, o desprezo total pela tecnologia que foi construída ao longo de tantos anos, de colocar, de a gente ter os arquivozinhos texto nos servidores web falando não, bot, não venha.

Desprezo absoluto por tudo isso que foi construído para nossa espécie, né? A gente, a gente faz tanta bobagem, mas as coisas que a gente construiu devia ter orgulho de repente realmente tá sofrendo esse desprezo todo.

Então é, eu aí eu tenho uma suposição, não sei se faz sentido, que sei lá, por exemplo, a pessoa tem alguma dúvida, que até quer contribuir ou quer usar alguma coisa da documentação do Debian, vai lá no LLM, escreve um prompt, tem uma saída. Só que hoje em dia esses LLM, não é só o LLM, tem todo um sistema em torno do LLM que, ah, vê o seu prompt, vai lá, busca na internet e traz e gera alguma saída. Provavelmente é nisso aí que acontece também esse scraping, ou será que é só no treinamento?

Não, nos dois. Treinamento, mas eu acho que é mais, é mais nos agentes, né, que eles comunicam com os modelos e depois complementam com busca, porque os modelos eles nunca estão atualizados, né, eles precisam de um complemento. Então é o tempo todo, realmente é o tempo todo. Imagine os milhões de pessoas fazendo prompt nesse momento e os modelos checando no site o tempo todo. É muito, é muito tráfego, muito, muito consumo. Realmente é um problema, é um dos problemas para quem é administrador de sistema de redes hoje, tá tendo que lidar com isso.

Vamos então ao próximo item. Esse aqui é mais genérico, não sei se particular do Debian, talvez também, mas geração e disseminação de bobagens poluindo o patrimônio comum da informação. Então provavelmente tem, tem página por aí gerada por IA que tem informações sobre Debian que estão erradas. Será que essa é uma das formas que afeta diretamente?

Esse daí foi engraçado, porque se você ler assim, eu vou dar um pouco do contexto também da questão. Quando a gente dá um second numa proposta, um ballot, uma opção do sistema de votação no Debian, não necessariamente a gente está concordando com, não necessariamente a gente vai votar para ele. A gente tá achando, a gente faz isso porque acha que é importante essa opção tá lá, ter suficiente gente apoiando, porque tem um mínimo 8, 6, acho que 6 Tem que ter esse mínimo para ser considerado como uma opção de votação.

E se você olhar o email que eu respondi sobre quando o Ian mandou essa proposta, eu não gostei, eu não gostei do uso do termo bullshit na descrição, no contexto. E como não gostei também, ele fala pessoas horríveis, detestáveis. Eu tenho essa opinião também, mas eu não acho que isso é positivo para o Debian. Eu acho que isso cria mais divisão. A gente já tá criando esse tema, já cria bastante divisão nas comunidades, e eu acho que ele teria mais suporte se não usasse os termos.

Mas aí eu fui notificado por um outro desenvolvedor dizendo que o termo bullshit aqui era em relação, é um termo técnico E no padzinho que eu te mandei tem um link de um artigo, não sei se você deu uma olhada já. É um artigo, tá todo mundo falando, super bem escrito e fundamentado, que o autor ele define que o termo alucinação etimologicamente não é tão apropriado para o que essas LLMs geram. Que se você pegar pela definição do termo bullshit e alucinação, bullshit é um termo mais adequado.

E o argumento em parte é que veio desse artigo. Isso, bullshit aqui é um termo técnico, mas obviamente não é porque alguém escreveu um artigo e de repente vai mudar toda a carga que uma palavra tem no idioma. Então, mas é basicamente, se você quiser talvez compreender o que o Ian tentou dizer como geração de porcaria, de bobagens, Tecnicamente falando, é isso daí que tá nesse artigo, que é bem interessante, vale a pena dar uma lida, é bem interessante.

Mas que eu não concordo que esteja como descrição de um ballot no Debian. Eu acho que ele vai perder suporte e as pessoas que apoiam, que na comunidade que quer, são mais permissivas, se sentem ofendidas e esse tipo de coisa. Mas enfim, mesmo assim eu dei o second na na proposta dele. Depois que ele— eu também propus que ele tirasse um tópico, um dos pontos da proposta, que era evitar, proibir explicitamente o uso de tradutores, de traduzir textos na comunicação entre os membros ou contribuidores do projeto usando LLM.

Isso para mim seria bem complicado, porque hoje a gente usa ferramentas, a gente não sabe se eles estão usando LLM internamente e tal. Eu uso bastante o DeepL, que antes dos LLMs ficarem populares ele já usava machine learning para ajudar. Eu uso basicamente para fazer alguns ajustes quando eu preciso escrever em inglês, eu não tenho vocabulário de um anglófono nativo. Eu trabalho no community team, que a gente lida com questões, tem vítimas, tem agressores, tem mediação que a gente tem que medir as palavras com muito cuidado, e isso me ajuda, alguma ferramenta.

E talvez o DPL esteja usando LLM. Então, se esse item passasse, ganhasse, eu provavelmente ia ser muito difícil para mim, para as pessoas no Debian. Então ele propõe na proposta inicial, se você olhar a thread lá na lista, é um item 8 explicitamente que a gente deveria escrever no nosso idioma de origem e deixar que o recipiente fizesse a tradução, o que não faz muito sentido também. Porque você tá lendo uma thread com 200 emails em inglês, você já tá com mindset em inglês, você vai responder, você precisa ajustar uma ou duas palavras que você precisa de ajuda.

Aí você tem que de repente passar para escrever sua resposta toda em português e acreditar que quem vai receber vai se dar ao trabalho de traduzir para o inglês, e que o tradutor que ele ou ela vão usar vai traduzir com a intenção que você quis escrever. Bom, mas aí ele concordou de tirar. Quando ele concordou de tirar, ele tirou. Ele não concordou de tirar as palavras bullshit e horrible, mas tudo bem. Aí eu dei o second. Foi basicamente isso.

Sobre isso, é essa questão. O artigo ChatGPT is Bullshit foi publicado na Ethics in Information Technology em 2024. Só aqui na Springer já tá com 1,11 milhão de acessos, 476 citações. Realmente é bastante coisa. Eu queria só colocar esse aqui porque esse aqui é um texto mais recente, de 2026 agora, Como Falar Sobre Á sem Adicionar Antropomorfização. Eu lembrei dele porque em algum momento você falou aí de alucinação, e eu acho que elas falam aqui, são as autoras ou os autores.

Eu sei que é a Emily, Nana, não sei se é mulher, mas enfim, elas no sentido de as pessoas. E eu acho que em algum lugar elas dizem, ó, em vez de usar assunação, use saída indesejável, undesirable output. E aí eu acho interessante, só complementando essa questão que você falou, que a Emily Bender é linguista, então ela trabalha com modelos de linguagem antes de ser modinha, né? Ela não vê problema em usar LLM para tradução. Ela acha que foi para isso mesmo que foi feito, né?

O que ela acha mais problemático é justamente você usar para desse jeito, que você escreve um prompt e a resposta, né, a saída parece que é uma pessoa falando com você, nessa antropomorfização que acontece de várias formas.

Então o artigo do Bullshit, ele separa duas definições de bullshit. Tem a soft bullshit, que é quando não é intencional, e a hard bullshit, quando é intencional. Então a questão da intenção, talvez no artigo que você mostrou agora, que é simplesmente indesejável, não tá presente. E talvez algumas pessoas argumentam que há intenção dessa geração, de alguma forma, de alguns momentos. Enfim, Eu acho que a questão da escolha das palavras é interessante porque a gente tá, a gente tá lidando com, quando fala de inteligência, até hoje muita gente fala não há inteligência.

Tem umas pessoas que falam pega a definição de inteligência e veja que exatamente eles são inteligentes. Inteligência não precisa de intenção, não precisa de consciência, e isso é inteligência, resolver problemas de forma eficaz. Mas a gente não tem condições de inventar palavras novas para, para, então a gente tem que tentar adaptar. É a mesma coisa quando o avião foi inventado, a gente falou avião voa. Se você observar, o avião faz, ele não voa igual um pássaro, igual um mosquito, mas ele voa.

Um submarino não nada, mas ele se desloca embaixo da água de um lugar para o outro. Ninguém inventou uma palavra nova para o avião voar. O avião voa, não é igual um pássaro, mas voa e alcança o objetivo dele, que é transportar ele mesmo e algumas coisas de um lugar para o outro. Então não tem condições de inventar palavras novas. A gente vai ficar sempre nesse debate de qual é o melhor termo e tal. O fato é que bullshit, para 99% das pessoas, vai soar como um termo carregado de ofensa, de— e para mim isso nunca é.

A nível do projeto, a nível individual, pessoal, mas o projeto eu acho que podia ter a mesma intenção na descrição da proposta sem usar as palavras. Mas tudo bem.

Eu acho que o ponto mais importante é que existe toda uma geração de conteúdo, às vezes incorreto, e às vezes vai para o ar, né, no sentido, tá lá numa página. Tanto é que até Parece, eu não me lembro se eu li isso assim, de novo essa coisa, né, não lembro se foi de uma fonte confiável, se foi alguém somente especulando, mas se foi a especulação era a seguinte, de que os livros novos já contêm muito conteúdo gerado por IA, ou os próprios autores colocam alguma coisa para tornar eles menos desejáveis para as empresas de IA.

Então por isso que a Anthropic precisou de livros mais antigos em papel para poder treinar os seus modelos, né? Por isso que ela destruiu, comprou os livros físicos, destruiu os livros físicos. Enfim, nesse sentido de que as próprias empresas sabem que o patrimônio comum de informação está sendo poluído de alguma forma. O próximo item, então, assim, não é isso, é outro tópico.

Eu não sei quanto tempo você tá estimando. Se eu tiver falando muito, você Fica à vontade. Mas essa questão é interessante porque os livros antes de LLMs e todo esse scraping louco aí, as editoras já cobravam dos autores a se adaptarem aos algoritmos, né? Então eu lembro que eu li, eu acho que foi o o segundo livro do Yuval Harari, o Homo Deus, ou foi o Nexus, que ele comenta que ele escreveu um release, ele ajudou a escrever um pequeno texto de divulgação do livro e teve que ser todo refeito porque teve que se adaptar aos algoritmos, porque tinha que ser ranqueado no topo e tal e tal e tal e tal.

Então a gente tava perdendo essa autonomia, o conteúdo gerado já era cada vez mais totalmente— é como se fosse uma nova linguagem sendo criada para se adaptar às limitações da IA. E o que eu vejo com meus alunos hoje é que às vezes eles escrevem um texto, e é um texto de ChatGPT, mas aí eu converso com eles e tal, e eles conseguem me convencer que eles escreveram. Eles estão começando a escrever no estilo ChatGPT também. O que fica mais difícil agora para a gente aplicar o teste de Turing lá um a um com os alunos, porque virou a mesma coisa, né? Tá difícil, mas continua aí.

O próximo item também, a gente, nós não somos, quer dizer, a não ser que você seja ou não saiba, nós não somos psicólogos, né? Então essa parte de riscos à saúde mental, a gente sabe assim de ler notícias, pessoas que se mataram, Interessante que muitos dos casos que tem de suicídio são ações lá nos Estados Unidos e contra a OpenAI, mais particularmente o ChatGPT-4o, porque ele era muito psicofântico, alguma coisa assim, né? Tentava agradar muito os usuários.

Não soube mais de casos assim mais recentes. Tem uma jornalista que tá sempre cobrindo esses casos, que é a Maggie Frei Harrison, eu acho. Teve um caso aí no Canadá, né, de uma pessoa que, um mass shooting, uma coisa que não é tão comum no Canadá quanto nos Estados Unidos, né, um assassinato em massa. Uma pessoa vai para uma escola, geralmente é uma escola, shopping, né, e mata pessoas meio que aleatoriamente, né. E parece que essa pessoa que cometeu esse crime aí no Canadá tinha tido interações com o ChatGPT.

Alguém lá dentro tinha percebido, mas não avisou as autoridades canadenses. Teve um caso aqui no Brasil que o ChatGPT, a OpenAI, avisou as autoridades brasileiras e prenderam um cara que tava tentando, tava pensando em matar o filho, alguma coisa assim, né? Não sei se você tem alguma coisa mais concreta aí que foi discutido internamente sobre isso.

No Debian não é muito relacionado ao Debian, a questão de codificar. Mas obviamente, se ele tá dando contexto para justificar o não uso da tecnologia dos LLMs do projeto, é também por uma questão social geral, como saúde mental. E a gente concorda, a gente tá no meio de uma experiência social. Como você falou, ChatGPT-4, um monte de gente aí fez campanha para voltar porque perdeu o amigo e tal. O que acontece é que Principalmente para crianças agora.

A gente, a grande experiência agora de você oferecer agentes para crianças são brinquedos, ursinho de pelúcia e tal, que tem LLMs embutidas e que agradam, agradam. São entes lá que ouvem, que divertem, que brincam, que cantam, que não se cansam nunca, que estão disponíveis sempre, que sempre agradam. Então a gente não sabe o que vai acontecer com um ser humano que cresce lidando com uma entidade que parece com um humano, mas que tá sempre disponível para você.

Qual tipo de habilidade ela não vai desenvolver quando ela— a gente já vê isso em famílias que a criança é que a família é extremamente permissiva, ou que a criança nasce numa família privilegiada, criada basicamente por pessoas pagas e que devem obedecer todas as vontades. Isso, eu não sou profissional, mas eu acredito que já é uma questão resolvida na ciência, na psicologia, que não é positivo. E agora com IA, isso é amplificado porque Mesmo aquelas pessoas que são pagas para agradar seu filho e passar lá o dia todo e tal, e dormir às vezes com ele, elas têm seus limites, elas precisam impor limites, elas precisam dormir também, elas precisam descansar.

Enquanto um bichinho LLM não. Então, o que que vai, o que, qual o resultado disso a gente não sabe ainda, mas o fato é que é uma experiência que pode dar muito errado. É isso. O pouco que eu li sobre isso é que muita gente acha que vai dar muito errado.

É, e me preocupa um pouco, por exemplo, ah, vamos incorporar aí na educação ou na empresa. E sei lá, às vezes o objetivo de incorporar na educação ou na empresa é realmente, na educação, só aprender a fazer isso aqui, na empresa, vamos aprender a codificar. Mas eventualmente você é uma máquina que faz de tudo, né, um sistema que faz de tudo, Se você perguntar ele, pedir para ele uma receita, por exemplo, fosse pensar alguém, algum cientista ou alguma pessoa, vamos fazer um sistema para ajudar as pessoas a escreverem código, e eu pedir uma receita de pão de queijo, ele não vai me responder.

Mas o ChatGPT, ele responde, né? Ele responde perguntas sobre código, responde sobre receita de pão de queijo. Então, enfim. Não, aí entra um outro ponto que toca um pouco mais na minha área de pesquisa, que é engenharia de software, que tá lá também no livro O Império da IA, é que assim, esses sistemas não foram suficientemente testados porque a abrangência deles é tão grande, mas tão grande, que chega um ponto que não dá para testar tudo.

Então eles lançam sem testar tudo mesmo. Agora vamos passar para o próximo item, que a questão, essa também eu acho que a gente não tem tanto conhecimento. Não sei, talvez você, mas é, tem uma parte que sim, né? Eu, quer dizer, faz tempo que eu não compro nada de hardware de computador. Eu tô me antecipando, deixa eu primeiro ler. O item é bolhas econômicas e distorção do mercado de hardware de computador. Então eu sei que o que tá por trás disso é o aumento de preço de GPU, de memória, né, de SSD.

Enfim, tá tudo ficando mais caro. E a questão da bolha econômica é que essas as principais empresas hoje, no dia que a gente tá gravando. Se alguém tiver escutando isso aqui daqui a 6 meses, talvez seja outro valor, mas hoje, no dia que a gente tá gravando, se estima que a valoração de cada uma dessas duas empresas mais famosas de IA, Anthropic e OpenAI, tá quase beirando 1 trilhão de dólares, né, que é muito dinheiro, principalmente levando em consideração o que elas arrecadam hoje, né.

Claro, tem toda uma expectativa, a valoração tem a ver com expectativa, não somente com retorno. Mas hoje em dia essas empresas não zeram lucro, pelo contrário, elas dão muito prejuízo. Mas há uma expectativa que um dia irão dar lucro, irão dar bastante lucro, por isso que elas têm essa valoração. Mas é também, elas não estão em bolsa, né, tá na expectativa de haver um IPO. Um cara que cobre isso que eu gosto muito é o Ed Zitron.

Tem outro cara que cobre isso também que eu gosto, que é o Cal Newport. E tem um que eu já ouvi algumas coisas, mas não acompanho tanto, que é o Prof. G Markets. Mas tem um monte de gente também, né? Não sei o que é que vocês aí na comunidade Debian têm informação sobre isso aí, como isso tá impactando vocês.

Bom, é isso. A comunidade Debian é super diversa, né? Tem gente que provavelmente Não tem nenhuma informação sobre isso. Eu tô nesse espectro porque eu também não, faz tempo que eu não compro nada de hardware. Mas a gente vê, né, que as coisas, a disponibilidade de alguns componentes, não é nem que tá caro, tá, não encontra mais. Então isso é um problema para o Devium. A gente acaba, a gente acaba fazendo, elitizando mais o processo de ser desenvolvedor, porque precisa de um computador, que você precisa compilar um monte de coisa, você precisa ter bastante memória.

E o que acontece, alguns desenvolvedores, principalmente em países menos desenvolvidos, tem super dificuldade de comprar máquina e e a máquina quebra. O Debian sempre ajuda. O Debian tem dinheiro, tem um dinheiro de doações. Se a gente, quando um desenvolvedor precisa de um equipamento, Debian oferece. Mas mesmo para o Debian não é fácil agora oferecer assim, tá bem difícil. Isso assim, isso é questão prática para o projeto, não é uma, não é um grande problema hoje.

Mas eu acho que o Ian fala basicamente, que eu já vi ele falando em outras ocasiões, é a preocupação geral assim. Os fundos de pensão que dependem, que estão investindo nas ETFs que têm parte nessas empresas todas, e a valoração de tudo isso que tá acolhendo investimento massivo. E os pessimistas, não de forma pejorativa, mas aqueles que acreditam que tecnicamente as LLMs não têm condição, eles estão chegando num ponto de inflexão, não tem condição de oferecer o que os investidores estão esperando.

Em algum momento essa bolha vai estourar e aí vai ser um desastre econômico no planeta, como a gente já teve no passado, ou pior. E isso prejudica muita gente, que é um problema muito maior do que desenvolvedor dev não poder comprar um laptop. Então eu acho que o Ian tá tocando mais E quem tá apoiando esse tipo de restrição, questões éticas, é mais em termos gerais mesmo.

Eu fiquei curioso, o Ian, ele tá nos Estados Unidos? Ele é esse aqui, o criador do DKG?

Isso.

Eu acho que ele criou o APT também, ou não?

Ele é um desenvolvedor muito antigo, ele já foi líder do projeto em 98, se eu não me engano. 92. E ele sempre se envolveu, ele escreveu, ele codificou grande parte das ferramentas core do Debian, assim, fundamentais, como DPKG e parte do APT. Ele participa muito da redação dos documentos de fundação do Debian. Ele recentemente desenvolveu o tag2upload, que é um um tipo de integração do Git com o nosso archive do Debian para simplificar um pouco os uploads, pacotes.

Então ele, ele é bastante ativo, ativo, e tem um histórico já de longa data no projeto.

E ele tem doutorado por Cambridge, é uma baita universidade, em segurança.

Insegurança. Ele é do Reino Unido, ele deve morar.

Aqui eu acho que a gente também talvez não tenha muito a falar sobre isso. Fraudes, né? Não sei se a comunidade sofre com fraudes diretamente.

Não, acho que fraudes, novamente, ele tá, ele tá colocando mais questões éticas gerais do que perturbação direta ao projeto quando ele coloca o contexto porque o LLM não deve ser permitido no DeviantArt. E fraude, eu acho que também questão genérica.

É, mas também tá tendo várias notícias aí relacionadas a isso, fraudes cometidas ou por empresas de LLMs em testes ou por pessoas usando LLMs, né?

É, ou negligenciamento, né, das empresas em relação às fraudes que que são cometidas com o uso das ferramentas deles.

Veja que é uma coisa assim bem indireta, né? Eu lembro que um dia desse alguém entrou em contato comigo dizendo, olha, eu não sei o quê, tem um dinheiro aqui para você. Aí tinha foto do perfil no WhatsApp, aí tinha assim Superior Tribunal de Justiça do Estado de São Paulo. Não existe Superior Tribunal de Justiça do Estado de São Paulo. A pessoa mandou o LLM criar uma imagem Tinha até a marca d'água no cantinho assim do LLM que gerou e só nem se preocupou.

Enfim, mas veja, é uma coisa bem mais indireta aí, do mais difícil de culpar a empresa por isso, as empresas. Essa parte a gente já comentou um pouco, né? Eu acho que talvez concordo com você realmente, que realmente falar detestáveis, por mais que eu acho que as pessoas são realmente detestáveis, mas assim, mesmo se elas não fossem. Meu lugar, eu acho que empresa detestável também é sempre complicado, que a empresa é um grupo de pessoas, e as pessoas eu acho que especificamente Dario Almodóvar e Sam Altman são realmente detestáveis por uma série de razões.

Tem um artigo que eu gosto muito sempre de indicar, é sobre The Despicable Bundle, da Timothy Gebru, do Emily— esqueci o nome, o segundo nome do do Emily, mas eu vou colocar na descrição de Tescral. Eu escolho, eu falo tanto desse artigo, ele sempre aparece aqui. Ué, sumiu aqui o, aqui esse aqui, Emily Torres falando sobre várias pessoas que estão por trás desse mundo de agência narrativa e como elas são, entre aspas, detestáveis, mas Enfim, voltando lá, talvez o maior problema seja a questão de que a gente tá dando muito poder para algumas poucas pessoas, não importa se são detestáveis ou não, né?

Eu acho que esse tipo de argumento, ele levanta, ele tira clareza da nossa mente quando a gente pensa no assunto. Então é um tipo de assunto para você pensar de manhã quando você acorda, antes de ler todas essas notícias, de abrir um jornal e ver a cara do Elon Musk, do Sam Altman, você vai ter uma clareza muito maior para lidar com a questão do que se você começar a pensar nisso no fim do dia. E personalizar também, eu entendo que quando você propõe ballots para votação, de alguma maneira você quer um pouco amplificar o seu entendimento sobre o assunto, sua opinião.

Porque o projeto, o Debian, o que ganhar aí vai ser um precedente enorme para comunidade software livre em geral. E no dia que o Debian chegar em público e falar, o Debian como projeto acha que essas empresas, pessoas, são detestáveis, tem um impacto muito grande. Isso é, gera um certo prazer para falar, eu consegui amplificar esse sentimento que eu tenho usando o projeto. Eu não acho que o Ian tem nenhuma intenção ruim nesse sentido.

Ele genuinamente, ele tá muito preocupado com as questões éticas todas. E, mas pessoalmente, eu não acho que é positivo, porque qualquer termo, qualquer palavra, qualquer vírgula que incite nossas emoções nesse tópico, para mim, não é positivo para discussão. Eu, a gente tá vendo pessoas extremamente dominadas pela raiva contra tudo isso, com argumentos extremamente sólidos, mas que a raiva tira a clareza, tira a possibilidade de discutir, de debater.

Quando, quando eu mandei um email falando, ó, eu apoio essa proposta, eu acho que ela reflete o espírito Eu gosto do espírito dessa proposta e eu acho que ela reflete muito que muita gente no projeto pensa, mas eu tiraria isso, isso. Eu recebi e-mails em privado de outros desenvolvedores falando tipo, como assim? Como já dizer essas duas palavras é pior do que usar LLM? Enfim, é melhor, é melhor na minha opinião. Eu tendo a tudo que eu escrevo, eu tendo a me perguntar primeiro se existe uma tendência daquilo que eu tô escrevendo, comunicando, de unir ou de dividir.

Se tem uma pequena tendência de dividir, eu prefiro não falar, não escrever, ou reformular. Porque por mais difícil que seja não achar, não falar que essas pessoas em prensa são detestáveis, existem formas menos que gera menos divisão de falar a mesma coisa.

E aí é interessante, aí tem o e assim por diante, que deixa um monte de coisas aqui. Por exemplo, nenhum momento se falou aqui sobre questão de como isso pode afetar o emprego dos desenvolvedores. Assim, aí a gente pode— eu acho que a empregabilidade dos desenvolvedores está sendo afetada um pouco, mas ainda não tá sendo fácil de dizer que é conta de LLMs. Pelo menos é o que eu ouço pessoas comentarem. Então não entrou aqui essa questão, né?

E aí vocês falam aqui que o uso ético e seguro dessa tecnologia é praticamente impossível. Eu acho que é só isso aqui, é só basicamente um resumo do que tá aqui. Eu acho que é importante dizer isso nesse sentido, no praticamente possível, porque, por exemplo, se a gente só treinar LLM somente com energia limpa e com dados obtidos, dados abertos obtidos com consentimento, não precisar fazer esse scraping agressivo, etc., etc., etc., talvez dê para ter um uso ético e seguro.

Hoje em dia não é isso que a gente tem, então é praticamente impossível. E às vezes a pessoa fala: ah, não, tem os LLMs abertos ou LLMs de código aberto. A única coisa que o LLM aberto, de código aberto, quer dizer, de código aberto não tem quase nenhum aberto que tem da China, por exemplo. Tem outros também que os pesos são abertos, né, mas o restante eu acho que é basicamente também não tem essa questão da propriedade tão clara assim de quem é, né, porque acaba eles dão para você usar de certa forma.

A questão da definição de modelo aberto também é controversa. Controversa, porque o treinamento foi roubando, né, informação, foi desprezando copyright também. Então, e obviamente o modelo não é reproduzível. Tem gente, os mais puristas falam, tem que ser reproduzível. Você tem que, se a gente não consegue reproduzir esse modelo, a criação desse modelo, A gente não pode ser chamado aberto. E obviamente as pessoas que são radicais nessa questão, elas acham que os modelos já estão poluídos com todo, todo, todos esses danos ambientais e de desprezo de copyright, de várias outras questões éticas.

Então eu conheço gente no Debian que Só usa software desenvolvido até 2023 e usam Debian hoje, recompilando um kernel ou usando mecanismo para tirar todos os patches marcados como LLM no kernel, porque eles querem zero poluição. Eles falam, então, infectado já. Eu não sei como eles vão conseguir manter isso por muito tempo, mas tem gente que nesse nível, nessa posição do espectro de que não só vai desenvolver usando LLM, mas se recusa a usar qualquer software upstream, os softwares de outros desenvolvedores que estão dentro do Debian, ou o próprio Debian.

Com qualquer patch que foi gerado por ele, qualquer modificação. Então existe todo esse espectro no Debian aí e a gente tenta ter todos esses ballots, né? Para— é por isso que já tem 6, vai ter mais, vai ter, deve ter uns 7, 8 no final.

Tem ideia de quando que sai o resultado?

O prazo foi estendido por mais uma semana. Na semana passada. Eu acho que amanhã é o prazo final para discussão e depois vai abrir a votação. E a votação, se eu não me engano, eu não lembro quantas semanas, mas tá na Constituição. Você pode ver lá no patch que eu te mandei, tem um tempo, quantidade de semanas para votar. Quando acaba, na mesma noite, é um scriptzinho que vai calcular lá e vai mandar o resultado. Mas devem ser talvez 3 ou 4 semanas de votação.

Tem umas chamadas, segunda, primeira, segunda e chamada final. Mas digamos que daqui um mês a gente vai ter essa resposta, menos de um mês.

Vou ler aqui, eu acho que isso aqui, essa parte aqui a gente não tem muito o que conversar. Talvez idealmente, é interessante, deixou uma coisa meio em aberto, né? Idealmente A saída dos LLMs não deveria fazer parte de nenhum software do qual dependemos, nem deveria de forma alguma substituir a prosa escrita por seres humanos. Infelizmente, parte do mundo do software em geral, incluindo muitos dos nossos fornecedores, têm uma visão diferente.

Portanto, uma proibição total da saída dos LLMs como parte do Debian é atualmente impraticável. Então não é aquela versão radical que não pode nada, né, não querem nada, certo?

É, isso é mais em relação a esse ballot, não se aplica ao software upstream, ao kernel, a todos os softwares desenvolvidos fora do Debian que viram pacotes no archive, no main, né, do Debian, digamos assim. Fazem parte do Debian, mas são desenvolvidos por as pessoas, não são mais nesse. Eu acredito que É isso que ele quis dizer. A gente não pode obrigar que todos os pacotes do Debian não tenham LLM envolvido, mas aquilo que é na infraestrutura do Debian oficialmente a gente não vai permitir.

Aí tem as solicitações. 1: solicitamos que todos os colaboradores do Debian evitem o uso de LLMs em seu trabalho no Debian. Solicitamos que todos os tomadores de decisão no Debian desencorajem o uso de LLMs tanto quanto for viável. A viabilidade é uma questão de julgamento e reconhecemos que isso envolverá concessões incômodas. E 3, solicitamos que todos, mesmo fora do DEPIA, se abstenham de usar essa tecnologia. Em particular, as comunidades de software livre e código aberto devem rejeitar os LLMs.

Reconhecemos que nem todos atenderão esse apelo. Eu acho interessante, por exemplo, Eu sei que na comunidade Erlang, né, tem um pessoal usando para tentar encontrar falhas, né, usando esses modelos aí mais poderosos para encontrar falhas. E aí quando se usa isso para encontrar uma falha de segurança e depois se corrige a falha de segurança, talvez seja um uso que seja necessário, apesar de incômodo, né, uma concessão incômoda.

Talvez exatamente uma das questões que estão sendo discutidas Fala assim, o Debian não vai aceitar um patch de segurança gerado para LLM. Vai, a gente tem o contrato social que a prioridade são nossos usuários. Então, que tipo de concessão a gente vai fazer? O que é melhor para o nosso usuário? Manter um sistema vulnerável por mais tempo ou não aceitando um patch gerado para LLM? Ou ter um sistema mais seguro, mas que seja mais ético. É difícil.

Eu só tô vendo aqui, você numera, eu coloquei o número. Ah não, tá certo, a numeração tá assim no original. Então, requisitos complementam os códigos de conduta. Isso quer dizer então são itens que seriam acrescentados ao código de conduta do Debian?

Eles teriam digamos, uma prioridade. Não que a gente talvez fosse modificar os códigos de conduta, mas poderia também, porque no código de conduta não deve, não são documentos fundamentais, foundation documents, sem precisar de maioria, super maioria na votação. Mas é mais no sentido de que isso vai, isso vai se aplicar, vai complementar o código de conduta. Então isso Uma violação de um desses pontos é uma violação do código de conduta do Debian.

Então deixa eu ler então esses requisitos. Item 4: no âmbito do Debian, as mensagens destinadas a pessoas, abre parênteses, incluindo por exemplo relatórios de bugs, mensagens em listas de discussão, discussões no Salsa e postagens no blog do Planeta Debian, fecha parênteses, devem ser redigidas exclusivamente por pessoas sem assistência de LLMs. Eu acho isso muito importante porque assim, às vezes a pessoa fica querendo complicar demais, aí puxa lá, escreve 3 bullet points.

Em vez de mandar aqueles 3 bullet points, ah, deixa eu pegar o LLM e gerar 5 parágrafos para isso. Não, manda os 3 bullet points só, precisa. Ah, você tem, a pessoa vai ficar com dúvida aí, manda, a pessoa responde, interação humana, né? Não sei.

Minha versão é esse 4. Eu também tenho uma mensagem minha na lista falando que a questão de usar a comunicação é isso. Para mim tá faltando aí numa opção que diferencia o que é uma geração por LLM e uma assistência aceitável. Que seria uma assistência aceitável. É porque eu, e talvez alguém esteja já escrevendo, mas uma tradução completa por LLM no Debian eu obviamente não acho uma boa, uma boa escolha. É uma, uma, como é que, um refinamento geral de um texto, de um email, de uma proposta por LLM no DeviantArt também não acho.

Ele tem a tendência de mudar estilo, de tipo desumanizar um pouco a coisa, estandardizar, e então, e mudar intenções também. Então você acaba tendo menos agência, mesmo que você ache que não, que você gostou mais daquele texto, mas no fundo você perdeu um pouco da sua agência. Eu não sei se em português de falar agência Mas talvez ajuste, pequenos ajustes numa estrutura de uma frase, de um texto que você quer enviar, ou se você usa uma ferramenta, plugin no OpenOffice ou em algum editor que você use que é proprietário, que use LLM, nem diga que usa LLM ainda.

Mas então eu achei um pouco purista demais, essa, esse número 4. Mas tudo bem, assim, tá no limite para mim da aceitação. O que eu não concordava era com outro ponto que explicitamente dizia: quem não é bom no inglês, escreva na sua língua original, no Débian, e o recipiente vai traduzir, vai usar LLM que quiser para isso. Para mim, mas ele tirou.

Então eu lembrei agora uma coisa que você falou, que você falou assim que você usa muito, ou eu uso também. A gente sabe que tem LLM por trás, mas como eu disse antes também, mesmo a Emily Bennett sabe, foi para isso que foi criado, de certa forma. Não sei se foi exatamente esse o termo que ela falou, né, mas é um dos usos óbvios de modelo de linguagem, tradução. Mas aí eu lembro que até um tempo atrás, eu até tenho um vídeo no YouTube com isso, o DeepL, a versão gratuita, eu não assino, Tinha uma opção lá, sei lá, eu quero o modelo clássico ou modelo com LLM.

Agora eles não têm mais essa opção, não sei, pelo menos para mim eu nunca vi mais, né? E aí teve uma vez que eu tava usando a versão deles com LLM, deu uma alucinada, daí escreveu em inglês uma coisa que não tava em português, ou era o contrário, não lembro. Enfim, acho que essa é uma característica, e eu usei o termo alucinar, né, deu uma saída incorreta, que é uma característica do Nesse caso assim, fugir demais, né?

Sim. E aí foge, você não percebe, você vai achando legal e tal. E aquela coisa, como você falou, a expectativa acaba ficando muito alta também em relação à sua qualidade da escrita, e você acaba escrevendo mais, e isso aí meio acaba ficando meio pedante, meio um estilo que não é seu, começa a distorcer suas intenções. E esse é o grande problema, a gente não percebe isso. A gente pensa que percebe, mas não percebe. Então eu concordo que tem um item como item 4 nessa, nessa opção, mas eu queria que talvez por questão que eu uso não muito, mas eu uso aquela principalmente a versão gratuita também de quando eu já escrevo em inglês e eu clico lá em cima da palavra porque eu acho que falta um pouco de nuance naquela palavra que podia representar melhor minha intenção.

E eu não tenho isso na cabeça. E aí ele me dá uma lista de 10 palavras diferentes, que uma delas talvez representa melhor uma intenção no texto de 2 parágrafos. Talvez eu faça isso em 2 palavras. Isso é diferente de você traduzir, eu escrever em português e pedir para ele traduzir completamente. Mas talvez seja complicado também colocar isso, elaborar isso de forma clara, traçar esse limite. Então tudo bem, o item 4 tá aí. Eu acho que obviamente qualquer opção que ganhe vai ter uma expectativa do bom senso também da gente, dos desenvolvedores, é uma boa-fé, uma presunção de boa-fé no que a gente vai fazer como membro do projeto e uma presunção aí de bom senso também. Então não dá para traçar os limites de forma muito clara, realmente difícil.

Aí tem esse item 5 que dá uma amenizada também, né? Moderadores e equipes disciplinares podem abrir as sessões restritas e específicas à regra 4, bem como decidir sobre sua interpretação. Tem o item 6 que diz que qualquer uso de LLMs no trabalho do Debian deve ser divulgado. O item 7 que diz projetos individuais e mantenedores podem proibir totalmente contribuições feitas por LLMs. E tais proibições, incluindo as impostas por projetos upstream, devem ser respeitadas.

E por último, violações desses requisitos devem ser tratadas como violações do código de conduta relevante e devem resultar em medidas disciplinares rápidas e proporcionais. Então esse aqui é o texto que eu traduzi, né? Esse aqui é a versão original onde tem as várias outras propostas, já Tá, já tá tendo a proposta F.

Isso aqui é um, talvez se você der um reload aí, ele talvez já tem até mais, não sei. Mas tava, é porque o prazo termina amanhã, tá na F ainda, mas vai ter, deve ter outra. Eu acho que tenho quase certeza que vai, já tem mais umas duas aí. Uma delas vai ser discutir mais. Então as pessoas podem voltar para ter mais discussão.

Esse aqui é o seu Padlet. Esse Padlet, esse aqui, ele vai ficar ou eu devo copiar? Ah, certo. Então depois eu copio e coloco na descrição. Ah, tem aqui a thread. Essa thread na lista de emails do Debian que é aberta.

É essa, isso, isso. No arquivo você vê que o item 8 original Você pode abrir esse daí. Não é o item 8 que a gente tem hoje na página, ele é, ele fala aquilo justamente que o Ian tirou depois.

Deixa eu colocar aqui.

Então é interessante seguir aí quem tiver curiosidade. Eu acho que essa thread, que já deve ter mais de 500 mensagens, vai ser um material bastante interessante de de pesquisa para quem quiser pesquisar como as comunidades estão lidando com o assunto. Você tem um Linux de um lado, o Linux completamente pragmático, o estilo dele tipo aceite LLM ou vai embora. Basicamente foi isso que ele disse. Tem um link aí do email dele. Guarde suas questões éticas para você e para sua família, mas não venha falar disso no Linux.

Esse aqui, isso. Você tem a GCC que limitou bastante o uso de LLM, principalmente por questão de copyright, permitindo pequenas contribuições de, se eu não me engano, até 15 linhas, por questões de precedentes legais aí em relação a copyright. Então você tem um espectro enorme. Agora o Debian, que talvez aprove uma opção que seja mais anti-LLM do que do que permissiva. Então eu acho que é um prato feito aí para aluno que queira estudar.

E essa, isso é na própria DEB, nessa thread, que são várias threads, subthreads nessa resolução, tem gente de todo espectro. E felizmente dessa vez a coisa não derivou para ofensas e agressões. Então É um material interessante para pesquisa, se você tiver algum aluno aí interessado um dia, ou aluna.

Maravilha. Então vou deixar os links que você mandou. Tem aqui a sua página, que é tevaz.cc. Eu achei interessante porque tem uma parte que é sobre a sua dissertação de mestrado, foi em 2022, na Universidade de Montreal. Autoridade e algoritmo na criação musical: a beleza perdeu o controle. Então 2022, quer dizer, antes do ChatGPT, né, já existiam LLMs, mas o ChatGPT especificamente não existia. Eu vi que tem uma página com várias músicas, né?

É uma página do artigo. Eles, essa aqui, na faculdade de músicas a gente tem que fazer música também.

Mas é você tocando aqui?

Não, é um, eu compus Eu fui mestrado em composição musical, então eu compus para 3 peças: uma para flauta, clarineta e eletrônico, outra para piano, outra para piano e clarineta. É piano, é um piano, é um modelo de piano da Yamaha que ele tem um sistema mecânico interior, que ele toca sozinho. Ele recebe informação MIDI e toca o piano mecânico, não é um piano digital, um piano mecânico com toda a estrutura que recebe MIDI e toca sozinho.

Então eu desenvolvi uns algoritmos usando uns modelos de machine learning para gerar músicas E contratei um pianista amigo meu também, muito bom, Daniel, para acompanhar, improvisar junto com a máquina, junto com a inteligência artificial, junto com os algoritmos. Eu nem usei muita inteligência artificial nessa vez, na verdade eu usei mais os algoritmos improvisando junto com o pianista.

Legal, parabéns. Eu deixar aqui também, eu acho que tem a partir da sua página a gente chega no GitHub, no perfil lá.

Mas minhas coisas na internet estão mais coisa estática, meu site eu não atualizo muito. Isso foi a DevConf, né?

Para quem não sabe, a DevConf 2019 foi aqui em Curitiba, né? A última antes da pandemia.

Eu não pude Eu, eu, 2019, porque eu não fui. Ah, não lembro, mas eu não fui. Mas Tássia foi, minha esposa, ela é desenvolvedora também.

Foi bem legal. Eu fui uma das pessoas, uma das pessoas que assim, que assim, para que ela tivesse acontecido na UTFPR Curitiba, tinha que ter dois professores responsáveis aqui, né? Os organizadores foram o Daniel Lenharo, o Eu tô em terceiro, mais uma pessoa, gente, eu tô esquecendo o nome dele agora, mas Paulo, exato, Paulo Santana, exatamente, Paulo Henrique Santana. E eu e a professora Maria Claudemir, que também é apresentadora do Fronteiras de Engenheiro de Software, a gente que foi assim, ó, legal, o meio do campo com a reitoria, né, porque tinha que conversar com a reitoria. Foi bem legal. Obrigado.

Só ouço coisas boas dessa DevConf.

Legal.

Felizmente eu não fui, mas eu ouço. O terceiro é meu conterrâneo lá de Salvador, a gente estudou junto e tá no Dev junto, se vê bastante.

Até, já que você falou do terceiro, esse aqui é o site do CBSoft, Congresso Brasileiro de Software. Se for aqui em software livre, vai acontecer.

Ele vai fazer a curadoria. Eu, não é, eu tava na casa do Paulo Meirelles. Você conhece o Paulo?

Conheço, é um dos organizadores aqui, né?

Isso. Pois é, eu passei essa semana, tem duas semanas, a gente tava na casa dele em São Paulo, ficou, e ele não tinha tempo para nada organizando esse negócio aí. Aí ele falou, ah, joguei na mão do terceiro aí a parte do Track de software livre, etc. Tá em boas mãos.

É, a gente divulgou essa semana agora lá no LinkedIn. Deixa eu ver se aparece LinkedIn aqui. Divulgou ontem aqui, ó: quer participar de um momento histórico no CBSoft e ainda de graça? Celebração do Software Livre no Brasil, um co-evento especial no CBSoft 2026, aberto e gratuito. Quer dizer, você tem que pagar para participar do CBSoft, mas da celebração do Software Livre no Brasil, que faz parte do CBSoft, não precisa pagar Tá incluído aí, né?

Até marquei aqui o Daniel Lenharo. Pessoal que tiver em São Paulo, dia 11, eu não tá aqui claro aqui, mas tem, ah não, tá ali, 11 de setembro é o dia que vai acontecer essa celebração do software livre. Vai ter uma mesa, palestras, outra mesa, vamos ver se é muito bom.

Eu acompanho um pouco a organização lá, o evento vai ser muito bacana. E tipo, a USP é muito, muito gostoso, né? É muito ambiente muito legal, eu adoro. Eu tô andando lá pelos matos, vale muito a pena. E quem puder ir, realmente é um super evento, é muito legal.

Eu fiz doutorado na USP, eu sou parcial, mas eu gostei também. No ano passado foi em Recife, ano retrasado foi aqui em Curitiba, e ano que vem vai ser lá em Belo Horizonte. Tem, mas realmente a USP tem bastante árvore, né? Dá para você caminhar. É tão legal que assim, o pessoal sábado de manhã está cheio lá de ciclista, corredor.

Eu tava com meu filho de 4 anos, era um paraíso para ele lá.

Muito bom, Thiago, muito obrigado. Demorou um pouco mais do que eu tava pensando que ia demorar, mas só obrigado pela sua disponibilidade.

Me desculpe, minha culpa aí. Eu acho que eu falei demais algumas questões.

Não, não, eu acho que é um tema muito importante, é um tema relevante hoje. Eu acho que tem muita gente abdicando de decidir qualquer coisa ou de se posicionar. A gente não precisa se posicionar mal, mas precisa se posicionar de alguma forma e se informar, e tá aberto a mudar de ideia. Eu tô, eu tenho uma visão hoje, mas eu é diferente da que eu tinha um ano atrás. Pode ser que daqui a um ano seja diferente em alguns aspectos, mas a gente precisa saber.

É importante dar. Eu acho que podcast, uma das vantagens do podcast hoje em dia em relação a tantas coisas que a gente vê por aí, é que, quer dizer, dá para ter, por exemplo, tem muita gente que gosta de colocar cortes no Instagram, né? Eu postei hoje mesmo, a gente publicou um episódio e tem uns cortes muito legais lá no Instagram. Mas quem quiser a conversa toda tem como ficar uma hora, uma hora e meia escutando. Eu gosto em língua portuguesa, eu geralmente escuto em 2x, então dá para escutar na metade do tempo, né?

Porque quando a gente tá só escutando, a gente não precisa talvez da velocidade normal, a gente consegue escutar mais rápido. Enfim, é um espaço de mais profundidade, eu gosto disso, dos podcasts. E aí eu queria só deixar para você, pedir para você deixar uma palavra final aí para os nossos e nossas ouvintes e espectadores.

Se você assim, se você tá interessado no tópico, continua. Eu não sei quando vai ser publicado, mas essas últimas horas, essas últimas horas tá rolando discussão. Eu recebi, acabei de receber email em privado pedindo para apoiar outra proposta, e aí já tem outra proposta de de que as pessoas vão voltar para discutir mais, porque a gente não tá pronto para voltar. Já tem outra proposta que eu já apoiei também e vai entrar, é que é uma proposta basicamente mais simples e que fala: o Debian é criado por humanos, contribuições, assistência de LLM é possível, é ok, mas porque o Debian não deve interferir nas ferramentas que a gente, cada um usa.

Mas a contribuição direta de LLM, como a gente conversou do Loop Engineering, né, dos agentes ficarem fazendo todo o processo até o deployment final. Isso não seria permitido segundo essa proposta recente que colocaram ontem, anteontem. Eu apoiei também. Então, se eu puder falar alguma coisa nesse final, é sempre interessante, é importante a gente ter uma posição, mas também tentar ter uma clareza, não, não se deixar Não se deixar se consumir por agressividade, por raiva, não tentar não personalizar tal e tal pessoa, tentar pensar um pouco no assunto quando você acorda de manhã cedinho, tranquilo, porque é um tópico que tende a quebrar muita confiança entre os seres humanos, dividir muito a gente.

E isso para mim não tem nenhum, absolutamente, a gente tá no momento da história que a gente precisa de muita, muita união. A gente precisa trabalhar juntos, se encontrar mais, conversar, ter esse tipo de diálogo que a gente tem aqui. E por mais difícil que seja às vezes, mas sempre se perguntar antes de falar, de exprimir uma coisa meio raivosa, perguntar qual é a intenção daquilo, motivação, qual a tendência, qual que vai derivar desse tipo de coisa que eu vou falar.

Então é o que eu gostaria de ver assim nas comunidades, que as pessoas tivesse menos divisão e que a gente reconstruísse essa questão de confiança mútua aí entre a gente, em nível individual, em nível de projeto também.

Muito obrigado então, Thiago. Obrigado a todos e a todas que nos escutaram e assistiram até agora. E até o próximo episódio da Rede Emílias de Podcasts.

Muito obrigado, Adolfo. Eu queria que você compartilhasse seus artigos, links que apontou. Eu realmente, bem interessante, bem interessante. Obrigado pelo convite.