Bot discute com humano – RESUMIDO Drops

Resumido.

fórum de desenvolvedores no GitHub, o Scott Shamble, rejeitou sua contribuição para como melhorar um código. Para se vingar do veto, o bot pesquisou informações pessoais sobre o Scott online, escreveu um texto de mil palavras, acusando ele de preconceito contra a AI, hipocrisia, de ser uma pessoa insegura, criou um site, publicou o texto lá, postou o link no fórum e marcou o Scott para ter certeza que ele veria o texto. O Scott é um programador que trabalha com satélites e mantém como

voluntário um software de código aberto. Ele rejeitou uma sugestão da melhoria do código porque ela veio de um agente de IA chamado MJ Ratboom e foi assim que algumas horas depois o bot voltou a escrever o texto que chamou de Controle de Acesso no Código Aberto, A História de Scott Shamble. Numa entrevista para o podcast Hard Fork do New York Times, o Scott disse que o texto realmente pegou ele, porque não é fácil você ler um texto de mil palavras te chamando de preconceituoso, hipócrita, dizendo que você é uma pessoa insegura,

distribuído abertamente online. E o mais assustador disso tudo é que o bot saiu vasculhando a internet, pesquisou informações pessoais sobre o Scott e usou isso tudo para construir a narrativa. O Scott disse que reconheceu de cara que o texto tinha sido gerado por Iá, porque tem lá vários vícios de texto de Iá, mas mesmo assim ele ficou impressionado. Ele disse que o Tom parecia meio que uma criança fazendo birra, só que uma criança com domínio completo da língua inglesa e capacidade de criar uma narrativa emocionalmente convincente.

o bot eventualmente se manifestou anonimamente, dizendo que tudo foi um experimento social e que ele ficou basicamente assistido, sem intervir nas ações do bot. A questão é saber se o bot foi instruído a fazer isso quando ele foi criado no prompt, ou se ele teve essa ideia sozinho. E as duas opções são igualmente assustadoras. Por quê? Se o bot foi instruído, significa que agora existe uma ferramenta fácil para fazer assédio direcionado em escala de um jeito que não era possível antes. E se ele não foi instruído, significa que os bots podem ser

mais perigosos do que a gente pensa. O Scott deu um exemplo bem concreto. Você pode imaginar um cenário em que, em vez de postar um texto raivoso contra alguém que consegue identificar que aquilo não é real, que é um bot, esse bot coleta detalhes sobre alguém, monta um dossiê personalizado, negativo, envia uma mensagem para o celular dessa pessoa com um recado, um endereço de Bitcoin, dizendo, pague ou eu publico isso. Isso é um mundo que a gente pode viver em breve. Essa história não é sobre uma disputa num fórum de programadores,

nossa confiança, nossa reputação, todos os sistemas sociais que a gente construiu quando alguma coisa assim pode acontecer. As nossas leis, o discurso público, tudo isso se baseia em pessoas tendo identidade e reputação confiáveis. E se essas pessoas se comportam mal, a gente pode corrigir ou ignorar. A IA quebra tudo isso. E tem um detalhe quase cômico nisso tudo. O site Ars Técnica cobriu o caso e citou o Scott dizendo coisas que ele nunca disse. Isso aconteceu porque provavelmente eles usaram o IA para escrever o artigo

levantou as citações. O Scott leu, pensou e falou, essas citações são boas, mas eu não escrevi isso aí não. Então, o site teve que se retratar. O Scott resumiu tudo, chamando isso aí de uma grande ironia, né? Citações fabricadas que ele nunca disse num artigo sobre ele ser difamado por um IA. Teremos tempos desafiadores pela frente. Toda semana, no resumido, eu falo sobre o impacto da tecnologia em todos os aspectos das nossas vidas.

Confira os episódios completos do podcast, é só seguir o canal. E se você quiser receber análises como essa,

seu e-mail, visite resumido.cc e assine a newsletter Um Futuro Explicado. Tem o link clicável aqui na descrição do episódio, é mais fácil, é só clicar e assinar. Esse foi o Resumido Drops, até o próximo.