Meta encerra recurso de IA que usava fotos de contas públicas do Instagram

CBN Tecnologia, uma parceria Tec Tudo. Olá, ouvintes da CBN, tudo bem por aí? Na sexta-feira a gente conversou sobre uma ferramenta recém-lançada de inteligência artificial, uma ferramenta da Meta que permitia criar imagens do zero só mencionando o arroba da pessoa no Instagram, desde que esse perfil fosse público. Então essa ferramenta ficou poucos dias no ar porque alguns dias depois do lançamento a Meta voltou atrás e retirou esse recurso, alegando em nota oficial que ele não atingiu o objetivo e não entregou a experiência esperada.

É a justificativa oficial, mas a verdade é que a tecnologia funcionava perfeitamente como ela foi desenhada para funcionar. Não houve nenhum erro de design nem falta de engajamento dos usuários. A verdade é que a Meta fez um recuo estratégico porque essa função levantou uma série de críticas e discussões sobre privacidade, sobre direitos autorais e também sobre consentimento. A Meta tinha sim colocado alguns limites de segurança nessa ferramenta.

Por exemplo, as contas privadas e as contas de menores de idade estavam protegidas, as imagens delas não eram utilizadas. Também tinha uma opção para desativar o recurso. Mas o detalhe mais importante é que a configuração vinha ligada por padrão, ou seja, ninguém te perguntou se você queria ter o seu rosto sendo utilizado em imagens de inteligência artificial. E mais, quando o seu rosto era utilizado, você não era notificado a respeito.

Eles adotaram um modelo que a gente chama de opt-out e não o opt-in. Então é essa lógica de que a empresa presume que você aceita, que você está de acordo com essa utilização, até que você prove o contrário. E para provar o contrário, você tem que ir lá nas configurações pulsar onde tá a opção para desativar o recurso e desativar. Esse modelo de opt-out já é um modelo criticado na indústria, e nesse caso específico da Meta ele gerou muitas críticas por sindicatos de Hollywood, é, por atores de cinema e até por agências de artistas criativos.

O recurso não tá mais disponível e era de fato um recurso com muito potencial para utilização por parte de pessoas de má-fé, pessoas mal-intencionadas, utilização para desinformação, para retirar informações de contexto, colocar pessoas em contextos nas quais elas nunca tiveram antes. Mas mais problemático ainda é o modelo, é a lógica de lançamento que a indústria de inteligência artificial tem seguido. E a Meta é um exemplo muito claro disso.

As empresas estão correndo tanto para lançar funções da concorrência, né, para vencer essa corrida de inteligência artificial, que elas estão de fato deixando questões éticas em segundo plano. E aí importa lançar primeiro. Então muitas vezes elas lançam o recurso, observam a reação do público, e se a rejeição for muito grande, se houver muitas críticas, aí sim elas recuam. É quase como se fosse um laboratório em escala global. Aconteceu agora com a Meta, mas muito provavelmente não vai ser o último caso.