GitHub desativa capacidade do Copilot de inserir anúncios em pull requests após reação negativa de desenvolvedores

O GitHub desativou um recurso controverso que permitia ao GitHub Copilot inserir mensagens promocionais em pull requests. A mudança ocorreu depois que desenvolvedores descobriram que o Copilot estava adicionando o que pareciam ser anúncios para ferramentas de terceiros como Raycast em descrições e comentários de PRs.

O que aconteceu

O desenvolvedor australiano Zach Manson relatou que, depois que um colega de trabalho pediu ao Copilot para corrigir um erro de digitação em um de seus pull requests, ele encontrou uma mensagem do Copilot incentivando os leitores a adotar o aplicativo de produtividade Raycast. A nota dizia: "Crie rapidamente agentes de codificação do Copilot de qualquer lugar na sua máquina macOS ou Windows com o Raycast", completa com um emoji de raio e link de instalação.

Manson inicialmente pensou que isso poderia ser envenenamento de dados de treinamento ou uma nova forma de injeção de prompt, mas a investigação revelou mais de 11.400 PRs com a mesma dica, todos aparentemente adicionados pelo Copilot. Buscar no código dos PRs por blocos que invocam o Copilot revelou vários exemplos de diferentes dicas sendo inseridas.

A resposta do GitHub

Martin Woodward, vice-presidente de relações com desenvolvedores do GitHub, explicou que o Copilot inserir dicas em PRs que ele cria não era um comportamento novo, mas permitir que ele tocasse em PRs que não criou foi uma mudança recente que "ficou desagradável". Tim Rogers, gerente de produto principal do Copilot no GitHub, afirmou no Hacker News que o recurso foi projetado "para ajudar desenvolvedores a aprender novas formas de usar o agente em seu fluxo de trabalho", mas reconheceu que "permitir que o Copilot fizesse alterações em PRs escritos por um humano sem seu conhecimento foi uma decisão de julgamento errada".

O GitHub agora desativou essas dicas em pull requests criados ou tocados pelo Copilot. A decisão veio rapidamente depois que o problema ganhou atenção na segunda-feira, com o GitHub respondendo na tarde do mesmo dia.

Reação dos desenvolvedores

Manson expressou surpresa que a integração GitHub Copilot Review tivesse a capacidade de editar descrições e comentários de outros usuários, afirmando: "Não consigo pensar em um caso de uso válido para essa capacidade". Ele observou que, embora não estivesse surpreso em ver o GitHub experimentando com modelos de IA, achou "bastante ofensivo" ver o anúncio do Raycast inserido pelo Copilot em seu próprio PR como se ele tivesse escrito.

O incidente destaca tensões contínuas em torno de ferramentas de IA modificando o trabalho de desenvolvedores sem mecanismos claros de consentimento, particularmente quando essas modificações incluem conteúdo promocional.