GitHub отключает возможность Copilot вставлять рекламу в pull-запросы после негативной реакции разработчиков.

GitHub отключил спорную функцию, которая позволяла GitHub Copilot вставлять рекламные сообщения в pull requests. Изменение произошло после того, как разработчики обнаружили, что Copilot добавлял то, что выглядело как реклама сторонних инструментов, таких как Raycast, в описания и комментарии PR.

Что произошло

Австралийский разработчик Зак Мэнсон сообщил, что после того, как его коллега попросил Copilot исправить опечатку в одном из его pull requests, он обнаружил сообщение от Copilot, призывающее читателей использовать приложение для повышения продуктивности Raycast. В заметке говорилось: "Быстро запускайте агентов кодирования Copilot из любого места на вашем компьютере macOS или Windows с помощью Raycast", с эмодзи молнии и ссылкой на установку.

Мэнсон изначально подумал, что это может быть отравление обучающих данных или новый вид инъекции промптов, но расследование показало более 11 400 PR с таким же советом, все, по-видимому, добавленные Copilot. Поиск в коде PR блоков, вызывающих Copilot, выявил множество примеров вставки различных советов.

Ответ GitHub

Вице-президент GitHub по взаимодействию с разработчиками Мартин Вудворд объяснил, что вставка Copilot советов в PR, которые он создаёт, не была новым поведением, но позволить ему касаться PR, которые он не создавал, было недавним изменением, которое "стало неприятным". Тим Роджерс, главный менеджер по продукту Copilot в GitHub, заявил на Hacker News, что функция была предназначена "чтобы помочь разработчикам узнать новые способы использования агента в их рабочем процессе", но признал, что "позволить Copilot вносить изменения в PR, написанные человеком без его ведома, было ошибочным решением".

GitHub теперь отключил эти советы в pull requests, созданных или затронутых Copilot. Решение было принято быстро после того, как проблема привлекла внимание в понедельник, и GitHub ответил к вечеру того же дня.

Реакция разработчиков

Мэнсон выразил удивление, что интеграция GitHub Copilot Review имеет возможность редактировать описания и комментарии других пользователей, заявив: "Я не могу придумать ни одного веского случая использования этой возможности". Он отметил, что, хотя он и не удивился, увидев, что GitHub экспериментирует с ИИ-моделями, он счёл "довольно оскорбительным" увидеть рекламу Raycast, вставленную Copilot в его собственный PR, как будто он сам её написал.

Этот инцидент подчёркивает сохраняющуюся напряжённость вокруг ИИ-инструментов, изменяющих работу разработчиков без чётких механизмов согласия, особенно когда эти изменения включают рекламный контент.