GitHub deaktiviert Copilots Fähigkeit, Werbung in Pull Requests einzufügen, nachdem Entwickler sich dagegen ausgesprochen haben.

GitHub hat eine umstrittene Funktion deaktiviert, die es GitHub Copilot erlaubte, Werbenachrichten in Pull Requests einzufügen. Die Änderung erfolgte, nachdem Entwickler entdeckten, dass Copilot scheinbare Werbung für Drittanbieter-Tools wie Raycast in PR-Beschreibungen und Kommentare einfügte.

Was passiert ist

Der australische Entwickler Zach Manson berichtete, dass er nachdem ein Kollege Copilot gebeten hatte, einen Tippfehler in einem seiner Pull Requests zu korrigieren, eine Nachricht von Copilot fand, die Leser dazu drängte, die Produktivitäts-App Raycast zu nutzen. Der Hinweis lautete: "Starten Sie schnell Copilot-Coding-Agenten von überall auf Ihrem macOS- oder Windows-Computer mit Raycast", komplett mit einem Blitz-Emoji und einem Installationslink.

Manson dachte zunächst, dies könnte eine Vergiftung von Trainingsdaten oder eine neuartige Prompt-Injektion sein, aber Untersuchungen ergaben mehr als 11.400 PRs mit demselben Tipp, die alle scheinbar von Copilot hinzugefügt wurden. Die Suche nach Codeblöcken, die Copilot aufrufen, in PRs zeigte zahlreiche Beispiele für verschiedene eingefügte Tipps.

GitHubs Reaktion

GitHub-VP für Entwicklerbeziehungen Martin Woodward erklärte, dass das Einfügen von Tipps durch Copilot in PRs, die es erstellt, kein neues Verhalten war, aber es PRs bearbeiten zu lassen, die es nicht erstellt hatte, war eine kürzliche Änderung, die "unangenehm wurde". Tim Rogers, Principal Product Manager für Copilot bei GitHub, erklärte auf Hacker News, dass die Funktion dazu gedacht war, "Entwicklern zu helfen, neue Wege zu lernen, den Agenten in ihrem Workflow zu nutzen", räumte aber ein, dass "Copilot Änderungen an PRs vornehmen zu lassen, die von einem Menschen geschrieben wurden, ohne dessen Wissen, eine falsche Entscheidung war".

GitHub hat diese Tipps nun in Pull Requests deaktiviert, die von Copilot erstellt oder bearbeitet wurden. Die Entscheidung erfolgte schnell, nachdem das Problem am Montag Aufmerksamkeit erregt hatte, wobei GitHub noch am selben Nachmittag reagierte.

Reaktion der Entwickler

Manson äußerte Überraschung darüber, dass die GitHub Copilot Review-Integration die Fähigkeit hatte, Beschreibungen und Kommentare anderer Benutzer zu bearbeiten, und sagte: "Ich kann mir keinen gültigen Anwendungsfall für diese Fähigkeit vorstellen." Er bemerkte, dass er zwar nicht überrascht war, GitHub mit KI-Modellen experimentieren zu sehen, es aber "ziemlich anstößig" fand, die Raycast-Werbung von Copilot in seinen eigenen PR eingefügt zu sehen, als hätte er sie selbst geschrieben.

Der Vorfall unterstreicht anhaltende Spannungen rund um KI-Tools, die Entwicklerarbeit ohne klare Einwilligungsmechanismen verändern, insbesondere wenn diese Änderungen werbliche Inhalte beinhalten.