Anleitung: GitHub Copilot mit lokalem LLM unter Windows über Lemonade Server ausführen

Ein Entwickler hat eine Anleitung veröffentlicht, um GitHub Copilot für die Verwendung eines lokalen großen Sprachmodells (LLM) auf einem Windows-Computer, speziell einem Framework Desktop, zu konfigurieren. Die Anleitung wurde erstellt, weil der Autor keine bestehenden einfachen Anweisungen für dieses Setup finden konnte.

Die Kernmethode beinhaltet die Verwendung von Lemonade Server, einem Tool, das als lokaler Proxy-Server fungiert. Es fängt Anfragen der GitHub Copilot-Erweiterung in Ihrem Code-Editor (wie VS Code) ab und leitet sie an ein lokal laufendes LLM weiter, anstatt sie an die Cloud-Server von GitHub zu senden. Dies ermöglicht private, offline Code-Vervollständigung ohne Abhängigkeit von externen APIs.

Dieses Setup ist relevant für Entwickler, die die Autovervollständigungsfunktion von GitHub Copilot nutzen möchten, aber Privatsphäre benötigen, Datensicherheitsbedenken haben, API-Kosten vermeiden möchten oder ein bestimmtes Open-Source-Modell verwenden möchten, das sie selbst angepasst haben. Das lokale LLM müsste separat installiert und ausgeführt werden, beispielsweise mit Tools wie Ollama, LM Studio oder text-generation-webui.

Der ursprüngliche Reddit-Beitrag verlinkt auf die vollständige, detaillierte Anleitung auf der persönlichen Website des Autors.