Guía: Ejecutar GitHub Copilot con un LLM Local en Windows a través del Servidor Lemonade

Un desarrollador ha publicado una guía paso a paso para configurar GitHub Copilot para usar un modelo de lenguaje grande (LLM) local en una máquina con Windows, específicamente un Framework Desktop. La guía fue creada porque el autor no pudo encontrar instrucciones simples existentes para esta configuración.

El método central implica usar Lemonade Server, una herramienta que actúa como un servidor proxy local. Intercepta las solicitudes de la extensión GitHub Copilot en tu editor de código (como VS Code) y las redirige a un LLM ejecutándose localmente en lugar de enviarlas a los servidores en la nube de GitHub. Esto permite completar código de forma privada y sin conexión sin depender de APIs externas.

Esta configuración es relevante para desarrolladores que quieren la funcionalidad de autocompletado de GitHub Copilot pero requieren privacidad, tienen preocupaciones de seguridad de datos, quieren evitar costos de API o prefieren usar un modelo de código abierto específico que han ajustado ellos mismos. El LLM local necesitaría estar instalado y ejecutándose por separado, por ejemplo usando herramientas como Ollama, LM Studio o text-generation-webui.

La publicación original de Reddit enlaza a la guía completa y detallada en el sitio web personal del autor.