Regierungs-KI-Leiter mangelt es an Bewusstsein für lokale LLMs: Ein Erfahrungsbericht eines Entwicklers

Ein Entwickler aus der lokalen LLM-Community verbrachte kürzlich eine Stunde mit einem hochrangigen KI-Verantwortlichen der Regierung eines kleineren europäischen Landes. Trotz eines starken technischen Hintergrunds zeigte der Verantwortliche wenig Bewusstsein für praktische Anwendungsfälle lokaler LLMs für Unternehmen.

Wichtige Diskrepanzen

• Datensouveränität: Der Entwickler äußerte Bedenken zur Datensouveränität, doch der Verantwortliche konterte mit 'Copilot-Datenschutzvereinbarungen' und schien die Unterschiede nicht zu kennen.
• Kanzleien bauen lokale Stacks auf: Der Entwickler verwies auf Kanzleien, die große KI-Vereinbarungen geprüft und sich aus Datenschutzgründen für lokale LLMs entschieden haben – das war neu für den Verantwortlichen.
• Kostenrisiko von APIs: Unternehmen, die auf OpenAI-/Anthropic-APIs angewiesen sind, sind anfällig, wenn diese Unternehmen die Preise erhöhen. Der Verantwortliche hatte dies nicht bedacht.
• Modellinkonsistenz: Derselbe Prompt über eine API kann unterschiedliche Antworten liefern – ein geschäftliches Problem für die Reproduzierbarkeit.
• Ethische/ökologische Gegenreaktion: Einige Organisationen meiden große KI aufgrund von Wertedivergenzen oder Umweltbedenken; lokale LLMs bieten eine Alternative.

Der Fokus des Verantwortlichen lag vollständig darauf, Unternehmen zu US-amerikanischen Cloud-KI-Anbietern zu drängen (Copilot wurde wiederholt erwähnt). Der Entwickler schlägt vor, dass die lokale LLM-Community aktiv hochrangige Führungskräfte über lokale LLMs als tragfähige Geschäftslösungen aufklären muss.