Старший правительственный руководитель по ИИ не осведомлён о местных LLM: рассказ разработчика

Разработчик из сообщества локальных LLM недавно провел час со старшим правительственным ИИ-лидером из небольшой европейской страны. Лидер, несмотря на сильный технический фон, продемонстрировал слабое понимание практических бизнес-кейсов использования локальных LLM.

Ключевые разрывы

• Суверенитет данных: Разработчик поднял вопрос о суверенитете данных, но лидер возразил, сославшись на 'соглашения о защите данных Copilot', по-видимому, не осознавая различий.
• Юридические фирмы, строящие локальные стеки: Разработчик привел пример юридических фирм, которые прочитали крупные ИИ-соглашения и выбрали локальные LLM для безопасности данных — это было новостью для лидера.
• Риск роста стоимости API: Бизнес, полагающийся на API OpenAI/Anthropic, уязвим при повышении этими компаниями цен. Лидер не рассматривал это.
• Непостоянство моделей: Один и тот же запрос через API может выдавать разные ответы — проблема для воспроизводимости в бизнесе.
• Этическая/экологическая реакция: Некоторые организации избегают больших ИИ из-за несоответствия ценностям или экологических проблем; локальные LLM предлагают альтернативу.

Внимание лидера было полностью сосредоточено на продвижении бизнеса к облачным ИИ-провайдерам из США (Copilot упоминался неоднократно). Разработчик предполагает, что сообществу локальных LLM необходимо активно обучать старших руководителей, демонстрируя локальные LLM как жизнеспособные бизнес-решения.