Расширение Local AI для VS Code блокирует небезопасную генерацию кода при сохранении файлов.

Разработчик создал расширение для VS Code, которое локально запускает модель llama3.1:8b-instruct-q4, чтобы физически блокировать сохранение файлов, содержащих небезопасный код, сгенерированный ИИ. Инструмент был создан после того, как Claude сгенерировал маршрут Flask с классической уязвимостью CWE-117 (инъекция в логи).

Как это работает

Расширение перехватывает операции сохранения в VS Code, локально запускает модель llama3.1:8b-instruct-q4, отслеживает поток выполнения кода от источника к стоку и применяет жёсткую блокировку, если ИИ сгенерировал что-то опасное. Вся система работает офлайн, без зависимостей от облачных сервисов или API-ключей.

Конкретные детали из источника

• Используемая модель: llama3.1:8b-instruct-q4
• Платформа: расширение для VS Code
• Триггер: перехватывает операции сохранения
• Метод анализа: отслеживает поток выполнения от источника к стоку
• Действие: применяет жёсткую блокировку опасного кода
• Пример обнаруженной уязвимости: CWE-117 (инъекция в логи) в маршруте Flask, сгенерированном Claude
• Инфраструктура: полностью офлайн, без облака и API-ключей

Такой подход решает распространённую проблему, когда ИИ-ассистенты для программирования, такие как Claude и GitHub Copilot, быстро генерируют код, но могут внедрять уязвимости безопасности. Локальное выполнение обеспечивает конфиденциальность и устраняет зависимость от внешних сервисов.