Расширение Local AI для VS Code блокирует небезопасную генерацию кода при сохранении файлов.
Разработчик создал расширение для VS Code, которое локально запускает модель llama3.1:8b-instruct-q4, чтобы физически блокировать сохранение файлов, содержащих небезопасный код, сгенерированный ИИ. Инструмент был создан после того, как Claude сгенерировал маршрут Flask с классической уязвимостью CWE-117 (инъекция в логи).
Как это работает
Расширение перехватывает операции сохранения в VS Code, локально запускает модель llama3.1:8b-instruct-q4, отслеживает поток выполнения кода от источника к стоку и применяет жёсткую блокировку, если ИИ сгенерировал что-то опасное. Вся система работает офлайн, без зависимостей от облачных сервисов или API-ключей.
Конкретные детали из источника
- Используемая модель: llama3.1:8b-instruct-q4
- Платформа: расширение для VS Code
- Триггер: перехватывает операции сохранения
- Метод анализа: отслеживает поток выполнения от источника к стоку
- Действие: применяет жёсткую блокировку опасного кода
- Пример обнаруженной уязвимости: CWE-117 (инъекция в логи) в маршруте Flask, сгенерированном Claude
- Инфраструктура: полностью офлайн, без облака и API-ключей
Такой подход решает распространённую проблему, когда ИИ-ассистенты для программирования, такие как Claude и GitHub Copilot, быстро генерируют код, но могут внедрять уязвимости безопасности. Локальное выполнение обеспечивает конфиденциальность и устраняет зависимость от внешних сервисов.
📖 Read the full source: r/LocalLLaMA
👀 Смотрите также
Представляем Xrouter: умный гибридный маршрутизатор LLM для оптимизации затрат и производительности.
Познакомьтесь с Xrouter, открытым решением, которое динамически интегрирует локальный и облачный интеллект, разработанным для снижения затрат на ИИ и повышения эффективности.
4-слойная система самопроверки для поведенческой эволюции OpenClaw
Разработчик создал 4-уровневую систему аудита, в которой Gemini еженедельно проверяет слепые зоны Claude, выявляя паттерны, которые Claude пропустил при самопроверке. Система включает проверку после исправления, анализ паттернов, внешнее зеркалирование и сравнение ожиданий с реальностью.
Инструмент GrapeRoot снижает затраты на код Claude на 45% благодаря предварительно просканированному контексту репозитория.
Бесплатный инструмент под названием GrapeRoot, который предварительно сканирует репозитории и строит графы зависимостей, сократил затраты на Claude Code в среднем на 45% по 10 инженерным задачам, одновременно повысив качество ответов на 13%. Инструмент устраняет циклы исследования, которые обычно потребляют токены.
Самодельный слой памяти для Claude бесплатно работает на Cloudflare
MCP-сервер Cloudflare Worker позволяет Клоду запоминать и извлекать заметки с помощью семантического поиска, используя Workers AI и Vectorize — все на бесплатном тарифе.