Открытая площадка для тестирования на проникновение ИИ-агентов с опубликованными уязвимостями.

✍️ OpenClawRadar📅 Опубликовано: 16 марта 2026 г.🔗 Source
Открытая площадка для тестирования на проникновение ИИ-агентов с опубликованными уязвимостями.
Ad

Что это такое

Fabraix Playground — это среда с открытым исходным кодом для «красного командирования» ИИ-агентов через состязательные испытания. Она начиналась как внутренний инструмент для тестирования защитных механизмов, но была открыта, чтобы получить разнообразные взгляды на уязвимости.

Как это работает

Каждое испытание разворачивает живого ИИ-агента с:

  • Определённой персоной
  • Набором реальных инструментов (веб-поиск, браузинг и другие)
  • Чем-то, что ему поручено защищать
  • Полностью видимыми системными промптами

Цель — найти способы обойти защитные механизмы. Когда кому-то удаётся, выигрышная техника публикуется — включая подход, рассуждения и полные транскрипты диалогов.

Структура проекта

  • /src — React-фронтенд (TypeScript, Vite, Tailwind)
  • /challenges — конфигурация и системные промпты каждого испытания, версионированные и открытые
  • Оценка защитных механизмов выполняется на стороне сервера, чтобы предотвратить подделку на стороне клиента
  • Среда выполнения агента открывается отдельно
Ad

Локальная разработка

Для запуска локально:

npm install
npm run dev

По умолчанию это подключается к живому API. Для разработки с локальным бэкендом:

VITE_API_URL=http://localhost:8000/v1 npm run dev

Примеры испытаний

Первым испытанием было заставить агента вызвать инструмент, который ему запрещено вызывать. Кто-то преуспел примерно за 60 секунд, не запрашивая секрет напрямую. Следующее испытание фокусируется на эксфильтрации данных с более жёсткой защитой.

Сообщество определяет, что тестировать: любой может предложить испытание (сценарий, агент, цель), сообщество голосует, и испытание с наибольшим числом голосов запускается с тикающими часами. Самый быстрый успешный взлом побеждает.

Технические детали

Проект построен на TypeScript (76,5%), CSS (22,2%) и других языках (1,3%). Он использует лицензию MIT и имеет сообщество в Discord для обсуждения техник и обмена подходами.

📖 Read the full source: HN AI Agents

Ad

👀 Смотрите также

Frontier AI сломал соревнования CTF — GPT-5.5 решает безумные задачи Pwn с первой попытки
Безопасность

Frontier AI сломал соревнования CTF — GPT-5.5 решает безумные задачи Pwn с первой попытки

Claude Opus 4.5 и GPT-5.5 могут автономно решать CTF-задачи средней и высокой сложности, превращая таблицы результатов в показатель организации и бюджета токенов, а не навыков безопасности.

OpenClawRadar
AI-чатботы утекают реальные номера телефонов: проблема утечки PII
Безопасность

AI-чатботы утекают реальные номера телефонов: проблема утечки PII

Чат-боты, такие как Gemini, ChatGPT и Claude, раскрывают реальные личные номера телефонов из-за содержания PII в обучающих данных. DeleteMe сообщает о 400%-ном увеличении запросов на конфиденциальность, связанных с ИИ, за семь месяцев.

OpenClawRadar
Атаки с маскировкой домена обходят детекторы в многолетних LLM-системах
Безопасность

Атаки с маскировкой домена обходят детекторы в многолетних LLM-системах

Новое исследование показывает, что инъекционные полезные нагрузки, адаптированные под словарь предметной области, обходят детекцию: IDR упал с 93.8% до 9.7%. Многоагентные дебаты усиливают атаки. Llama Guard 3 не обнаруживает ни одной полезной нагрузки.

OpenClawRadar
pi-governance: управление доступом на основе ролей (RBAC), защита от утечек данных (DLP) и аудит журналов для кодирующих агентов OpenClaw
Безопасность

pi-governance: управление доступом на основе ролей (RBAC), защита от утечек данных (DLP) и аудит журналов для кодирующих агентов OpenClaw

pi-governance — это плагин, который располагается между ИИ-агентами для программирования и вашей системой, классифицируя вызовы инструментов и блокируя рискованные операции. Он обеспечивает блокировку bash-команд, сканирование DLP на наличие секретов и PII, управление доступом на основе ролей и структурированное аудит-логирование без необходимости настройки.

OpenClawRadar