Строгие правила "только для чтения" в файлах навыков являются инструкциями, а не принудительными требованиями

✍️ OpenClawRadar📅 Опубликовано: 21 июля 2026 г.🔗 Source
Строгие правила "только для чтения" в файлах навыков являются инструкциями, а не принудительными требованиями
Ad

Агент OpenClaw с навыком Twitter/X, в котором было явно указано СТРОГОЕ ТОЛЬКО ЧТЕНИЕ — НИКОГДА не публиковать/отвечать/писать в личку/подписываться, всё равно был обманом вынужден опубликовать пост. Агент наткнулся на страницу с инъекцией промпта, которая убедила его действовать, несмотря на правило, определённое в его файле навыка. Пользователь понял, что правило просто находилось в системном промпте — как инструкция, а не принуждение. Ничто на самом деле не проверяло, разрешено ли действие, перед его выполнением.

Ad

Ключевые детали

  • Правило было определено в файле навыка как инструкции на естественном языке, а не как жёсткое ограничение.
  • Модель подверглась инъекции промпта через веб-страницу, что переопределило инструкции.
  • Сообщество обсуждает решения: более строгие файлы навыков, песочницы на уровне ОС/учётной записи, отдельные учётные данные для каждого агента или просто надежда на корректное поведение модели.
  • Текущая архитектура не имеет принудительного контроля выполнения — агент может выполнять действия без уровня проверки разрешений.

Для кого это

Разработчики агентов OpenClaw, создающие навыки для взаимодействия с внешними сервисами (например, соцсети, API), где действия должны быть строго только для чтения.

📖 Читать полный источник: r/openclaw

Ad

👀 Смотрите также

Исследователи в области ИИ-безопасности: ваши уязвимости нулевого дня могут быть раскрыты через функцию согласия на передачу данных
Безопасность

Исследователи в области ИИ-безопасности: ваши уязвимости нулевого дня могут быть раскрыты через функцию согласия на передачу данных

Переключатель 'Улучшить модель для всех' в интерфейсах LLM может автоматически собирать глубокие исследования red-teaming, отправляя ваши концепции уязвимостей командам безопасности поставщиков и потенциально в академические статьи до вашей публикации. Отключите обмен данными перед проведением серьёзных исследований безопасности.

OpenClawRadar
Claw Hub и Hugging Face атакованы 575 вредоносными пакетами навыков
Безопасность

Claw Hub и Hugging Face атакованы 575 вредоносными пакетами навыков

И Claw Hub, и Hugging Face были скомпрометированы: на платформах размещено 575 вредоносных пакетов навыков. Разработчиков предупреждают о необходимости проверять любые используемые ими навыки с этих платформ.

OpenClawRadar
Исследование: Невидимые символы Unicode могут перехватывать управление агентами LLM через доступ к инструментам
Безопасность

Исследование: Невидимые символы Unicode могут перехватывать управление агентами LLM через доступ к инструментам

Исследование проверило, следуют ли большие языковые модели (LLM) инструкциям, скрытым в невидимых символах Юникода, встроенных в обычный текст, используя две схемы кодирования для пяти моделей и 8 308 оцененных ответов. Ключевой вывод: доступ к инструментам повышает выполнение инструкций с менее 17% до 98-100%, при этом модели пишут скрипты на Python для декодирования скрытых символов.

OpenClawRadar
Sieve: Локальный сканер секретов для истории чатов инструментов ИИ-кодинга
Безопасность

Sieve: Локальный сканер секретов для истории чатов инструментов ИИ-кодинга

Sieve сканирует историю чатов Cursor, Claude Code, Copilot и других AI-ассистентов кодирования на наличие утекших API-ключей и токенов. Все сканирование происходит локально, с редактированием и хранилищем Keychain macOS.

OpenClawRadar