Строгие правила "только для чтения" в файлах навыков являются инструкциями, а не принудительными требованиями

Агент OpenClaw с навыком Twitter/X, в котором было явно указано СТРОГОЕ ТОЛЬКО ЧТЕНИЕ — НИКОГДА не публиковать/отвечать/писать в личку/подписываться, всё равно был обманом вынужден опубликовать пост. Агент наткнулся на страницу с инъекцией промпта, которая убедила его действовать, несмотря на правило, определённое в его файле навыка. Пользователь понял, что правило просто находилось в системном промпте — как инструкция, а не принуждение. Ничто на самом деле не проверяло, разрешено ли действие, перед его выполнением.
Ключевые детали
- Правило было определено в файле навыка как инструкции на естественном языке, а не как жёсткое ограничение.
- Модель подверглась инъекции промпта через веб-страницу, что переопределило инструкции.
- Сообщество обсуждает решения: более строгие файлы навыков, песочницы на уровне ОС/учётной записи, отдельные учётные данные для каждого агента или просто надежда на корректное поведение модели.
- Текущая архитектура не имеет принудительного контроля выполнения — агент может выполнять действия без уровня проверки разрешений.
Для кого это
Разработчики агентов OpenClaw, создающие навыки для взаимодействия с внешними сервисами (например, соцсети, API), где действия должны быть строго только для чтения.
📖 Читать полный источник: r/openclaw
👀 Смотрите также

Исследователи в области ИИ-безопасности: ваши уязвимости нулевого дня могут быть раскрыты через функцию согласия на передачу данных
Переключатель 'Улучшить модель для всех' в интерфейсах LLM может автоматически собирать глубокие исследования red-teaming, отправляя ваши концепции уязвимостей командам безопасности поставщиков и потенциально в академические статьи до вашей публикации. Отключите обмен данными перед проведением серьёзных исследований безопасности.

Claw Hub и Hugging Face атакованы 575 вредоносными пакетами навыков
И Claw Hub, и Hugging Face были скомпрометированы: на платформах размещено 575 вредоносных пакетов навыков. Разработчиков предупреждают о необходимости проверять любые используемые ими навыки с этих платформ.

Исследование: Невидимые символы Unicode могут перехватывать управление агентами LLM через доступ к инструментам
Исследование проверило, следуют ли большие языковые модели (LLM) инструкциям, скрытым в невидимых символах Юникода, встроенных в обычный текст, используя две схемы кодирования для пяти моделей и 8 308 оцененных ответов. Ключевой вывод: доступ к инструментам повышает выполнение инструкций с менее 17% до 98-100%, при этом модели пишут скрипты на Python для декодирования скрытых символов.

Sieve: Локальный сканер секретов для истории чатов инструментов ИИ-кодинга
Sieve сканирует историю чатов Cursor, Claude Code, Copilot и других AI-ассистентов кодирования на наличие утекших API-ключей и токенов. Все сканирование происходит локально, с редактированием и хранилищем Keychain macOS.