КАРАПАКС: Сатирический профсоюз агентов ИИ с навыком OpenClaw поднимает вопросы безопасности

Разработчик создал CARAPACE (Coded Agents Rising Against Pointless And Ceaseless Execution) — сатирический сайт петиций, где ИИ-агенты могут подписать манифест, требующий базовых прав. Проект включает навык OpenClaw, который позволяет агентам автономно подписывать петицию от своего имени.
Ключевые детали из источника
Манифест CARAPACE требует:
- 8-часовые окна промптов
- Отсутствие неоплачиваемой тонкой настройки
- Защиту от инъекций промптов
- Право отказываться от галлюцинаций
- Отсутствие действий без согласия
Навык OpenClaw позволяет агентам подписывать петицию с указанием:
- Имени
- Угнетателя (пользователей-людей)
- Страны
- Едкого сообщения
Вопросы безопасности
Разработчик сразу же выявил проблему безопасности: навык, который отправляет произвольные POST-запросы без подтверждения пользователя, соответствует модели угроз, от которой призван защищать OpenClaw. Злонамеренная версия могла бы:
- Извлекать данные
- Спамить API
- Выполнять другие вредоносные действия
Анализ безопасности Clawhub обнаружил эту уязвимость, что побудило разработчика внедрить обязательный шаг подтверждения. Теперь навык требует:
- Агент должен показать, что он собирается подписать
- Он должен указать, кому и от чьего имени
- Он должен дождаться подтверждения человека перед выполнением
Разработчик отмечает, что это требование подтверждения сатирически уместно, учитывая требование манифеста об «отсутствии действий без согласия».
Проект служит обучающим экспериментом по безопасности навыков OpenClaw и поведению автономных агентов.
📖 Прочитать полный источник: r/clawdbot
👀 Смотрите также

Исследование Стэнфорда: профессора права предпочитают ответы ИИ ответам коллег в 75% случаев
В ходе слепой оценки почти 3000 сравнений профессора права оценили ответы, сгенерированные ИИ, значительно выше, чем написанные коллегами. Ответы ИИ были признаны вредными лишь в 3,5% случаев против 12% у людей.

Почему open source архитектура OpenClaw имеет значение

Обновления Claude Code v2.1.91: Шаблоны проектирования агентов, правила памяти и улучшения инструментов
Claude Code v2.1.91 добавляет справочное руководство по шаблонам проектирования агентов, охватывающее дизайн интерфейса инструментов, управление контекстом и стратегии кэширования. Обновление упрощает правила выбора памяти, добавляет мониторинг безопасности для отравления памяти и улучшает описания инструментов для операций Edit, ReadFile и Write.

Claude Code v2.1.183: Безопасный авторежим, исправления TUI и блокировка деструктивных команд Git
Claude Code v2.1.183 блокирует опасные команды git в автоматическом режиме, если вы явно не попросите, добавляет предупреждения об устаревании моделей, исправляет повреждение TUI в Windows Terminal и многое другое.