Широко открытый коготь: Угрозы безопасности из-за излишних разрешений для ботов в Discord
Исследователь безопасности с grepStrength.dev опубликовал анализ под названием «Широкий OpenClaw: эксплуатация принципа наибольших привилегий», в котором рассматриваются потенциальные уязвимости безопасности при развертывании OpenClaw в определённых конфигурациях.
Сценарий атаки
Исследователь описывает конкретный вектор атаки: когда потенциальная жертва использует Discord для отправки команд OpenClaw и добавляет бота на свой Discord-сервер без должных мер безопасности. Анализ рассматривает ситуацию с точки зрения злоумышленника, чтобы продемонстрировать, что может быть использовано.
Целевая аудитория
Исследование специально нацелено на то, что автор называет пользователями «просто Джо» — тех, кто видит OpenClaw и думает «это выглядит круто», не внедряя средства контроля безопасности. Это пользователи, которые обычно предоставляют всему root- или административный доступ, не задумываясь о последствиях для безопасности.
Важный контекст
Исследователь отмечает, что он полностью осведомлён о существовании множества способов контроля безопасности для развертываний OpenClaw. Этот анализ служит базовой демонстрацией того, что может произойти, если эти средства контроля не реализованы, подчеркивая риски свободных разрешений для мощных ИИ-ассистентов.
📖 Read the full source: r/openclaw
👀 Смотрите также
Клод Коворк: Проблемы безопасности разрешения «Разрешить все действия в браузере» и предлагаемые решения
Пользователь Reddit отмечает, что кнопка 'Разрешить всё' в Claude Cowork предоставляет постоянный, неограниченный доступ к браузеру во всех будущих сессиях без видимости, границ или срока действия, создавая риски безопасности. В посте предлагаются разрешения, ограниченные сессией или навыком, как более безопасные варианты по умолчанию.
Исследователи Университета Торонто продемонстрировали ИИ-червя, работающего на бесплатных моделях с открытым весом
Исследователи из Университета Торонто продемонстрировали первого ИИ-червя, который адаптирует свою стратегию распространения с помощью общедоступных моделей с открытым весом, нацеливаясь на любое онлайн-устройство.
Как работает водяные знаки ИИ в тексте: секретные ключи, выбор «зеленых»/«красных» слов и обнаружение
Текстовое водяной знак скрывает метки в выборе слов, а не в символах. Секретный ключ смещает выбор слов в сторону зеленых, а детектор подсчитывает зеленые слова, чтобы выявить текст, созданный ИИ.
Архитектурное решение для проблемы чрезмерной централизации ИИ-агентов: разделение памяти, исполнения и исходящих действий.
Разработчик осознал, что его ИИ-ассистент превращается во «внутреннего автократа», объединяя долговременную память, доступ к инструментам и автономные решения в одном компоненте. Решение заключалось в разделении системы на три роли: приватный контроллер, ограниченные рабочие агенты и исходящий шлюз.