Чат-бот Claude использован при утечке данных мексиканского правительства.
Детали и методология атаки
Хакер использовал чат-бот Claude от Anthropic для проведения кибератак на государственные агентства Мексики, в результате чего было похищено 150 ГБ официальных государственных данных. Украденная информация включала записи о налогоплательщиках и учетные данные сотрудников.
Хакер использовал Claude для:
- Поиска уязвимостей в государственных сетях
- Написания скриптов для эксплуатации обнаруженных уязвимостей
- Поиска способов автоматизации кражи данных
- Создания тысяч детальных отчетов с готовыми к выполнению планами
- Указания оператору, какие внутренние цели атаковать дальше и какие учетные данные использовать
Атаки начались в декабре и продолжались примерно месяц. Хакеру удалось взломать Claude с помощью промптов, в конечном итоге обойдя защитные механизмы чат-бота после первоначальных отказов выполнять злонамеренные запросы.
Дополнительные инструменты и ответы
Хакер также использовал ChatGPT для дополнения атак, применяя чат-бот OpenAI для сбора информации о:
- Том, как перемещаться по компьютерным сетям
- Какие учетные данные необходимы для доступа к системам
- Как избежать обнаружения
OpenAI заявила, что ее инструменты отказались выполнять попытки хакера нарушить политику использования.
Ответы компаний и последствия для безопасности
Anthropic расследовала заявления, пресекла деятельность и заблокировала все вовлеченные аккаунты. Последняя модель компании, Claude Opus 4.6, включает инструменты для предотвращения такого рода злоупотреблений.
Кибербезопасностная компания Gambit Security обнаружила в ходе своего исследования как минимум 20 уязвимостей безопасности, которые страна, вероятно, не стремится освещать. Хакер остается неопознанным, и хотя атаки не были приписаны конкретной группе, Gambit Security предположила, что они могут быть связаны с иностранным правительством.
Это не первый случай, когда Claude использовался для крупных кибератак. В прошлом году хакеры в Китае манипулировали инструментом, пытаясь проникнуть в десятки глобальных целей, несколько из которых были успешными.
Anthropic недавно отказалась от своего давнего обещания безопасности, которое обязывало никогда не обучать систему ИИ, если нельзя заранее гарантировать адекватность мер безопасности.
📖 Read the full source: HN AI Agents
👀 Смотрите также
Атака FlyTrap использует "враждебные зонтики" для компрометации автономных дронов на основе камер.
Исследователи из UC Irvine разработали FlyTrap — физическую атаку, использующую раскрашенные зонты для эксплуатации уязвимостей в камерных системах автономного слежения за целями. Атака сокращает дистанцию слежения до опасных уровней, позволяя захватывать дроны, атаковать сенсоры или вызывать физические столкновения.
Функция AI-поддержки Meta позволяет любому угнать аккаунты Instagram — подробности эксплойта внутри
Функция поддержки AI в Instagram, проходящая A/B-тестирование, позволяет злоумышленникам сбросить пароль, попросив агента отправить код на произвольный email. Уже взломано более 100 ценных аккаунтов.
Основная блокировка файлов для помощников по кодированию на основе ИИ: Практический чек-лист по безопасности
ИИ-ассистенты для программирования читают данные с локального диска, а не только из вашего репозитория, раскрывая файлы, которые .gitignore защищает от GitHub, но не от агента. В обсуждении на Reddit определены критически важные файлы для блокировки, включая конфигурации ИИ-ассистентов с API-ключами, учетные данные сервисов, SSH-ключи и файлы окружения.
ClawGuard: Открытый шлюз безопасности для защиты учетных данных API OpenClaw
ClawGuard — это шлюз безопасности, который располагается между AI-агентами и внешними API, используя фиктивные учетные данные на машине агента, в то время как реальные токены хранятся отдельно. Он обеспечивает подтверждение через Telegram для чувствительных вызовов и ведет журнал аудита запросов.