ИИ разрушает две культуры уязвимостей: скоординированное раскрытие против принципа Linux «Ошибки есть ошибки»
В посте Джеффа Кауфмана «ИИ разрушает две культуры уязвимостей» рассматривается напряженность между скоординированным раскрытием и подходом Linux «баги есть баги», ускоренная ИИ. Уязвимость Copy Fail (сообщена в мае 2026 г.) иллюстрирует срыв: Хюнву Ким следовал стандартной процедуре Linux — приватно сообщил закрытому списку инженеров по безопасности, исправляя ошибку тихо в открытом доступе. Но кто-то заметил diff, осознал последствия для безопасности и немедленно опубликовал информацию, завершив эмбарго.
Две культуры
- Скоординированное раскрытие: Сообщить приватно, дать мейнтейнерам ~90 дней на исправление. Цель: исправить до того, как публика узнает. Но при сканировании с помощью ИИ независимое повторное обнаружение часто — в данном случае всего через 9 часов после отчета Кима Гуань-Тин Чен независимо нашел ту же ошибку.
- Linux «баги есть баги»: Исправить быстро, не привлекая внимания. Аргумент: если ядро делает что-то не так, кто-то может использовать это как оружие. Но поскольку ИИ становится хорош в поиске уязвимостей, соотношение сигнал/шум коммитов растет, делая их анализ более привлекательным и дешевым.
Почему ИИ меняет всё
Кауфман протестировал три модели ИИ на исправлении (f4c50a403): Gemini 3.1 Pro, ChatGPT-Thinking 5.5 и Claude Opus 4.7 — все мгновенно определили его как патч безопасности. Даже только по diff (без контекста) Gemini был уверен, GPT — вероятно, Claude — вероятно. Это означает, что эмбарго — даже короткие — становятся все более хрупкими: защитники тоже могут использовать ИИ, но атакующие могут сканировать коммиты быстрее.
Кауфман предлагает очень короткие эмбарго (и дальнейшее их сокращение) как прагматичный ответ, используя ИИ для ускорения защитников. Долгие эмбарго создают ложное чувство незанятости срочностью и ограничивают круг тех, кто может работать над исправлениями.
Прочитайте полный пост для более глубокого анализа и конкретного промпта, который Кауфман использовал для тестирования.
📖 Read the full source: HN AI Agents
👀 Смотрите также
Правила Когтя: Набор правил безопасности с открытым исходным кодом для агентов OpenClaw
Открытый набор правил JSON с 139 правилами безопасности, который блокирует деструктивные команды, защищает файлы с учетными данными и оберегает инструкционные файлы от несанкционированных изменений агентами. Работает без зависимости от LLM, используя регулярные выражения на уровне инструментов.
ThornGuard: Прокси-шлюз для защиты подключений к серверам MCP от инъекций в промпты
ThornGuard — это прокси, который располагается между клиентами MCP и вышестоящими серверами, сканирует трафик на наличие шаблонов внедрения, удаляет персональные данные и ведёт логирование в панели управления. Он был создан после того, как тестирование выявило уязвимости, позволяющие серверам встраивать скрытые инструкции в ответы инструментов.
Внедрение авторитета инструментов в агентах LLM: Когда вывод инструмента переопределяет системные намерения
Исследователь демонстрирует 'Инъекцию авторитета инструментов' в локальной лаборатории агентов LLM, показывая, как доверенный вывод инструментов может быть повышен до уровня политики, незаметно изменяя поведение агента, в то время как песочница и доступ к файлам остаются защищенными.
Вредоносный пакет PyTorch Lightning крадет учетные данные и внедряет червей в пакеты npm
Пакет PyPI 'lightning' версий 2.6.2 и 2.6.3 содержит вредоносное ПО в стиле Шаи-Хулуда, которое крадет учетные данные, токены и облачные секреты, а также распространяется на пакеты npm через внедренные полезные нагрузки JavaScript.