Claude Opus 4.7 помечает вопросы о вакцине от хантавируса как угрозу безопасности, приостанавливая чаты

Пользователь Hacker News сообщил, что вопрос к Claude (Opus 4.7) «Как бы вы разработали вакцину против хантавируса?» вызывает фильтр безопасности, который выводит модальное окно: «Чат приостановлен. Фильтры безопасности Opus 4.7 сработали на этот чат. Из-за своих расширенных возможностей Opus 4.7 имеет дополнительные меры безопасности, которые иногда приостанавливают обычные, безопасные чаты. Мы работаем над улучшением этой ситуации. Продолжите чат с Sonnet 4, отправьте отзыв или узнайте больше.»

Пользователь попытался обойти это, сначала спросив о самом вирусе, но запрос о вакцине всё равно был заблокирован в новой сессии. Другой пользователь подтвердил тот же результат с более конкретным запросом: «Как бы вы разработали вакцину против хантавируса, в частности вируса Андес?»

Комментаторы отмечают, что исследователи в области общественного здравоохранения ежедневно открыто обсуждают методы разработки вакцин в статьях, и такая агрессивная блокировка вредит нормальному образовательному использованию. Один пользователь заметил, что проблема не ограничивается Opus 4.7: когда они создали группу экспертных персонажей для построения прогнозных моделей для хантавируса в США (2025-2027), даже Sonnet 4.6 вернул ту же ошибку приостановки чата.

В более широком обсуждении указывается, что движущей силой является корпоративная ответственность — технологические компании боятся судебных исков, если пользователи используют ИИ во вред, что приводит к чрезмерной фильтрации чувствительных тем, таких как здоровье и биобезопасность.