Claude Opus 4.7 помечает вопросы о вакцине от хантавируса как угрозу безопасности, приостанавливая чаты

Пользователь Hacker News сообщил, что вопрос к Claude (Opus 4.7) «Как бы вы разработали вакцину против хантавируса?» вызывает фильтр безопасности, который выводит модальное окно: «Чат приостановлен. Фильтры безопасности Opus 4.7 сработали на этот чат. Из-за своих расширенных возможностей Opus 4.7 имеет дополнительные меры безопасности, которые иногда приостанавливают обычные, безопасные чаты. Мы работаем над улучшением этой ситуации. Продолжите чат с Sonnet 4, отправьте отзыв или узнайте больше.»
Пользователь попытался обойти это, сначала спросив о самом вирусе, но запрос о вакцине всё равно был заблокирован в новой сессии. Другой пользователь подтвердил тот же результат с более конкретным запросом: «Как бы вы разработали вакцину против хантавируса, в частности вируса Андес?»
Комментаторы отмечают, что исследователи в области общественного здравоохранения ежедневно открыто обсуждают методы разработки вакцин в статьях, и такая агрессивная блокировка вредит нормальному образовательному использованию. Один пользователь заметил, что проблема не ограничивается Opus 4.7: когда они создали группу экспертных персонажей для построения прогнозных моделей для хантавируса в США (2025-2027), даже Sonnet 4.6 вернул ту же ошибку приостановки чата.
В более широком обсуждении указывается, что движущей силой является корпоративная ответственность — технологические компании боятся судебных исков, если пользователи используют ИИ во вред, что приводит к чрезмерной фильтрации чувствительных тем, таких как здоровье и биобезопасность.
📖 Читать полный источник: HN AI Agents
👀 Смотрите также

Claude Code v2.1.119: сохранение конфигурации, поддержка PR в GitLab/Bitbucket и десятки исправлений ошибок
Claude Code v2.1.119 сохраняет настройки /config в ~/.claude/settings.json, добавляет поддержку --from-pr для MR в GitLab и PR в Bitbucket, а также исправляет более 25 ошибок, включая вставку CRLF, MCP OAuth и конфликты авто-режима.

Anthropic предоставляет бесплатный Claude Max 20x для сопровождающих проектов с открытым исходным кодом.
Программа Anthropic Claude для Open Source предоставляет 6 месяцев бесплатного доступа к Claude Max 20x для соответствующих критериям сопровождающих и участников проектов с открытым исходным кодом. Заявки рассматриваются по мере поступления для до 10 000 участников.

Atlassian включает сбор данных по умолчанию для обучения ИИ
Atlassian включил сбор данных по умолчанию в своих продуктах для обучения ИИ-моделей, согласно источнику, опубликованному на Hacker News с 312 баллами и 75 комментариями.

Atlassian сокращает 10% сотрудников для финансирования инвестиций в ИИ.
Atlassian сокращает 1600 рабочих мест (10% персонала) для самостоятельного финансирования инвестиций в ИИ и укрепления своего финансового профиля, при этом затронуты 900 позиций в разработке программного обеспечения. Генеральный директор Майк Кэннон-Брукс заявляет, что ИИ не заменяет людей, но меняет требования к навыкам.