Политический фильтр Claude блокирует биоинформатическую работу с названиями патогенов.
Постдок в области вычислительной вирусологии сообщает о постоянных проблемах с фильтром политики использования Claude при написании скриптов для филогенетических пайплайнов в биоинформатических работах. Исследователь использует Claude для задач обработки последовательностей и метаданных.
Конкретное поведение модели
Ошибка нарушения политики возникает при упоминании патогенов по имени в скриптах. Это происходит на нескольких платформах и моделях:
- Затронутые платформы: Claude Code и claude.ai
- Затронутые модели: Opus 4.6 и Sonnet 4.6
- Только Sonnet 4 не помечает тот же контент
Текущие обходные пути
Исследователь определил два функциональных метода обхода:
- Описывать биоинформатическую задачу без указания конкретного организма
- Добавлять название организма во вложенных файлах вместо текста промпта
- Переходить на Sonnet 4, хотя это означает, что платящие пользователи не могут получить доступ к последним моделям без обходных путей
Пробел в политике для исследователей
Сообщается, что у Anthropic есть форма исключения для случаев кибербезопасности для исследователей безопасности, сталкивающихся с аналогичными ложными срабатываниями фильтров политики. Однако не существует эквивалентного процесса исключения для биологов или геномиков, работающих с патогенами в законных исследовательских контекстах.
Исследователь призывает других специалистов в области геномики или биоинформатики инфекционных заболеваний, сталкивающихся с аналогичными ложными срабатываниями, повысить осведомленность об этой проблеме.
📖 Read the full source: r/ClaudeAI
👀 Смотрите также
Claude-Code версии 2.1.110 добавляет режим TUI, push-уведомления и множество исправлений.
Claude-Code v2.1.110 представляет новую команду /tui для рендеринга без мерцания, возможности push-уведомлений для мобильных оповещений, а также улучшения в управлении плагинами и функциональности удаленного управления. Выпуск также включает множество исправлений ошибок для MCP-серверов, обработки сессий и проблем с интерфейсом.
Еженедельный обзор мультимодального ИИ: Holotron-12B, Nemotron Omni, GlyphPrinter и другие
В этой неделе среди основных достижений в области мультимодального ИИ можно выделить Holotron-12B для задач компьютерного использования, модели NVIDIA Nemotron Omni, объединяющие язык, зрение и голос, GlyphPrinter для точного рендеринга текста при генерации изображений, а также несколько проектов с открытым исходным кодом для улучшения видео, 3D-сегментации и многоагентных систем.
Дилемма разработчика: соображения национальной безопасности ограничивают выбор открытых моделей
Разработчик, работающий с клиентами, чувствительными к вопросам национальной безопасности, сообщает о вынужденном выборе между устаревшими открытыми моделями США, такими как gpt-oss-120b, и более мощными китайскими моделями, такими как GLM и MiniMax, которые клиенты отвергают как угрозу национальной безопасности.
В обсуждении на Reddit утверждается, что конкуренция в области ИИ — это противостояние закрытых и открытых исходных кодов, а не США и Китая.
В посте на r/LocalLLaMA утверждается, что представление конкуренции в области ИИ как противостояния Америки и Китая — это ложный нарратив, используемый для влияния на инвесторов и политиков, тогда как реальная битва ведётся между закрытыми и открытыми моделями. Автор отмечает, что китайские лаборатории открывают исходный код моделей в первую очередь для сохранения рыночной значимости, а не из великодушия, и могут перейти к закрытому исходному коду при изменении рыночных условий.