O filtro de política do Claude bloqueia trabalhos de bioinformática com nomes de patógenos.

Um pós-doutorando em virologia computacional relata problemas persistentes com o filtro de política de uso do Claude ao escrever scripts para pipelines filogenéticos em trabalhos de bioinformática. O pesquisador usa o Claude para tarefas de processamento de sequências e metadados.

Comportamento específico do modelo

O erro de violação de política ocorre ao mencionar patógenos por nome em scripts. Isso acontece em várias plataformas e modelos:

• Plataformas afetadas: Claude Code e claude.ai
• Modelos afetados: Opus 4.6 e Sonnet 4.6
• Apenas o Sonnet 4 não sinaliza o mesmo conteúdo

Soluções alternativas atuais

O pesquisador identificou dois métodos de contorno funcionais:

• Descrever a tarefa de bioinformática sem nomear o organismo específico
• Adicionar o nome do organismo em arquivos anexados em vez de no texto do prompt
• Reverter para o Sonnet 4, embora isso signifique que usuários pagantes não possam acessar os modelos mais recentes sem soluções alternativas

Lacuna na política para pesquisadores

A Anthropic supostamente tem um formulário de isenção para casos de uso cibernético para pesquisadores de segurança que encontram falsos positivos semelhantes com filtros de política. No entanto, não existe um processo de isenção equivalente para pesquisadores de biologia ou genômica que trabalham com patógenos em contextos de pesquisa legítimos.

O pesquisador pede que outros em genômica ou bioinformática de doenças infecciosas que experimentem falsos positivos semelhantes aumentem a conscientização sobre o problema.