O filtro de política do Claude bloqueia trabalhos de bioinformática com nomes de patógenos.
Um pós-doutorando em virologia computacional relata problemas persistentes com o filtro de política de uso do Claude ao escrever scripts para pipelines filogenéticos em trabalhos de bioinformática. O pesquisador usa o Claude para tarefas de processamento de sequências e metadados.
Comportamento específico do modelo
O erro de violação de política ocorre ao mencionar patógenos por nome em scripts. Isso acontece em várias plataformas e modelos:
- Plataformas afetadas: Claude Code e claude.ai
- Modelos afetados: Opus 4.6 e Sonnet 4.6
- Apenas o Sonnet 4 não sinaliza o mesmo conteúdo
Soluções alternativas atuais
O pesquisador identificou dois métodos de contorno funcionais:
- Descrever a tarefa de bioinformática sem nomear o organismo específico
- Adicionar o nome do organismo em arquivos anexados em vez de no texto do prompt
- Reverter para o Sonnet 4, embora isso signifique que usuários pagantes não possam acessar os modelos mais recentes sem soluções alternativas
Lacuna na política para pesquisadores
A Anthropic supostamente tem um formulário de isenção para casos de uso cibernético para pesquisadores de segurança que encontram falsos positivos semelhantes com filtros de política. No entanto, não existe um processo de isenção equivalente para pesquisadores de biologia ou genômica que trabalham com patógenos em contextos de pesquisa legítimos.
O pesquisador pede que outros em genômica ou bioinformática de doenças infecciosas que experimentem falsos positivos semelhantes aumentem a conscientização sobre o problema.
📖 Read the full source: r/ClaudeAI
👀 See Also
Título: Atualizações nos Prompts do Sistema Claude Code: Novo Lembrete de Modificação de Arquivo e Esclarecimentos sobre REPL, Lembrete de Análise de Malware Removido
O Claude Code (CC) versões 2.1.124 (+166 tokens) e 2.1.126 (-87 tokens) atualizam o prompt do sistema: adiciona detecção de modificação de arquivo com aviso de orçamento excedido, substitui a função de identidade principal por instruções explícitas de harness, esclarece o comportamento de auto-await de thenables no REPL e remove o lembrete de análise de malware.
Uso de água em centros de dados de IA na Califórnia: Estimativas a partir de modelos físicos e de IA
Uma análise da California WaterBlog usando física e quatro modelos de IA estima o uso de água por data centers de IA na Califórnia em 2.300–400.000 acre-pés/ano, com uma faixa realista de 32.000–290.000 acre-pés/ano — modesta em comparação com a agricultura.
Comprovando a Identidade do Modelo com a Tecnologia Modelwrap da Tinfoil
O Modelwrap da Tinfoil garante que os provedores de inferência sirvam exatamente os pesos de modelo que afirmam, usando compromissos criptográficos verificados por enclaves seguros.
Modelos Qwen3 Small Ajustados Superam LLMs de Ponta em Tarefas Específicas com Custo Menor
Modelos Qwen3 destilados (0,6B a 8B parâmetros) igualaram ou superaram modelos de API de fronteira como GPT-5, Gemini e Claude em 6 de 9 tarefas, incluindo chamada de funções e Text2SQL, com custo tão baixo quanto US$ 3 por milhão de requisições versus US$ 378 para desempenho comparável.