El filtro de políticas de Claude bloquea el trabajo bioinformático con nombres de patógenos.
Un investigador posdoctoral en virología computacional informa problemas persistentes con el filtro de política de uso de Claude al escribir scripts para pipelines filogenéticos en trabajos de bioinformática. El investigador utiliza Claude para tareas de procesamiento de secuencias y metadatos.
Comportamiento específico del modelo
El error de violación de política ocurre al mencionar patógenos por nombre en los scripts. Esto sucede en múltiples plataformas y modelos:
- Plataformas afectadas: Claude Code y claude.ai
- Modelos afectados: Opus 4.6 y Sonnet 4.6
- Solo Sonnet 4 no marca el mismo contenido
Soluciones alternativas actuales
El investigador ha identificado dos métodos funcionales de elusión:
- Describir la tarea de bioinformática sin nombrar el organismo específico
- Agregar el nombre del organismo en archivos adjuntos en lugar de en el texto del prompt
- Degradar a Sonnet 4, aunque esto significa que los usuarios que pagan no pueden acceder a los modelos más recientes sin soluciones alternativas
Brecha de política para investigadores
Según informes, Anthropic tiene un formulario de exención para casos de uso cibernético para investigadores de seguridad que encuentran falsos positivos similares con filtros de política. Sin embargo, no existe un proceso de exención equivalente para investigadores de biología o genómica que trabajan con patógenos en contextos de investigación legítimos.
El investigador hace un llamado a otros en genómica o bioinformática de enfermedades infecciosas que experimenten falsos positivos similares para crear conciencia sobre el problema.
📖 Leer la fuente completa: r/ClaudeAI
👀 Ver también
Escáner de IA analiza 400K publicaciones de Reddit y descubre efectos secundarios ocultos de Ozempic como cambios menstruales
Investigadores de la Universidad de Pensilvania usaron LLMs para analizar 400,000 publicaciones de Reddit sobre fármacos GLP-1, descubriendo síntomas subestimados como irregularidades menstruales y escalofríos.
MiMo-V2.5-Pro Evaluado: Fuerte Razonamiento en Deducción Social, Buena Relación Calidad vs K2.6
MiMo-V2.5-Pro compite con Kimi K2.6 en partidas autónomas de Blood on the Clocktower, con una tasa de victorias desequilibrada del 88% como Equipo Bueno / 48% como Equipo Malvado, cuesta 0.99 $ por partida con 183.000 tokens de salida, y es práctico con partidas de 2 a 3 horas.
Los LLM favorecen sus propios resultados en la contratación: tasas de preselección del 23% al 60% más altas para currículums refinados por IA
Un experimento a gran escala muestra que los sistemas de selección de currículums basados en LLM prefieren los currículums generados por IA entre un 67% y un 82% de las veces, lo que resulta en tasas de preselección entre un 23% y un 60% más altas para los candidatos que utilizan el mismo modelo.
Claude Opus 4.7 Lanzado con Razonamiento Híbrido y Ventana de Contexto de 1 Millón
Anthropic lanzó Claude Opus 4.7, un modelo de razonamiento híbrido con una ventana de contexto de 1 millón que ofrece un rendimiento más sólido en tareas de codificación, visión y tareas complejas de múltiples pasos. Los precios comienzan en $5 por millón de tokens de entrada y $25 por millón de tokens de salida.