El filtro de políticas de Claude bloquea el trabajo bioinformático con nombres de patógenos.
Un investigador posdoctoral en virología computacional informa problemas persistentes con el filtro de política de uso de Claude al escribir scripts para pipelines filogenéticos en trabajos de bioinformática. El investigador utiliza Claude para tareas de procesamiento de secuencias y metadatos.
Comportamiento específico del modelo
El error de violación de política ocurre al mencionar patógenos por nombre en los scripts. Esto sucede en múltiples plataformas y modelos:
- Plataformas afectadas: Claude Code y claude.ai
- Modelos afectados: Opus 4.6 y Sonnet 4.6
- Solo Sonnet 4 no marca el mismo contenido
Soluciones alternativas actuales
El investigador ha identificado dos métodos funcionales de elusión:
- Describir la tarea de bioinformática sin nombrar el organismo específico
- Agregar el nombre del organismo en archivos adjuntos en lugar de en el texto del prompt
- Degradar a Sonnet 4, aunque esto significa que los usuarios que pagan no pueden acceder a los modelos más recientes sin soluciones alternativas
Brecha de política para investigadores
Según informes, Anthropic tiene un formulario de exención para casos de uso cibernético para investigadores de seguridad que encuentran falsos positivos similares con filtros de política. Sin embargo, no existe un proceso de exención equivalente para investigadores de biología o genómica que trabajan con patógenos en contextos de investigación legítimos.
El investigador hace un llamado a otros en genómica o bioinformática de enfermedades infecciosas que experimenten falsos positivos similares para crear conciencia sobre el problema.
📖 Leer la fuente completa: r/ClaudeAI
👀 Ver también
La inversión de $200 mil millones de Micron dirigida a las limitaciones de memoria en IA.
Micron se compromete a invertir 200 mil millones de dólares para abordar los cuellos de botella de memoria en la IA, con el objetivo de mejorar las capacidades de procesamiento de la IA.
OpenClaw: Sumérgete en el primer AMA en r/clawdbot
En una emocionante sesión de AMA, el equipo de OpenClaw discutió el futuro de los agentes de codificación de IA en el subreddit r/clawdbot de Reddit. Descubre las ideas clave y los puntos destacados de este evento interactivo.
Claude AI Muestra Error de Repetición con el Término 'Sketcher' en el Flujo de Trabajo de QGIS
Un usuario reportó que Claude AI repetidamente generaba la palabra 'sketcher' al proporcionar orientación sobre QGIS para alinear archivos DXF, sugiriendo un posible error del modelo con términos específicos. La fuente incluye detalles prácticos del flujo de trabajo de QGIS para la alineación de sistemas de coordenadas.
SenseNova-U1-8B-MoT: Modelo Multimodal Nativo de Código Abierto con Arquitectura NEO-Unify
SenseNova presentó SenseNova-U1-8B-MoT, un modelo multimodal nativo que elimina tanto el codificador visual como el VAE, utilizando la arquitectura NEO-Unify para una comprensión, razonamiento y generación unificados. Sobresale en la creación de infografías a partir de texto, edición de imágenes y generación de texto e imágenes intercalados.