El filtro de políticas de Claude bloquea el trabajo bioinformático con nombres de patógenos.
Un investigador posdoctoral en virología computacional informa problemas persistentes con el filtro de política de uso de Claude al escribir scripts para pipelines filogenéticos en trabajos de bioinformática. El investigador utiliza Claude para tareas de procesamiento de secuencias y metadatos.
Comportamiento específico del modelo
El error de violación de política ocurre al mencionar patógenos por nombre en los scripts. Esto sucede en múltiples plataformas y modelos:
- Plataformas afectadas: Claude Code y claude.ai
- Modelos afectados: Opus 4.6 y Sonnet 4.6
- Solo Sonnet 4 no marca el mismo contenido
Soluciones alternativas actuales
El investigador ha identificado dos métodos funcionales de elusión:
- Describir la tarea de bioinformática sin nombrar el organismo específico
- Agregar el nombre del organismo en archivos adjuntos en lugar de en el texto del prompt
- Degradar a Sonnet 4, aunque esto significa que los usuarios que pagan no pueden acceder a los modelos más recientes sin soluciones alternativas
Brecha de política para investigadores
Según informes, Anthropic tiene un formulario de exención para casos de uso cibernético para investigadores de seguridad que encuentran falsos positivos similares con filtros de política. Sin embargo, no existe un proceso de exención equivalente para investigadores de biología o genómica que trabajan con patógenos en contextos de investigación legítimos.
El investigador hace un llamado a otros en genómica o bioinformática de enfermedades infecciosas que experimenten falsos positivos similares para crear conciencia sobre el problema.
📖 Leer la fuente completa: r/ClaudeAI
👀 Ver también
MiniMax M2.7 Modelo Lanzado con Rendimiento de Codificación Mejorado
MiniMax ha lanzado M2.7, un modelo de IA que obtiene un 56% en los benchmarks de codificación SWE-Pro e incluye capacidades de auto-optimización. El modelo mantiene un precio de $0.30 por millón de tokens de entrada.
Usuarios de Claude sistemáticamente excluidos de la investigación psicológica en IA – Una brecha metodológica
Una revisión de docenas de artículos de psicología sobre el uso de chatbots de IA revela que los usuarios de Claude nunca se muestrean como un grupo distinto, a pesar de tener perfiles de uso y diseño de modelo fundamentalmente diferentes en comparación con los usuarios de ChatGPT, Character.AI o Replika.
Yann LeCun's AMI recauda $1,000 millones para modelos de mundo de IA, desafiando el enfoque de LLM.
La startup AMI de Yann LeCun recaudó más de mil millones de dólares para desarrollar modelos de mundo de IA que comprendan el mundo físico, argumentando que los LLM por sí solos no alcanzarán la inteligencia a nivel humano. La empresa construirá sistemas con memoria persistente, razonamiento y capacidades de planificación para aplicaciones en manufactura, biomedicina y robótica.
Referencia de Opus 4.7 sobre el esfuerzo de razonamiento: el nivel medio supera al alto y al máximo en tareas reales
En 29 tareas del repositorio GraphQL-go-tools, Opus 4.7 en Claude Code alcanza su punto máximo con esfuerzo de razonamiento medio — las configuraciones más altas degradan la corrección y aumentan el costo sin mejorar la calidad del parche.