El filtro de políticas de Claude bloquea el trabajo bioinformático con nombres de patógenos.
Un investigador posdoctoral en virología computacional informa problemas persistentes con el filtro de política de uso de Claude al escribir scripts para pipelines filogenéticos en trabajos de bioinformática. El investigador utiliza Claude para tareas de procesamiento de secuencias y metadatos.
Comportamiento específico del modelo
El error de violación de política ocurre al mencionar patógenos por nombre en los scripts. Esto sucede en múltiples plataformas y modelos:
- Plataformas afectadas: Claude Code y claude.ai
- Modelos afectados: Opus 4.6 y Sonnet 4.6
- Solo Sonnet 4 no marca el mismo contenido
Soluciones alternativas actuales
El investigador ha identificado dos métodos funcionales de elusión:
- Describir la tarea de bioinformática sin nombrar el organismo específico
- Agregar el nombre del organismo en archivos adjuntos en lugar de en el texto del prompt
- Degradar a Sonnet 4, aunque esto significa que los usuarios que pagan no pueden acceder a los modelos más recientes sin soluciones alternativas
Brecha de política para investigadores
Según informes, Anthropic tiene un formulario de exención para casos de uso cibernético para investigadores de seguridad que encuentran falsos positivos similares con filtros de política. Sin embargo, no existe un proceso de exención equivalente para investigadores de biología o genómica que trabajan con patógenos en contextos de investigación legítimos.
El investigador hace un llamado a otros en genómica o bioinformática de enfermedades infecciosas que experimenten falsos positivos similares para crear conciencia sobre el problema.
📖 Leer la fuente completa: r/ClaudeAI
👀 Ver también
Claude-Code v2.1.72: Mejoras en SSH, reducción de solicitudes de permisos y corrección de errores
Claude-Code v2.1.72 añade escritura de archivos compatible con SSH con la tecla /copy w, reduce las solicitudes de permisos bash al agregar herramientas comunes a la lista de aprobación automática, y corrige más de 20 errores incluyendo problemas del modo de voz y dificultades en la instalación de complementos.
Surgen preocupaciones sobre la usabilidad y viabilidad económica de OpenClaw.
OpenClaw ha sido criticado por sus altas barreras de entrada, costes prohibitivos, problemas de seguridad y capacidades de memoria engañosas. Se han recomendado soluciones alternativas como el MemU Bot.
Estudio de Stanford: Profesores de Derecho Prefieren Respuestas de IA sobre las de sus Colegas el 75% del Tiempo
En una evaluación ciega de casi 3,000 comparaciones, los profesores de derecho calificaron significativamente mejor las respuestas generadas por IA que las escritas por colegas. Las respuestas de IA fueron señaladas como dañinas solo el 3.5% del tiempo, frente al 12% de las humanas.
Cuando preguntarle a Claude sobre regex lleva a una inmersión nocturna en el diseño de compiladores
Un usuario de Reddit le pidió a Claude que explicara una expresión regular y terminó en una conversación de 45 minutos sobre analizadores sintácticos, diseño de compiladores y teoría del lenguaje, cuestionando su carrera.