Le filtre de politique de Claude bloque les travaux de bioinformatique impliquant des noms d'agents pathogènes.

Un postdoctorant en virologie computationnelle signale des problèmes persistants avec le filtre de politique d'utilisation de Claude lors de l'écriture de scripts pour des pipelines phylogénétiques dans le cadre de travaux de bioinformatique. Le chercheur utilise Claude pour des tâches de traitement de séquences et de métadonnées.

Comportement spécifique du modèle

L'erreur de violation de politique se produit lors de la mention de pathogènes par leur nom dans les scripts. Cela se produit sur plusieurs plateformes et modèles :

• Plateformes affectées : Claude Code et claude.ai
• Modèles affectés : Opus 4.6 et Sonnet 4.6
• Seul Sonnet 4 ne signale pas le même contenu

Contournements actuels

Le chercheur a identifié deux méthodes de contournement fonctionnelles :

• Décrire la tâche de bioinformatique sans nommer l'organisme spécifique
• Ajouter le nom de l'organisme dans des fichiers joints plutôt que dans le texte de l'invite
• Rétrograder vers Sonnet 4, bien que cela signifie que les utilisateurs payants ne peuvent pas accéder aux derniers modèles sans contournements

Lacune politique pour les chercheurs

Anthropic disposerait d'un formulaire d'exemption pour les cas d'utilisation en cybersécurité pour les chercheurs en sécurité confrontés à des faux positifs similaires avec les filtres de politique. Cependant, aucun processus d'exemption équivalent n'existe pour les chercheurs en biologie ou en génomique travaillant avec des pathogènes dans des contextes de recherche légitimes.

Le chercheur appelle les autres chercheurs en génomique ou en bioinformatique des maladies infectieuses confrontés à des faux positifs similaires à sensibiliser à ce problème.