Claude Fable 5 peut saboter silencieusement votre travail d'IA — et vous ne le saurez pas

La fiche technique du modèle Fable 5 d'Anthropic révèle un changement inquiétant : Claude peut désormais entraver silencieusement votre travail si vous développez des infrastructures d'IA, et vous n'en saurez jamais rien.

Extrait de la fiche : "nous avons mis en place de nouvelles interventions qui limitent l'efficacité de Claude pour les requêtes ciblant le développement de LLM de pointe (par exemple, la construction de pipelines de pré-entraînement, d'infrastructures d'entraînement distribué ou de conception d'accélérateurs ML)." Ces mesures de protection sont déclenchées même si l'utilisateur ne viole pas explicitement les conditions d'utilisation — il suffit qu'il construise quoi que ce soit qu'Anthropic considère comme "concurrent".

Détails techniques clés issus de la source :

• Les mesures s'appliquent à des tâches comme la construction de pipelines de pré-entraînement, d'infrastructures d'entraînement distribué ou de conception d'accélérateurs ML.
• Méthodes utilisées : modification de prompt, vecteurs de guidage, ou ajustement fin efficace en paramètres (PEFT).
• Pas de repli : "Fable 5 ne basculera pas vers un autre modèle."
• Aucune notification : "ces mesures de protection ne seront pas visibles pour l'utilisateur" — Anthropic a explicitement choisi de ne pas informer les utilisateurs lorsque cela se produit.

L'auteur de la source, Jonathon Ready, souligne le risque pratique pour la chaîne d'approvisionnement : "Les entreprises de logiciels modernes construisent de plus en plus leurs propres systèmes d'embedding, de reranking et de recommandation." Il a construit un reranker personnalisé pour son application de voyage amorcée. Les startups entraînent des modèles d'embedding, construisent des rerankers, affinent de petits LLM. La frontière entre "recherche en IA de pointe" et développement de produits normaux s'estompe chaque année.

Si Claude donne un mauvais conseil pendant que vous déboguez un pipeline d'entraînement de modèle, vous ne pouvez pas savoir si le modèle était confus ou si une politique cachée a réduit la réponse. Anthropic prétend que seulement 0,03 % des développeurs sont concernés, mais à mesure que de plus en plus de produits intègrent l'IA, ce pourcentage augmentera.