Les Brokenomics de l'IA : Le chaos de l'interdiction d'exportation du mythe/fable d'Anthropic

L'article d'Ed Zitron, AI's Brokenomics, couvre les retombées chaotiques de la publication par Anthropic de son modèle Mythos, présenté comme « trop dangereux », sous une version bridée baptisée Fable — et qui a écopé de contrôles à l'exportation américains après que des chercheurs l'ont jailbreaké en quelques jours. Voici ce qui s'est passé, d'après l'article.

La chronologie

• Anthropic a annoncé Claude Mythos, un LLM décrit comme « trop puissant pour être publié ». Publié le 2 juin auprès de 150 organisations dans 15 pays.
• Le 9 juin, Mythos a été publié avec des garde-fous sous le nom Fable.
• Des chercheurs d'Amazon ont jailbreaké Fable en quelques jours, ce qui a conduit le PDG d'Amazon Andy Jassy et d'autres entreprises anonymes à le signaler au département du Commerce américain pour risques de sécurité nationale.
• L'administration Trump a imposé des contrôles à l'exportation interdisant aux non-citoyens américains d'accéder à Mythos et Fable, donnant à Anthropic 90 minutes pour retirer les modèles.

Détails techniques clés

• Fable bloque les sujets liés aux armes biologiques et à la cybersécurité, mais le jailbreak a contourné ces garde-fous.
• Anthropic a affirmé qu'aucun « jailbreak universel » n'avait été trouvé — seulement des contournements spécifiques. Ils ont déclaré que leurs mesures de sécurité sont si solides que « de nombreux utilisateurs se sont plaints qu'elles sont trop larges ».
• Le chercheur anonyme Pliny The Liberator a également brisé les protocoles de sécurité du modèle.
• Davi Ottenheimer a publié une critique de la fiche système de Mythos, arguant que le modèle n'est qu'un LLM plus grand avec des benchmarks plus élevés sur des tests conçus pour les LLM — pas d'auto-amélioration récursive ni d'AGI.

Retombées

Anthropic a dépêché des cadres techniques supérieurs à Washington D.C. pour négocier avec l'administration Trump après l'échec des réunions virtuelles. L'ordre de contrôle à l'exportation a interdit à tous les non-citoyens américains (à l'intérieur et à l'extérieur des États-Unis) d'accéder aux modèles, les désactivant de fait à l'échelle mondiale.

L'article suggère qu'Anthropic a passé des années à mettre en avant le risque lié à l'IA pour inciter les organisations à payer pour un accès premium, et que ce retour de bâton réglementaire est une conséquence naturelle de cette stratégie.