Anthropic abandonne un engagement clé en matière de sécurité dans sa politique de mise à l'échelle responsable
Anthropic a retiré l'engagement fondamental de sa Politique de Mise à l'Échelle Responsable (RSP) phare, selon un rapport de TIME. L'entreprise s'était précédemment engagée en 2023 à ne jamais entraîner un système d'IA à moins de pouvoir garantir à l'avance que ses mesures de sécurité étaient adéquates.
Détails du Changement de Politique
L'entreprise abandonne la promesse de ne pas publier de modèles d'IA si Anthropic ne peut pas garantir à l'avance des mesures d'atténuation des risques appropriées. C'était le pilier central de leur Politique de Mise à l'Échelle Responsable, que les dirigeants de l'entreprise avaient vanté pendant des années comme preuve qu'ils résisteraient aux incitations du marché à précipiter une technologie potentiellement dangereuse.
Raisonnement derrière le Changement
Le directeur scientifique d'Anthropic, Jared Kaplan, a déclaré à TIME : "Nous avons estimé que cela n'aiderait personne que nous arrêtions d'entraîner des modèles d'IA. Nous ne pensions pas vraiment, avec l'avancée rapide de l'IA, qu'il était logique pour nous de prendre des engagements unilatéraux … si les concurrents avancent à toute vitesse."
L'entreprise s'est positionnée comme la plus soucieuse de la sécurité parmi les principaux laboratoires de recherche en IA, ce qui rend ce changement de politique significatif pour les développeurs qui suivent les pratiques de sécurité de l'IA. La décision représente un changement par rapport à leur position précédente qui privilégiait les garanties de sécurité par rapport à la vitesse de développement.
📖 Lire la source complète : r/ClaudeAI
👀 See Also
Systèmes multi-agents : Ingénierie des flux de travail vs Intelligence émergente
Une analyse d'un développeur soutient que les systèmes multi-agents actuels comme LangGraph et les workflows AutoGen fonctionnent davantage comme des microservices avec des enveloppes LLM, fournissant une décomposition des tâches, une parallélisation et une modularité plutôt qu'une véritable intelligence émergente.
Anthropic restreint l'utilisation des abonnements Claude sur des outils tiers comme OpenClaw.
Anthropic modifie sa politique d'abonnement à Claude pour bloquer l'utilisation sur des interfaces tierces, y compris OpenClaw, exigeant une facturation séparée au paiement à l'utilisation pour ces outils à partir du 4 avril. L'entreprise propose un crédit unique équivalent au prix de l'abonnement mensuel et des remises allant jusqu'à 30 % pour les achats anticipés.
Étude de l'ETH Zurich : Un contexte excessif réduit les performances des agents d'IA en programmation
Une étude de l'ETH Zurich a testé quatre agents de codage sur 138 tâches réelles de GitHub et a constaté que les fichiers de contexte générés par LLM réduisaient les taux de réussite des tâches de 2 à 3 % tout en augmentant les coûts d'inférence de 20 %. Le contexte écrit par l'homme n'a amélioré la réussite que d'environ 4 % avec des augmentations de coûts significatives.
Claude AI passe 81 minutes sur une « vraie réflexion » – Les rapports d'utilisateurs augmentent lors des mises à jour majeures
Un utilisateur rapporte que Claude AI a passé 1 heure 21 minutes sur une tâche simple, spéculant que les pics de performance surviennent brièvement après les mises à jour majeures. Exemple : une demande de recherche a scanné 5 113 sources en une session, mais plus tard seulement 100-200 sources pour des requêtes similaires.