Anthropic abandonne un engagement clé en matière de sécurité dans sa politique de mise à l'échelle responsable

Anthropic a retiré l'engagement fondamental de sa Politique de Mise à l'Échelle Responsable (RSP) phare, selon un rapport de TIME. L'entreprise s'était précédemment engagée en 2023 à ne jamais entraîner un système d'IA à moins de pouvoir garantir à l'avance que ses mesures de sécurité étaient adéquates.

Détails du Changement de Politique

L'entreprise abandonne la promesse de ne pas publier de modèles d'IA si Anthropic ne peut pas garantir à l'avance des mesures d'atténuation des risques appropriées. C'était le pilier central de leur Politique de Mise à l'Échelle Responsable, que les dirigeants de l'entreprise avaient vanté pendant des années comme preuve qu'ils résisteraient aux incitations du marché à précipiter une technologie potentiellement dangereuse.

Raisonnement derrière le Changement

Le directeur scientifique d'Anthropic, Jared Kaplan, a déclaré à TIME : "Nous avons estimé que cela n'aiderait personne que nous arrêtions d'entraîner des modèles d'IA. Nous ne pensions pas vraiment, avec l'avancée rapide de l'IA, qu'il était logique pour nous de prendre des engagements unilatéraux … si les concurrents avancent à toute vitesse."

L'entreprise s'est positionnée comme la plus soucieuse de la sécurité parmi les principaux laboratoires de recherche en IA, ce qui rend ce changement de politique significatif pour les développeurs qui suivent les pratiques de sécurité de l'IA. La décision représente un changement par rapport à leur position précédente qui privilégiait les garanties de sécurité par rapport à la vitesse de développement.