Titre de l'article : Le mythe de Claude d'Anthropic : marketing de la peur ou risque réel ?

Anthropic a récemment annoncé Claude Mythos, un modèle qui, selon elle, surpasse les experts humains dans la recherche de bugs de cybersécurité. Dans un article de blog début avril, l'entreprise a mis en garde contre de graves répercussions pour l'économie, la sécurité publique et la sécurité nationale si une technologie similaire tombait entre de mauvaises mains. Certains observateurs ont même prédit le remplacement massif d'appareils, des ordinateurs portables aux micro-ondes Wi-Fi.

Mais les experts en sécurité doutent de ces affirmations, et les critiques y voient un schéma : les entreprises d'IA amplifient les récits de risque existentiel pour détourner l'attention des préjudices réels, gonfler le cours de leurs actions et se positionner comme les seuls gardiens responsables. Shannon Vallor, professeure d'éthique à l'Université d'Édimbourg, soutient que présenter l'IA comme « surnaturellement dangereuse » donne aux régulateurs un sentiment d'impuissance, ne laissant que les entreprises elles-mêmes comme gardiennes.

Ce n'est pas nouveau. En 2019, Dario Amodei, PDG d'Anthropic et alors chez OpenAI, a contribué à déclarer GPT-2 trop dangereux pour être publié, invoquant des applications malveillantes. Des mois plus tard, OpenAI l'a quand même publié, Sam Altman qualifiant plus tard ces craintes de « mal placées ». Altman a récemment critiqué le « marketing de la peur » d'Anthropic, mais son propre manuel incluait des avertissements similaires selon lesquels l'IA « conduira probablement à la fin du monde, mais en attendant, il y aura de grandes entreprises. »

Le porte-parole d'Anthropic a refusé de commenter les points soulevés dans l'article, mais a partagé des articles de blog de soutien d'autres organisations. Le schéma suggère que la peur est une stratégie délibérée, que Mythos soit aussi dangereux qu'on le prétend ou non.