DeepSeek V4 Flash offre une qualité proche d'Opus pour les LLM locaux sur site

Un développeur sur r/openclaw rapporte que DeepSeek 4 Flash atteint des performances proches du niveau d'Opus pour les cas d'utilisation de LLM locaux, spécifiquement pour les agents IA sur site traitant des données clients confidentielles. L'utilisateur déclare avoir été extrêmement déçu par tous les modèles à l'exception d'Opus jusqu'à présent.

Détails clés

• Cas d'utilisation : LLM locaux sur site + agents IA pour des clients refusant d'utiliser des services cloud comme AWS en raison de préoccupations de confidentialité des données.
• Performance du modèle : DeepSeek 4 Flash est décrit comme "proche du niveau d'Opus", ce qui en fait la première option viable en dehors de Claude Opus pour cette charge de travail spécifique.
• Matériel : L'utilisateur investit dans un ordinateur à 25 000 $ (probablement une station de travail multi-GPU) pour exécuter le modèle localement. Il note que même avec des GPU NVIDIA, le traitement de 1M tokens peut être frustrant de lenteur.
• Comparaison : Il exprime son scepticisme quant aux utilisateurs de Qwen 35B, affirmant qu'il ne peut même pas égaler Sonnet pour ce travail, et se demande si les utilisateurs de Mac exécutent réellement des LLM locaux ou se contentent de le prétendre, citant une lenteur insupportable sur le matériel Apple.
• Attribution : L'utilisateur reconnaît que le modèle vient de Chine (DeepSeek est un laboratoire d'IA chinois) et se demande ce qu'ils en retirent, mais il est reconnaissant pour le LLM gratuit et exécutable localement.

À qui cela s'adresse

Développeurs créant des systèmes d'agents IA sur site pour des clients enterprise soucieux de sécurité qui exigent des déploiements isolés ou privés.