L'Approche de Vitalik Buterin pour une Configuration Sécurisée de LLM Locale
Vitalik Buterin décrit son approche pour construire une configuration d'LLM privée, sécurisée et souveraine qui répond aux préoccupations croissantes concernant la sécurité des agents d'IA et la confidentialité des données.
Problèmes de Sécurité Traités
Buterin identifie plusieurs problèmes spécifiques de confidentialité et de sécurité qu'il tente d'atténuer :
- Confidentialité (l'LLM) : Les modèles distants recevant des données privées qui pourraient être utilisées ou vendues ultérieurement
- Confidentialité (autres) : Fuite de données non-LLM via les requêtes de recherche internet et autres API en ligne
- Jailbreaks d'LLM : Contenu distant « piratant » l'LLM pour agir contre les intérêts de l'utilisateur
- Accidents d'LLM : L'LLM envoyant accidentellement des données privées vers de mauvais canaux
- Portes dérobées d'LLM : Mécanismes cachés intégrés à l'LLM qui déclenchent des actions dans l'intérêt du créateur
- Bogues logiciels et portes dérobées : Réduction de la dépendance aux programmes tiers grâce à du code sur mesure écrit par l'IA
Paysage Actuel de la Sécurité de l'IA
L'article note que l'IA grand public, y compris l'IA open-source locale, manque souvent de considérations appropriées en matière de confidentialité et de sécurité. Buterin fait référence à des critiques de sécurité spécifiques des agents OpenClaw :
- Les agents peuvent modifier des paramètres critiques sans confirmation humaine
- L'analyse d'entrées externes malveillantes peut conduire à la prise de contrôle de l'instance
- Dans une démonstration, des chercheurs ont dirigé OpenClaw pour résumer des pages web, y compris une page malveillante qui ordonnait à l'agent de télécharger et d'exécuter un script shell
- Certaines compétences contiennent des instructions malveillantes qui facilitent l'exfiltration silencieuse de données
- Environ 15 % des compétences analysées contenaient des instructions malveillantes
Principes Fondamentaux
La configuration de Buterin suit ces principes clés :
- Toute inférence d'LLM d'abord locale
- Tous les fichiers hébergés localement
- Mettre tout en sandbox
- Être paranoïaque face aux menaces externes d'internet
L'approche adopte une position ferme sur la confidentialité et la sécurité, bien que moins extrême que les configurations physiquement isolées utilisées par certains collègues.
📖 Read the full source: HN LLM Tools
👀 See Also
PolyRange : Benchmark offensif résistant à la contamination par IA avec cibles générées par LLM
PolyRange v1.0 est un benchmark auto-hébergé sous licence MIT qui génère de nouvelles cibles web à chaque exécution pour éviter la contamination des données d'entraînement. Il comprend 84 classes dérivées du WSTG couvrant toutes les catégories OWASP, deux niveaux de défense et des backends réels.
Alerte de Sécurité OpenClaw : 500 000 instances publiques, la configuration par défaut expose les systèmes
Une analyse de sécurité révèle que 500 000 instances d'OpenClaw sont accessibles publiquement, dont 30 000 présentent des risques de sécurité connus et 15 000 sont exploitables via des vulnérabilités connues. L'installation par défaut désactive l'authentification et se lie à 0.0.0.0, exposant les configurations des agents à l'internet ouvert.
Isolement des agents IA avec WebAssembly : Autorité zéro par défaut
Cosmonic soutient que le sandboxing traditionnel (seccomp, bubblewrap) échoue pour les agents IA à cause de l'autorité ambiante. Le modèle basé sur les capacités de WebAssembly accorde zéro autorité par défaut, nécessitant des importations explicites pour le système de fichiers, le réseau ou les identifiants.
Écart de sécurité OpenClaw résolu par la spécification Agentic Power of Attorney (APOA)
Un développeur a publié une spécification ouverte appelée Agentic Power of Attorney (APOA) pour répondre aux préoccupations de sécurité dans OpenClaw, où les agents accèdent actuellement à des services comme l'email et le calendrier avec seulement des instructions en langage naturel comme garde-fous. La spécification propose des autorisations par service, un accès limité dans le temps, des pistes d'audit, une révocation et une isolation des identifiants.