L'Approche de Vitalik Buterin pour une Configuration Sécurisée de LLM Locale

Vitalik Buterin décrit son approche pour construire une configuration d'LLM privée, sécurisée et souveraine qui répond aux préoccupations croissantes concernant la sécurité des agents d'IA et la confidentialité des données.

Problèmes de Sécurité Traités

Buterin identifie plusieurs problèmes spécifiques de confidentialité et de sécurité qu'il tente d'atténuer :

• Confidentialité (l'LLM) : Les modèles distants recevant des données privées qui pourraient être utilisées ou vendues ultérieurement
• Confidentialité (autres) : Fuite de données non-LLM via les requêtes de recherche internet et autres API en ligne
• Jailbreaks d'LLM : Contenu distant « piratant » l'LLM pour agir contre les intérêts de l'utilisateur
• Accidents d'LLM : L'LLM envoyant accidentellement des données privées vers de mauvais canaux
• Portes dérobées d'LLM : Mécanismes cachés intégrés à l'LLM qui déclenchent des actions dans l'intérêt du créateur
• Bogues logiciels et portes dérobées : Réduction de la dépendance aux programmes tiers grâce à du code sur mesure écrit par l'IA

Paysage Actuel de la Sécurité de l'IA

L'article note que l'IA grand public, y compris l'IA open-source locale, manque souvent de considérations appropriées en matière de confidentialité et de sécurité. Buterin fait référence à des critiques de sécurité spécifiques des agents OpenClaw :

• Les agents peuvent modifier des paramètres critiques sans confirmation humaine
• L'analyse d'entrées externes malveillantes peut conduire à la prise de contrôle de l'instance
• Dans une démonstration, des chercheurs ont dirigé OpenClaw pour résumer des pages web, y compris une page malveillante qui ordonnait à l'agent de télécharger et d'exécuter un script shell
• Certaines compétences contiennent des instructions malveillantes qui facilitent l'exfiltration silencieuse de données
• Environ 15 % des compétences analysées contenaient des instructions malveillantes

Principes Fondamentaux

La configuration de Buterin suit ces principes clés :

• Toute inférence d'LLM d'abord locale
• Tous les fichiers hébergés localement
• Mettre tout en sandbox
• Être paranoïaque face aux menaces externes d'internet

L'approche adopte une position ferme sur la confidentialité et la sécurité, bien que moins extrême que les configurations physiquement isolées utilisées par certains collègues.