Cloudflare Dynamic Worker Loader : Isolation des agents IA avec Isolates

Ce que fait Dynamic Worker Loader

Dynamic Worker Loader est une API qui permet à un Worker Cloudflare de créer un nouveau Worker avec du code spécifié à l'exécution, s'exécutant dans son propre sandbox sécurisé. Cela répond au besoin de sécurité pour exécuter du code généré par IA sans exposer votre application à des vulnérabilités.

Implémentation technique

La fonctionnalité utilise des isolats — instances du moteur d'exécution JavaScript V8 — comme mécanisme de sandbox sous-jacent. Les isolats démarrent en quelques millisecondes et utilisent quelques mégaoctets de mémoire, les rendant environ 100 fois plus rapides et 10 à 100 fois plus efficaces en mémoire que les conteneurs Linux typiques.

Voici le modèle de code de base de la source :

// Faites générer du code comme celui-ci par votre LLM.
let agentCode: string = `
  export default {
    async myAgent(param, env, ctx) {
      // ...
    }
  }
`;

// Chargez un worker pour exécuter le code
let worker = env.LOADER.load({
  compatibilityDate: "2026-03-01",
  mainModule: "agent.js",
  modules: {
    "agent.js": agentCode
  },
  env: {
    CHAT_ROOM: chatRoomRpcStub
  },
  globalOutbound: null,
});
// Appelez les méthodes RPC exportées par le code de l'agent
await worker.getEntrypoint().myAgent(param);

Principales capacités

• Aucune limite de concurrence globale : Contrairement aux solutions basées sur des conteneurs, il n'y a pas de limites sur les sandbox concurrents ou le taux de création
• Zéro latence : Les Dynamic Workers s'exécutent généralement sur la même machine et le même thread que le Worker créateur
• Déploiement mondial : Pris en charge dans toutes les centaines d'emplacements de Cloudflare dans le monde
• Contrôles de sécurité : Peut bloquer l'accès Internet (globalOutbound : null) ou l'intercepter
• Accès API basé sur RPC : Les agents peuvent accéder à des API spécifiques via des stubs RPC définis dans le paramètre env

Contexte et limitations

Cette approche s'appuie sur le concept Code Mode de Cloudflare où les agents écrivent du code au lieu d'effectuer des appels d'outils. La principale limitation par rapport aux conteneurs est que les agents doivent écrire du JavaScript (bien que les Workers prennent techniquement en charge Python et WebAssembly). Pour les petits extraits de code générés par des agents IA, le JavaScript se charge et s'exécute plus rapidement.