Tencent Cloud open-source CubeSandbox, compatible with E2B, runs 2000 sandboxes on a single machine

robot
Création du résumé en cours

ME News, le 21 avril (UTC+8), selon la surveillance de Beatting, Tencent Cloud a open source le bac à sable AI Agent Cube Sandbox, écrit en Rust, sous licence Apache 2.0.
Le bac à sable est un environnement isolé pour exécuter le code de l’Agent, empêchant la suppression accidentelle de fichiers ou l’accès non autorisé à l’hôte par le code généré par le modèle.
Actuellement, des produits comme OpenAI Agents SDK, Manus, Perplexity, Hugging Face utilisent une architecture similaire, avec une interface standard appelée E2B.
Cube est compatible avec l’interface E2B, le code métier n’a pas besoin d’être modifié, il suffit de changer une variable d’environnement pour passer d’un service E2B à Cube en déploiement autonome.
Tencent Cloud a publié deux séries de données de performance.
Le démarrage à froid en série est inférieur à 60 ms en concurrence simple, avec une moyenne de 67 ms, P95 à 90 ms, P99 à 137 ms en 50 concurrents.
La mémoire résident d’une instance unique est inférieure à 5 Mo (mesurée avec une configuration de bac à sable ne dépassant pas 32 Go), un serveur 96 cœurs peut exécuter simultanément plus de 2000 bacs à sable.
Dans le même scénario, le démarrage d’un conteneur Docker prend environ 200 ms, utilisant le noyau partagé de l’hôte ; le démarrage d’une machine virtuelle traditionnelle prend des secondes, avec une mémoire de départ de 20 Mo par instance.
La méthode de Cube consiste à donner à chaque Agent un noyau Guest OS indépendant, utilisant une isolation matérielle, tout en réduisant le temps de démarrage à moins de cent millisecondes.
L’accélération repose sur la préconfiguration du pool de ressources, la clonage par snapshot, l’optimisation des verrouillages sous-jacents ; la réduction de la mémoire est assurée par une réécriture en Rust, la réutilisation de mémoire CoW, et le partage de disque reflink.
Le projet inclut également CubeVS, utilisant eBPF pour l’isolation réseau entre les bacs à sable.
La validation à grande échelle a donné deux cas d’utilisation.
Cube fonctionnait initialement dans le système Serverless de Tencent Cloud, supportant plus d’un milliard d’appels.
Après la migration du scénario de programmation AI Yuanbao vers Cube, la consommation de ressources CPU a diminué de 95,8 %.
Parmi les clients externes, MiniMax utilise Cube pour gérer des dizaines de milliers d’instances de bac à sable dans l’entraînement Agentic RL avec une planification au niveau de la minute.
La prochaine étape est d’ouvrir également la fonctionnalité de rollback par snapshot au niveau des événements, offrant un retour d’état en moins de 100 ms.
(Source : BlockBeats)

Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • Commentaire
  • Reposter
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
Aucun commentaire
  • Épingler