Tencent Cloud open-source CubeSandbox, compatible with E2B, runs 2000 sandboxes on a single machine

robot
Création du résumé en cours

ME News Nouvelles, le 21 avril (UTC+8), selon la surveillance de Dongcha Beating, Tencent Cloud a open source le sandbox d’agent AI Cube Sandbox, écrit en Rust, sous licence Apache 2.0. Le sandbox est un environnement isolé pour exécuter le code de l’agent, empêchant le code généré par le modèle de supprimer des fichiers ou d’accéder de manière non autorisée à l’hôte. Actuellement, des produits comme OpenAI Agents SDK, Manus, Perplexity, Hugging Face utilisent une architecture similaire, avec une interface standard appelée E2B. Cube est compatible avec l’interface E2B, le code métier n’a pas besoin d’être modifié, il suffit de changer une variable d’environnement pour passer d’un service E2B à Cube en auto-hébergement. Tencent Cloud a publié deux séries de données de performance. Le démarrage à froid en série est inférieur à 60 ms, avec une moyenne de 67 ms, P95 à 90 ms, P99 à 137 ms pour 50 connexions simultanées. La mémoire résident par instance est inférieure à 5 Mo (mesurée avec une configuration sandbox ne dépassant pas 32 Go), et un serveur 96 cœurs peut exécuter plus de 2000 sandbox simultanément. Dans le même scénario, le démarrage d’un conteneur Docker prend environ 200 ms, utilisant le noyau partagé de l’hôte ; le démarrage d’une machine virtuelle traditionnelle prend plusieurs secondes, avec une mémoire de départ d’environ 20 Mo par instance. La méthode de Cube consiste à donner à chaque agent un noyau de système d’exploitation invité indépendant, utilisant une isolation matérielle, tout en réduisant le temps de démarrage à moins de cent millisecondes. L’accélération repose sur la pré-configuration de pools de ressources, le clonage par snapshot, et l’optimisation des verrouillages sous-jacents ; la réduction de la mémoire est assurée par une réécriture en Rust, la réutilisation de mémoire CoW, et le partage de disque via reflink. Le projet inclut également CubeVS, utilisant eBPF pour l’isolation réseau entre sandbox. La validation à grande échelle a donné deux cas d’utilisation. Cube, initialement déployé dans le système Serverless de Tencent Cloud, a supporté plus d’un milliard d’appels. Après la migration du scénario de programmation AI Yuanbao vers Cube, la consommation de ressources CPU a diminué de 95,8 %. Parmi les clients externes, MiniMax utilise Cube pour gérer des dizaines de milliers de sandbox dans l’entraînement Agentic RL avec une planification à la minute. La prochaine étape est d’ouvrir également la fonctionnalité de rollback par snapshot au niveau des événements, offrant un retour d’état en moins de 100 ms. (Source : BlockBeats)

Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • Commentaire
  • Reposter
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
Aucun commentaire
  • Épingler