Electronique Mag - Le journal de l'électronique.

De nouvelles fonctionnalités d’automatisation et de nouveaux services d’IA privée offrent un environnement unifié pour déployer, encadrer et sécuriser les charges de travail d’IA, de l’installation des serveurs à l’exécution des modèles Broadcom Inc. (NASDAQ : AVGO), leader technologique mondial qui conçoit, développe et fournit des solutions de semi-conducteurs et de logiciels d’infrastructure, annonce aujourd’hui VMware AI Factory, le socle logiciel de VMware Private AI Cloud. Grâce à de nouvelles fonctions d’automatisation, VMware AI Factory simplifie le déploiement des infrastructures nécessaires à l’IA et leur exploitation au quotidien. Les entreprises peuvent ainsi mettre plus rapidement l’IA en production, déployer leur premier modèle dans des délais plus courts et mieux maîtriser les coûts liés à la consommation de tokens.

« Les entreprises veulent exécuter leurs modèles d’IA là où leurs données sont hébergées, mais passer de l’installation du matériel au déploiement d’un modèle reste long, complexe et coûteux », déclare Paul Turner, chief product officer, VMware Cloud Foundation Division, Broadcom. « VMware AI Factory change la donne. Nous leur proposons un socle logiciel qui automatise le déploiement de l’infrastructure et unifie la gestion de son cycle de vie, tout en leur laissant le choix du matériel et des modèles validés qu’elles souhaitent utiliser. Elles peuvent ainsi déployer plus rapidement leur premier modèle, prévoir les coûts de leur cloud privé et mieux maîtriser les dépenses liées à l’utilisation de l’IA. »

Déployer plus rapidement un premier modèle d’IA avec VMware AI Factory

VMware AI Factory permet aux applications d’IA d’exploiter directement les données privées des entreprises dans un cloud privé sécurisé. Les fonctions d’automatisation propres à VCF peuvent ramener de plusieurs semaines à quelques heures le délai entre l’installation d’un serveur physique vierge et la mise en service d’un premier modèle d’IA. VMware AI Factory simplifie la gestion de l’infrastructure en automatisant entièrement la préparation du matériel, la mise en service des composants logiciels et la gestion de leur cycle de vie. En réunissant la gestion du matériel et des logiciels dans une solution unique et automatisée, les organisations peuvent déployer rapidement leurs charges de travail d’IA à plus grande échelle, tout en limitant la complexité des opérations.

Les services d’IA privée intégrés à VMware AI Factory facilitent l’exploitation de l’IA, sa gouvernance et la maîtrise de ses coûts. VCF mutualise les ressources GPU à l’échelle de l’organisation. Les équipes peuvent ainsi exécuter plusieurs modèles sur du matériel partagé, sans devoir réserver une infrastructure à chaque charge de travail. Un catalogue unique permet aux équipes informatiques et de science des données de déployer et de gérer l’inférence des modèles et les processus de génération augmentée par récupération (RAG) sur des machines virtuelles, des conteneurs et des ressources GPU. Des outils de suivi intégrés mesurent le débit de tokens, la latence et l’utilisation des ressources de calcul et de mémoire. Les entreprises peuvent ainsi adopter de nouveaux modèles tout en limitant leurs coûts, grâce au partage de l’infrastructure et à des modèles accessibles sous forme de services, selon des règles de gouvernance définies. Les services d’IA privée nouveaux et à venir comprennent :

 Partager les modèles en toute sécurité entre plusieurs entités : Model Runtime permet désormais à plusieurs locataires ou entités métier de partager des modèles d’IA de manière sécurisée, grâce à des espaces de noms isolés. Cette approche préserve la confidentialité des données et évite de déployer plusieurs fois un même modèle, ce qui mobiliserait inutilement des capacités GPU et des ressources d’infrastructure.

 Unifier l’accès aux modèles et leur gouvernance avec AI Gateway : Une interface unique permet d’accéder aux modèles et d’appliquer une gouvernance commune aux environnements sur site et dans le cloud. Pour les modèles hébergés localement, elle intègre notamment le routage intelligent des prompts, la limitation du débit de tokens et de la fréquence d’utilisation, ainsi que la gestion des autorisations d’accès des applications.

 Sécuriser et encadrer l’exécution du code généré par les agents : Des environnements de conteneurs virtualisés et sécurisés isoleront l’exécution du code généré à la volée par les agents. Des mécanismes de contrôle définiront la manière dont les agents sont sollicités, les outils auxquels ils peuvent accéder et les vérifications à effectuer sur leurs résultats avant de les utiliser.

Pour simplifier davantage le déploiement de VCF AI Factory, Broadcom annonce un nouveau partenariat avec MetalSoft. Il permettra d’automatiser, directement dans VCF, la préparation et la configuration de serveurs physiques de différents fournisseurs, ramenant cette étape de plusieurs semaines à quelques minutes. Les équipes informatiques pourront configurer ou réinstaller ces serveurs depuis la console de gestion de VCF. Elles disposeront ainsi d’une méthode commune pour gérer le cycle de vie du matériel et des logiciels, sans avoir à utiliser les outils propres à chaque fournisseur pour administrer les équipements et leurs micrologiciels.

VMware AI Factory associe VMware Cloud Foundation (VCF) à des serveurs VCF AI ReadyNodes certifiés de Cisco, Dell Technologies, Lenovo, Supermicro et d’autres fournisseurs¹, ainsi qu’aux logiciels d’IA et aux architectures d’accélérateurs choisis par les clients. Broadcom et AMD collaborent pour proposer une VMware AI Factory qui associe VCF aux GPU AMD Instinct et à l’écosystème logiciel ouvert AMD ROCm. Le déploiement de l’ensemble des composants sera orchestré sans intervention manuelle, de vSphere et vSAN à Kubernetes et à l’opérateur GPU AMD. Le pilote AMD DVX permet, quant à lui, de connecter des GPU à des machines virtuelles de grande capacité utilisées par un cluster VMware vSphere Kubernetes Service.

VMware AI Factory permet aux entreprises d’exécuter sur site, en production, des modèles d’IA de premier plan. Les clients de VCF peuvent utiliser plus de 150 modèles open source et commerciaux, notamment Nemotron 3, Gemma 4, cotomi, Qwen 3.7-Max et GLM 5.2. Broadcom travaille avec les principaux fournisseurs mondiaux de modèles d’IA pour aider les organisations à préserver la souveraineté de leurs données et à déployer l’IA à grande échelle à coûts maîtrisés. Les services intégrés de VCF leur permettent de proposer ces modèles à leurs utilisateurs de manière sécurisée, sous forme de services. Consultez l’annonce complète ici.

Témoignages des partenaires

« Les entreprises qui adoptent l’IA doivent pouvoir choisir librement leur infrastructure, sans dépendre des technologies d’un seul fournisseur », déclare Suresh Andani, corporate vice president, Compute and Enterprise AI Group, AMD . « L’association des GPU AMD Instinct MI350 Series et de l’écosystème logiciel ouvert ROCm sur VMware Cloud Foundation leur offre une configuration validée pour déployer une IA privée, avec des coûts prévisibles et sans facturation au token. Cette collaboration permet aux organisations d’exécuter l’IA en production là où leurs données sont hébergées, tout en conservant leur liberté de choix et la maîtrise de l’ensemble de leur environnement technologique. »

« La gestion des serveurs physiques a toujours été séparée de celle des logiciels, créant des silos qui ralentissent le déploiement des infrastructures d’IA », déclare Lucas Roh, founder and CEO, MetalSoft. « Avec MetalSoft, l’automatisation de VCF s’étend désormais aux serveurs physiques, que les équipes informatiques peuvent administrer par le code. Les clients peuvent configurer ou réinstaller du matériel de différents fournisseurs directement depuis la console de gestion de VCF. La gestion du matériel et celle des logiciels sont ainsi réunies, et plusieurs semaines de travail manuel se réduisent à quelques minutes. »

¹ Guide de compatibilité Broadcom