L’IA à Grande Échelle S’Invite sur Vos Bureaux : Microsoft Révolutionne le Calcul Distribué via USB4
Imaginez la puissance de calcul nécessaire pour faire tourner les modèles d’intelligence artificielle les plus gourmands, ceux qui exigent des centaines de milliards de paramètres. Jusqu’à présent, cette prouesse était l’apanage des serveurs de datacenters, équipés de cartes réseau spécialisées et coûteuses. Mais Microsoft est sur le point de changer la donne, en démocratisant l’accès à cette capacité de traitement colossal directement depuis vos bureaux. La clé ? Une astucieuse intégration de la technologie RDMA (Remote Direct Memory Access) via les ports USB4, déjà présents sur de nombreux mini-PC.
Quand les Mini-PC S’Allient pour l’IA : Une Première Inédite
La démonstration est frappante : trois mini-PC, reliés par de simples câbles USB4, parviennent à exécuter un modèle d’IA de 235 milliards de paramètres, le Qwen3-235B, comme s’il s’agissait d’une seule et même machine. Individuellement, aucun de ces appareils ne pourrait charger un tel modèle, dont la taille dépasse les 128 Go de mémoire vive, même compressé. Une configuration qui, selon Microsoft, aurait nécessité jusqu’alors des équipements réseau de datacenter. Désormais, Windows et un simple câble USB4 suffisent.
Le RDMA par USB4 : Une Latence Réduite pour des Performances Accrues
Le secret de cette prouesse réside dans le RDMA, ou « accès direct à la mémoire à distance ». Cette technologie permet à un ordinateur de lire la mémoire d’un autre sans passer par les couches logicielles et matérielles habituelles du réseau, réduisant drastiquement la latence. Microsoft, qui a dévoilé cette innovation en préversion pour les développeurs le 19 novembre sur son blog dédié à l’USB, annonce un temps d’aller-retour pour un petit message de seulement 28 microsecondes. C’est environ quatre fois plus rapide qu’une connexion Ethernet classique utilisant le même câble.
Des Tests Concluants avec AMD et Intel
Les premiers essais sont prometteurs. AMD a mené des tests sur trois mini-PC équipés de puces Ryzen AI Max+ 395 (architecture Strix Halo) et 128 Go de RAM, comme le GMKtec EVO-X2. Le modèle Qwen3-235B y a généré entre 18,5 et 21,98 tokens par seconde. De son côté, Intel a expérimenté avec trois puis quatre Core Ultra Series 3 de 64 Go (famille Panther Lake), à l’image du GMKtec EVO-T2S. Ces configurations ont atteint des performances de 49,4 puis 54,2 tokens par seconde avec le modèle GPT-OSS-120B.
Face à Nvidia : L’Accessibilité Contre la Puissance Brute
Cette approche de Microsoft se positionne comme une alternative plus accessible aux solutions existantes sur le marché. Nvidia, par exemple, propose déjà de relier plusieurs de ses machines DGX Spark, équipées de cartes réseau ConnectX-7 (200 Gb/s), pour faire tourner des modèles allant jusqu’à 405 milliards de paramètres. Son outil Cluster Assistant permet même de gérer jusqu’à quatre DGX Spark avec un switch dédié. L’USB4, avec ses plafonds de 40 ou 80 Gb/s, offre un débit jusqu’à cinq fois inférieur à 40 Gb/s. Cependant, l’avantage majeur de la solution Microsoft est qu’elle ne nécessite aucun achat matériel supplémentaire, exploitant les ports USB4 déjà intégrés. Microsoft souligne d’ailleurs que la latence, cruciale pour la génération de texte, reste constante quelle que soit la vitesse de l’USB4.
L’ironie du sort veut que le Nvidia RTX Spark, une déclinaison Windows du mini-PC IA de Dell, ait justement fait l’impasse sur le ConnectX-7. Ces machines intègrent cependant trois ports USB-C à 40 Gb/s. L’USB4 de Microsoft pourrait donc potentiellement combler ce vide, permettant de relier en théorie quatre RTX Spark entre eux (une perspective que nous serions ravis de tester si l’occasion se présentait !).
Compatibilité et Défis à Venir
La question de la compatibilité entre différentes marques et architectures (AMD, Intel, x86, Arm) reste ouverte. Bien que l’USB4 soit un standard commun et que la version modifiée de llama.cpp (le moteur open source utilisé par Microsoft pour les modèles locaux) s’appuie sur Vulkan (une interface graphique compatible avec les GPU AMD, Intel et Nvidia), Microsoft n’a pour l’instant validé que des grappes homogènes. L’entreprise insiste sur la nécessité d’avoir les mêmes versions de Windows et des pilotes. La compatibilité avec les puces Arm n’est pas encore mentionnée, et la présence de contrôleurs USB4 tiers sur certaines plateformes (comme le RTX Spark de Nvidia) pourrait ajouter une couche de complexité.
Comment Tester cette Innovation ?
Pour les développeurs et les passionnés désireux d’expérimenter cette fonction, sachez qu’elle n’est pas encore disponible dans les versions publiques de Windows. Microsoft prévoit une version Insider prochainement. Seuls le module réseau NetworkDirect et le llama.cpp modifié sont actuellement disponibles sur GitHub. L’activation de la fonction nécessitera de désactiver le Secure Boot, une mesure de sécurité qui empêche le lancement de logiciels non signés au démarrage.
Avec cette initiative, Microsoft rattrape Apple, qui propose déjà le RDMA sur Thunderbolt 5 entre Mac depuis macOS 26.2, et ouvre de nouvelles perspectives passionnantes pour le calcul d’IA décentralisé sur des machines grand public.
Pour plus de détails, visitez notre site.
Source: Lien externe










Laisser un commentaire