Lorsqu’un modèle d’intelligence artificielle dépasse la mémoire disponible sur un seul ordinateur, augmenter la puissance de calcul ne suffit pas toujours. Apple propose désormais de réunir plusieurs Mac Studio dans un même cluster afin de mutualiser leurs ressources mémoire et de travailler avec des modèles d’IA beaucoup plus volumineux.
Cette fonction vise particulièrement les développeurs et les équipes qui exécutent localement de grands modèles ouverts. D’après Apple, le groupe de Mac Studio peut charger des modèles open weight qualifiés de « frontier-class », dont les besoins en mémoire sont trop élevés pour une machine isolée.
Plusieurs Mac Studio, une mémoire utilisable en commun
Le lien entre les ordinateurs repose sur Thunderbolt 5 et sur le RDMA, pour remote direct memory access. Cette technologie permet un accès direct à la mémoire d’une autre machine du groupe. Plutôt que de juxtaposer simplement plusieurs postes de travail, l’ensemble forme ainsi un pool de mémoire partagé conçu pour les tâches d’IA.
Le Mac Studio peut donc évoluer par ajouts successifs de machines dans le cluster. L’enjeu n’est pas uniquement d’obtenir davantage de capacité de calcul : il s’agit aussi de pouvoir conserver en mémoire des modèles plus grands, condition nécessaire avant même de pouvoir les exécuter.
[IMAGE]
Jusqu’à trois fois plus rapide avec quatre machines
Apple indique qu’un ensemble de quatre Mac Studio atteint une inférence d’IA jusqu’à trois fois plus rapide que la même tâche effectuée sur un seul système. L’inférence correspond ici au moment où le modèle déjà chargé traite une demande et produit un résultat.
Le gain annoncé n’équivaut donc pas à quatre fois les performances d’un Mac Studio seul. Le bénéfice réunit deux aspects : traiter plus vite certaines charges d’IA et rendre exploitables des modèles dont l’empreinte mémoire dépasse les possibilités d’une station de travail individuelle.
[IMAGE]
Ce que ça change
Pour une équipe qui travaille sur de grands modèles ouverts, cette approche offre une manière de faire grandir son environnement Mac Studio sans se limiter à la mémoire d’une seule machine. Elle rapproche le Mac Studio d’un usage de calcul groupé, tout en conservant Thunderbolt 5 comme liaison entre les ordinateurs.
Le chiffre de trois fois communiqué par Apple doit surtout être lu comme un repère pour une configuration précise de quatre Mac Studio. Le point déterminant pour les projets concernés reste la combinaison entre la taille du modèle à charger et la vitesse d’inférence recherchée.