Pour une équipe qui veut utiliser une IA volumineuse sans envoyer ses traitements vers des serveurs distants, la capacité de mémoire du Mac peut devenir aussi déterminante que sa puissance de calcul. Apple présente justement un essai mené avec quatre Mac Studio équipés de M5 Ultra, capables de faire tourner localement le modèle Muse Spark Open à plus de 36 jetons par seconde.
D’après Apple Machine Learning Research, ce rythme dépasse la vitesse de lecture d’une personne. Chaque Mac Studio atteint alors un pic d’environ 300 watts. La démonstration ne sert pas à annoncer un nouveau modèle d’Apple : elle met en avant le matériel et les outils logiciels de la marque pour exécuter des modèles de taille inhabituelle directement sur site.
Une mémoire partagée pour accueillir les très grands modèles
Muse Spark Open compte 816 milliards de paramètres, dont 42 milliards sont actifs, et propose une fenêtre de contexte d’un million de jetons. Ce type de modèle nécessite une quantité de mémoire considérable avant même de produire une réponse.
Apple s’appuie ici sur la mémoire unifiée de ses puces. Avec la M5 Ultra, le GPU intégré peut exploiter jusqu’à 512 Go de mémoire dans un Mac Studio, plutôt que de dépendre de la mémoire propre d’une carte graphique. Deux Mac Studio peuvent ainsi réunir 1 To de mémoire unifiée afin de charger un modèle complet dans un même ensemble de calcul.
La M5 Ultra affiche également une bande passante mémoire de 1,2 To/s. Concrètement, cette vitesse aide le système à récupérer rapidement les données utiles à chaque étape de génération, un point essentiel pour éviter que le modèle ne ralentisse entre deux réponses.
MLX relie le matériel aux usages professionnels
Pour exploiter cette architecture, Apple utilise MLX, son environnement d’apprentissage automatique conçu pour Apple silicon. Il reprend une approche familière pour les développeurs utilisant NumPy et inclut notamment des fonctions dédiées aux réseaux neuronaux, aux optimiseurs et à la différentiation automatique. Des liaisons existent aussi pour Swift, C++ et C.
Apple indique avoir testé des flux de travail agentiques sur l’appareil avec Muse Code et Muse Spark Open. Parmi les exemples cités figurent la modification d’une application iOS, ainsi que l’analyse image par image et le recadrage vertical de séquences dans DaVinci Resolve.
Ce que ça change
Cette démonstration place le Mac Studio comme une option de travail pour les équipes dont les projets d’IA exigent beaucoup de mémoire et doivent rester dans leur propre environnement informatique. Pour ces usages, la capacité à conserver un modèle complet en mémoire peut éviter de devoir répartir les calculs sur une infrastructure externe. L’intérêt pratique dépendra aussi de la compatibilité des modèles et des logiciels avec MLX.
À lire aussi
Source : Apple — Machine Learning Research