La course aux puces AI s’intensifie (mais pas comme vous l’attendiez)
D’accord, donc si vous êtes comme moi, à bidouiller constamment des bots et à essayer de tirer la moindre goutte de performance de votre matériel, vous avez probablement entendu le buzz. Arm a récemment annoncé son nouveau design de puce AI, l’« Ethos-U85 », et certaines personnes l’appellent déjà une menace potentielle pour la position dominante de Nvidia sur le marché de l’IA. En tant que personne qui passe beaucoup de temps à construire et à déployer l’IA, je suis là pour vous dire que bien que le mouvement d’Arm soit intéressant, ce n’est pas le changement sismique que certains prédisent, surtout pas pour Nvidia.
Comprendre le champ de bataille : Edge vs. Data Center
Décomposons cela. La force de Nvidia, notamment avec ses GPU et ses accélérateurs AI spécialisés, réside principalement dans le datacenter. Pensez à entraîner des modèles linguistiques massifs, à exécuter des simulations complexes et à gérer le travail intensif pour des services AI basés sur le cloud. Ce sont des tâches gourmandes en énergie et à haute performance qui exigent une puissance de calcul incroyable et de vastes quantités de bande passante mémoire.
Arm, en revanche, a historiquement excellé dans le domaine embarqué et mobile – ce que nous appelons l’« edge ». Leurs processeurs sont connus pour leur efficacité, leur faible consommation d’énergie et leur adéquation pour des dispositifs comme les smartphones, les gadgets domestiques intelligents et les capteurs IoT. C’est là que vise la nouvelle Ethos-U85 d’Arm. Elle est conçue pour l’« edge AI », ce qui signifie qu’elle est bâtie pour exécuter des tâches d’inférence AI directement sur les dispositifs, plutôt que d’envoyer des données à un serveur cloud pour traitement.
L’Ethos-U85 : ce qu’elle est et ce qu’elle n’est pas
L’Ethos-U85 est une unité de traitement neural (NPU) qui peut fournir jusqu’à 4 trillions d’opérations par seconde (TOPS). C’est un chiffre respectable pour un dispositif edge. Elle est conçue pour accélérer les charges de travail de machine learning comme la reconnaissance d’images, le traitement du langage naturel et la détection d’anomalies, le tout localement sur le dispositif. C’est une excellente nouvelle pour des objets comme les caméras de sécurité qui peuvent identifier des objets sans envoyer chaque image vers le cloud, ou les enceintes intelligentes qui peuvent traiter les commandes vocales plus rapidement.
Cependant, 4 TOPS sont loin des centaines, voire des milliers de TOPS que les GPU modernes de datacenter de Nvidia offrent. Par exemple, le GPU H100 de Nvidia peut fournir plus de 4 000 TOPS pour certaines tâches d’IA. La différence d’échelle est énorme. Vous ne tenteriez pas d’entraîner un modèle de la taille de GPT-4 sur un Ethos-U85, tout comme vous n’essaieriez pas de faire fonctionner un jeu vidéo haute fidélité sur une montre intelligente. Ils sont conçus pour des tâches fondamentalement différentes.
Mon avis : Complémentaire, pas compétitif (pour l’instant)
De mon point de vue en tant que constructeur de bots, ces technologies sont largement complémentaires. J’utilise des GPU Nvidia pour le travail intensif de formation de mes modèles – c’est là que l’intelligence se forge. Ensuite, pour le déploiement sur des dispositifs plus petits et plus contraints, je pourrais envisager des solutions basées sur Arm pour l’inférence. Par exemple, si je construis un bot qui doit fonctionner sur un petit système embarqué avec des budgets énergétiques stricts, un NPU basé sur Arm serait un fort concurrent.
Nvidia n’ignore pas l’edge non plus ; ils ont leurs propres plateformes comme Jetson, qui ciblent des applications AI edge à haute performance. Mais la distinction fondamentale demeure : Arm s’aventure davantage dans l’ultra-efficace et le faible pouvoir, tandis que Nvidia continue de dominer le datacenter à haute performance et les déploiements edge plus vastes.
Alors, bien que l’Ethos-U85 d’Arm soit un ajout bienvenu à l’espace AI edge, cela ne va pas soudainement enlever le tapis sous l’entreprise de datacenter de Nvidia. L’action de Nvidia est en hausse en raison de la demande insatiable pour ses accélérateurs haute performance qui alimentent la base même de l’IA moderne. La nouvelle puce d’Arm répond simplement à un segment différent, bien que important, du marché de l’IA. Pour l’instant, ils jouent à des jeux différents sur des terrains différents.
🕒 Published: