Qu'ont à offrir leurs NPU de nouvelle génération ?

Les unités de traitement neuronal ou NPU sont les derniers matériels mentionnés par les fabricants de processeurs. Ces puces sont censées être conçues pour gérer le traitement de l'IA, et chacun des grands fabricants a sa propre version des NPU. Voyons ce qui nous attend dans un avenir proche.

Les NPU et leur place dans les ordinateurs portables

Si vous n'avez pas encore entendu parler des PC IA et de leur besoin de plus de puissance de traitement, vous n'êtes peut-être pas au courant des progrès réalisés par les NPU. Les NPU sont censés être un ajout aux processeurs existants, mais conçus spécifiquement pour gérer le traitement de l'IA. Les fabricants de puces ont remarqué à quel point il est important d'avoir un traitement spécifique à l'IA sur les puces, et les NPU sont une solution pour y remédier.

Le Snapdragon X Elite a été le premier des nouveaux NPU, mais Intel et AMD ont mis la barre plus haut, tant en termes de puissance de traitement que de conception de l'architecture. Chacun de ces fabricants propose une gamme de puces spécialement conçues pour fonctionner sur les PC Copilot+, censées libérer le potentiel de l'assistant IA de Microsoft.

Ces puces sont conçues principalement pour une utilisation sur ordinateur portable, mais cela ne signifie pas que nous ne verrons pas de versions de bureau de puces NPU à l'avenir. La comparaison de ce qui est déjà disponible avec les rapports sur ce à quoi nous pouvons nous attendre nous donne une idée de ce qui se passe dans le développement des NPU et de ce à quoi nous pouvons nous attendre dans un avenir proche.

Processeur NPU de nouvelle génération d'Intel : NPU 4

La dernière puce d'Intel intègre un NPU ainsi que plusieurs ajouts sophistiqués qui permettent un traitement de l'IA beaucoup plus efficace. Le NPU 4 est inclus dans l'architecture Lunar Lake d'Intel. Lorsque vous creusez sous la surface, ce NPU offre de nombreux avantages pour le traitement des applications d'IA.

Intel affirme que le NPU peut offrir un traitement de pointe de 48 téraopérations par seconde (TOPS), ce qui en fait l'innovation NPU la plus puissante d'Intel à ce jour. La génération actuelle de NPU 4 surpasse considérablement la génération précédente de NPU 3 d'Intel, offrant une puissance de calcul plus de quatre fois supérieure.

Cela est en partie dû à l'architecture de la puce. La puce exécute deux NPU parallèles, chacune avec son propre pipeline d'inférence indépendant, ce qui permet une meilleure interprétation des données des tâches. Chaque unité possède son propre réseau de multiplication-accumulation (MAC), qui aide à effectuer des calculs matriciels complexes nécessaires au traitement de l'IA. Pour couronner le tout, le DSP SHAVE inclus dans chaque unité permet une puissance de traitement jusqu'à quatre fois supérieure à celle de son prédécesseur, ce qui permet de créer des réseaux neuronaux plus complexes.

Les recherches sur Lunar Lake suggèrent qu'il pourrait être capable d'exécuter Copilot de Microsoft en local. De plus, Lunar Lake est susceptible d'avoir une signature énergétique très efficace. Intel affirme que son innovation Thread Director réduira la consommation d'énergie du NPU, ce qui en fait une option intéressante pour les applications à faible consommation.

Quand pourrons-nous mettre la main sur cette technologie ? Alors qu'Intel avait initialement suggéré un lancement en douceur de la puce, les ordinateurs portables Lunar Lake sont désormais là.

NPU de nouvelle génération d'AMD : XDNA 2

Alors, que propose AMD sur le marché des NPU ? La dernière incursion d'AMD sur le marché des NPU est la puce XDNA 2. La société affirme qu'elle peut surpasser la NPU 4 d'Intel, offrant 50 TOPS contre 48 pour la NPU 4. La deuxième itération de XDNA voit AMD augmenter les 20 tuiles de moteur sur la puce à 32 tuiles de moteur. Cette augmentation se traduit par une multiplication par cinq des TOPS NPU entre les générations.

L'architecture XDNA elle-même repose sur une architecture de données à flux spatial. AMD l'a conçue pour être flexible et adaptable, avec une programmabilité dynamique pour créer des hiérarchies personnalisées pour le traitement de l'IA. Le moteur XDNA 2 est une innovation en matière de technologie de traitement à part entière.

J'ai mentionné que le NPU possède des tuiles de moteur, ce qui est essentiel à l'adaptabilité du système. Chaque tuile peut être considérée comme un travailleur indépendant avec ses propres ressources de calcul et de mémoire. Cette approche de traitement indépendante permet à la puce d'en faire plus tout en nécessitant moins d'énergie pour le faire. La puce a été conçue pour gérer à la fois le traitement standard et le traitement de l'IA, comme Copilot de Microsoft.

AMD a notamment été le premier processeur à inclure un NPU dans ses puces. Bien que cela leur ait donné une longueur d'avance sur le marché des NPU, cela ouvre également la porte à AMD pour repousser les limites de ce que les NPU peuvent faire, car ils ont l'expérience de leur intégration avec les CPU. Si vous vous demandez quand vous pourrez essayer ces NPU, ils sont déjà sortis. AMD a sorti les premiers ordinateurs portables Ryzen AI 300 en juillet 2024.

Le processeur NPU de nouvelle génération de Qualcomm : Snapdragon X Elite

L'une des premières puces à arriver sur le marché dans cette nouvelle génération de NPU était le Snapdragon X Elite. Bien que le fabricant de puces ne soit pas étranger au développement de puces mobiles, il s'agit de la première incursion de l'entreprise sur le marché des ordinateurs portables. Snapdragon a consacré beaucoup de ressources à se tailler une part du gâteau et à montrer que sa puce peut rivaliser avec d'autres fabricants bien établis.

Il est un peu moins puissant que les offres d'Intel et d'AMD, avec une puissance de traitement maximale de 45 TOPS. Lorsque la puce est sortie, elle surpassait tout ce qui existait sur le marché. Cependant, avec AMD et Intel sur le point de sortir leurs nouveaux NPU améliorés, le Snapdragon X Elite pourrait être hors de sa portée.

Le Snapdragon X Elite est connu pour être plus gourmand en énergie que ses concurrents et les ordinateurs portables sortis avec la puce sont un peu plus bruyants grâce à la génération de chaleur supplémentaire de la puce. Le X Elite est construit sur un nouveau cœur de processeur que Snapdragon appelle « Oryon ».

Oryon est une innovation en soi, puisqu'il s'agit du premier nouveau processeur « from scratch » conçu ces dernières années. Il est destiné à être utilisé non seulement dans les futurs NPU de Snapdragon, mais aussi intégré au marché des puces mobiles. Le NPU est un excellent moyen de se faire une place sur le marché. Cependant, des problèmes ont déjà été rencontrés avec le logiciel Windows-on-Arm, même si Microsoft a fait des merveilles avec sa couche d'émulation Prism.

Si vous souhaitez tester ce que Snapdragon a fait avec ses puces, vous pouvez mettre la main sur des ordinateurs portables dès maintenant. La société a abandonné les ordinateurs portables en avril 2024, et depuis lors, ils ont été largement adoptés, malgré leur prix élevé. La plupart des gens utilisent ces ordinateurs portables comme point de départ pour voir comment fonctionnent les ordinateurs portables alimentés par NPU par rapport à leurs cousins ​​non alimentés par NPU.

Est-il important d’avoir un NPU sur un ordinateur portable ?

L'intelligence artificielle semble être un mot à la mode dans le monde de la technologie de nos jours, et les fabricants qui vantent les NPU pourraient bien se joindre à cette tendance. Est-il nécessaire qu'un ordinateur portable soit équipé d'un NPU ? Les itérations actuelles du traitement de l'IA utilisent principalement des GPU pour accomplir leur travail.

À moins que vous ne conceviez un LLM pour qu'il s'exécute sur votre machine ou que vous comptiez vraiment sur Copilot de Microsoft, la génération actuelle de NPU n'est pas nécessaire. Elles sont cependant un signe avant-coureur de ce qui va arriver. Même si vous n'avez peut-être pas besoin d'une NPU sur votre machine aujourd'hui, ce n'est qu'une question de temps avant qu'elle ne devienne une exigence pour effectuer certaines tâches.