Raspberry Pi obtient une amélioration des performances avec AI Hat+
Raspberry Pi propose désormais un module complémentaire AI HAT+ avec jusqu'à 26 TOPS de performances. C'est un ajout intéressant au Pi 5, notamment pour les développeurs intéressés par les applications de vision par ordinateur embarquées.
Comme vous le savez peut-être, Raspberry Pi a introduit une carte M.2 HAT+ pour le Pi 5 plus tôt cette année. Le M.2 HAT+ peut accueillir une gamme de périphériques M.2 PCIe : la plupart des gens l'utilisent pour les SSD NVMe, bien que certains développeurs se soient concentrés sur le kit AI de Raspberry Pi, un produit qui comprend à la fois un M.2 HAT+ et un Halio. -Module NPU 8L. Le tout petit module Halio se connecte au M.2 HAT+ et fournit jusqu'à 13 téra-opérations par seconde (TOPS) de puissance de calcul, améliorant considérablement les prouesses de l'IA du Pi 5.
L'AI HAT+ est essentiellement un M.2 HAT+ avec un module Halio NPU intégré et soudé à la place du slot M.2. En d’autres termes, il s’agit d’une version monocarte du Pi AI Kit. Cette conception intégrée simplifie la configuration (en particulier pour les entreprises clientes qui peuvent avoir besoin de plusieurs SBC Pi équipés de NPU) et offre des performances thermiques améliorées pour les tâches d'IA étendues.
Les clients peuvent choisir entre deux versions de l'AI HAT+. La version standard dispose du même accélérateur Halio-8L que le kit Pi AI, ce qui signifie qu'elle est limitée à 13 TOPS. Une version Halio-8 plus impressionnante avec 26 TOPS de puissance de calcul, idéale pour exécuter plusieurs réseaux neuronaux simultanément, est également disponible. Les modèles conçus pour le kit Pi AI d'origine sont compatibles avec l'AI HAT+, et tout modèle fonctionnant sur le Halio-8L fonctionnera sur le Halio-8, plus puissant.
Il existe certainement certaines limites à la conception de l'AI HAT+, la plus notable étant la puissance. Bien que les accélérateurs Halio-8L et Halio-8 soient capables d'exécuter un ensemble diversifié de tâches, y compris certains LLM très légers, ils sont principalement destinés aux modèles de vision par ordinateur. Et bien que le « Model Zoo » de Halio soit un point de départ fantastique pour les développeurs ou les amateurs qui souhaitent tester les capacités d'IA du Pi, le processus de formation et de compilation d'un modèle personnalisé pour le Pi nécessite beaucoup de patience et de connaissances. Ceux qui débutent dans l’apprentissage automatique devraient commencer leur voyage avec un PC conventionnel plutôt qu’un Raspberry Pi.
L'AI HAT+ supprime également la possibilité d'installer un M.2 HAT+ sur le Pi 5, car le SBC est limité à une seule interface PCIe 3.0. Vous pouvez avoir un NPU ou un SSD NVME, mais pas les deux. (Si tu veux échanger entre un NPU et un NVME, vous feriez mieux d'utiliser le kit Pi AI.)
En passant, je tiens à souligner à quel point il est difficile de suivre le rythme des accessoires Pi en 2024. La Fondation Raspberry Pi ne cesse de sortir de nouveaux jouets sympas, comme le kit AI susmentionné et la carte d'extension M.2, une caméra, cartes SD propriétaires et une gamme de disques NVMe. Et ce sont juste accessoires—Raspberry PI a dévoilé plusieurs solutions logicielles intéressantes cette année et a présenté sa toute première carte RISC-V en août.
Les 13 modèles TOPS et 26 TOPS de Raspberry Pi AI HAT+ sont disponibles aujourd'hui pour 70 $ et 110 $, respectivement. Si vous êtes prêt à sacrifier les performances pour la modularité, le kit Pi AI (qui comprend une carte M.2 HAT+ et un module NPU 13 TOPS amovible) est également disponible pour 70 $. Quelle que soit la carte IA que vous achetez, vous souhaiterez probablement également vous procurer une caméra Pi AI à 70 $.
