Le Raspberry Pi 5 dispose d'une nouvelle carte complémentaire pour améliorer les performances
Raspberry Pi vend la carte AI HAT+ depuis plus d'un an maintenant, donnant aux cartes Pi la possibilité d'exécuter des modèles d'apprentissage automatique légers pour la détection d'objets, le marquage de fichiers et d'autres tâches. Il existe désormais un Raspberry Pi AI HAT+ 2, et il est suffisamment puissant pour exécuter de grands modèles de langage (LLM).
Le nouveau Raspberry Pi AI HAT+ 2 est une carte complémentaire pour le Raspberry Pi 5, alimentée par une puce Halio-10H et 8 Go de RAM dédiée. Il peut fournir 40 TOPS (IN4) de performances d'inférence, ce qui est proche des 40 à 60 TOPS des unités de traitement neuronal (NPU) trouvées dans les puces PC les plus récentes d'Intel, AMD et Qualcomm.
Vous pourrez exécuter de grands modèles de langage comme Llama 3.2 1B, DeepSeek-R1-Distill 1.5B, Qwen2.5-Coder 1.5B, Qwen2.5-Instruct 1.5B et Qwen2 1.5B, et Raspberry Pi indique que des modèles supplémentaires avec des tailles de paramètres plus grandes sont en cours de développement. Les 8 Go de RAM ne suffisent pas pour des modèles comme GPT-OSS ou DeepSeek classique, mais il ne serait pas difficile pour Gemma 3 1B ou d'autres modèles plus petits d'être éventuellement pris en charge.
Cependant, le tableau n'est pas réservé aux LLM. Il fonctionne avec la même pile logicielle de caméra que l'AI HAT+ d'origine, vous pouvez donc configurer des modèles basés sur la vision pour la détection d'objets, l'estimation de pose ou d'autres flux de travail d'apprentissage automatique. Raspberry Pi affirme que les performances des modèles de vision comme Yolo sont « largement équivalentes à celles de son prédécesseur 26-TOPS, grâce à la RAM intégrée ».
Raspberry Pi a déclaré dans un article de blog : « les LLM basés sur le cloud d'OpenAI, Meta et Anthropic vont de 500 milliards à 2 000 milliards de paramètres ; les LLM basés sur la périphérie fonctionnant sur le Raspberry Pi AI HAT+ 2, qui sont dimensionnés pour s'adapter à la RAM embarquée disponible, fonctionnent généralement avec 1 à 7 milliards de paramètres.
Si vous travaillez sur un projet qui pourrait bénéficier de l'apprentissage automatique ou de modèles d'IA génératifs, comme une caméra qui détecte quels oiseaux volent devant votre fenêtre ou un moteur de synthèse vocale, un Raspberry Pi 5 avec AI HAT+ 2 pourrait être un moyen de le faire. Espérons que la liste des modèles disponibles s'allonge avec le temps, de sorte que la liste des capacités continue de s'allonger.
Vous pouvez acheter le Raspberry Pi AI HAT+ 2 à partir d'aujourd'hui pour 130 $ dans les magasins agréés. C'est légèrement plus cher que le Raspberry Pi de 8 Go de RAM seul, qui coûte désormais 95 $.
