Qualcomm présente son SoC Snapdragon 8 Elite Gen 6 ainsi que le Snapdragon 8 Elite Gen 6 Pro lors de son Snapdragon Summit annuel le 22 septembre.
Avant cet événement, la société dévoile aujourd’hui les améliorations apportées à l’un des NPU Hexagon de ses puces (nous parlons probablement du NPU Hexagon du Snapdragon 8 Elite Gen 6 Pro).
Ceci est conçu pour l’IA agentique, avec un accélérateur d’éléments axé sur le transformateur et une mémoire partagée 50 % plus grande qui « conserve les données de modèle fréquemment consultées à proximité du NPU » afin que les agents « puissent rester réactifs tout en jonglant avec un contexte plus long, plus d’outils et des tâches simultanées ». Vous pouvez donc vous attendre à une réduction des goulots d’étranglement de la mémoire et à « des expériences d’IA agentique plus rapides et plus réactives ».
L’Element Accelerator est « spécialement conçu pour les charges de travail de transformateur qui alimentent l’IA générative et agentique moderne », et avec les extensions scalaires, vectorielles et matricielles, il accélère les opérations les plus importantes pour les grands modèles, aidant les agents à réagir plus rapidement, à raisonner plus efficacement et à « offrir des expériences plus riches sans compromettre l’efficacité énergétique mobile ».
Qualcomm affirme également que le nouveau NPU a un pré-remplissage jusqu’à 50 % plus rapide pour les modèles INT4, et qu’il est très bien adapté aux modèles Mixture-of-Experts (MoE) qui n’activent qu’une fraction de leurs paramètres par jeton. Le nouveau Hexagon NPU est « conçu pour une IA toujours opérationnelle, un raisonnement à long contexte, des modèles multimodaux, des agents simultanés et des boucles d’action à faible latence ».
