Hala Point, Intel annonce un système neuromorphique à la capacité en neurone d’un cerveau d’un hibou

Le géant Intel dévoile la construction du plus grand système neuromorphique du monde. Il porte le nom de Hala Point et exploite 1 152 processeurs Loihi 2 issus d’un procédé de gravure Intel 4 et 2 300 processeurs x86 intégrés pour les calculs auxiliaires.

L’ensemble prend place dans un châssis de centre de données de six unités de la taille d’un four à micro-ondes. Le système prend en charge jusqu’à 1,15 milliard de neurones et 128 milliards de synapses répartis sur 140 544 cœurs de traitement neuromorphique. A tout ceci s’ajoute des canaux de traitement, de mémoire et de communication le tout pensé pour être massivement parallélisée. La bande passante mémoire grimpe à 16 pétaoctets par seconde (PB/s) tandis que la bande passante inter-noyau est de 3,5 PB/s contre 5 téraoctets par seconde (TB/s) pour la bande passante de communication inter-puces. Le système peut traiter plus de 380 trillions de synapses de 8 bits et plus de 240 trillions d’opérations sur les neurones par seconde.

La consommation globale et maximale est de 2 600 watts d’énergie. Selon Intel Hala Point dispose d’une capacité en neurones est à peu près équivalente à celle du cerveau d’un hibou ou du cortex d’un singe capucin.

Ses objectifs sont nombreux et surtout pluriels puisque la firme explique “soutenir la recherche sur l’intelligence artificielle (IA) inspirée du cerveau, et s’attaque aux défis liés à l’efficacité et à la durabilité de l’IA d’aujourd’hui.”

A l’image de l’évolution des architectures des processeurs pour PC, Hala Point est une importante évolution du système de recherche à grande échelle de première génération d’Intel. Il profite d’améliorations architecturales permettant d’accroitre d’un facteur 10 la capacité des neurones et par 12 les performances.

Mike Davies, directeur du Neuromorphic Computing Lab chez Intel Labs explique l’une de ses missions

Le coût informatique des modèles d’IA actuels augmente à un rythme insoutenable. L’industrie a besoin d’approches fondamentalement nouvelles capables de s’adapter. C’est pourquoi nous avons développé Hala Point, qui combine l’efficacité du deep learning avec de nouvelles capacités d’apprentissage et d’optimisation inspirées du cerveau. Nous espérons que la recherche avec Hala Point fera progresser l’efficacité et l’adaptabilité des technologies d’IA à grande échelle

En termes de chiffres concernant les charges de travail d’IA Hala Point peut prendre en charge 20 quadrillions d’opérations par seconde, soit 20 pétaops, avec une efficacité supérieure à 15 billions d’opérations 8 bits par seconde et par watt (TOPS/W) lors de l’exécution de réseaux neuronaux profonds conventionnels. Intel souligne que ces capacités “rivalisent, voire dépassent, les niveaux atteints par les architectures basées sur les unités de traitement graphique (GPU) et les unités centrales de traitement (CPU)”.

Cette puissance va être utilisée pour la résolution de problèmes dans les domaines de la physique des dispositifs, de l’architecture logicielle, de l’informatique et de l’informatisation.

A noter que Hala Point est un prototype de recherche dont l’exploitation et les usages permettront de poursuivre les avancées dans le LLM (apprendre continuellement à partir de nouvelles données).