Elon Musk prévoit un "supercalculateur" pour alimenter son chatbot Grok 3

Elon Musk prévoit un "supercalculateur" pour alimenter Grok 3, son chatbot AI de nouvelle génération.

Elon Musk, PDG aux multiples casquettes est aussi le fondateur de la startup d'intelligence artificielle xAI. Plus tôt cette semaine il a dévoilé son projet de construire un supercalculateur. Cette « gigafactory de calcul » devrait être opérationnelle d’ici l’automne 2025. Le supercalculateur alimentera une version améliorée du chatbot IA de l'entreprise, Grok. Le projet devrait coûter plusieurs milliards et utiliser des dizaines de milliers de GPU NVIDIA H100.

Les exigences ambitieuses de Musk en matière de GPU pour Grok 3

Musk a indiqué que la troisième itération de Grok nécessiterait au moins 100 000 GPU NVIDIA H100. Une augmentation significative par rapport aux 20 000 GPU utilisés pour le fonctionnement de Grok 2.0. Le cluster GPU prévu devrait être quatre fois plus grand que tous ceux actuellement utilisés par les concurrents de xAI. La version actuelle de Grok, la version 1.5, publiée en avril 2024, peut traiter des informations visuelles et du texte. Un projet ambitieux quand on sait que les pénuries de GPU et de puissance sont les deux principaux obstacles au développement de l’IA. Selon Musk, les progrès de la technologie de l'IA sont actuellement entravés par deux facteurs principaux : la pénurie de processeurs avancés – comme le H100 de Nvidia, car il n'est pas facile d'en obtenir 100 000 rapidement – ​​et la disponibilité de l'électricité. En effet, le GPU H100 de Nvidia consomme environ 700 W lorsqu'il est pleinement utilisé, et ainsi 100 000 GPU pour les charges de travail IA et HPC pourraient consommer 70 mégawatts de puissance. Étant donné que ces GPU ont besoin de serveurs et de refroidissement pour fonctionner, on peut affirmer sans se tromper qu'un centre de données doté de 100 000 processeurs Nvidia H100 consommera environ 100 mégawatts d'énergie. C'est comparable à la consommation électrique d'une petite ville.

______________________________________________________________

Restez informés en vous inscrivant à notre newsletter

_________________________________________________________________

L'intelligence artificielle générale (AGI) pourrait dépasser l'intelligence humaine dès l'année prochaine ou d'ici 2026

Malgré les défis Elon Musk ne souhaite pas renoncer à son projet. En Selon lui "une intelligence artificielle plus intelligente que l’humain le plus intelligent" verra le jour d’ici un an ou deux. "Si vous définissez AGI comme étant plus intelligent que l'humain le plus intelligent, je pense que ce sera probablement l'année prochaine, d'ici deux ans", a déclaré Musk dans une interview sur X Spaces. Cela signifie qu'il est apparemment temps de revoir Terminator et d'espérer que nos futurs suzerains AGI seront plus gentils que Skynet.

Partenariat potentiel avec Oracle pour le développement de supercalculateurs

Les rapports suggèrent que xAI pourrait potentiellement collaborer avec Oracle pour développer ce système informatique colossal. Cependant, ni xAI ni Oracle n'ont confirmé ces spéculations. Les GPU NVIDIA H100, qui dominent le marché des puces pour centres de données pour l'IA, sont souvent difficiles à acquérir en raison de la forte demande. Le supercalculateur proposé par Musk hébergerait des groupes connectés de ces puces, quatre fois plus grands que les plus grands clusters GPU existants.

‍