Les dirigeants d’Openai ne peuvent pas arrêter de parler de ne pas avoir assez de GPU

La suite C d’Openai ne peut pas arrêter de parler de la demande insatiable de la puissance de calcul de l’entreprise.

« Chaque fois que nous obtenons plus de GPU, ils sont immédiatement utilisés », a récemment déclaré le CPO Openai, Kevin Weil, au fondateur de Xprize, Peter Diamandis, lors d’une interview sur le podcast « Moonshot » de Diamandis.

Weil n’est que le dernier exécutif Openai à sonner sur le sujet. Le PDG d’OpenAI, Sam Altman, a déclaré le mois dernier que la société provoquerait plus d’un million de GPU d’ici la fin de l’année. À titre de comparaison, le XAI d’Elon Musk a révélé qu’il avait utilisé un supercluster de plus de 200 000 GPU appelés Colossus pour aider à former Grok4.

« Très fier de l’équipe, mais maintenant ils feraient mieux de se mettre au travail pour comprendre comment 100 fois ce lol », a écrit Altman sur X en juillet.

Deux jours plus tard, Musk’s, l’ancien allié d’Altman, devenu rival, a déclaré qu’il voulait que Xai ait 50 millions d’équivalents de la puce H100 de Nvidia au cours des cinq prochaines années.

Le concours est pour une bonne raison. Jonathan Cohen, vice-présidente de la recherche appliquée, a récemment déclaré que les GPU étaient comme une « monnaie » pour les chercheurs de l’IA. Priscilla Chan, l’épouse de Mark Zuckerberg et cofondatrice de l’organisation philanthropique du couple, a déclaré que l’initiative Chan Zuckerberg utilise des GPU comme outil de recrutement.

Weil a dit que la nécessité est vraiment très simple: « Plus nous obtenons de GPU, plus nous utiliserons tous. » Il a comparé la façon dont l’ajout de bande passante a rendu possible l’explosion de la vidéo.

« C’est comme Internet. Chaque bit que nous baissons la latence, augmentons la bande passante sur Internet, les gens font plus de choses », a-t-il déclaré. « La vidéo était impossible. Maintenant, la vidéo est tous les jours, car les capacités sont là, le réseau peut le gérer. »

Le désir de plus de puissance de calcul a conduit Openai à lancer Stargate, a récemment déclaré le directeur financier Sarah Friar. Un projet de 500 milliards de dollars, Stargate est une coentreprise entre Openai, Oracle et Softbank. Lors de son dévoilement à la Maison Blanche en janvier, Altman a déclaré que le projet permettra aux États-Unis d’atteindre AGI, intelligence générale artificielle.

« Il est vorace en ce moment pour les GPU et pour le calcul », a déclaré Friar à CNBC la semaine dernière. « La chose la plus importante à laquelle nous sommes confrontés est d’être constamment sous le calcul. C’est pourquoi nous avons lancé Stargate. C’est pourquoi nous faisons les plus grandes constructions. »

Du côté produit seul, Weil a déclaré qu’il y avait un certain nombre de zones où plus de GPU peuvent être branchés.

« Que ce soit, nous pouvons les prendre du côté du produit, et l’utiliser pour réduire la latence, ou accélérer la génération de jetons, ou lancer de nouveaux produits, prendre un produit qui n’est disponible que pour les utilisateurs professionnels et le porter aux utilisateurs ou utilisateurs gratuits, ou cela signifie simplement que nous pouvons exécuter plus d’expériences », a-t-il déclaré.

Dans le même temps, OpenAI doit équilibrer les demandes des chercheurs.

« Du côté de la recherche, il y a essentiellement une demande infinie de GPU dans ces murs, et c’est pourquoi nous faisons tant pour renforcer la capacité », a déclaré Weil.