Le rêve du centre de données IA d’Amazon se heurte à la réalité des installations « zombies », des coûts plus élevés et des pénuries de main-d’œuvre

Le rêve du centre de données IA d'Amazon se heurte à la réalité des installations « zombies », des coûts plus élevés et des pénuries de main-d'œuvre

Amazon dépense massivement en centres de données pour prendre en charge les charges de travail croissantes de l’IA, ce qui lui permet de construire 240 nouvelles installations d’ici 2040, selon une estimation.

Ces projets se heurtent de plus en plus à des contraintes physiques qui ralentissent la construction, selon un document interne, des personnes proches du dossier et des courriels obtenus grâce à une demande d’enregistrement public.

« Dans la région AMER, nous sommes confrontés à des vents contraires en matière d’électricité, de zonage et de permis, d’eau et de main-d’œuvre qui posent des défis à la croissance de notre capacité à long terme », indique le document interne, faisant référence au marché des Amériques, le plus grand d’Amazon.

En tant que plus grand fournisseur de cloud, la situation difficile d’Amazon met en lumière les problèmes plus larges auxquels est confrontée l’industrie technologique alors que l’IA générative bouleverse le statu quo. Alors que de plus en plus d’entreprises souhaitent accéder au cloud computing pour leurs initiatives d’IA, les ressources disponibles pour prendre en charge ces services sont limitées.

Ce n’est pas seulement un problème d’Amazon. David Cahn, associé général de Sequoia Capital, a récemment prédit des retards dans les centres de données dans le secteur.

« Le besoin de plus de puissance et d’un meilleur fonctionnement du réseau était évident avant l’IA », a-t-il écrit dans un article de blog. « Maintenant, cela devient urgent. »

La demande énergétique augmente

Il peut être naturel pour une entreprise comme Amazon, l’un des opérateurs de centres de données les plus importants et à la croissance la plus rapide, de faire face à ces défis alors qu’elle se développe à une vitesse vertigineuse.

Marc Wulfraat, président du cabinet de conseil MWPVL, a déclaré à BI qu’Amazon pourrait déployer encore plus de 240 centres de données dans les années à venir. En effet, le géant du cloud loue également des espaces dans des bâtiments partagés avec d’autres entreprises. Collectivement, cette frénésie de construction représente près de 75 millions de pieds carrés bruts d’espace, estime Wulfraat. Cela équivaut à environ 27 Empire State Buildings.

Dans un e-mail adressé à BI, un porte-parole d’Amazon a déclaré que la demande énergétique des clients « continue de croître » et que l’entreprise travaille continuellement sur les moyens de « construire et exploiter efficacement des centres de données » pour répondre à leurs besoins.

« Personne ne sait mieux que nous que la construction de centres de données est exceptionnellement complexe, et en relevant ce défi, nous sommes devenus très bons dans ce domaine au fil des années », a ajouté le porte-parole. « Nous sommes convaincus que nous pouvons continuer à développer à un rythme rapide pour fournir la capacité cloud dont nos clients auront besoin. »

Des doutes sur l’approvisionnement en électricité

Le pouvoir est peut-être la ressource la plus rare. La consommation électrique des centres de données aux États-Unis devrait tripler d’ici 2030, selon les prévisions. Groupe de conseil de Bostonune grande partie pour alimenter l’IA générative. Bernstein Research a récemment estimé que, sans action, la demande en électricité pour les centres de données d’IA pourrait dépasser l’offre en seulement deux ans.

Les pénuries d’électricité ont été une préoccupation majeure pour Amazon et un sujet de discussion lors de presque toutes les réunions de direction ces dernières années, ont déclaré des personnes proches du dossier.

Amazon connaît des problèmes d’alimentation électrique dans l’Oregon, l’Ohio et la Virginie du Nord, selon le document interne de mai. Par exemple, PacifiCorp, le partenaire d’Amazon basé à Portland, prévoit des pénuries d’électricité et des contraintes de production jusqu’en 2030.

Cela laisse Amazon avec un approvisionnement énergétique imprévisible sur certains marchés et une perte possible de solutions de « transition » qui aident à maintenir l’électricité pendant les premières étapes de la construction.

« Avec les vents contraires liés à l’énergie électrique, nous constatons un risque continu dû aux contraintes de transport ainsi qu’à des changements inattendus dans la production engagée/disponible, des écarts entre la puissance incrémentielle promise et livrée, et une perte potentielle de puissance de transition à mesure que les projets d’infrastructures de services publics sont retardés », a déclaré le rapport. dit le document.

Centres de données « zombies »

Certains marchés disposent de centres de données dits « zombies », un terme utilisé par certains employés d’Amazon qui ont parlé avec Trading Insider des problèmes d’approvisionnement en électricité.

Ces installations sont également décrites en interne comme « opérationnellement bloquées » car les centres de données peuvent parfois rester inactifs lorsqu’ils n’ont pas accès à suffisamment d’énergie pour les faire fonctionner, ont indiqué des sources proches du dossier.

Le porte-parole d’Amazon a déclaré à BI qu’il existe un « très petit nombre de cas » dans lesquels l’entreprise décide d’achever la construction du centre de données avant que la pleine puissance du bâtiment ne soit disponible. « Ces situations sont toutes gérées dans le cadre du cours normal des affaires », a ajouté le porte-parole.

Le PDG d’Amazon Web Services, Matt Garman, a récemment parlé publiquement des défis liés à la construction de centres de données IA, notamment l’accès à suffisamment de GPU et de puissance.

Lors d’une interview en podcast en août, il a déclaré que la demande des clients était « ahurissante » et nécessitait « beaucoup d’investissements ».

« Nous allons probablement être serrés pendant un petit moment », a ajouté Garman.

« Moustiques à la lumière »

L’entreprise est à la recherche de plus d’énergie. Elle mène actuellement des « études de puissance » avec des partenaires de services publics pour évaluer une capacité de transport supplémentaire, ce qui pourrait entraîner une allocation d’électricité plus importante, indique le document interne.

L’entreprise travaille également sur les moyens de récupérer l’électricité bloquée et mise hors service, indique le document, probablement en référence à la pratique de réaménagement d’anciennes centrales électriques devenues inactives pour des raisons économiques ou de durabilité.

Amazon recherche plus activement des opportunités de partenariat avec des fournisseurs de centres de données de colocation tiers, a déclaré l’une des personnes avec lesquelles BI s’est entretenue. Dans ces installations, Amazon louerait simplement de l’espace, transférant ainsi la nécessité d’assurer l’alimentation électrique aux propriétaires des centres de données.

De plus, Amazon a commencé à regarder au-delà des marchés de centres de données bien établis, tels que la Virginie du Nord et l’Arizona, et s’étend dans de nouvelles régions comme l’Indiana. Les régions de centres de données surpeuplées manquent d’électricité et d’autres ressources, ce qui rend les nouveaux emplacements plus attrayants.

L’entreprise recherche également de manière plus agressive des sources d’énergie alternatives. La semaine dernière, Amazon a dévoilé un plan visant à lancer un cycle de financement de 500 millions de dollars pour développer de petits réacteurs nucléaires modulaires, à la suite d’une annonce antérieure visant à acheter de l’électricité auprès d’une centrale nucléaire située en Pennsylvanie rurale.

« C’est presque comme des moustiques qui s’éclairent : nous sommes attirés par le pouvoir », a déclaré l’une de nos proches à BI.

Le porte-parole d’Amazon a déclaré que la stratégie d’expansion des centres de données de l’entreprise prend en compte plusieurs facteurs, notamment la résilience et la latence du système, la disponibilité des énergies renouvelables et l’engagement à long terme du gouvernement local. Amazon recherche également constamment des moyens de rendre ses centres de données plus économes en énergie en utilisant des ressources sans carbone, des processeurs internes et des systèmes de refroidissement naturel par air, a déclaré le porte-parole.

Des coûts plus élevés dans la Silicon Valley

Dans certains cas, Amazon paie des prix plus élevés pour que ses nouveaux centres de données soient opérationnels.

Un exemple est celui d’Amazon à Santa Clara, en Californie, au cœur de la Silicon Valley. Depuis deux ans, Amazon est en pourparlers avec la ville de Santa Clara pour assurer l’alimentation électrique d’un nouveau centre de données près du Levi’s Stadium, domicile des 49ers de San Francisco.

Amazon et la ville discutent d’une proposition d’installation de 20 mégawatts sur 15 ans, à condition que l’entreprise paie l’intégralité du coût de l’énergie, qu’elle utilise l’électricité ou non, a déclaré Manuel Pineda, directeur du service public d’électricité de la ville. Ville de Santa Clara, a déclaré lors d’une réunion du conseil municipal en juillet. Amazon devra payer des tarifs jusqu’à 50 % plus élevés que la normale et aura droit à des « assurances financières » supplémentaires pour couvrir tout risque contractuel, a ajouté Pineda.

Dans le cadre de l’accord, Amazon prévoit également d’utiliser l’accord d’électricité de 20 mégawatts pour un deuxième bâtiment sur place, qui n’a actuellement aucune capacité électrique, a déclaré Pineda.

Le porte-parole d’Amazon a déclaré à BI que cet accord n’était pas finalisé et que le projet progressait comme prévu.

Amazon préoccupé par les retards de Santa Clara

Amazon semble faire face à de nouveaux retards à Santa Clara. Le 28 août, un employé d’AWS a écrit à un responsable municipal au sujet d’une autre installation, une ancienne usine d’Owens Corning que l’entreprise a achetée en 2023. L’e-mail discutait des retards sur le site et indiquait que les problèmes suscitaient des inquiétudes en interne chez Amazon.

« Des retards aussi importants que celui-ci ont malheureusement un impact sur notre capacité à servir nos clients, ce qui a entraîné une escalade », indique l’e-mail, obtenu par BI grâce à une demande d’enregistrement public.

Le lendemain, un autre employé d’Amazon a écrit à un responsable de la ville de Santa Clara. « C’est une question de temps », a déclaré le membre du personnel. « Les dirigeants d’AWS sont très préoccupés par l’évolution constante des résultats. »

Les infrastructures hydrauliques « mettent à rude épreuve »

L’approvisionnement en eau est un autre problème. Un nombre croissant de centres de données dépendent de l’eau plutôt que de l’air pour refroidir les serveurs et autres équipements à l’intérieur des installations, ce qui nécessite une énorme quantité d’eau.

Amazon « met à rude épreuve les infrastructures existantes des juridictions locales » pour l’eau dans certaines régions et est « dépendant de la mise à niveau des infrastructures à long terme ou de la construction de nos propres solutions » pour atténuer le problème, indique le document interne.

Il existe également des problèmes de zonage et de permis. Certaines juridictions locales ne soutiennent pas le rezonage de la propriété industrielle pour l’utilisation de centres de données et ont des réglementations environnementales plus strictes, indique le document. Amazon « travaille de manière proactive » avec les municipalités locales pour résoudre ces défis, car ils peuvent avoir un impact sur ses « futures options de capacité », indique le document.

Amazon est « l’un des opérateurs les plus économes en eau au monde » et ses centres de données sont bien plus économes en eau que la moyenne du secteur, a déclaré le porte-parole de l’entreprise à BI.

« Manque de main d’œuvre qualifiée disponible »

Un problème encore plus grave pourrait être le manque d’électriciens qualifiés pour construire et gérer ces centres de données, selon le document interne et les personnes directement impliquées dans ces projets Amazon.

Les travaux électriques constituent une partie importante de la construction d’un data center. Mais Amazon a du mal à trouver suffisamment de personnel pour faire le travail, en particulier dans les zones rurales, ont déclaré ces personnes. Amazon a discuté avec des collèges locaux, des entrepreneurs généraux et des syndicats de certains marchés de la possibilité de former davantage d’électriciens, a déclaré l’une des sources.

La pénurie d’électriciens qualifiés constitue un problème croissant dans l’industrie. Une enquête sur le personnel des centres de données de l’Uptime Institute publiée l’année dernière a révélé que plus de la moitié des personnes interrogées ont déclaré avoir du mal à pourvoir les postes vacants en raison d’une demande dépassant l’offre.

« En ce qui concerne la main-d’œuvre, nous constatons un manque de main-d’œuvre qualifiée disponible », indique le document interne d’Amazon. « Ce qui nous oblige à prioriser où nous allouons ces ressources, et nous devenons de plus en plus dépendants de voyages plus coûteux. [primarily] électriciens. »

Le porte-parole d’Amazon a partagé des articles de blog détaillant ses programmes de formation dans ce domaine, ajoutant : « AWS a mis en place un certain nombre de programmes de développement de la main-d’œuvre et de collaborations avec des établissements d’enseignement pour contribuer à garantir un solide vivier de talents. »

Travaillez-vous chez Amazon ? Vous avez un conseil ?

Contactez le journaliste Eugene Kim via les applications de messagerie cryptée Signal ou Telegram (+1-650-942-3061) ou par e-mail (ekim@businessinsider.com). Contactez-nous en utilisant un appareil non professionnel. Découvrez celui de Trading Insider guide des sources pour d’autres conseils sur le partage d’informations en toute sécurité.

A lire également