la foule qui pense que l'IA est surdimensionnée n'a jamais essayé d'acheter un h100 ce trimestre


passer une semaine à essayer d'acheter des h100 en ce moment signifie : un engagement de 12 mois chez aws ( utilisation 24/7 verrouillée avant même de voir un seul gpu), liste d'attente gcp sans délai estimé, lambda et coreweave tous deux épuisés, chaque fournisseur plus petit vous donne la même réponse avec des mots différents
la construction d'hyperscalers se mesure en années, les pénuries de CPU retardent les gpu qui existent, et la demande continue de croître pendant que les hyperscalers déposent des permis
les équipes d'IA en phase de démarrage dépensent 70-80 % de leur runway en calcul avant qu'un seul utilisateur ne touche le produit. 700 000 $/mois contre une liste d'attente
les gpu existent déjà. ils restent inactifs dans les centres de données et les fermes de minage que les hyperscalers ne possèdent pas, avec une utilisation inférieure à 20 %. aucun hyperscaler ne va vous louer le matériel de ses concurrents
le prochain h100 que vous louerez ne viendra pas d'aws
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • Commentaire
  • Reposter
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
Aucun commentaire
  • Épingler