Nisan 1805. Napolyon Avrupa'nın hakimi. Önünde sadece İngiliz filosu var. Hesaplama gücü artık bir varlık sınıfı. Yine finansal inovasyondan bahsetmenin zamanı geldi. Apollo, BlackRock, Blackstone, Brookfield, Goldman Sachs ve KKR, hesaplama gücünü bir varlık sınıfına dönüştürmek için 500 milyar dolarlık bir finansman paketini hayata geçirmek üzere Nvidia ile işbirliği yapıyor.
Nvidia Üst Yöneticisi Jensen Huang, CNBC'ye verdiği demeçte, "Teknoloji çiplerinin gerçekten de ilk kez yatırım yapılabilir bir varlık sınıfı haline geldiğine tanık oluyoruz" dedi. Huang, "Bunlar artık gelir üreten varlıklar. Üretkenler, ömürleri uzun, birbirlerinin yerine geçebiliyorlar ve esnekler" diye ekledi.
Huang, geçen yıl Nvidia'nın kendi son nesil Hopper çipleri için bundan çok farklı şeyler söylemişti. Şirketin yapay zeka konferansında katılımcılara en yeni GPU mimarisini överek, "Blackwell seri üretime geçtiğinde, Hopper çiplerini bedava bile veremezsiniz" demişti. "Hopper'ın uygun olduğu durumlar var. Ama çok fazla değil." Dolayısıyla, çiplerin aslında "gelir üreten" ve "ömürleri uzun" varlıklar olduğunun söylenmesi... Açıkçası, bu durum beni şaşkınlığa uğratıyor.
En azından şimdilik Huang haksız sayılmaz. Eski çipleri kiralamanın fiyatı artıyor ve Silicon Data, bu artışın 2028 yılına kadar devam edeceğini öngörüyor. İşte ilginç bir detay: Bir bulut hizmeti sağlayıcısı, sözleşme yenileme sürecinde bir müşterisi için Nvidia Blackwell B200 çiplerinin fiyatlarını neredeyse iki katına çıkardı.
BlackRock Üst Yöneticisi Larry Fink, CNBC'ye verdiği röportajda, "Bu daha çok başlangıç, tıpkı 1970'lerde konut kredisi destekli menkul kıymetler piyasasına ilk girdiğim dönemdeki gibi. Bunu finansal mühendisliğin geleceği olarak görüyorum" ifadelerini kullandı. Şimdi, bazılarınız için bu sözler alarm zillerini çaldırabilir. Eski hedge fon yöneticisi Mark Rubinstein'ın belirttiği gibi, konut kredisi destekli menkul kıymetler, krediler aşırı üretildiğinde iflas etmişti. Yapay zeka sektörü veri merkezleriyle dolup taşıyor ve Çin'in açık kaynaklı modelleri oldukça güçlü olmalarına rağmen daha az hesaplama gücüne ihtiyaç duyuyor; her iki durum da çiplere yönelik sürekli artan talep fikri için potansiyel bir tehdit gibi görünüyor. Ayrıca çok daha temel bir soru daha var: Mevcut talebin büyük kısmını yönlendiren Anthropic ve OpenAI gibi öncü laboratuvarlar para kazanabilir mi?
Jensen'ın hesaplamalarına bile geçmeden önce bir noktaya dikkat çekmek istiyorum: Bu ortada bitmiş bir anlaşma değil. Bunlar sadece niyet mektupları. Geçen yıl Nvidia'nın OpenAI'ye yatırım yapmak için 100 milyar dolarlık bir niyet mektubu imzaladığını hatırlayabilirsiniz. Ve muhtemelen bunun, şey, gerçekleşmediğini de hatırlarsınız. Ancak niyet mektuplarının güzel yanı, büyük bir duyuru yapabiliyor olmanız ve ardından asıl işin gerçekleşip gerçekleşmemesinin pek de önemli olmaması. Yine de bunun gerçek olduğunu varsayalım, çünkü bir deneme balonu olarak bile bize ilginç şeyler söylüyor.
Varlığı Var Etmek
Biraz geriye saralım. Neden "hesaplama gücü"nden bahsediyoruz? Huang'a göre, "Nvidia hesaplama gücü sadece bir çip değil." Çünkü işin içinde CUDA adında bir yazılım da var. Huang, X'teki bir paylaşımında, "Nvidia yapay zeka fabrikalarını sadece sıradan bir silikondan ayıran şey budur" diyor. "Değerleri kurulum anında sabit kalmaz: CUDA, çıktılarını sürekli olarak iyileştirir; kurulu taban, ilk amortisman süresinin çok ötesinde üretken kalmaya devam eder."
Tamam, ancak çipler ve yazılımlar tek başına hesaplama gücü yaratmaz; bunlar yalnızca devasa veri merkezi altyapısında barındırıldıklarında işe yararlar ki bu da depolar ve güç kaynakları gerektirir. Huang, hesaplama gücünü bu unsurlar olmadan tartışıyormuş gibi görünüyor ve Nvidia'nın sistemini "hızlandırılmış hesaplama, ağ oluşturma, sistem yazılımları, yapay zeka çerçeveleri ve küresel bir geliştirici ekosistemini içeren eksiksiz bir yapay zeka fabrikası platformu" olarak adlandırıyor. Bu listeden dikkat çekici bir şekilde eksik olan şey ise fiziksel tesisler.
Elektriğin muhtemelen silikon çip madeninde ter döktüğü "yapay zeka fabrikası" şeklindeki gülünç fikri bir kenara bırakalım. Huang, veri merkezlerini kısmen küçümsüyor çünkü finansmanın büyük kısmı şimdiye kadar oraya aktı. Rubinstein, "Blackstone, inşa halindeki tesisler de dahil olmak üzere 185 milyar dolar değerinde bir platform kurdu ve istikrarlı veri merkezlerinin uzun vadeli sahipliği pazarının zamanla 1 trilyon dolara kadar büyüyebileceğini tahmin ediyor" diye yazıyor. Huang bunu umursamıyor; bunun büyük kısmı gayrimenkul ve onun için alakasız. Huang'in umursadığı tek şey insanların Nvidia çipleri satın alması.
Yani buradaki "hesaplama gücü" tüm veri merkezi yığınını ifade etmiyor; bu, eski dostumuz GPU destekli krediden bahsetmenin havalı bir yolu. Birinin "GPU" yerine "hesaplama gücü" terimine geçmek istemesinin nedenini anlayabiliyorum, çünkü herkes bir GPU'nun ömrünün bir binaya göre çok daha kısa olduğunu biliyor; tahminler iki ila beş yıl arasında değişiyor. Sanırım "hesaplama gücü" TPU destekli kredileri de kapsıyor, bu da cabası.
Bu yazın başlarında Broadcom, Nvidia'nın şu anda sunduğuna çok benzeyen 35 milyar dolarlık bir paket hazırladı ve Apollo ile Blackstone ile, şu anda hesaplama gücü olarak adlandırdığımız şeyi finanse etmek için yaklaşık bir milyon çipi teminat olarak gösteren bir anlaşma imzaladı. Apollo ve Blackstone faizden para kazanacak; Broadcom ise çiplerin bulunduğu özel amaçlı araç tarafından ihraç edilen iki kıdemli senet için garanti sağladı. Bu anlaşma, Broadcom çiplerine olan talebi artırmak içindi. Görünüşe göre Nvidia notunu aldı ve aynı nedenlerle aynı şeyi yapıyor.
Şimdi Huang, Nvidia çiplerinin uzun ömrünü coşkuyla anlatıyor. Hesaplama gücünün zamanla nasıl gelişebileceğine dair "güçlü bir örnek" olarak, Huang 2020'de tanıttığı ve "aktif ticari kullanımda kalmaya devam eden" Hopper öncesi A100 çipini gösteriyor. "Müşteriler, çok yıllı dağıtımlar için kapasite taahhüt etmeye devam ediyor ve A100'ün ekonomik ömrünü on yıla kadar uzatıyor." Aman Tanrım, bu geçen yıl gösterişli yeni çipleri hakkında söylediklerinden çok farklı, değil mi?
Buralarda daha önce çip finansmanından bahsetmiştik. Çipler için bir amortisman takvimi üzerinde kimsenin anlaşamadığını hatırlayabilirsiniz; Nvidia bunları satın alan şirketleri kurtarmak istediği sürece bunun pek bir önemi yok. Aslında Huang'ın açıklamasını bir nevi kurtarma paketi olarak görebilirsiniz. Çip amortismanı tartışmasında, açığa satışçı Michael Burry, çipler için uygun amortisman döngüsünün iki ila üç yıl olduğunu öne sürdü. IBM'den Arvind Krishna, amortismanın beş yıl sürdüğünü söylüyor. Ve işte Huang çıkageliyor ve çiplerinden birinin ekonomik ömrünün on yıl olduğunu söylüyor! Vay, vay, vay.
Bu durum kredi verenler için önemli, çünkü kredi koşullarını belirliyor. Örneğin, kurumsal başvurularına göre, GPU destekli kredilerin öncüsü ve bir Nvidia müşteri devleti olan CoreWeave'in borç alabileceği miktar, çipleri amortismana uğradıkça azalıyor. Yani Huang burada Tanrı ve herkes önünde amortisman takviminin 10 yıl olduğunu söylüyorsa, bankaların neden ona inanmayacağını göremiyorum. Bu konsorsiyumdan kredi almaya çalışan herkes için oldukça kullanışlı bir durum.
Huang, 2022'de piyasaya çıkan Hopper H100 çipi de dahil olmak üzere hesaplama gücündeki fiyat artışlarına dikkat çekiyor. Mantığı ne kadar kendi çıkarına olsa da, fiyat artışlarını abartmıyor. Yapay zeka sektörü analisti Brendan Burke'e göre, bu artışlar, eğitilmiş bir modelin yeni verileri analiz ettiği durumlar için kullanılan sektör terimi olan "çıkarım" talebinin artmasından kaynaklanıyor. Burke, bu durumun eski çipler için saatlik ücretlerin yüksek kalmasına ve hatta bazı durumlarda artmasına yol açtığını söylüyor. Burke bana, "Sadece çıkarım çiplerinde büyük bir kıtlık yaşandı ve bu da fiyatların düşmesi beklenen eğilimi tersine çevirdi" dedi.
CoreWeave'in ikinci çeyrek kazanç çağrısında, Üst Yönetici Michael Intrator, şirketin 2020 mimarisine sahip GPU'ları 2029 yılına kadar uzanan bir sözleşmeyle satabildiğini belirtti. Olayları birbirine bağladığımızda, CoreWeave Nvidia ile bu kadar sıkı bir şekilde bağlı olduğuna göre, Huang'ın on yıllık amortisman döngüsü ile kastettiğinin bu olup olmadığını merak ediyorum.
Tam da zamanında, bir türevler borsası olan CME Group, düzenleyicilerin söz konusu iki sözleşmeyi onaylaması koşuluyla ekim ayında hesaplama gücü vadeli işlemlerini piyasaya sürme planlarını duyurdu.
Talepteki bu artışlar sonsuza kadar devam edecek mi? Lanet olsun, bilmiyorum. Tüm bu veri merkezleri inşa ediliyor ve eğer hesaplama gücü (veya daha doğrusu çipler) Huang'ın söylediği gibi birbirinin yerine geçebiliyorsa, bu veri merkezi sağlayıcılarının doymuş bir piyasada fiyat üzerinden rekabet ettiği anlamına geliyor. Ancak yapay zeka daha fazla şeye entegre oldukça, öncü laboratuvarların yanı sıra daha fazla sıradan şirketin de çıkarım çalıştırması gerekecek. Benimseme hızı önemli; eğer çok yavaş olursa, bu model sorun yaşayabilir.
Korkusuz liderimiz Nilay Patel, Slack'te saçlarını başlarını yolarcasına dolaşıyor ve hesaplama gücüne bir dolar yatırdığınızda nasıl oluyor da 1,01 dolar geri aldığımızı soruyor. Huang bu soruya tam olarak cevap vermiyor: "Getiri, yapay zekanın faydasında yatıyor" diye yazıyor. Ancak olup bitenlere dair anlayışım doğruysa ve bu bağlamdaki "hesaplama gücü" sadece eski, tanıdık GPU destekli kredi ise, yatırımın getirisi borçlanmada genellikle neyse odur: faiz.
İşte bu kadar. Ayrıca sözleşmelerin nasıl göründüğünü de bilmiyoruz ve detaylar önemli. (Örneğin, Nvidia'nın duyurusuna ilham vermiş gibi görünen Broadcom sözleşmesinde, Broadcom tüm borcu değil, yalnızca daha yüksek öncelikli kıdemli borcu destekliyor.) Önceki GPU destekli kredilere bakılırsa, hesaplama gücünü satın alan kişinin sözleşmesinin teminatlar arasında yer aldığını tahmin ediyorum. Bu sözleşme, arkasında kim olduğuna göre daha iyi veya daha kötü olabilir; Microsoft faturalarını kesinlikle öder, ancak OpenAI para kazanmıyor ve sürekli sermaye artırması gerekiyor, bu nedenle sözleşmeleri kredi verenler için daha riskli. Ayrıca, herhangi bir anlaşmada, borç verenlere bir tür gelir payı veya anlaşmayı tatlandırmanın başka bir yolunu sunan bir madde bulunması mümkün. Ancak bildiğim bir şey var, bu yeni hesaplama gücü konsorsiyumu Nvidia için oldukça iyi bir anlaşma gibi görünüyor.
Rekabet Ortamı
Geçen yıl Stanford Üniversitesi'nden Vikrant Vig ile konuştuğumda, GPU kredilerinin çoğunun Nvidia çiplerini teminat olarak göstererek verildiğini belirtmişti. Bu durum, şirketlerin Nvidia çipleriyle rakiplerinin GPU'larına kıyasla yeni krediler almasını kolaylaştırıyordu; Nvidia GPU kredilerinin finansman maliyeti, teminatın daha likit olması nedeniyle daha düşüktü. Nvidia ve finansörler arasındaki anlaşmalar kesinleşirse, bu durum Nvidia çipleri için finansman almayı daha da kolaylaştıracak. Sıfırdan bir neo-bulut (yani CoreWeave, Crusoe ve Lambda gibi hesaplama gücü kiralayan küçük bir şirket) kuruyorsanız, Nvidia çipleri satın almak size Broadcom gibi rakiplerden mutlaka alamayacağınız bir destek sağlar.
Hedgeye Risk Management'tan Felix Wang, Bloomberg'e verdiği demeçte, "Etkin olarak, GPU fiyatlarını gerçekten düşürmeden Nvidia'nın ürününü daha ucuz hale getirdiler" dedi.
Nvidia, müşteri tabanını genişletmek için neo-bulutlara yatırım yapma ve finansman sağlama konusunda oldukça agresif davranıyor. Neo-bulutları finanse edip besleyerek Nvidia, büyük oyuncuların (örneğin Microsoft, Amazon, Google ve Meta) fiyat konusundaki pazarlık gücünü azaltıyor. İlginç bir şekilde, en son kazanç çağrısında, büyük yeni neo-bulut oyuncusu SpaceX, yalnızca Nvidia çipleriyle çalıştığını söyledi; daha sonra hepimiz Nvidia'nın SpaceX'te 21 milyar dolarlık bir hissesi olduğunu keşfettik. SpaceX, Nvidia'ya alternatifleri değerlendiriyordu, ancak veri merkezi altyapısının oluşturulması harcamalarda devasa bir artış gerektiriyor; dolayısıyla Nvidia'nın yatırımı bu neo-bulutu kilitlemiş olabilir.
Burke, bu finansmanın bir başka ilginç yan etkisine daha dikkat çekiyor. Kredi verenlerin krediler arasında nispi bir tekdüzelik sağlaması onların çıkarına olduğu için, bu durum Nvidia çiplerinin veri merkezlerine kurulum şeklini daha da standartlaştırabilir. Bu aynı zamanda Nvidia'ya çip satışında rekabet avantajı da sağlayabilir.
Burke, GPU'ların nasıl kurulduklarına bağlı olarak farklı performans gösterdiklerini, bunun da riski üstlenen kredi verenler için gelir tahminlerini güvenilir bir şekilde yapmayı zorlaştırabildiğini belirtiyor. Nvidia, ideal ayardaki gelirler hakkında rehberler yayınlamaya başladı ve bulut bilişim sağlayıcılarını bu özel tasarımı kullanmaya zorluyor. Bu, standartlaşma sağlayarak kredi verenlerin işini kolaylaştıracaktır. Aynı zamanda müşterilerin ne kadar kazanabileceği ve Nvidia'nın modellemesinin doğruluğu konusunda daha fazla incelemeyi de beraberinde getiriyor. Burke, "Gördüğüm tahminler oldukça iyimser" diyor. Bazı durumlarda, projeksiyonlar gigavat başına yılda 70 milyar dolar gelir öngörüyor ki bu, bugün alandaki kimsenin elde ettiği bir şey değil.
Dolayısıyla, sözleşme koşulları, hem gelir tahminlerini modellemeyi kolaylaştırdığı hem de bir temerrüt durumunda kredi verenlerin teminatı elden çıkarmasını kolaylaştırdığı için, Nvidia çipleriyle veri merkezlerinin birbirinin yerine geçebilirliğini artıran özel ayarlar talep edebilir. Burke, "Çoğu veri merkezi operatörü son derece özelleştirilmiş durumda ve onları tek bir yaklaşımı takip etmeye ikna etmek büyük bir çobanlık egzersizi olacak" diyor. Kredilendirme koşulları, mühendisleri belirli tasarımlara yönlendiren çoban köpekleri işlevi görebilir.
Bu aynı zamanda Nvidia'yı rekabete karşı da koruyor ve bu sadece Google'ın TPU'su ve Amazon'un Trainium çiplerinden gelen rekabet değil. Çıkarım işlemleri eski Nvidia çiplerinde çalıştırılabilir, elbette, ancak ortaya çıkıyor ki CPU'lar da bu işi yapabiliyor ve CPU'lar daha ucuz; Burke'ün söylediğine göre maliyetin on beşte biri kadar. Yani CPU'ları kullanabilirseniz, sadece çip satın almak için daha az harcama yapmakla kalmaz, aynı zamanda GPU hesaplama gücüne olan talebi de azaltarak o fiyatı aşağı çekebilirsiniz.
Buna Döngüsel Finansman Demeyin
Nvidia, dışarıdan sermaye çekiyor çünkü çiplerini satın alan neo-bulutlara ve yapay zeka laboratuvarlarına büyük yatırımcı olması nedeniyle "döngüsel finansman" suçlamalarından oldukça rahatsız olmuş görünüyor. Nvidia tarafından desteklenen neo-bulut CoreWeave'i hatırlayın. Nvidia yatırım yaptı, halka arzını kurtardı ve CoreWeave'in sahip olabileceği fazla kapasiteyi satın almayı vaat etti. Nvidia, "CoreWeave'den kendi çiplerini kiralamak için dört yıl boyunca 1,3 milyar dolar harcamayı kabul etti" ve bu da onu 2024'te CoreWeave'in en büyük ikinci müşterisi yaptı.
Mesele sadece CoreWeave değil. Nvidia, neo-bulut şirketlerine yaygın bir şekilde yatırım yapıyor. Ayrıca Nvidia, en son üç aylık başvurusu itibarıyla bulut hizmeti anlaşmalarında 30 milyar dolar ödeme yapıyor. Seaport Research Partners'ta kıdemli bir analist olan Jay Goldberg, bu rakamların Nvidia'nın geri destek anlaşmalarını temsil ettiğini düşünüyor.
Dolayısıyla, eğer yeni niyet mektupları...
