Salı günü Google, uzun süredir beklenen TorchTPU sürümünün PyTorch'un açık kaynak projesi olarak kullanıma sunulduğunu duyurdu. Böylece Google, Amazon'la birlikte AI sektöründe Nvidia'nın sıkı kontrolünü kırmaya çalışıyor; sektördeki çoğu AI uygulaması varsayılan olarak Nvidia'nın çipleri ya da GPU'larında çalışacak şekilde yazılıyor.
PyTorch, AI uygulama geliştiricilerinin ve girişimlerin AI modellerini oluşturmak, eğitmek ve çalıştırmak için kullandığı popüler açık kaynak araç takımı. Bazı hesaplara göre AI uygulamalarının yüzde 85'i PyTorch'u kullanıyor. PyTorch, 2016'da Meta tarafından, o dönemde Facebook olarak biliniyordu, geliştirildi; o yıllarda LLM'lerin dünyayı değiştireceği henüz belli değildi. Dönemde Nvidia'nın GPU'ları AI araştırması için zaten standart donanımdı, bu yüzden PyTorch'un birçok özelliği özellikle onlarla çalışacak şekilde inşa edildi. 2022'de Meta, PyTorch'u birçok önemli açık kaynak projesini yöneten kâr amacı gütmeyen kuruluş Linux Foundation'a devretti.
Google'ın versiyonu TorchTPU, AI uygulamalarının Google'ın Tensor Processing Units, yani TPU adı verilen yapay zeka çiplerinde çalışmasını sağlıyor. Araç aynı zamanda mevcut PyTorch uygulamalarının TPU'lara ve dolayısıyla Google Cloud'a taşınmasını kolaylaştırıyor. Geliştiriciler bunu uygulamalarını yeniden yazmadan basit bir yapılandırma değişikliğiyle yapabiliyor.
Amazon benzer bir açıklamayı Pazartesi günü yaptı ve kendi PyTorch sürümü TorchNeuron'u yayınladı. TorchNeuron, AI uygulamalarının Amazon'un kendi geliştirdiği Trainium yapay zeka çipine ve AWS'ye yeniden yazma gerektirmeden taşınmasına olanak tanıyor. Amazon, Nvidia'nın PyTorch üzerindeki hakimiyetini gevşetme çabası kapsamında daha da ileri gittiğini de söyledi. Şirket, çeşitli özellikleri Nvidia'nın çiplerinden ayırarak varsayılan olarak her türlü donanıma açık hale getirmek için ana PyTorch projesine kod gönderiyor.
Google birkaç açıdan Amazon'un önüne geçiyor olabilir. Şirket, TorchTPU'nun özelliklerinin ve kod kütüphanelerinin orijinal PyTorch'ta olduğu gibi popüler AI geliştirme araçlarıyla iyi çalışmasını sağlamak için Meta, Hugging Face, vLLM üreticisi Inferact ve SGLang üreticisi RadixArk gibi firmalarla doğrudan çalıştığını belirtiyor.
Buna ek olarak arama devi, geliştiricilerin uygulamalarını Google'ın çiplerine ve bulutuna taşımasına ve süreçte oluşan hataları düzeltmesine yardımcı olmak için özel bir araç olan TPU agent suite'i başlattı. Şirket ayrıca telefonlarda, dizüstü bilgisayarlarda ve gömülü cihazlarda AI çalıştıran popüler LiteRT aracını da PyTorch AI uygulamalarıyla daha iyi çalışacak şekilde güncelledi.
Bunların hiçbiri AI uygulama geliştiricilerinin toplu olarak Nvidia donanımını terk edeceği anlamına gelmiyor. Ancak Amazon ve Google'ın Nvidia'nın avantajını sona erdirmek için açıkça çalıştığı görülüyor.
