Google, bulut bilişim işinde diğer şirketlerin ürettiği çiplere olan bağımlılığını azaltmak için çip üretimini hızlandırıyor. Şirket Pazartesi günü, yapay zeka iş yükleri için geliştirdiği kendi tensor işlem birimlerinin iki yeni varyantını duyurdu. TPU 8tx ve TPU 8i Max, şirketin çip portföyünü gizli çıkarım ve büyük iş yükleri için daha fazla bellek kapasitesi gibi ek kullanım alanlarına taşıyor.
Yeni birimler, bu yılın Nisan ayında tanıtılan şirketin sekizinci nesil çiplerinin parçası ve bu çiplerin sunduğu daha fazla çıkarım kapasitesi ile büyük eğitim gereksinimlerini destekleme özelliğinin üzerine inşa ediliyor.
TPU 8tx, Google’ın blog yazısında belirttiğine göre AMD ile tasarlandı ve TPU 8t çipine dayanıyor. Özellikle yapay zeka modellerinin gizli şekilde eğitilmesi ve çalıştırılması için tasarlandı. Şirket yazıda, çipin güvenliği doğrudan donanım katmanına yerleştirdiğini, hassas verilerin ve model ağırlıklarının aktif kullanım sırasında bile korunup izole kalmasını sağladığını kaydetti.
Çip ayrıca eğitim sırasında akıl yürütmeyi çalıştırabilmesi için özel bir çıkarım ağı içeriyor, böylece küçük modellerin anında damıtılıp eğitilmesine olanak tanıyor. Google’a göre bu yetenek, bir şirketin veriyi cihazlar arasında taşımadan kendi özel verisi üzerinde model eğitmek istediği durumlarda faydalı olabilir.
Öte yandan TPU 8i Max, şirketin Nisan ayında başlattığı çıkarım odaklı TPU 8i çiplerinden ikisini temel olarak birleştiriyor. Tek bir pakette bellek kapasitesi, işlem gücü ve bant genişliği ikiye katlanıyor. Sonuç olarak yapay zeka modelleri sorgular sırasında daha geniş bir bilgi yelpazesini işleyebiliyor.
Çip lansmanı, Microsoft, Amazon ve OpenAI ile Anthropic gibi yapay zeka laboratuvarları dahil olmak üzere büyük ölçekli bulut sağlayıcıların Nvidia’nın hakimiyetine olan bağımlılığını azaltmak için kendi yapay zeka özel yarı iletken ve yazılım hatları üzerinde çalıştığı bir dönemde geldi.
Haber, Nvidia’nın özellikle kırılgan bir dönemde geldi. Şirketin CEO’su Jensen Huang, hafta sonu Çinli bir casus olduğu iddia edilen bir kişiyle ilişkisi olduğunu kabul etti.
