Yapay zeka altyapı şirketi Runware, Salı günü Sonic Inference Pod adını verdiği modüler veri merkezini piyasaya sürdüğünü duyurdu. Tek bir taşınabilir ünite olarak tasarlanan Pod, devasa veri merkezi projelerinin yanında yer alabilecek daha esnek bir bilgi işlem modelini temsil ediyor.
Runware, Pod'un diğer sunucusuz çıkarım platformları ve GPU bulutlarına kıyasla daha yüksek kalitede ancak daha düşük maliyetle çıkarım hizmeti sunabildiğini söylüyor. Modüler tasarım, sabit bir veri merkezini genişletmek yerine yeni pod'lar oluşturarak kapasitenin hızla artırılmasını mümkün kılıyor. Runware'in kurucu ortağı ve CEO'su Flaviu Radulescu, TechCrunch'a yaptığı açıklamada, bazı açılardan bunun gelecek olduğunu söyledi.
Radulescu, "Uzun vadede kazananın, son kullanıcılara daha yakın konumlandırılmış ve daha hızlı çıkarım sağlayan dağıtık bilgi işlem olacağına inanıyoruz" dedi. Daha düşük fiyatın yanı sıra Runware sisteminin hızla ölçeklenip kapasite ekleyebildiğini, elektriğin olduğu her yere kurulabildiğini ve yeni donanım sürümlerine hızla uyum sağlayabildiğini belirtti. Runware pod'ları su kullanmıyor; bunun yerine, geleneksel veri merkezlerinin inşasının aylar hatta yıllar sürmesine kıyasla günler içinde kurulabilen kapalı devre bir soğutma sistemi kullanıyor.
Radulescu, "Çıkarım talebi, tesislerin inşa edilebileceğinden daha hızlı artıyor. Biz dünyanın zekasına güç vermek, talebe ayak uydurabilen bir kapasiteyle her yapay zeka modelinin üzerinde çalıştığı omurga olmak istiyoruz" ifadelerini kullandı.
Radulescu, Runware'in halihazırda ABD, Avrupa ve Asya-Pasifik'te konuşlandırılmış 10 pod'u bulunduğunu söyledi. Şirket, Higgsfield AI ve Wix'in de aralarında bulunduğu birkaç şirkete çıkarım hizmeti sağlıyor ve pod'larına güç sağlamak için şu anda 160 uygun alana sahip. Runware, Aralık ayında şirketlerin görüntü oluşturması için gereken altyapıyı sağlamak üzere 50 milyon dolarlık Seri A yatırımını duyurmuştu. Şirket, pod'lara genişlemeyi tek bir üründen ziyade temel misyonunun bir parçası olarak görüyor: şirketlere çıkarım hizmeti sağlamak.
OpenAI ve SpaceX gibi yapay zeka laboratuvarları hâlâ ABD genelinde veri merkezleri inşa etme yarışı içinde. Örneğin OpenAI, Ohio'da bir veri merkezi inşa etmek için 500 milyar dolarlık bir anlaşmaya imza atmak üzere. Ancak Radulescu, bu projeleri Sonic Inference Pod'lar için bir tehdit olarak görmüyor ve pod'ların esnekliğini kilit bir farklılaştırıcı olarak tanımlıyor.
Radulescu, "Her pod tek bir ağın parçası olarak çalışır, bu nedenle talepler kapasitenin olduğu, kullanıcılara daha yakın herhangi bir yere gider ve bir pod çevrimdışı olursa trafik diğerine yönlendirilir" dedi. Bir sistem arızasının, tüm sabit bir tesis yerine yalnızca bir pod'un devre dışı kalması anlamına geldiğini ekledi. "Özel donanım isteyen müşteriler, pod'ların tamamını kendilerine alıyor."
Radulescu, diğer şirketlerin kendileri için benzer sistemler inşa etmesi konusunda çok endişeli olmadığını, donanımın yavaş olduğunu ve bu teknolojiyi inşa edip onaracak yetenekli iş gücü havuzunun küçük olduğunu söyledi.
"Bir devre kartı tasarımındaki hata, yeniden tasarım, simülasyon, üretim, test ve teslimat arasında aylara mal olur. Bu adımların her biri, her bir bileşenin ne işe yaradığını ve eksik olduğunda neyin bozulacağını tam olarak anlayan birini gerektirir" dedi.
Bununla birlikte, yapay zeka veri merkezleri inşa etmek, özellikle de ne kadar çok kaynak kullandığı nedeniyle tartışmalı bir konu. Halihazırda veri merkezlerinin bulunduğu topluluklar, kamu hizmeti maliyetlerinde artış olduğunu bildirdi. Runware, bir gün yenilenebilir enerjiyle çalışabileceği ve toplulukların ihtiyaç duyduğu kaynakları tüketmeyeceği bir dünya görüyor ancak bu günün henüz gelmediğini kabul ediyor.
Radulescu, yapay zeka enerji kullanımının "çıkarım talebi tarafından yönlendirildiği için, kim tarafından sağlandığına bakılmaksızın" artacağını söyledi. Runware'in şu anda odaklandığı şeyin bu talebin nasıl karşılanacağı olduğunu belirtti. "İletim kaybı yok, soğutmada su yok ve yeni şebeke kapasitesi inşa edilmesini istemek yerine halihazırda var olan gücü kullanıyoruz. Bu şekilde inşa edilen daha fazla çıkarım, aynı miktarda bilgi işlem için daha az yeni şebeke, daha az su anlamına geliyor."
