Bloomberg'ün 21 Eylül Pazartesi tarihli haberine göre, artan sayıda yazılım şirketi ABD'li yapay zeka geliştiricilerinin ücretli modellerinin maliyeti nedeniyle Çin kökenli olanlar da dahil olmak üzere açık ağırlıklı yapay zeka modellerine yöneliyor.
Rapora göre açık ağırlıklı modeller genellikle daha ucuz ve şirketlerin kendi verileriyle kendi modellerini oluşturmasına olanak tanıyor. Bu sayede teknoloji dış kaynak kullanım riski azalıyor.
Ancak bazı şirketler, yeterli veriye sahip olmadıklarında açık ağırlıklı modellerle kendi modelini kurma stratejisinin işe yaramadığını gördü. Bunun nedeni yüksek başlangıç maliyetleri ile uzman yetenek, bilgisayar altyapısı ve veri ihtiyacı. Çin menşeli açık ağırlıklı modeller söz konusu olduğunda bazı müşteriler veri gizliliği konusunda endişeli.
Rapora göre kendi modellerini kuran bazı firmalar, en iyi yeteneklere ihtiyaç duyulduğunda büyük yapay zeka laboratuvarlarının modellerini kullanmaya devam ediyor.
PYMNTS Temmuz'da bildirdiğine göre orta ölçekli şirketlerin mali işler yöneticileri için soru, açık modellerin sunduğu tasarruf, esneklik ve kontrolün bunların altında yatan altyapıdan daha fazla sorumluluk üstlenmeyi haklı çıkaracak kadar yeterli olup olmadığı.
Kendi barındırma, hesaplama kapasitesi, depolama, siber güvenlik kontrolleri, izleme araçları ve nitelikli çalışanlar gerektiriyor. Ücretli kapalı bir platform ise bu sorumlulukların çoğunu fiyatına dahil ediyor.
Ağustos'ta bildirildiğine göre AT&T, çalışan sorgularını uygun olduğunda daha ucuz modellere yönlendiren araçları kullanarak kodlama ve bazı ileri yapay zeka görevlerinin maliyetini en fazla %56 oranında düşürdü. AT&T, bu yaklaşımda yapay zekanın performans kalitesinin yalnızca %2 düştüğünü tespit etti.
Rapora göre AT&T, önümüzdeki yıllarda çalışan sorgularının açık kaynak modelleriyle çalıştırılan payını şu anki %40'tan %60 ile %70 arasına çıkarmayı hedefliyor.
Haziran'da bildirildiğine göre büyük yapay zeka laboratuvarlarındaki modellerin artan maliyetleri, sohbet robotlarından daha fazla hesaplama gücü tüketen ajanlara geçişten ve laboratuvarların sabit abonelikten token bazlı faturalandırmaya geçişinden kaynaklanıyor.
Rapora göre Çinli laboratuvarlar, daha verimli modelleri ve Çin'deki daha düşük enerji maliyetleri sayesinde ABD şirketlerinden daha az ücret talep edebiliyor.
