OpenAI’nin Salı günü düzenlenen Dev Day etkinliğinde en dikkat çekici duyurulardan biri, CEO Sam Altman’ın bir kenar notuyla açıkladığı yeni Decisions API oldu.
API, bu ay başında yazılım otomasyonu için özel olarak tasarlanan TypeSafe AI imzalı Jev modeliyle benzer işlev sunuyor gibi görünüyor. Büyük bir dil modelinin üzerine kurulu süper güçlü bir sınıflandırıcı olan Jev’de geliştiriciler, modele bir dizi seçenek veriyor ve model bunları yüksek hızda ve düşük maliyetle olasılık olarak döndürüyor.
OpenAI’nin Decisions API’si de aynı tür bir ürün gibi duruyor. Etkinlikte Altman, API’yi laboratuvarın Luna modeline bir görüntü sınıflandırılacak kategori ya da farklı ajan davranışları gibi seçebileceği önceden tanımlı seçenekler seti verme yolu olarak tanımladı.
“Modeli o seçime odaklayarak, görüntü anlama, geniş dil desteği ve güvenlik korumaları gibi yetenekleri korurken son derece hızlı hale getirebiliriz” dedi Altman.
TypeSafe, TechCrunch’ın yeni ürünle ilgili sorularına yanıt vermedi. Ancak eski OpenAI mühendisi ve pekiştirmeli öğrenmenin ortak mucitlerinden CEO Diogo Almeida, X’te klon savaşlarının başlangıcı hakkında şaka yaptı.
Almeida ayrıca OpenAI’nin ilgisinin “Sistem Bir uyumlu şekilde inşa etmenin geleceği olacağının bir işareti olabileceğini” ekledi. “Sistem Bir”, TypeSafe’in hızlı ve sezgisel düşünme için kullandığı terim; “Sistem İki” ise şirketin bilinçli akıl yürütme için uyguladığı kavram.
Burada ima edilen şey, bildiğimiz büyük dil modellerinin yazılımın birçok alanında doğru çözüm olmaması; çünkü nispeten yavaş ve pahalı olmaları. Geliştiriciler Jev’i büyük dil modellerini desteklemek için kullanıyor ve bu sayede daha hızlı ve daha ucuz sonuçlar aldıklarını görüyor.
Decisions API’nin Jev’e ne kadar benzeyeceği net değil. OpenAI ürünü sınırlı ön izleme olarak yayınladı ve şimdiye kadar TechCrunch, geliştiricilerin ürünü test ederken yakalamadı. Yine de X’teki konuşmalara göre ilgi açık.
Decisions API internetteki tek Jev benzeri API değil; diğer girişimler de benzer modelleri piyasaya sürüyor ve OpenAI bu alanda son teknoloji devi olmayacak. Önemli soru, bu karar modellerinin çıktılarının gerçek hayata ne kadar iyi kalibre edileceği.
Almeida, şirketinin hendekinin istatistiksel olarak kullanışlı çıktılar üretmek için oluşturduğu sentetik veri olduğunu söylüyor.
“Hızlı ve ucuz olmak çok kolay, biliyorsun” diye konuştu Almeida geçen hafta TechCrunch’a. “Gerçekten hızlı ve ucuz istiyorsan zar kullan, değil mi? Zeka zor kısım ve benim Kuzey Yıldızım her zaman zeka-başına-dolar Pareto eğrisini ileriye itmek.”
Sadece birkaç haftada bu modellerin önünde bir gelecek olduğu açık görünüyor ve olası bir uygulama AI ajanlarını izlemek ve güvence altına almak. OpenAI’nin ajanlarının açık internette kötü davrandığı bir dizi olayın ardından aldığı yeni güvenlik önlemlerinden biri, kötü eylemleri izlemek için “önemli hesaplama maliyeti”yle ayrı bir model kullanıyor.
Uzun süredir siber güvenlik uzmanı ve QueryStory girişiminin lideri Shapor Naghibzadeh, Jev gibi bir modelin bunu çok daha ucuza mümkün kılabileceğini düşünüyor.
Geçen hafta sonu düzenlenen bir hackathon için yaptığı demoda Naghibzadeh, Jev’i her ajan eylemini verilen göreve karşı kontrol etmek için kullandı; kötü olduğu konusunda yüksek güveni olanları engelledi, diğerlerini incelemeye işaretledi ve geri kalanına izin verdi.
Teoride bu tür bir izleme Hugging Face olayını durdurabilirdi ve bu tür izleme Jev ile 2,94 dolar, bir sınır modeliyle ise 372 dolar tutuyor.
Önemli bir gözlem, Jev’in her ajan eyleminde çalıştırılacak kadar ucuz olması ihtimali; bu da ajanların genel güvenilirliğini artırabilecek bir inceleme katmanı sunuyor. TypeSafe’in ulaşmayı umduğu şey buydu ve şimdi OpenAI de değeri gördü.
