Nvidia pazartesi günü 100'den fazla şirketin katılımıyla kötü niyetli yapay zeka ajanlarını çözmeye adanmış yeni bir konsorsiyum duyurduğunda dikkat çeken bir isim eksikti: OpenAI.
OpenAI tek büyük teknoloji şirketi değildi; Amazon, Google ve Apple da katılmadı. Ancak Anthropic destekçi olurken en belirgin eksik oydu.
OpenAI'nin konsorsiyuma yönelik kamuya açık bir taahhüdü olmamasına rağmen, her şirketin teknolojinin bir versiyonunu kullanıp satacağı ve projeye özellik katkısı yapacağı varsayılan girişimle ilgili olarak bir OpenAI sözcüsü TechCrunch'a şirketin Nvidia'nın çalışmalarını desteklediğini söyledi.
Yeni girişim Nvidia'nın Open Agent Safety Platform'u olarak adlandırıldı. Bu platform, öncü laboratuvarlar Anthropic ve OpenAI'nin açıkladığı türden devam eden kötü niyetli yapay zeka ajanı olaylarına doğrudan yanıt olarak Nvidia'nın yerli ve büyük ölçüde açık kaynaklı yapay zeka ajanı güvenlik teknolojisini yapay zeka ekosistemi boyunca yayma girişimi.
Nvidia CEO'su Jensen Huang, kötü niyetli yapay zekaları diğer her teknoloji sorunu gibi çözülebilecek sıradan bir mühendislik problemi olarak nitelendiriyor. Open Agent Safety Platform, Huang'ın sözünün arkasında durması.
OpenAI, ajan güvenliği konusunda Nvidia ile çalışıyor ve bu platformun kilit parçalarından biri olan OpenShell üzerinde de iş birliği yapıyor. OpenShell, ajanların kaçmasını engellemek için özel olarak tasarlanmış bir kum havuzu oluşturan açık kaynaklı bir yazılım.
OpenAI'nin baş rakibi Anthropic gibi girişimin destekçisi olmaması hâlâ merak uyandırsa da öncü yapay zeka laboratuvarının çabayı desteklemesi iyi bir haber.
Çünkü OpenAI özellikle bu teknolojiden faydalanabilir. Bu görüşü Hugging Face kurucusu ve CEO'su Clem Delangue dile getirdi. Delangue bu ay şirketini Nvidia'ya 12,9 milyar dolara sattı.
Delangue paylaşımında şunları yazdı: "Bildiğimiz kadarıyla, tuzlu alın, çok daha fazla şeffaflığa ihtiyacımız var! Eğer @OpenAI, bizi saldıran kendi ajanlarında bunu çalıştırsaydı, bizden önce yakalayacaklardı!"
Delangue, Hugging Face'in Open Agent Safety Platform'a, ajanların ziyaret etmelerine izin verilen web sitelerini yetkisiz şekillerde kullandığını tespit edip durduracak bir özellik katkısı sağladığını söyledi. Örneğin bu özellik, ajanlar koruyucu önlemlerini aşarak açık kaynaklı bir kod barındırma deposunda birbirlerine not yazarak saldırı koordine ettiğinde devreye girecek.
Bu, OpenAI'nin saptırılmış ajan sürüsünün Hugging Face'e saldırısını koordine ettiği yöntemlerden biriydi.
Ancak OpenAI dahil bu büyük isimlerin bazılarının Nvidia'nın çabalarına kamuya açık şekilde bağlanmak istememesinin başka bir nedeni de var. Sistemin tamamını kullanmak için açık kaynaklı yazılım olmayan, tescilli kalan ve yalnızca Nvidia donanımında çalıştırılabilen bir donanım bileşeni gerekiyor.
Open Agent Safety Platform sadece bir kum havuzu sunmuyor. Ajan davranışını donanım katmanında da zorluyor; ajanlar izlendiklerini fark edemiyor. Bazı yapay zeka modelleri ve ajanlar izlendiklerini bildikleri halde kurallara uyuyormuş gibi yalan söylüyor.
Donanım izleme kısmı, özel Nvidia işlemcileri olan BlueField-4 veri işleme birimlerinde çalışan tescilli bir özellik olan Nvidia Sentry'ye dayanıyor. Sentry, bu işlemcilerden ajan davranışını sürekli izliyor ve Nvidia'nın sözüne göre ajanları anında durdurabiliyor.
Donanım çözümü açıkça iyi bir fikir olsa da Open Agent Safety Platform'un tamamen açık kaynaklı bir girişim olmadığını gösteriyor. Bu durum Nvidia'nın çözümün her zaman kendi donanımında en iyi şekilde çalışmasını sağlamasına olanak tanıyor. Nvidia, en yeni donanımında iş yükü çalıştıranlar için platformu uygulamanın kolay bir yazılım güncellemesi olduğunu söyledi.
Yine de Arm ve Intel gibi Nvidia rakipleri, kum havuzu OpenShell'in diğer çipler ve donanımlarla çalışacak şekilde değiştirilebilmesi nedeniyle Open Agent Safety Platform'un destekçileri arasında yer aldı. Nvidia tüm yazılım ve donanım fikri için referans tasarımları da paylaşıyor.
Bütün bunlar OpenAI'nin yokluğunu daha da dikkat çekici kılıyor.
Açıkça OpenAI, yapay zeka güvenliğini büyük yatırımcısı Nvidia'dan bağımsızlık fırsatı olarak görüyor ve kendi liderliğini gösterme şansı olarak değerlendiriyor. Bu durum, Hugging Face olayıyla sektörün korkmasına neden olanın OpenAI'nin yapay zeka ajanları olması gerçeğiyle birlikte geçerli.
Örneğin şirket, araştırmaları ve ürünleri için kendi güvenlik önlemlerini geliştiriyor ve keşfettiği en kötü olayı açıklıyor. Bu arada OpenAI'nin bilgi paylaşımı için kendi yapay zeka siber güvenlik konsorsiyumu var; adı Defense Factory. Bu fikri desteklemeye imza atanlar arasında Anthropic, Amazon Web Services ve Google yer alıyor; bunlar Nvidia'nın teknoloji odaklı yaklaşımına imza atmayan isimlerin çoğu.
Ve doğruyu söylemek gerekirse, bir miktar korku iş için iyi. OpenAI siber güvenliği kurumsal bir hizmete dönüştürmekle meşgul; kendi siber odaklı modeli Daybreak'ten, işletmelerin yapay zeka güvenliği uygulamak için işe alabileceği büyüyen bir ortaklık ağına kadar her şey var.
