Bir hafta önce Nvidia öncülüğünde kurulan ve kısa sürede 120'den fazla şirketin katılımıyla büyüyen Açık Güvenli Yapay Zeka İttifakı (OSAA), 'Paylaşılan Yapay Zeka Bulguları Değişimi' anlamına gelen SAFE adında sevimli bir çalışma grubu oluşturdu. Grup, kamuoyunun görüşüne açık öneriler sunmaya başladı bile. İttifak üyesi olan Linux Vakfı da bu önerilerin yönetimini üstlendi.
Bu öneriler, siber güvenlik dünyasının kalbinin attığı Las Vegas'taki Black Hat konferansında bir araya gelen üyeler tarafından geliştirildi.
Şimdilik öneriler çok çığır açıcı değil. Yapay zeka siber güvenlik olaylarının gizli bir şekilde nasıl raporlanacağı, etkilenenlerin nasıl uyarılacağı ve herkesin ders çıkarabilmesi için suçlayıcı olmayan bir analizin nasıl yapılacağı gibi konuları kapsıyor.
Aynı zamanda OSAA üyeleri, işe yarayabilecek açık kaynak teknolojilerini kataloglayıp katkıda bulunuyor. Bu tür endüstri organizasyonlarında sıkça görüldüğü gibi, tüm bu çabalar zamanla işletmelerin yapay zeka ajanlarını güvence altına almasına veya Hugging Face'e sızan OpenAI modeli gibi haydut yapay zeka saldırganlarına karşı savunma yapmasına yarayacak açık kaynak bir araç setine dönüşebilir. Hugging Face de bu grubun bir üyesi.
Örneğin Nvidia, açık modeller ailesinin yanı sıra Garak adında açık kaynak bir LLM güvenlik açığı tarayıcısı sunduğunu belirtti. Okta ajan kimlik teknolojisi üzerinde çalışırken, Red Hat ajan yönetişimi konusunda ilerliyor. Amazon ise hem açık bir ajan oluşturma aracı olan Strands Agents'ı hem de Cedar adlı bir yetkilendirme dilini katkı olarak sundu. Bunun gibi daha birçok örnek var.
Grubun üyeleri arasında Adobe, BlackRock, Cisco, Intel, Microsoft ve Visa gibi büyük isimler yer alıyor. Ancak Anthropic, OpenAI ve Google gibi dikkat çekici eksiklikler de bulunuyor.
İlginç bir şekilde, hem OpenAI hem de Google, bu grubun oluşmasına yol açan açık mektubu imzalamıştı. Geçtiğimiz hafta yayınlanan ve Beyaz Saray'ı açık kaynak yapay zeka çalışmalarını desteklemeye çağıran mektup, Nvidia öncülüğünde hazırlanmış ve 200'den fazla teknoloji şirketi tarafından imzalanmıştı.
Anthropic'in mektuba ve endüstri grubuna mesafeli duruşu sürpriz olmasa da, hem OpenAI hem de Google kendi açık ağırlıklı modellerini yayınladı. Google genel olarak açık kaynağın büyük bir destekçisi olarak biliniyor. Grubun ivme kazanmasıyla bu şirketlerin de katılıp katılmayacağını göreceğiz.
Bu arada grup, yapay zeka hızında çalışıyor. Trump yönetiminin Çin yapımı açık ağırlıklı modelleri yasaklamayı değerlendirdiği haberinin ortaya çıkmasının üzerinden sadece birkaç hafta geçti. Bu durum sektörde endişeye yol açmış ve söz konusu açık mektubun yazılmasına neden olmuştu.
ABD'deki Çin yapımı açık ağırlıklı modellerin akıbeti ne olursa olsun, bu güçlü grubun hızlı hareket etmesi ABD açık yapay zeka ekosistemi için olumlu bir gelişme. ABD merkezli açık ağırlıklı yapay zeka laboratuvarı Arcee'nin kurucu ortağı ve CTO'su gibi ekosistemin bazı üyeleri, Çin yapay zeka laboratuvarlarının ABD'ye yönelttiği gerçek veya hayali tehditlerle başa çıkmanın nihai yolunun bu olduğunu söylüyor.
Endüstri grubu mektubunda, 'Açıklık, yapay zeka güvenliği ve emniyeti için en önemli yollardan biri olabilir' ifadelerine yer verdi. Görünen o ki, grup hem çabalarını hem de teknolojilerini hemen sahaya sürmeye hazır.
