Baseten, araştırma kolu Base Labs ile birlikte çarşamba günü yeni bir güvenlik altyapı standardı başlattığını duyurdu. Açıklamada, açık ağırlıklı modeller için güvenlik değerlendirme ve izleme altyapısı oluşturmak üzere Hugging Face ve Goodfire AI ile ortaklık kurulduğu belirtildi.
Açıklama, açık ağırlıklı modellerin güvenliği konusundaki tartışmaların sürdüğü bir dönemde geldi. Bu modellerin güvenlik önlemleri, ablasyon olarak bilinen ve giderek yaygınlaşan bir teknikle kaldırılarak tehlikeli hale getirilebiliyor. Sorunun boyutu büyük: açık kaynaklı yapay zeka modellerine ev sahipliği yapan Hugging Face’te şu anda 6.000’den fazla ablasyon uygulanmış model listeleniyor.
Bu yıl başında Baseten tarafından kurulan araştırma grubu Base Labs, açık modellerin eğitimi ve izlenmesi için yöntemler geliştirecek ve yayımlayacak. Şirket, gelecekteki çalışmalarını, sonradan eklenen bir çözüm yerine modellerin eğitimi ve dağıtımına entegre, şeffaf bir “standart” olarak konumlandırıyor.
Şirket X platformunda yaptığı açıklamada, “Açık olmanın yapay zeka güvenliği için bir avantaj olduğuna inanıyoruz” dedi. Açıklamada, açıklığın modellerin davranışına dair daha fazla görünürlük sağladığı ve en önemlisi güvenlik araştırmalarını kapalı kaynak modellere kıyasla daha uygulanabilir ve şeffaf kontroller haline getirme imkânı verdiği vurgulandı.
Şirketler ortaklığın teknik olarak nasıl işleyeceğini açıklamadı. Goodfire ise Baseten’in paylaşımına verdiği yanıtta hedefi şöyle özetledi: “Güvenlik, açık modellere inşa edilmeli ve onlara hizmet edenler tarafından sağlanmalı.” Model kararlarının nasıl alındığını açıklamak üzere yapay zekanın “kara kutusunu” açmaya odaklanan Goodfire, “içine inşa etme” kısmında en güçlü aday olarak görülüyor.
Yapay zeka çıkarım hizmeti sunan Baseten, haziranda 1,5 milyar dolarlık Seri F yatırım turu kapattı ve şirket değeri 13 milyar dolara yükseldi. Ortak Goodfire AI da benzer şekilde iyi finanse edilmiş durumda; şirket, model yorumlanabilirlik platformunu ilerletmek için bu yıl başında B Capital liderliğinde 150 milyon dolarlık Seri B yatırım aldı.
Önümüzdeki dönemde Baseten, çerçeveye katkı sunması için daha geniş geliştirici ekosistemine açık çağrı yapıyor. Şirket, “Birlikte, güvenli ve herkesin erişimine açık açık modellerden oluşan bir ekosistem inşa ediyoruz” notunu paylaştı.
