Blockchain & Kripto

Cloudflare OS: Açık Kaynaklı Yapay Zeka Ajan Platformunun İçinde Neler Var?

Cloudflare OS: Açık Kaynaklı Yapay Zeka Ajan Platformunun İçinde Neler Var?
Yaz Boyunca Malta'da İngilizce

Cloudflare, her çalışana bir yapay zeka ajanı, çalışma alanı ve küçük uygulamalar geliştirmek için araçlar sunan Cloudflare OS platformunun açık kaynaklı yeni sürümünü duyurdu.

Platform; bir ajan çalışma alanı, "Gatekeeper" (Kapı Koruyucusu) adı verilen güvenlik ve yönetişim katmanı ile Cloudflare Workers olarak çalışan kişisel uygulamaları yayınlama yöntemi bir arada sunuyor.

Şirketin temel vaadi ise tüm sistemi kendi altyapınızda, kendi verilerinize bağlı olarak çalıştırmanız. Böylece ajanlara geniş yetkili API anahtarları vermek zorunda kalmıyorsunuz. Şirket blog yazısına göre, şirket verilerinin maruziyetini en aza indirmek için yapay zeka ajanları hiçbir kaynağa erişim veya paylaşım izni olmadan başlıyor ve bu izinleri Cloudflare OS platformu üzerinden talep ediyor. Sunucu kodu "küresel giden ağ bağlantısı devre dışı" olarak çalışırken, istemci kodu "tarayıcıda korumalı bir alanda çalışıyor". Bu sayede "hiçbiri, sizin açıkça sağladığınız yetenekler dışında internete erişemiyor."

Cloudflare, Cloudflare OS'nin ilk sürümünü kendi iç ihtiyaçları için geliştirdi. CEO Matthew Prince'in blog yazısında belirttiği gibi, şirket mayıs ayında binlerce çalışanının tamamına bu platforma erişim hakkı tanıdı. Mühendislik dışındaki departmanlarda çalışan kişiler bile platformu belge taslakları hazırlamak, sunumlar oluşturmak ve tekrarlayan işleri otomatize etmek için kullanmaya başladı. Şimdi ise Cloudflare, herhangi bir kuruluşun kendi iç sistemlerine bağlayıp dağıtabileceği yeniden inşa edilmiş sürümü açık kaynaklı olarak sunuyor.

Şirket duyurusunda şu ifadelere yer verdi: "Güvenlik, bir uygulama geliştiren veya ajan kullanan her kişinin doğru bir şekilde uygulaması gereken bir şey değil, platformun ayrılmaz bir parçası olmak zorundaydı." İşte asıl ürün de tam olarak bu güvenlik altyapısı.

Peki sistemin içinde tam olarak neler var? Cloudflare OS üç ana bileşenden oluşuyor. İlki, her sohbeti şirketinizin özel bağlamına ve yetkinliklerine dayandıran, ajanın kod yazıp çalıştırabileceği izole bir çalışma ortamı sunan ajan çalışma alanı. İkincisi, bu yeni sürümle gelen ve ajanlarla şirketin kayıt sistemleri arasında konumlanan güvenlik ve yönetişim çerçevesi. Sonuncusu ise bir çalışma alanının sohbeti bir belgeye, iş akışına veya küçük bir tam yığın (full-stack) uygulamaya dönüştürmesini sağlayan kişisel ve değiştirilebilir uygulamalar katmanı.

Cloudflare'nin Bilgi İşlem Direktörü (CIO) Sam Rhea, şirketin bu ajan odaklı deneyde güvenliği nasıl ele aldığını detaylandırdı. Rhea'ya göre, insanlara ve ajanlara API anahtarları dağıtmak tehlikeli ve ölçeklenebilir bir yöntem değil; çünkü bu anahtarlar kısıtlanması veya denetlenmesi zor, geniş ve uzun ömürlü erişim hakları tanıyor. Bunun yerine ajanlar hiçbir erişim hakkıyla başlamıyor. Belirli bir kaynak talep ettiklerinde ise devreye "Gatekeeper" (Kapı Koruyucusu) adı verilen, hizmete özel bir Cloudflare Worker giriyor ve arabuluculuk yapıyor. Böylece kimlik bilgileri hiçbir zaman ajana veya onun koduna temas etmiyor.

Bu model, tek başına Model Context Protocol'den (MCP) çok daha temiz bir yaklaşım sunuyor. MCP bir ajana hangi araçları çağırabileceğini söyler, ancak arka planda hangi kaynakları gerçekten gördüğünü belirtmez. Cloudflare OS ise her gözlemi kayıt altına alıyor ve bir kişi çalışma alanını açmadan veya ajanın ürettiği çıktıyı görüntülemeden önce kişinin erişim yetkilerini kontrol ediyor.

Bir ajanın oluşturduğu her uygulama, gerçek bir Cloudflare Worker olarak çalışıyor. Şirket bu proje için geliştirdiği Dynamic Workers ve Durable Object Facets altyapısını kullanıyor ve istemciyle açık kaynaklı nesne yetenekli RPC sistemi olan Cap'n Web üzerinden haberleşiyor. İlgili blog yazısında şu not düşülüyor: "Kendiniz bir işi yapmak için bir araç geliştirebiliyorsanız, ajanlar siz oradayken değilken de o işi yapmak için sizin aracınızı kullanabilir."

Cloudflare OS, hemen hemen her yapay zeka modeliyle çalışabiliyor ve kuruluşların iş için en uygun modeli seçmesine olanak tanıyor. Rhea, ayrı bir blog yazısında "Her kullanıcının en son sınır modelinin maksimum düşünme moduna erişmesi gerekmez. Ekip üyelerinin her saat e-posta gelen kutularını özetlemek için 20 dolar harcamasına da ihtiyacımız yok." dedi. Şirket ayrıca platformu, belirli iş akışları için beceri dosyalarının çalıştırılmasının her seferinde "açgözlü token çıkarımı oturumu" gerektirmek yerine, yalnızca gerektiğinde yapay zeka çıkarımı kullanılarak daha deterministik adımlara dayanmasını sağlayacak şekilde iyileştirdi.

Platform ayrıca yöneticilerin çalışanların yapay zeka çıkarım harcamalarını izlemesine ve bütçeler ile hız sınırları belirlemesine olanak tanıyor. Bu, şirketlerin ve bireylerin yapay zeka model kullanım bütçelerini çok kolay tüketebildiği bir dönemde kritik bir özellik. Ancak bu, kurumsal liderlerin çalışanları yapay zeka araçlarını kullanmaya zorlamak için "tokenmaxxing"i teşvik etmesi durumunda daha sorgulanabilir uygulamaları durdurmayacak.

Bu oldukça güçlü bir vizyon, ancak bazı kullanıcılar hala şüpheyle yaklaşabilir. Cloudflare OS bir Cloudflare ürünü olduğu için, size sunduğu ajanlar, uygulamalar ve yönetişim araçlarının tamamı Cloudflare'in uç (edge) ağında çalışıyor. Açık kaynak ifadesindeki "açık" kelimesi size kodu sunuyor, ancak çalışma zamanı (runtime) hala merkezi bir varlık tarafından kontrol ediliyor.

Gün Batımı, Kokteyl, İngilizce

Kaynak: Decrypt