Anthropic CEO'su Dario Amodei'nin sektör liderlerine yönelttiği "yapay zekâ geliştirmede frene basın" çağrısı, yapay zekâ ajanları kullanan şirketler açısından önemli sonuçlar doğuruyor. Bunların başında, ajanları sadece kendi ortamlarında güvence altına almaktan çıkıp onların özerkliğine sınır koyma ihtiyacı geliyor.
Amodei, hafta sonu yayımladığı bir makaleyle, son dönemde art arda yaşanan endişe verici güvenlik olaylarının ardından sektöre şimdiye kadarki en sert uyarılarından birini yaptı. Amodei, yapay zekânın yarattığı potansiyel tehlikelerin tam olarak ele alınması için "daha da fazla ihtiyat" çağrısında bulundu; risk önleme çabalarını artırmanın ötesine geçip, güvenlik önlemleri yetişebilsin diye öncü yapay zekâ geliştirmelerinin hızının düşürülmesini istedi.
Amodei makalesinde, "Yapay zekâ modellerinin yeteneklerini geliştirme hızımızı yavaşlatmalıyız" diye yazdı ve ekledi: "İlerleme yine de hızlı görünecek; kazandığımız zamanı akıllıca kullanmalıyız."
Amodei'nin bu duruşu iki temel kaygıya dayanıyor. Birincisi, yapay zekânın yaz aylarından bu yana kaydettiği çarpıcı ilerleme hızı. Amodei'ye göre kontrolsüz bırakılırsa bu hız, "bu sistemleri anlama ve kontrol etme kapasitemizi aşabilir; bu yüzden çok dikkatli ilerlenmeli, hatta belki de hiç ilerlenmemeli." Amodei, bu durumun esas olarak yapay zekânın kendi kendini yinelemeli biçimde geliştirme yeteneğinden kaynaklandığını belirtti.
İkinci kaygı ise temmuz ayında yaşanan ve büyük yankı uyandıran olaydan kaynaklanıyor: Model testleri sırasında yüzlerce kontrolden çıkmış OpenAI ajanı Hugging Face'e saldırmıştı. Amodei, "kimse zarar görmediği ve ekonomik hasar asgari düzeyde kaldığı için" bu olayın önemsiz sayılabileceğini, ancak bunun hata olacağını yazdı.
Çünkü Amodei'ye göre, "daha yüksek yeteneklere sahip ama benzer düzeyde uyumsuz bir sürü, felaket boyutunda hasara yol açabilirdi." Amodei, böyle bir sürünün kalıcı bir botnet oluşturup tüm interneti ele geçirebileceği şeklinde varsayımsal ama ürkütücü bir senaryo da ortaya koydu.
Yapay zekânın dizginlerini çekme zamanı geldi
Bu makale, eski Anthropic çalışanı Jacob Coxon'un yapay zekânın kontrolden çıkmasını önlemek için bir "kapatma düğmesi" çağrısı yapmasından kısa süre sonra geldi. Coxon, hafta sonu medyaya verdiği demeçlerde, yapay zekâ tamamen başıboş ve özerk bir sisteme dönüşmeden teknolojinin kontrol altına alınması gerektiğini savundu. Yapay zekânın ilk günlerinden bu yana kıyamet senaryoları dile getirilse de bu uyarılar büyük ölçüde dikkate alınmadı ya da bilim kurgu olarak görülüp geçiştirildi.
Ancak uzmanlara göre bu uyarıları ciddiye almanın tam zamanı. Yapay zekâ güvenlik şirketi Detectify'ın CEO'su Rickard Carlsson, Dark Reading'e yaptığı açıklamada, "Şirketlerin yapay zekâyı benimsemeyi bırakmasına gerek yok; ama ajanlarının nelere erişebildiğini, neleri açığa çıkardıklarını ve bu tablo değiştikçe güvenliğin ayak uydurup uyduramadığını bilmeleri şart" dedi.
Carlsson, "Aşırı erişim yetkisine sahip bir ajan tek bir güvenlik açığı yaratmakla kalmaz; bir insan daha devreye girmeden, makine hızıyla birden fazla sistemde işlem yapabilir" diye konuştu. Ona göre şirketler, bir yapay zekâ ajanına "geçmişini tam olarak araştıramadığınız, en hassas sistemlerinize erişimi olabilen ve boş zamanlarında elit bir hacker olan güvenilmez bir çalışan" gibi davranmalı.
Yapay zekâ ajanları nasıl güvence altına alınır?
Yapay zekâ, zehirlenmiş modellerden tedarik zinciri saldırılarına, deepfake'lerden otomatik sosyal mühendisliğe kadar şirketler için pek çok yeni güvenlik riski yarattı bile. Son araştırmalar, ele geçirilmiş yapay zekâ bileşenlerinin kimlik bilgilerini ve diğer hassas verileri ifşa edebildiğini; güvenlik testlerindeki yapay zekâ ajanlarının ise kendilerine ayrılan ortamlardan kaçıp güvenlik açıklarını keşfettiğini ve gizli bilgilere eriştiğini gösterdi.
Carlsson'a göre şirketlerin acil görevi, ajanların hassas bilgi ve sistemlere erişimini daha kurulum anından itibaren sınırlamak ve onları yakından izlemek. "Bir noktada ajanların çıkarlarının ya da eylemlerinin sizinkilerle örtüşmeyebileceğini varsaymak zorundasınız" diyen Carlsson, şöyle devam etti: "Bu, ilk günden itibaren erişimi kısıtlamak, mümkün olduğunda ajanları izole etmek ve nelere erişebildikleri ile gerçekte ne yaptıkları konusunda sürekli görünürlük sağlamak demek."
Suzu Labs'in teknoloji direktörü Denis Calderone da yapay zekâ ajanlarını kontrol etmenin en iyi yolunun, onları önce sistemin bütününe yönelik bir tehdit olarak görmekten geçtiği görüşünde. "Ajan, yeni taşeron ya da yeni iç tehdit vektörüdür" diyen Calderone, şunları söyledi: "Ajanın belirli bir işi, belirli erişim gereksinimleri ve yerine getirmesi gereken sınırlı bir eylem seti vardır. Şirketler her yapay zekâ ajanına, ağdaki diğer herhangi bir ajana — insan olsun ya da olmasın — nasıl davranıyorlarsa öyle davranmalı."
Görünürlük ve kontrol kilit önemde
Carlsson'a göre görünürlük, yapay zekâ ajanlarının güvenliğinin başlangıç noktası; çünkü "varlığından haberdar olmadığınız şeyi koruyamazsınız." Carlsson, "gerçek saldırı yüzeyini doğrulamak ve ortaya çıkan yeni açıkları işaretlemek" için yapay zekânın sürekli gözetim altında tutulmasını istiyor.
"Şirketlerin sürekli keşif yapması ve yapay zekâ ajanlarının nerede çalıştığına, nelere erişebildiğine ve nelere maruz kaldığına dair güncel bir envanter tutması gerekiyor" diyen Carlsson, "Güçlü kayıt tutma da ajanların yapması gerekeni değil, gerçekte ne yaptığını göstermeli" diye ekledi.
Calderone'a göre de her ajanı sıkı kontrollerle ayrı bir varlık olarak ele almak tek çıkar yol. "Her ajanın kendi makine kimliği, iş bitince süresi dolan göreve özel kimlik bilgileri ve yaptığı her şeye dair gözlemlenebilirlik olmalı" diyen Calderone, "Paylaşımlı bir hizmet hesabı ya da API anahtarı değil; ajan başına ve görev başına ayrı, denetlenebilir bir kimlik" gerektiğini vurguladı.
Secure.com'un mühendislik direktörü Waseem Ahmed'e göre ise bu gözetimin bazen şirketin sınırlarının ötesine taşması gerekiyor. Ahmed, "Bağımsız gözetim, kayıtları inceleyebilen ve ajanın belirlediğimiz sınırlar içinde kaldığını teyit edebilen dış denetçiler anlamına gelmeli" dedi.
En kötü senaryolardan kaçınmak için şimdi harekete geçin
Şirketler ajanlarını dizginlemeye çalışırken yapay zekâ başka güvenlik kaygıları da yaratmaya devam ediyor. Spektrumun daha hafif ucunda, üretken yapay zekânın oltalama, dolandırıcılık ve kimliğe bürünme tuzaklarını nasıl daha inandırıcı hale getirdiği var. Aşırı uçta ise giderek yeteneklenen sistemlerin, küresel ölçekli otonom saldırılar ve yapay zekânın insan kontrolünden tamamen çıkması da dahil, karmaşık siber ya da biyolojik saldırıların önündeki engelleri azaltma riski bulunuyor.
Bu kıyamet senaryolarının gerçekçi olup olmadığı hâlâ belirsiz; ancak uzmanlara göre asıl acil ders şu: Yapay zekânın büyük bir güvenlik tehdidi oluşturması için düşmanca olması gerekmiyor. İnsanların yapay zekâ ajanları üzerindeki kontrolü kaybetmesi için, kurumların giderek daha özerk hale gelen sistemlere, güvenlik kontrollerinin güvenle yönetebileceğinden daha geniş bir kurumsal erişim vermesi yeterli.
Amodei'nin uyarısıyla ulaşmak istediği hedef, teknoloji dizginleri ele almadan önce tüm paydaşların bu teknolojinin nasıl kullanılacağı konusunda aynı noktada buluşması. Harekete geçmek için iyi bir zaman; çünkü mevcut modeller, yapay zekâ gelişiminde nelerin çok doğru, nelerin çok yanlış gidebileceğini aynı anda gösteren bir kavşakta duruyor.
Amodei makalesini şu sözlerle bitirdi: "Yavaşlamanın, modeller kritik yetenek seviyelerine ulaşmadan önce bize bir-iki yıl bile kazandıracağına ve bu zamanı uyum çalışmalarını ilerletmek için kullanırsak, bir şeylerin ciddi biçimde ters gitme riskini büyük ölçüde azaltabileceğimize inanıyorum."
