Yapay zeka ajanları, yeni bir kimlik türü olarak ortaya çıkıyor ve çoğu kuruluş buna hazır değil. BlueFlag Security'nin Strateji Başkan Yardımcısı Mora Gozani, yapay zeka ajanlarının hizmet hesapları veya API tokenleri gibi ele alınması gerektiğini düşünüyor, ancak bu yaklaşımın geride kaldığını belirtiyor. Yapay zeka ajanları, temel olarak farklı bir yaklaşım gerektiriyor.
Yapay zeka ajanları, diğer non-insan kimliklerden farklı olarak, bir hedef verildiğinde nasıl ulaşacaklarını kendileri bulurlar, kararlar alırlar ve adapte olurlar. Ayrıca, insanların uyuduğu saatlerde bile çalışmaya devam ederler ve depolara erişebilir, boru hatlarını tetikleyebilir, çekme isteklerini açabilir ve bazı durumlarda kodları birleştirebilir ve dağıtabilirler. Bu, hizmet hesapları sorunundan farklı bir risk türüdür ve temel olarak farklı bir yönetim yaklaşımı gerektirir.
Yapay zeka ajanları, insan veya non-insan geliştirici kimlikleri gibi sağlanan, izlenen, yönetilen ve devre dışı bırakılan kimliklerdir. Ancak, mevcut yönetim modellerinin çoğunu kıran bir hız ve ölçekte çalışırlar. Bu, onları farklı şekilde ele almak için bir neden değil, daha iyi yönetmek için bir nedendir. Yapay zeka ajanları, süper insan yeteneklerine sahip non-insan kimliklerdir ve bu, insan ve makine için yapılan yönetim yaklaşımlarının ötesine geçen bir yönetim yaklaşımı gerektirir.
Araştırmalar, her kuruluşun ortalama 22 ayrı yapay zeka ajanı projesi olduğunu gösteriyor ve bu, birçok soruyu cevapsız bırakıyor. Yapay zeka ajanları, geliştirme ortamında en çok gömülü, en otonom ve en az yönetilen alanlardadır. Bu, konuşmak istediğimiz konu budur. Gerçekten neler olduğu hakkında net olmalıyız, çünkü iki farklı yapay zeka türü vardır ve bunlar farklı risk profillerine sahiptir.
Çoğu kuruluş, kod asistanı aşamasındadır ve GitHub Copilot, Cursor ve Claude gibi araçlar geliştiricilerin daha hızlı kod yazmasına, daha iyi kod önermesine ve sorunları daha erken yakalamasına yardımcı olur. Ancak, otonom ajanlar farklı bir hikayedir. Bu ajanlar kod yazar, testleri çalıştırır, çekme isteklerini açar, birleştirmeleri onaylar ve boru hatlarını tetikleyebilir,sometimes tek bir insan tarafından gözden geçirilmeden. Bu, güvenlik ve yönetim ekiplerinin hazır olmadığı bir alandır.
Güvenlik ekipleri, savunmasız kodun geçmesine karşı endişe duyuyor, ancak çoğu kuruluşun cevaplayamadığı sorular daha temel: Hangi yapay zeka ajanı kodu tanıttı? Ne tür erişimi vardı? İnsanlar bu döngüde yer aldı mı? Kod, semptomdur, yönetilmeyen yapay zeka kimliği ise nedenidir. Nedeni bilmeden, sadece semptomları düzeltmeye devam edersiniz.
Omdia'nın Thiemann, yapay zeka ajanı kimliği güvenliği için dört temel yetenek olduğunu belirtiyor ve bunlar, geliştirme ortamında mücadele eden kuruluşlarla doğrudan ilgili. Herhangi bir onaylamadan bağımsız olarak ortamınızda çalışan tüm yapay zeka ajanlarını bilmelisiniz. Bu ajanların neye erişebileceğini ve neye eriştiğini bilmelisiniz. Davranış standartlarını bilmelisiniz, böylece normalin ne olduğunu bilir ve bir şeyin yanlış gittiğini görebilirsiniz. Yaşam döngüsü kontrollerine ihtiyacınız vardır, böylece bir proje bittiğinde, erişim de sona ersin. Bunların hiçbiri yeni düşünce değildir, yıllardır insan kimliklerine bunları uyguluyoruz. Ancak, geliştirme ortamındaki yapay zeka ajanları hala yeni bir alandır ve yönetim çerçeveleri hala yetişmektedir.
Bu, acil bir durum çünkü yapay zeka alanında geliştirilen ve yayınlanan yetenekler, çoğu güvenlik ve mühendislik ekibinin absorbe edebileceğinden daha hızlı ilerliyor. Tüm kod tabanları boyunca makine hızında güvenlik açıklarını bulabilen araçlar, en büyük kuruluşların elinde zaten mevcut. Bu, gelecekteki bir senaryo değil, bugünün gerçekliği. Sorulması gereken soru: Geliştirme ortamınızda bugün bir şey yanlış giderse (yetkilendirilmeyen bir değişiklik, bir yapay zeka ajanı tarafından tanıtılan bir güvenlik açığı veya onay olmadan tetiklenen bir boru hattı), tam olarak neler olduğunu, hangi kimliğin sorumlu olduğunu ve bir insanın dahil olup olmadığını yeniden inşa edebiliyor musunuz? Bu, hipotetik bir senaryo değil, denetçiler ve düzenleyiciler already.
