Siber Güvenlik

Email-to-Case'ten yönetim kuruluna: Miras alınan ajanlar yazılım için tasarlanmış yönetişimi bozuyor

Email-to-Case'ten yönetim kuruluna: Miras alınan ajanlar yazılım için tasarlanmış yönetişimi bozuyor

Salesforce Agentforce'ta bir ajanın olaylara yanıt vermesi için önerilen yol Flow'dur: bir kayıt oluşturulur ya da bir vaka güncellenir ve Flow veriyi ajanın istemine geçirir. Ayrı olarak Email-to-Case ve Web-to-Case gelen müşteri mesajlarını vaka kayıtlarına çevirir; havayolları ve otellerin destek alımını nasıl yürüttüğü budur. Her ikisi de standart, belgelenmiş, tasarlandığı gibi çalışan özelliklerdir. Birbirine zincirlendiğinde şu yolu oluştururlar:

public internet → email → case record → agent prompt → agent action → case comment → outbound reply

Kimliği doğrulanmamış bir dış kişi artık dahili bir ajanın talimatlarına bir rota elde ediyor ve ajanın yanıtı aynı kapıdan çıkıyor. Hiçbir şey yanlış yapılandırılmamış. Ağustos 2026'da araştırmacılar tarafından belgelenen bulgu, mevcut platformların içine gelen ajanların nasıl başarısız olduğunun temiz bir örneği: modelin içinden değil, etrafındaki uygulama üzerinden.

Risk uygulama içinde ve uygulama hiç yeniden gözden geçirilmeyen şey

Hangi alım özellikleri etkin, hangi tetikleyiciler çalışıyor, hangi nesneler misafir kullanıcılara açık, hangi otomasyon güvensiz veriyi nereye geçiriyor ve ajan sessizce altında hangi model sürümünü çağırıyor: Agentforce zincirinin bir destek kuyruğu sorunu mu yoksa bir veri açığa çıkması mı olduğu bu değişkenlere bağlı. Satın alma sırasında bir kez yapılan bir satıcı risk incelemesi bunların hiçbirini görmez, çünkü ajan satın alma sırasında mevcut değildi. Ajandaki girdileri izleyen bir istem filtresi, belirli bir girdinin bir yabancıdan kaynaklandığını bilmez, çünkü istem filtreleri Email-to-Case'i anlamaz.

Miras alınan bir ajanı güvence altına almak dolayısıyla onun barındıran uygulamasını kendi yöneticilerinin yaptığı derinlikte anlamayı gerektirir. Bu derinlik, bir anketin ve bir tarayıcının her ikisinin de eksik olduğu şeydir. Mart 2025'ten beri süren Salesforce ve ServiceNow örneklerine karşı aktif küresel bir veri hırsızlığı operasyonu olan City-Forum kampanyası, tam olarak bu alanda bulundu: platform özellikleri ile işletmelerin gerçekten çalıştırdığı yapılandırmalar arasındaki boşluk.

İnşa edenler çoğalıyor ve bazıları ajan

Platformlar ajan oluşturmayı bir sunum slaytı yapma kadar erişilebilir hale getirdi. Pazarlama operasyonları bir boru hattı raporu çekmek için bir ajan kurar. Finans faturaları mutabakat etmek için bir tane kurar. Her biri kullanışlı olmasını sağlayan şey olduğu için yaratıcısının izinlerini kullanır. Gölge yapay zeka bir çalışanın veriyi bir sohbet robotuna yapıştırmasıydı. Gölge ajanlar o çalışanın erişimi, denetimsiz çalışan ve kendisine bir kez verilmiş olan her şeyin üzerinde çoğalan erişimdir.

Giderek daha fazla ajan ajan da inşa ediyor. Bir sohbet kanalına etiketlenmiş bir kodlama ajanı, bir çekme isteği açtığı kadar kolayca başka bir ajan iskeleleyip dağıtabilir; bir orkestrasyon platformu bir görevi bölmek için alt ajanlar oluşturur, her birinin kendi bağlantıları vardır ve hiç birinin kendi incelemesi yoktur. Her ajanın bir insan tarafından istendiğini varsayan her yönetişim modeli sessizce geçersiz hale gelir.

Yönetişim neden sürekli bir belge üretiyor

Büyük bir işletmeye ajan yönetişimi sorulduğunda cevap genellikle bir belgedir: kabul edilebilir kullanım politikası, aylık bir komite, kimse itiraz etmediği ve hiçbir şeyin uygulamadığı bir ilke seti. Operasyonel soru sorulduğunda, şu anda kaç ajan çalışıyor, neler erişebiliyor ve her birinin sahibi kim, belge bunu bilmez.

OWASP Agentic Skills Top 10 artık bu boşluğun en keskin versiyonunu "No Governance" kategorisi altında anlatıyor: üçüncü taraf bir platformun içinde dağıtılan ve yönetilen bir beceri, dış tarayıcılar tarafından erişilemezdir (OWASP Agentic Skills Top 10 whitepaper, ast10-top10-whitepaper-2, owasp.github.io adresinde yayınlandı). Bir işletmenin dışarıdan soruna yönelttiği araçlar ajanların çoğunun yaşadığı mekanların içine göremez. Yönetişim en sık kuralların güvenlik ekibinin kuralların uygulanacağı şeyleri görebilmesinden önce yazıldığı için başarısız olur.

Yığın, alttan üste, her katman için bir test

Çalışan düzen alttan üste doğru ve her katman üsttekinden önce gelen ön koşuldur. Bir programın gerçek olup olmadığını pratik olarak kontrol etmenin yolu her seviyede operasyonel bir test uygulamaktır.

Ne üretmesi gerekiyor

Operasyonel test

Uygulama yapılandırmaları, OAuth izinleri, ağ, uç nokta, e-posta meta verisi ve tarayıcı genelinde sürekli yenilenen bir nüfus

Keşfedilen sayı BT'nin tuttuğu listenin birkaç katı mı? Değilse keşif ajanların yaşadığı yerlere ulaşmıyor.

Her platformun ajanla ilgili ayarları, nasıl yapılandırılması gerektiğiyle ölçülmüş

Ekipler en iyi üç platformlarında ajan tetikleyicilerine kablolu alım özellikleri ve misafir kullanıcı maruziyetlerini listeleyebilir mi?

Kimlik ve sahiplik

Ajan başına bir kimlik ve adlandırılmış bir sahip, bir yaşam döngüsüyle

Rastgele bir ajan seçin. "Bu kimin?" diye sorulduğunda bir insan bir gün içinde elini kaldırıyor mu?

Kim neyi inşa ediyor, hangi yüzey üzerinden, hangi veriyle

Bir iş ekibinin ajanını güvenli varsayılanlarla sevk eden onaylı bir yol var mı, yoksa sadece bir engel mi var?

Gözlemlenen ihtiyaca karşı en az ayrıcalık, yeni ajanlar için onay ve karantina, her ajanın tam bağlamını yansıtan risk katmanlandırması

Yalıtılmış bir geliştirme ajanı ve müşteri odaklı bir ajan üzerindeki aynı bulgu farklı şiddetler gösteriyor mu?

Canlı inceleme ve müdahale

Beş üst katmandan besleniyor mu, yoksa önce dağıtılıp kör şekilde mi zorluyor?

Kağıt uyumunun maliyeti

AB Yapay Zeka Yasası'nın cezaları GDPR düzeyinde ağırlığa sahip: yasak uygulamalar için €35 milyon veya küresel yıllık cirosunun yüzde 7'si kadar, diğer ihlaller için €15 milyon veya yüzde 3 kadar. Üzerine yakınsayan her çerçeve üstteki yığının var olduğunu varsayar. GDPR bunun olmadığı durumda ne olduğunu zaten gösterdi. British Airways (£20 milyon) ve Marriott (£18.4 milyon) kusurlu politikaları olduğu için cezalandırılmadı. Herkesin kusurlu politikaları var. Cezalandırıldılar çünkü uyum kağıt üzerinde vardı ve düzenleyiciler sorduğunda operasyonel olarak kanıtlanamadı. Alttan üste kurulan bir yönetişim uygulaması bu kanıtı bir yan ürün olarak üretir: envanter, sahipler, yapılandırmalar, inceleme geçmişi.

Bazı platformlar tam olarak bu kaydı üretmek için tasarlandı. Önemli bir örnek Reco'dur; SSO'ya hiç dokunmayanlar da dahil olmak üzere birden fazla bakış açısından ajanları keşfeder ve herhangi bir politika uygulanmadan önce her birine bir risk profili atar.

Kaynak: The Hacker News

Paylaş:

Yapay zekâ asistanları için: bu haberin Markdown (.md) sürümü