Satış temsilcisi bir yapay zeka ajanından müşteri fiyatlandırması ister ve ajan veriyi birden fazla kaynaktan çeker: kısıtlı fiyatlandırma sistemleri, iç iletişimler ve arşivlenmiş teklifler. Çıktı ajana doğru görünür, bu yüzden ikinci bir ajan veriyi kullanarak satış temsilcisi için teklifi taslaklar. Hiçbir devir insan tarafından kontrol edilmez. Teklifin onaylanmamış, gizli ve hassas bilgiler içerdiği fark edildiğinde, sorunlu verinin iş akışına nereden girdiği veya sistemler, dosyalar ve ajanlar arasında nasıl yayıldığı kimse tarafından izlenemez.
Bu senaryo, yapay zeka yönetişiminin hızla ve dinamik olarak evrimleşmesi gerektiğini gösteriyor. Daha fazla şirket ajan tabanlı yapay zekayı günlük iş akışlarında kullanmaya başladıkça, yalnızca statik dosyaları değil, sürekli olarak alınan, kopyalanan, özetlenen, dönüştürülen, yeniden kullanılan ve yeni biçimlerde yeniden dağıtılan hareketli ve parçalı veriyi yönetmeleri gerektiğini fark ediyor. Kısacası yapay zeka güvenliği bir araç sorunu değil; bir veri görünürlüğü sorunudur.
Buna göre yalnızca uygulamalar, sistemler, ağlar veya uç noktalar etrafında kurulan geleneksel güvenlik yaklaşımları artık yeterli değil. Ajan tabanlı yapay zekayı ölçekli güvence altına almak, verinin nasıl hareket ettiğinin anlaşılmasını gerektirir. Takımlar bu nedenle yönetişimi, hesap verebilirliği ve insan, ajan ve karma iş akışları arasındaki güveni etkin biçimde yönetebilmek için veri soy kütüğü oluşturmalıdır.
Bu içerik, MIT Technology Review'in özel içerik birimi Insights tarafından, editoryal kadrosu tarafından değil, üretilmiştir. Araştırma ve yazım insan gücüyle yapılmış olup, kullanılmış olabilecek yapay zeka araçları yalnızca insan denetimi altında üretim süreçleriyle sınırlı kalmıştır.
