İşletmeler, yapay zeka ajanlarına açık işletme kuralları içinde dar yetki alanları vermeli, diye yazıyor Flagright Kurucu Ortağı ve CTO'su Madhu G. Nadig, PYMNTS'in yeni e-Kitabı "Ödeme Ajanına Hazır İşletmeyi İnşa Etmek"te.
Ajan tabanlı işletme, yapay zekanın kaç görevi yerine getirebildiğiyle değil, bir kuruluşun yetkiyi ne kadar güvenli bir şekilde devredebildiğiyle tanımlanacak.
Bu ayrım önemli. Yardımcılar (copilot) tavsiye verir; ajanlar (agent) ise harekete geçer. Bir yapay zeka sistemi veri alabildiğinde, kayıtları güncelleyebildiğinde, vakaları çözebildiğinde, müşterilerle iletişim kurabildiğinde veya alt iş akışlarını tetikleyebildiğinde, asıl soru artık modelin zekası değil, karar tasarımıdır: Ajan neye karar verebilir, hangi kanıtları toplamalı, ne zaman üstlerine bildirmeli ve kim sorumlu olacak?
En ölçeklenebilir model, sınırlı özerklik olacak. İşletmeler, ajanlara bir işlevi "halletmek" için açık uçlu izin vermek yerine, belirli işletme kuralları içinde dar yetki alanları tanımlamalı. İyi tasarlanmış bir ajan, onaylı bir senaryoyu uygulamalı, her adımı belgelemeli, vardığı sonucun arkasındaki kanıtları ortaya koymalı ve güven, politika veya risk eşikleri aşıldığında durmalıdır.
Finansal suç uyumluluğu, bunun zaten pratik olduğu bir alan. Ajanlar, rutin izleme ve tarama uyarılarını inceleyebilir, sistemler arasında bilgi toplayabilir, faaliyetleri kurum politikasıyla karşılaştırabilir, raporlar oluşturabilir ve net yanlış pozitifleri çözebilir. İnsan araştırmacılar ise karmaşık ağlara, belirsiz davranışlara, düzenleyici yargılara ve müşteri kararlarına odaklanabilir. Değer, yalnızca daha hızlı analiz değil; tekrarlayan kanıt toplamanın otomatikleştirildiği, önemli yargıların ise bilinçli bir şekilde yapıldığı yeniden tasarlanmış bir işletme modelidir.
Bu durum personel yapısını da değiştiriyor, ancak gelişigüzel işten çıkarmalarla değil. Giriş seviyesi işler, manuel ön incelemeden uzaklaşacak. Ekiplerin, politikaları uygulanabilir iş akışlarına dönüştürebilen, ajan davranışlarını test edebilen, istisnaları izleyebilen ve kontrolleri iyileştirebilen daha fazla kişiye ihtiyacı olacak. Alan uzmanlığı daha değerli hale geliyor çünkü ajanlar, aldıkları talimatların hem kalitesini hem de zayıflığını ölçeklendiriyor.
Bu aynı zamanda ekonomiyi de değiştiriyor. Eskiden inceleyici ekleyerek ölçeklenen işlevler, kapasite artışı olmadan daha yüksek hacimleri kaldırabilecek. Ancak ortaya çıkan tasarruflar, daha iyi araştırma, kontrol tasarımı ve istisna yönetimine aktarılmalı, kurumsal hesap verebilirliği ortadan kaldırmamalı.
Müşteri deneyimi de aynı nedenle iyileşiyor. Düşük riskli vakalar hızlı ve tutarlı bir şekilde çözüldüğünde, meşru müşteriler daha az gecikmeyle karşılaşıyor. Ancak bir ajan, savunulabilirlik pahasına kolaylığı optimize etmemeli. Düzenlemeye tabi veya yüksek etkili iş akışlarında, izlenebilirlik olmadan hız, daha iyi bir deneyim değil, daha büyük bir yükümlülük yaratır.
Çoğu özerklik programı, işletmeler etraflarındaki sistemleri düzeltmeden önce görevleri otomatikleştirdiği için duracak. Parçalanmış veriler, çelişkili prosedürler, belirsiz karar sahipliği ve zayıf denetim izleri, daha yetenekli bir modelle çözülemez. Ajanlar, operasyonel tasarımı güçlendirir. Altta yatan süreç tutarsızsa, özerklik bu tutarsızlığı hızlandırır.
Bu nedenle ajan tabanlı bir işletme inşa etmek dört temel gerektirir: makine tarafından okunabilir politikalar, yönetilen güvenilir veri erişimi, geçmiş senaryolara karşı dağıtım öncesi test ve dağıtım sonrası sürekli gözlem. Her eylem, bir politika sürümüne, model sürümüne, veri kaynağına ve tanımlanmış bir yetki seviyesine atfedilebilir olmalı. İnsan müdahalesi törensel değil, operasyonel olmalı.
Tahminim şu: Önde gelen işletmeler, yapay zeka ilerlemesini dağıtılan ajan sayısıyla ölçmeyi bırakacak. Bunun yerine, açık kontroller, güvenilir kanıtlar ve hesap verebilir yükseltme ile devredilebilen kararların yüzdesini ölçecekler. Kazananlar, maksimum özerklik peşinde koşan şirketler değil, özerkliği yönetilebilir kılanlar olacak.
