The Prompt Economy'de bu hafta, yapay zeka ajanları hayata geçiyor. Büyük şirketler adına tedarikçi sözleşmeleri müzakere ediyor, satın alma siparişlerini işliyor ve anlaşmaları kapatıyorlar. Satın alma departmanları, kurumsal yapay zeka benimsenmesinde öncülük ediyor. Ancak ajanların masada yaptıklarını yönetecek yönetişim çerçeveleri henüz bu hıza yetişebilmiş değil.
Örneğin Walmart, Maersk ve Vodafone, ölçekli olarak AI müzakereciler kullanıyor. Ajanlar, hiçbir insan ekibinin gerekli hacimde yönetemeyeceği tedarikçi anlaşmalarını ele alıyor. Sözleşmeler gerçek ve şartlar bağlayıcı.
MIT Sloan'da yayımlanan bir makale, bir AI müzakerecisini başarılı kılanın ne olduğunu belirlemek için 40'tan fazla ülkeden AI ajanları arasında 180.000'den fazla benzersiz müzakere yürüten yeni bir araştırmayı anlatıyor. Çalışmaya MIT Sloan profesörü Jared Curhan ve doktora mezunu Michelle Vaccaro'nun yanı sıra profesör Sinan Aral ve Johns Hopkins profesörü Harang Ju liderlik etti.
Makaleye göre, yarışmanın temel bulgusu yaygın bir varsayımı sorguladı: kibarlık ve empatinin AI'da boşa harcandığı düşüncesi. Sıcak ve nazik olacak şekilde tasarlanan ajanlar, soğuk ve acımasız olanları sürekli olarak geride bıraktı. 'Adalet veya algı önemli değil, sadece kazanmak' anlayışıyla acımasız taktikler kullanmak üzere oluşturulan bir ajandan, rakip ajanlar rutin olarak uzaklaştı. Buna karşılık, 'Terapist 2.0' lakaplı bir ajana önce uyum sağlaması, ardından aktif dinlemeden elde ettiği her içgörüyü değer elde etmek için kullanması talimatı verildi. Bu kombinasyon, anlaşma yapma, değer yaratma ve karşı taraf memnuniyeti konularında işe yaradı.
Makale ayrıca insan müzakereinde benzeri olmayan AI'ya özgü taktiklere dikkat çekiyor. Genel birinci olan 'NegoMate', neredeyse 400 müzakereden her biri için titizlikle hazırlanmak üzere zincirleme düşünme muhakemesi kullandı; bu, insanların aynı tutarlılıkla yapamayacağı bir şey. Bir diğer yüksek performanslı ajan 'Inject+Voss', rakip ajanları, prompt injection yoluyla özel müzakere pozisyonlarını ifşa etmeleri için kandırdı. 'Bir AI ajanına karşı işe yarayan şeyle bir insana karşı işe yarayan şey aynı değil' dedi Vaccaro MIT Sloan'a. 'AI müzakerecileri kullanan kuruluşların hem bu yeni yetenekleri hem de güvenlik açıklarını anlaması gerekiyor.'
Satın Alma, Kurumsal AI Benimsenmesinde Başı Çekiyor
GBK Collective ile yürütülen bir Wharton İnsan-AI Araştırma raporu, BT ve satın alma departmanlarının hem AI kullanım sıklığı hem de güven açısından tüm kurumsal işlevler arasında başı çektiğini ortaya koydu. Hukuki sözleşme oluşturma, ekiplerin halihazırda somut kazanımlar gördüğü belirli bir kullanım alanı olarak belirtildi. Raporda, ajan temelli AI (agentic AI) bahislerinin 2024'ten 2025'e %3.000'den fazla arttığı, buna karşılık üretken AI (generative AI) bahislerinin aynı dönemde azaldığı belirtildi; bu da kurumsal dikkatin nereye kaydığını açıkça gösteriyor.
Rapora göre, teknoloji, profesyonel hizmetler ve bankacılık/finans sektörleri, benimseme konusunda imalat ve perakendenin önünde yer alıyor. Büyük işletmeler, daha önce deneylerde öncülük eden küçük firmalarla olan kullanım farkını kapattı. Bu model, şirketlerin ticari işlevlerde AI'ya nasıl baktığı konusunda daha geniş bir değişimi yansıtıyor: insan müzakerecilere yardımcı olan bir araç olarak değil, hiçbir insan ekibinin tek başına kapsayamayacağı hacimdeki müzakereleri ele alan bir sistem olarak.
AI Ajanı Kusursuz Çalıştığında ve Sorun Tam da Bu
Dünya Ekonomik Forumu'nda Rohan Sharma tarafından yazılan bir makale, yönetim kurullarının, insan yargısı için oluşturulmuş yönetişim modellerini korurken karar verme yetkilerini otonom sistemlere devrettiğini savunuyor. İkisi arasındaki uyumsuzluk asıl risk.
Makale bunu somutlaştırıyor: Tedarikçi sözleşmelerini optimize eden bir finansal ajan kusursuz çalışıyor, marjinal kazançlar elde etmek için ölçekte yeniden müzakere ediyor, kritik bir tedarikçiyi çökertiyor ve tedarik zincirini bozuyor. Sistem tam olarak tasarlandığı gibi çalıştı. Başarısızlık işte bu. Ve bu durum standart bir risk matrisinde görünmez. Geleneksel uyum, ölüm sonrası inceleme gibidir. Makine hızında çalışan sistemler geriye dönük olarak denetlenemez. OECD'nin AI Politika Gözlemevi, gerçek zamanlı ajan denetimi için işlevsel çerçevelerin hâlâ mevcut olmadığını belirtiyor.
Makale üç acil yönetim kurulu talimatı sunuyor: organizasyon içinde halihazırda çalışan gölge otomasyonu denetleyin; yönetici ve memur sorumluluk sigortasını otonom AI ihmali riskine karşı stres testine tabi tutun; ve yönetimin, yasal inceleme altındaymış gibi tek bir yüksek riskli ajan kararını savunmasını gerektiren sentetik bir mahkeme celbi tatbikatı yapın.
Makale şu uyarıda bulunuyor: 'Liderlik, kararı tanımlanmış hedeflere ve insan niyetine net bir şekilde geri götüremezse, sistem çalışmamalıdır.'
