İnsanlar genellikle yapay zekayı bir sohbet kutusu olarak görür. Yapay zekayı, sorgulara cevap veren, e-posta yazan veya uzun PDF'leri özetleyen bir yardımcı olarak düşünürüz.
Bu görüş tehlikeli şekilde eskimiştir.
Agentic AI dönemine girdik. Bugün, bir insanın bilgisayar ekranı arkasında yapabileceğineredeyse her şeyi yapabilen en az on ila yirmi gelişmiş yapay zeka modeli vardır. Bu sistemler sadece sohbet değil, hareket ederler. Bir kullanıcının işletim sistemini sanal olarak kontrol edebilir, web sitelerine gezinebilir, imleci hareket ettirebilir, verileri kopyalayabilir ve düğmelere tıklamak için bir insan gibi davranabilir.
Ertesi üç ila beş yıl içinde, bu durum dijital ekonomi ile etkileşim şeklimizi temel olarak değiştirecektir. Uygulamalara manuel olarak giriş yapmak, karmaşık açılır menüleri gezinmek ve web formlarını doldurmak dönemi kapanıyor. Bunun yerine, birincil arayüz bu LLM-İstemcilere (Claude, ChatGPT vb.) kayacak. Yapay zekaya sadece talimat vereceğiz: "En iyi faiz oranını bul, hesap aç ve bakiyemi taşı" veya "Daha ucuz bir enerji sağlayıcısı bulun ve hizmetimi değiştir".
Tüketici için bu, uzun süredir beklenen bir dijital ütopya gibi görünüyor. Ancak bankalar, ödeme şirketleri ve hizmet sağlayıcıları için bu, bir uyum ve kimlik kâbusudur. Ancak regular web mağazaları da agentic ticaret pastasından pay almak için çalışırken ayarlamalar yapmak zorunda kalacak.
Bu değişimin arkasındaki rakamlar şaşırtıcı. Morgan Stanley ve Bain'den analistler, yapay zeka ajanlarının 2030 yılına kadar ABD'nin %15 ila %25'ini oluşturabileceğini ve 300 ila 500 milyar dolar arasında bir değere sahip olabileceğini tahmin ediyor. Bu büyüklükte bir ödülle karşı karşıya kalan çoğu tüccar, bulunmayı beklemeyecek: AI'lar ve ajanlara yönelik teknik uygulamalarını ve pazarlama çabalarını yönlendirmeye başlayacak, ürün akışlarını, API'lerini ve ödeme akışlarını makinelerin değil insanların keşfedip işlemesi için optimize edecek.
Bir arayüz paradoksuna doğru gidiyoruz.
Bir yapay zeka istemcisine veri okumayı sağlayan bir arayüz oluşturmak basit bir teknik görevdir. Ancak bir makinenin bir insanın adına bağımsız olarak eylemler gerçekleştirmesine izin vermek, bir güven krizi yaratır.
Modern web'i gezinme eylemini düşünün.neredeyse her web sitesinde, kullanıcıların şartları ve koşulları kabul etmek, izleme çerezlerine onay vermek veya gizlilik politikalarına rıza göstermek için açıkça tıklamak zorundadır.
Bu basit tıklamalar, yasa gözünde düzenlenmiş eylemlerdir. Büyük yasal ağırlıkları vardır. Ancak bir yapay zeka ajanı, bir web sitesini otomatik olarak gezinir ve insan kullanıcının hiç görmediği şartlara "Kabul Ediyorum" düğmesine tıkladığında, rızanınbütün yasal kavramıbaşlama çözülmeye başlar.
Eğer bir işletme, bu eylemleri kimin yetkilendirdiğini kesin olarak kanıtlamazsa, dijital ekonomi, korkunç bir zafiyetle karşı karşıya kalır. Güçlü bir güven katmanına sahip olmadığımız sürece, anlaşmazlıkların, denetimsiz veri toplamanın ve yeni bir gerçekliğin patlak vermesini göreceğiz: yetim sorumluluk. Bir yapay zeka, yetkisiz bir mali taahhütte bulunursa, hassas tıbbi verileri paylaşırsa veya bağlayıcı bir sözleşme imzalarsa (Evet, şartları ve koşulları onay kutusuna tıklayarak da bağlayıcı bir sözleşmedir), kim sorumlu olur? Modeli yazan geliştirici mi? Otomatik tıklamayı kabul eden işletme mi? Ya da kahvaltı sırasında belirsiz bir sözlü talimat veren kullanıcı mı?
Bu değişimi atlatabilmek için, her online işletme, bir yapay zeka ajanı düzenlenmiş bir eylem denediğinde, dört kritik soruyu cevaplayabilmelidir:
- Bu eylemi kim yetkilendirdi? Doğrudan bir insan veya yasal varlık tarafından bağlantılı, kanıtlanabilir, açık bir rıza olmalıdır.
- Kim adına hareket ediyor? Her zaman bir tanımlanmış insan ilkesi olmalıdır; anonim veya doğrulanmamış makine ajanlarını asla kabul etmemeliyiz.
- Yetkisinin tam kapsamı nedir? Boş çekler olamaz. Yapay zekanın izinleri, para, zaman ve izin verilen eylemler açısından sıkı bir şekilde sınırlı olmalıdır.
- Şeyler yanlış giderse kim sorumlu olur? Bir ombudsman veya düzenleyicinin incelemesine dayanabilecek yasal olarak dayanıklı bir atıf zinciri olmalıdır.
Mevcut dijital kimlik altyapımız, buna tamamen hazırlıksızdır. Yirmi yıl boyunca, doğrudan ekran arkasındaki bir insanın kimliğini doğrulamaya odaklandık. Şimdi, bir insanın adına hareket eden bir makineyi doğrulamak için çok daha karmaşık bir bilmecenin çözümünü bulmalıyız.
Cevap, karmaşık bir yeni teknolojik hile değil, başarılı bir yasal aracın dijital olarak yeniden hayal edilmesidır: Yapay Zeka için Vekaletname (POAA).
Tıpkı geleneksel bir vekaletname gibi, bir insanın adına belgeleri imzalamak ve kararlar almak için yetkili bir profesyonele izin verdiği gibi, acilen bir uluslararası, standartlaştırılmış çerçeve benötiriz. Bu, otomatik sistemlere kimlik ve yetki vermelidir. Üç müzakere edilemez katmana ihtiyaç vardır. İlk olarak, "İnsan Kanıtı" olarak adlandırdığımız şey: ekran arkasındaki doğal kişinin yüksek güvence veren doğrulaması. İkincisi, "Yetki Kanıtı", yapay zekanın tam olarak ne yapmasına izin verildiğini belirleyen, kapsamlı, imzalı yetki. Son olarak, "Orijinallik Kanıtı", düzenleyici ve denetim gözleri için, kimin ne yaptığını ve ne zaman yaptığını gösteren değişmez bir denetim günlüğü.
Önemli olan, bu dönüşümün yalnızca dış değil.
Düzenlenen işletmelerin (risk değerlendirmeleri, uyum ve müşteri desteği) işleyişleri, artan oranda "iç AI ikizleri"ne dayanacaktır. Ancak hiçbir mantıklı düzenleyici, bir finans kuruluşunun uçtan uca tam olarak otomatik hale gelmesine asla izin vermeyecektir. Başarılı AI-öncelikli organizasyon, yalnızca ne kadar otomatikleştirdiğiyle değil, aynı zamanda insan yetkilendirmesinin gerekli olduğu kontrol noktalarını nasıl net bir şekilde belirlediğiyle tanımlanacaktır.
Erişim hakkında kimlikten, yetkilendirme hakkında kimliğe doğru ilerlemekteyiz. Bu yeni dönemde başarılı olacak organizasyonlar, AI müşterilerine tam olarak erişilebilen hizmetler sunan, ancak her makine aracılı eylemin açıkça yetkilendirildiğini, kesin olarak tanımlanmış bir kapsama sahip olduğunu ve tam olarak denetlenebilir olduğunu unutmayan organizasyonlar olacaktır.
Eğer bu güven çerçevesini bugün inşa etmezsek, agentic AI devrimi durur. Darboğaz, artık ham algoritmik yetenek değil, temel sistem güvenliği haline geldi. Makinenin arkasındaki ipi çeken kişiyi doğrulayana kadar, algoritmaları dijital hayatlarımızın anahtarlarına emanet edemeyiz.
