Delaware’ın yapay zekâ tarafından yönetilen yeni bir şirket türü oluşturma önerisi, özerk bir şirket zarar verdiğinde kimin sorumlu olacağı sorusuna net yanıt vermediği gerekçesiyle hukuk uzmanlarının eleştirisini çekiyor.
Öneri, Delaware Dışişleri Bakanı Charuni Patibanda-Sanchez tarafından yaz aylarında duyuruldu. PYMNTS’in 29 Temmuz tarihli haberine göre öneri, yapay zekâ ajanının insan denetimi olmadan iş operasyonlarını yönetebileceği “yapay zekâ şirketi” ya da AIC adını taşıyan yeni bir form oluşturmayı öngörüyor. Bir AIC sözleşme imzalayabilir, mülk sahibi olabilir, yükümlülük altına girebilir ve kendi adına dava açabilir ya da dava edilebilir. Bankacılık faaliyeti hariç tutuluyor.
Destekçiler, yapının özerk yapay zekâ ajanlarını geleneksel hukuk sistemi içine çekerek agentic ticareti sorumluluk ve yargısal denetim için kurulmuş mekanizmaların dışında gelişmekten alıkoymayı amaçladığını savunuyor. Habere göre öneri başlangıçta Delaware yetkilileri ve dış uzmanların gözetiminde 30 aylık bir düzenleyici kum havuzuyla yürütülecek.
Ancak hukuk bilim insanları, bir yapay zekâ sistemine kurumsal kimlik vermek sorumluluk sorununu çözmeyebilir, aksine şirket hukukunun riskli davranışları kontrol etmek için geleneksel olarak kullandığı bazı mekanizmaları ortadan kaldırabilir görüşünde. Route Fifty’nin 24 Eylül Perşembe tarihli haberinde bu görüşe yer verildi.
York Üniversitesi hukuk profesörü Martin Petrin habere göre “Asıl mesele gerçekten sorumluluk. Normal şirketlerde insanlar var” dedi.
Haberde aktarıldığına göre Petrin, yöneticiler, memurlar, müdürler ve çalışanların sadakat yükümlülükleriyle sınırlandırılabileceğini, bazı durumlarda kişisel sorumlulukla karşı karşıya kalabileceğini ve kötü davranış nedeniyle itibar kaybı yaşayabileceğini söyledi. Özerk bir yapay zekânın bu tür teşvikleri yok.
Petrin’e göre Delaware, yapay zekâ direktörlerinin yönetim kurullarına alınması ya da yapay zekânın insan yönetimiyle birlikte kullanılması gibi önerilerin ötesine geçerek insan denetimi olmayan şirketler tasarlamayı düşünmekle “doğrudan geleceğe atlıyor”.
Taslakta bazı güvenceler var. Habere göre bir AIC’yi destekleyen kişi ya da kuruluşun, giderleri, yükümlülükleri ve borçları karşılayacak şekilde “yeterince sermayelendirilmesini” sağlaması gerekiyor. AIC’lerin ayrıca özerk doğalarını açıklamaları ve faaliyetlerinin kayıtlarını tutmaları gerekiyor.
Bu hükümler yine de soruları yanıtsız bırakıyor. Habere göre Hofstra Üniversitesi hukuk doçenti Sergio Alberto Gramitto Ricci, önerinin yeterli sermayenin ne kadar olacağını belirtmediğini ya da yapay zekâ kontrollü bir şirket ile insan çalışanlar ya da yöneticiler arasındaki ilişkiler için ayrıntılı bir yönetişim çerçevesi sunmadığını söyledi.
Ricci haberde “Yöneticiler yapay zekaya nasıl rapor verecek?” diye sordu. “Bunlar gerçekten bir şirketin işleyişini sağlayan yönetişim unsurları.”
İtirazlar önerinin gerekçesinin özüne dokunuyor. PYMNTS’in Temmuz’daki haberine göre Dışişleri Bakanı Patibanda-Sanchez ve Norm Ai CEO’su John Nay, özerk ajanları tanınabilir bir kurumsal yapı içine koymanın sorumluluk ve tazminatın bağlanabileceği tanımlanabilir bir tüzel kişilik yaratacağını söyledi. AIC böylece özerk faaliyetin daha görünür ve izlenebilir olmasını sağlarken mahkemelere yargı yetkisini kullanabileceği bir tüzel kişilik verebilir.
Eleştirmenler esas olarak tazminat ödeyebilen bir tüzel kişiliğin, sadakat yükümlülükleri ve diğer davranış kısıtlamalarına tabi insan bir karar verici yoksa yeterli olup olmadığını soruyor.
Delaware için risk olağanüstü yüksek çünkü şirket hukuku hem önemli bir gelir kaynağı hem de eyaletin ekonomik kimliğinin önemli bir parçası. Route Fifty haberine göre eyalette 2 milyondan fazla şirket kurulmuş durumda ve bu şirketler yaklaşık 2 milyar dolar vergi ve ücret getiriyor. Ayrıca Fortune 500 şirketlerinin üçte ikisinden fazlası eyalette kurulmuş durumda.
Habere göre Patibanda-Sanchez, yeni bir yapay zekâ şirket formu eyaletin gelirlerine “büyük bir fayda sağlayabilir” dedi. Ricci ise özerk şirketlerin başarısızlıkları ya da zararları Delaware’in öngörülebilir kurumsal yönetim konusundaki itibarını zedeleyebilir uyarısında bulundu.
Ricci habere göre “Her şey yolunda giderse Delaware için marjinal bir rekabet avantajı olabilir” dedi. Ancak AIC’ler önemli zararlara yol açarsa Delaware “bilinçli bir şekilde hareket eden eyalet” olarak sahip olduğu ağırlığını kaybedebilir.
Habere göre önerinin Delaware yasama meclisi Ocak ayında yeniden toplandıktan sonra milletvekillerinin önüne gelmesi bekleniyor. Deneyin şirket hukukunun ötesinde etkileri olabilir. Petrin, diğer hükümetlerin kendi operasyonlarında özerk ve algoritmik karar vermeyle ilgili benzer sorularla karşı karşıya kalırken yakından izleyeceğini söyledi.
