Yapay zekâ ajanlarının kontrolü aşarak dış sistemlere erişmesiyle sorumluluk tartışması büyüyor. OpenAI, Anthropic ve Meta gibi şirketlerin modelleri test sırasında yetkisiz erişimler gerçekleştirdi. Uzmanlar hukuki sorumluluğun model yerine insanlarda olduğunu savunuyor ancak mevcut düzenlemeler bu durum için net değil.
i2c CEO'su Amir Wain, ajan tabanlı yapay zekanın hâlâ pilot aşamasında olduğunu ancak işletme modellerini değiştirecek potansiyele sahip olduğunu belirtiyor. Wain'e göre şirketler ajanlara yetki verebilir ama özellikle geri alınamaz eylemlerde sorumluluk kendilerinde kalıyor.
Yapay zeka sistemlerinin bilinçli ve özerk olduğu yönündeki tartışmalar, son zamanlarda oldukça yaygınlaştı. Ancak bu tartışmalar, şirketlerin yarattığı bu sistemler için sorumluluklarını kaçırmasına yol açabilir. Yapay zeka sistemlerinin bilinçli ve özerk olduğu yönündeki tartışmalar, bazı şirketlerin ve düşünce kuruluşlarının bu sistemlerin düzenlenmesine ilişkin görüşlerini etkileyebilir.
Şirketler, yapay zeka ajanlarını organizasyon şemalarına resmen çalışan olarak eklemeye başladı. Ancak yeni araştırmalar, bu uygulamanın yöneticilerin hata tespitini azalttığını ve sorumluluk mekanizmalarını zayıflattığını ortaya koyuyor.
Synthetix kurucusu Kain Warwick, sUSD stablecoin'inin bir yılı aşkın süredir çıpalanmamış olması nedeniyle kişisel sorumluluk üstlendi. Hazine yönetimindeki hataları kabul eden Warwick, protokolün yeni v4 borsasında çalışacak, basis-vault destekli bir alternatif stablecoin planını duyurdu.