Eyalet ve yerel yönetimler kendi başlarına eylem yapabilen yapay zeka sistemlerini denemeye başladı. Urban Institute tarafından yayımlanan yeni rehbere göre, bu sistemler kamu hizmetlerine yerleşmeden önce yönetişim yapılarının hazır olması gerekiyor.
Enstitünün yeni özerk yapay zeka kılavuzu, eyalet ve yerel yetkililerin sorumlu kullanımlar için hazırlanmasına ve sürdürmesine yardımcı olmayı amaçlıyor. Kurumlar teknolojiyi maliyetleri düşürmek, operasyonları sadeleştirmek ve hizmetleri iyileştirmek için değerlendiriyor. Geleneksel üretken yapay zekanın aksine, özerk sistemler içerik üretmenin ötesine geçerek bağımsız şekilde plan yapıp hedefe yönelik hareket edebiliyor.
Urban Institute’un baş bilgi sorumlusu ve teknoloji ile veri bilimi başkan yardımcısı Graham MacDonald, Route Fifty’e yaptığı açıklamada özerk yapay zekanın “gelecekteki kararları alma ya da gelecekteki kararları düşünme, planlama ve ardından harekete geçme konusunda bir miktar özerkliğe sahip olduğunu” söyledi.
Bu ek özerklik kamu yönetiminde şimdiden test ediliyor.
Virginia, eski Vali Glenn Youngkin döneminde, düzenleyici ve rehber belgelerdeki gereksiz ya da külfetli ifadeleri gözden geçirmek için özerk yapay zekayı kullanan bir pilot başlattı. Virginia Düzenleme Yönetimi Ofisi’ne göre girişim yıllık 1,4 milyar dolardan fazla tasarruf sağladı ve izin ile lisans işlem sürelerini neredeyse yüzde 80 azalttı.
Bu arada Utah Yapay Zeka Politikası Ofisi, sağlık platformu Doctronic ile rutin reçete yenilemelerinde özerk yapay zekanın yardımcı olup olmayacağını inceleyen bir pilot çalışmada iş birliği yaptı. Ön sonuçlar sistemin vakaların yüzde 72’sinde yenileme önerdiğini, hekimlerin de bu önerilerin yüzde 91’ine katıldığını gösterdi. Boston da açık veri portalına özerk yapay zekayı entegre etti; Anthropic model bağlam protokol sunucusu kullanılarak belediye verileri analiz ediliyor ve politika sorgularına ışık tutuluyor.
Bu örnekler Urban Institute’un işaret ettiği potansiyeli ve yönetişim sorununu birlikte gösteriyor. Özerk yapay zeka araçları geleneksel bilişim departmanları dışındaki çalışanlar tarafından oluşturulup dağıtılabiliyor.
MacDonald, “Özerk üretken yapay zekada farklı olan şey, onu inşa etmeye yetkili tek kişinin bilişim personeli olmaması” dedi. Bu demokratikleşme inovasyonu hızlandırabiliyor ancak hatalar, iş akışı aksamaları ve zararlar için de fırsat yaratabiliyor; özellikle ajanlar sosyal yardım gibi hassas işlevlere dahil edildiğinde risk artıyor.
Kılavuz bu nedenle kurumların dağıtım öncesinde ajanın amaçlanan kullanım amacını, hedef nüfusu, ölçülebilir sonuçları ve tahmini maliyetler dahil temel bilgileri belgelemesini öneriyor. Hükümetler genel performans ölçütlerine güvenmek yerine doğruluk ve adaleti ayrı ayrı tanımlamalı. Doğruluk örneğin ajanın değişen koşullardaki çıktısının bütünlüğünü, açıklığını ve güvenilirliğini kapsamalı.
Denetim düzeyi ajanın nasıl kullanılacağına göre belirlenmeli. MacDonald’a göre iç sistemler başlangıçta daha küçük ölçekte çalışabilir ve daha az sıkı adalet ve önyargı kontrolleri gerektirebilir. Vatandaşla yüz yüze çalışan sistemler daha fazla incelemeyi gerektiriyor; bu incelemede ilgili nüfus ve kamu hizmetine göre tasarlanmış adalet ölçütleri yer almalı.
Örneğin engelli yardımı başvurularında halka yardımcı olan bir ajan için yetkililer önerilerin nüfuslar arasında farklılık gösterip göstermediğini test edebilir ve sistemin farklı kullanıcılara ne sıklıkla doğru yanıt verdiğini ölçebilir.
Urban Institute ayrıca özerk yapay zekayı yalnızca bir bilişim işlevi olarak görmek yerine hesap verebilirliği resmileştirmeyi öneriyor. Çerçeve yedi rol tanımlıyor: sorumlu sahip, değerlendirme sorumlusu, güvenlik sorumlusu, şeffaflık sorumlusu, sorumlu yapay zeka sorumlusu, katkıda bulunan ve bağımsız inceleme. Bu rollerin sorumlulukları denetim izlerini sürdürmek, değerlendirmeler yapmak, paydaş geri bildirimi toplamak ve zararları izlemek gibi faaliyetleri kapsayabiliyor.
MacDonald, “Kurumlarındaki herkesin iyi bir süreç oluşturmasının sorumluluğu olduğunu düşünüyorum” dedi ve “ortak hedefler, ölçütler ve standartlar oluşturmak için daha fazla insanı sürece dahil etmeyi” ekledi.
