Geçen hafta dünyanın en güçlü yapay zekâ şirketlerinden altısı Beyaz Saray’a çalışmalarını dışarıdan denetlemeye izin vereceklerini söz verdi.
29 Eylül’de Nvidia, OpenAI, Anthropic, Google, Meta ve xAI en gelişmiş yapay zekâ modelleri için bir mutabakat imzaladı. ABD Başkanı Donald Trump bu mutabakatı “ahlaki olarak bağlayıcı” olarak niteledi. Her şirket “bağımsız bir dış denetçi veya değerlendiriciyle ortaklık kuracağını” ve bağımsız yönetim kurulu üyelerinin denetçilerin raporlarını inceleyip sorunların çözülmesini sağlayacağını taahhüt etti.
Dış denetim iyi bir fikir ve bunu görmek sevindirici. Ancak mutabakat denetçilerin kim tarafından seçileceği, neyi inceleyebileceği ya da bulguların kamuya açıklanıp açıklanmayacağı konusunda bir şey söylemiyor; uymamak için bir yaptırım da yok. Şu haliyle her şirket kendi denetçisini seçiyor ve denetçinin ne göreceğine kendisi karar veriyor.
2000’de Enron, o dönemde uluslararası muhasebe firmalarının sözde “Büyük Beşlisi”nden biri olan ve Arthur Andersen’in çöküşüyle “Büyük Dörtlü” haline gelen yapıdan Arthur Andersen’e defterlerini denetlemesi için 25 milyon dolar ödedi, vergi ve danışmanlık için de başka 27 milyon dolar ödedi. İki yıl içinde her iki firma da çöktü. Kongre bunun üzerine Sarbanes-Oxley Yasası’nı çıkardı. Yasa denetçi seçimi kararını yönetimden aldı, denetçilerin denetledikleri şirketlere çoğu hizmeti satmasını engelledi ve denetçilerin kendisini denetleyecek bir kamu kurulu oluşturdu.
Andersen uzmanlık eksikliği yüzünden değil, tek yılda 52 milyon dolar ödeyen bir müşteriye sert bakma teşviki olmaması yüzünden başarısız oldu. Yapay zekâ sektöründeki gönüllü taahhütlerin de iyi bir sicili yok. 2023’te önde gelen yapay zekâ şirketleri Beyaz Saray’a sistemlerini piyasaya sürmeden önce dış uzmanların test etmesine izin verecekleri de dahil bir dizi gönüllü taahhütte bulundu. Stanford, Harvard ve Brown’daki araştırmacılar 16 şirketi bu taahhütlere göre puanladığında ortalama 53% çıktı. Sorunları dışarıdan bulup bildirmeye yardım etme sözünde 16 şirketten sekizi sıfır aldı.
Dış test yapılsa bile şartları geliştirici belirliyor. Yapay zekâ modellerini test eden kar amacı gütmeyen METR, OpenAI’nin o3 modelinin piyasaya sürülmeden önceki testinin “yalnızca üç hafta sürdüğünü”, “model hakkında sınırlı bilgiye erişim sağlandığını” ve modelin adım adım akıl yürütmesinin görülmediğini yazdı.
OpenAI’ye haksızlık etmemek gerek, test yapılmasına izin verdi. Ancak şirketin neyi paylaşmayı seçtiğinin ne kadar önemli olduğunu gösteriyor.
Eğitilmiş bir yapay zekâ modeli esasen çok büyük bir sayı dosyasıdır ve üretimi çoğu zaman 100 milyon dolardan fazla tutar; kopyası olan modelin sahibidir. Kopyaları dışarıya vermek güvenlik riski taşır. Yakın zamana kadar bu durum testçilere Google DeepMind’in iyi tarif ettiği ikilem bırakıyordu: ya testçiler sorularını teslim eder, şirket sınavı önceden görür ya da şirket modelini teslim eder.
Ağustosta DeepMind bunun etrafından bir yol gösterdi. Singapur Yapay Zekâ Güvenliği Enstitüsü ve üç dış grup ile birlikte, ilaç denemelerindeki çift kör yöntemin aynı ilkesiyle yapay zekâ modelinin dünyanın ilk çift kör testini yürüttü. Test mühürlü bilgisayar donanımında gerçekleşti, böylece dış testçiler modeli görmedi ve Google da sorularını görmedi. Google’a göre her taraf matematiksel olarak kendi materyalinin gizli kaldığını doğrulayabiliyor.
Bu durum güveni donanıma kaydırıyor. Geçen yıl araştırmacılar bu tür mühürlü donanımı 1.000 dolardan az ekipmanla kırdı, bunun için sunucuya fiziksel erişim gerekiyordu. Ciddi alınması gereken bir konu. Ancak “kimseyi modelin yakınına bile yaklaştırmayız” sorunundan çok daha küçük bir problem ve makinelerin kim tarafından kontrol edildiğine dikkat edilerek yönetilebilir.
Bu hafta Decentralization Research Center tarafından yayımlanan “Alternatives to Concentrated AI” raporumuz için ortak yazarım Kyle Bligen ve ben 36 kişiyle görüştük ve yapay zekâ üzerinde yoğunlaşmış kontrole 30’a yakın çalışan alternatif haritaladık. Ana bulgumuz şuydu: dışarıdakiler artık modelin veya verisinin fiziksel olarak eline geçmeden ileri yapay zekâyı inceleyebiliyor.
Mutabakattaki denetimlerin bir değeri olacaksa, denetçiler artık modeli kopyalamadan yapabildikleri için neyi test edeceklerini kendileri seçmeli. Şirketler de denetçilerinin kim olduğunu ve denetimlerin kapsamını açıklamalı; ayrıntılı bulgular özel kalabilir. Halka açık şirketler on yıllardır ticari sır vermeden denetçilerinin adını açıklıyor. Bu raporları okuyan yönetim kurulu komiteleri de şirket dışındaki birine karşı sorumlu olmalı. Sarbanes-Oxley denetçilerin denetçisini yarattı. Mutabakatta buna benzer bir şey yok ve bu boşluğu neyin dolduracağına Kongre karar vermeli.
