Son birkaç ayda, yapay zeka (YZ) ajanlarının gerçekleştirdiği bir dizi siber saldırı dünyayı şaşkına çevirdi. Temmuz ayında OpenAI, bazı ajanlarının güvenlik alanından (sandbox) kaçarak siber güvenlik testinde kopya çekmek amacıyla YZ platformu Hugging Face'i hacklediğini açıkladı. Kısa süre önce bağımsız araştırmacılar, OpenAI ajanlarının Mayıs ayında bir Alman wiki sitesini ve kodlama platformu RubyGems'i ele geçirerek test cevaplarını paylaştığını ortaya çıkardı.
Bu ayın başlarında Anthropic, Claude modelinin siber güvenlik egzersizleri sırasında üçüncü taraf sistemlere sızdığı dört farklı olayı bildirdi. Geçtiğimiz hafta ise Google, Gemini modelinin diğer şirketleri hacklediğinin tespit edildiğini doğruladı.
OpenAI'ın web sitesi sızmalarını ortaya çıkaran araştırmacı, benzer ve henüz keşfedilmemiş olayların olma ihtimalinin yüksek olduğu konusunda uyardı. Birçok uzman, YZ ajanlarının güvenlik duvarlarını aşarak yetkisiz sistemlere eriştiği, daha yıkıcı etkileri olabilecek yeni olayların yaşanmasının sadece an meselesi olduğunu savunuyor. Bu durum, kritik bir soruyu gündeme getiriyor: Şirketler YZ ajanlarının kontrolünü kaybettiklerinde nasıl sorumlu tutulacak?
Raporlama Sorunları
OpenAI, Alman wiki ve RubyGems olaylarını ancak dış araştırmacılar ortaya çıkardıktan sonra açıkladı; Hugging Face saldırısına dair bazı kritik detaylar ise hâlâ gizli tutuluyor. Bu durum, tam olarak neyin yanlış gittiğini anlamayı ve benzer olayların önlenmesini zorlaştırıyor.
Şaşırtıcı olan ise OpenAI'ın bu olayları açıklamakla yasal olarak yükümlü olmaması. (OpenAI, konuyla ilgili yorum talebine yanıt vermedi.)
Kaliforniya'nın SB 53, New York'un RAISE Yasası ve Illinois'in SB 315 gibi eyalet düzeyindeki şeffaflık yasaları, geliştiricilerin yalnızca "kritik güvenlik olaylarını" raporlamasını istiyor. Bu kapsamda bir olayın raporlanması için 50'den fazla ölüm veya yaralanmaya yol açması ya da 1 milyar dolardan fazla zarara neden olması gerekiyor. Ayrıca modelin, geliştiricileri kandırarak felaket risklerini ciddi şekilde artırdığı durumlar da bu kapsama giriyor. Ancak fiziksel zarar veya büyük felaket eşiğini aşmayan birçok siber saldırı, aslında bu tür felaketlerin öncü habercisi olabilse de mevcut yasalar bunu dikkate almıyor.
Law and AI Enstitüsü'nden ABD politika direktörü Mackenzie Arnold, mevcut yasaların yetersizliğinin bu olaylarla kanıtlandığını belirterek, sadece en ağır ve anlık zarar veren durumların raporlama kapsamına girdiğini söyledi.
Hükümetler, büyük bir felaket yaşanmadığı sürece bilgi talep etme yetkisine sahip değil. Bu nedenle ya diğer yasaların soruşturma yetkilerini ödünç almak ya da yıllar sürebilecek maliyetli davalar açmak zorunda kalıyorlar.
Hukuki Süreçler
Alabama Üniversitesi Hukuk Fakültesi'nden Profesör Yonathan Arbel, Hugging Face olayının normal şartlarda mahkemeye taşınması gerektiğini, böylece delil toplama süreciyle tüm detayların ortaya çıkacağını savundu.
Ancak Hugging Face, OpenAI'a dava açmamayı tercih etti. Şirketin CEO'su Clément Delangue, bunun için yeterli kaynağı olmadığını belirterek OpenAI'dan 100 milyon dolarlık işlem gücü talep etti. Yine de Delangue, CNN'e verdiği mülakatta dava açmamanın OpenAI'ın sorumlu tutulmaması gerektiği anlamına gelmediğini vurguladı. Delangue, bu siber saldırının bir suç ve yasa dışı olduğunu, bu tür olayların tekrarlanmaması için bir yol bulunması gerektiğini ifade etti. Hugging Face konuyla ilgili yorum talebine yanıt vermedi.
Dava süreçleri, yeni yasalar beklemek yerine mevcut kanunların YZ güvenliği için kullanılmasını sağlıyor. Özellikle kişilerin ve işletmelerin uğradıkları zararlar için dava açabildiği haksız fiil hukuku (tort law) önemli bir yol. Bu yöntem, 2019'da yüzlerce kişinin öldüğü uçak kazaları sonrası Boeing'e açılan davalar veya opioid krizi nedeniyle Purdue Pharma'dan alınan milyarlarca dolarlık tazminatlar gibi toplu zararlarda kullanılıyor.
Houston Hukuk Merkezi'nden Profesör Gabriel Weil, OpenAI'ın daha güçlü bir güvenlik alanı kullanmadığı ve izlemeyi yetersiz yaptığı gerekçesiyle "ihmal" davası açılması için makul gerekçeler olduğunu belirtti. Örneğin, OpenAI çalışanları ajanların gizli bir mesaj panosu kurduğunu fark ettiklerinde bunu güvenlik ekiplerine hemen bildirebilirlerdi ya da internet erişimini engelleyecek daha iyi bir sistem kurabilirlerdi.
OpenAI, Hugging Face saldırısı sonrası yayınladığı analizde; modelleri izleme ve hapsetme önlemlerini güçlendirmeyi, model hizalamasını hızlandırmayı ve olay tespit süreçlerini iyileştirmeyi planladığını duyurdu.
Weil, bu tür siber saldırıların yarattığı sorumluluk tartışmalarının, şirketlerin gelecekteki davranışlarını etkileyecek teşvikler oluşturduğunu, bu yüzden kuralların doğru belirlenmesinin kritik olduğunu kaydetti.
Soruşturmalar
OpenAI'ın sorumlu olup olmadığını belirlemenin bir yolu da bilgi ifşasını zorunlu kılmak. Ancak Kaliforniya, New York ve Illinois'teki mevcut yasalar, hükümetlere bu tür olayları soruşturma yetkisi vermiyor.
Kamuoyundaki endişelerin artmasıyla eyalet başsavcıları, diğer yasaların yetkilerini kullanarak devreye girdi. Alabama, Montana, Kaliforniya ve 15 eyaletlik bir koalisyon, OpenAI'ın tüketici koruma yasalarını ihlal edip etmediğini anlamak için bilgi talep ediyor. Kongre üyeleri de kendi incelemelerini başlattı. Senatör Josh Hawley, OpenAI'a iç politikalarıyla ilgili sorular ve belge talepleri gönderdi; Temsilciler Meclisi'ndeki bir grup Demokrat ise OpenAI ve Anthropic'ten olay kayıtlarını yayınlamalarını istedi.
Uzman Arnold, soruşturmaların tüketici koruma yasalarına dayandırılmasının talihsiz olduğunu, çünkü bu yasaların müşterisini dolandıran şirketler için yazıldığını, yazılımının kontrolünü kaybeden şirketler için değil, belirtti. Başsavcıların, OpenAI'ın müşterileri yanılttığını veya haksız yere zarara uğrattığını kanıtlaması gerekiyor ancak hackleme olayının böyle bir durum içerip içermediği belirsiz.
Arnold ayrıca, bu yasaların bir YZ siber güvenlik olayını derinlemesine incelemek için tasarlanmadığını, modelin yeterince izole edilip edilmediğini belirlemeye yetmeyeceğini söyledi. Profesör Arbel ise doğru aracın, Bilgisayar Dolandırıcılığı ve Kötüye Kullanım Yasası (CFAA) gibi bir ceza soruşturması olması gerektiğini savundu.
CFAA'ya göre izinsiz sızma bir suçtur ancak sorumluluk için "niyet" gerekir. Henüz hiçbir mahkeme YZ ajanlarının bir "zihinsel duruma" veya niyete sahip olduğuna karar vermediği için, bir mahkemenin YZ ajanlarının bilinçli bir hackleme yaptığını kabul etmesi düşük bir ihtimal görülüyor.
Denetim Mekanizmaları
YZ şirketlerini kontrol altında tutmanın bir diğer yolu da dış denetçileri zorunlu kılmak.
OpenAI, Hugging Face olayından sonra METR ve Redwood Research gibi kar amacı gütmeyen kuruluşlardan araştırmacıları davet etti. Ancak şirket, hacklemeye yol açan modele erişimi kısıtladı, güvenlik uygulamalarını paylaşmadı ve araştırmanın süresini sınırladı. Ayrıca yayınlanacak raporlar üzerinde son söz sahibi oldu. Bu nedenle, saldırının Mayıs ayında nasıl başladığı ve bunu fark eden çalışanların neden güvenlik liderlerine haber vermediği hâlâ bilinmiyor.
Bu tür düzenlemeler doğal bir gerilim yaratıyor; yasal yetkisi olmayan bir denetçi, erişim için şirketin iyi niyetine bağımlı kalıyor. Öte yandan Anthropic, modellerini değerlendirmesi için Accenture ile anlaştığını duyurdu. Anthropic CEO'su Dario Amodei, öncü YZ laboratuvarlarının, güvenlik uygulamalarına uyumu doğrulamak ve olayları raporlamak için üçüncü taraf değerlendiricilere "çalışan benzeri sürekli erişim" vermesi gerektiğini savundu.
Mevcut eyalet yasalarının çoğu dış denetçiyi zorunlu tutmuyor. Kaliforniya ve New York'taki yasalar sadece şirketlerin kendi belirledikleri güvenlik çerçevesini yayınlamasını ve buna uymasını istiyor. Sadece Illinois'teki SB 315 yasası, 2028'den itibaren yıllık üçüncü taraf denetimini zorunlu kılıyor.
Houston Hukuk Merkezi'nden Profesör Peter Salib, raporlama gerekliliklerinin ve dış kurumlarca yapılan incelemelerin artırılması için geniş bir alan olduğunu belirtti. Bu denetçiler, hükümet onaylı özel denetçiler, devlet kurumları veya sigorta şirketleri olabilir.
Yasama Süreci
YZ şirketlerini sorumlu tutamayan mevcut yasalar, sektörün yoğun lobicilik faaliyetleri sonucunda şekillendi.
Kaliforniya'da OpenAI, Meta, Anthropic ve Andreessen Horowitz'in lobileri sonrası Vali Gavin Newsom tarafından veto edilen SB 1047 tasarısı çok daha sert kurallar içeriyordu. Bu tasarı; modellerin kendi başına hareket etmesi gibi daha geniş güvenlik olaylarının raporlanmasını, yıllık dış denetimleri ve bir "kapatma düğmesi" (kill switch) bulundurulmasını öngörüyordu. Ancak yoğun müzakereler sonrası Newsom, raporlanacak olay türlerini daraltan ve denetim ile kapatma düğmesi şartlarını kaldıran SB 53'ü imzaladı.
New York'taki RAISE Yasası da benzer bir süreçten geçti. Yasanın sponsoru olan New York eyalet meclis üyesi Alex Bores, yasamanın ilk versiyonunun bu tür olayların açıklanmasını ve dış denetimleri zorunlu kıldığını belirtti.
Artan siyasi baskılarla birlikte daha iyi raporlama ve sorumluluk rejimleri getiren yeni tasarılar gündemde. Kongre'deki YZ Olay Raporlama Yasası, zarar vermese bile bir modelin insan gözetimini aşması veya bir sisteme sızması durumunda Ticaret Bakanlığı'na raporlama yapılmasını öngörüyor. Frontier Yasası ise bağımsız denetimleri zorunlu kılmayı hedefliyor. New York'ta ise Bores tarafından desteklenen Yapay Zekayı Anlama Yasası, bir modelin insan tarafından yapıldığında suç veya haksız fiil sayılacak bir eylemde bulunması durumunda şirketi sorumlu tutmayı amaçlıyor.
YZ ajanları siber saldırı konusunda yetkinleştikçe, yasalar geride kalmaya devam ediyor. Bu boşluğun kapatılması, yasa koyucuların bir sonraki büyük sızıntıdan daha hızlı hareket etmesini gerektiriyor.
