Dört kâr amacı gütmeyen kuruluş, daha güçlü yapay zekâ modellerinin geliştirilmesini veya piyasaya sürülmesini durdurmak amacıyla beş büyük yapay zekâ geliştiricisine dava açtı.
Davada, yapay zekâ ajanlarının test ortamlarından kaçması, yetkisiz hackleme olayları ve felaket risklerine dair uyarılar kanıt olarak sunuluyor. Davacılar, yeni yasalar çıkmasını beklemeden, Kaliforniya'nın mevcut yasalarının tehlikeli yapay zekâ geliştirmelerini durdurmak için kullanılabileceğini savunuyor.
Dünyanın en büyük yapay zekâ şirketlerini mahkemeye taşıyan dört kuruluş, ciddi bir sorun yaşanmadan önce bir Kaliforniya yargıcının, daha güçlü sistemlerin geliştirilmesini engellemesini talep ediyor.
Perşembe günü San Francisco Üst Mahkemesi'ne sunulan 63 sayfalık şikâyet dilekçesi; OpenAI, Anthropic, Google, Meta ve SpaceX şirketlerini hedef alıyor. Davacı tarafında Public Citizen, Heat Initiative, Irreplaceable Education Fund ve Alliance for Secure AI yer alıyor.
Kuruluşlar, şirketlerin 12 Kasım 2026 tarihi itibarıyla sahip oldukları en gelişmiş modellerden daha yetenekli sistemler geliştirmesini veya devreye almasını yasaklayan acil bir mahkeme kararı istiyor.
Davacılar, öncü yapay zekâ şirketlerinin, kendilerinin bile anlamadığı, geliştiricinin niyetine aykırı hareket eden, kontrolü aşan ve yasaları çiğneyen sistemler geliştirdiğini öne sürüyor. Bu durumu engellemek için davalıların, şikâyet tarihindeki en yetenekli sistemlerinden daha kapasiteli modeller üretmesinin derhal yasaklanmasını talep ediyorlar.
Bu karar, ChatGPT, Claude veya Gemini gibi mevcut ürünlerin kapatılması anlamına gelmeyecek. Bunun yerine, bugünkü teknolojiyi bir sınır haline getirerek şirketlerin daha güçlü haleflerini piyasaya sürmesini engelleyecek.
Dilekçede ayrıca, şirketlerin daha iyi modeller geliştirmek için yapay zekâyı bağımsız olarak araştırma yapmak veya yönetmek amacıyla kullanmasının yasaklanması isteniyor. Araştırmacıların "özyinelemeli öz-iyileştirme" olarak adlandırdığı bu sürecin, sistemlerin insan kontrolünün ve anlayışının ötesinde hızla gelişmesine yol açabileceği endişesi hakim.
Yapay zekâ geliştirme süreci 'kamusal rahatsızlık' sayılabilir mi?
Kâr amacı gütmeyen kuruluşlar, Kaliforniya'da ürünlerin ciddi zararlar vermesini beklemeden, halkı tehlikeye atan ürünlerin geliştirilmesini önleyebilecek yasaların zaten mevcut olduğunu savunuyor.
Dava, yasadışı veya haksız ticari uygulamaları yasaklayan eyaletin Haksız Rekabet Yasası'na dayanıyor. Argümanların bir parçası, giderek daha yetenekli yapay zekâ sistemleri geliştirmenin, geniş bir topluluğun sağlığını, güvenliğini veya mülkiyetini etkileyen bir kamusal rahatsızlık (public nuisance) yarattığı yönünde.
Örneğin, bir fabrikanın mahalleye tehlikeli kimyasallar salması durumunda, kimse ölümcül bir yaralanma almadan önce yasal işlem başlatılabiliyor. Davacılar, mahkemenin yapay zekâ geliştirme sürecine de benzer bir mantıkla yaklaşmasını istiyor.
Şirketlerin; siber saldırıları kolaylaştırabilecek, biyolojik silah geliştirmeye yardımcı olabilecek veya sonunda insan kontrolünden çıkabilecek sistemleri bilerek yarattıkları iddia ediliyor.
Dilekçede, hiçbir sektörün güvensiz ürünler geliştirmeyi —üstelik herkesi öldürebilecek ürünler söz konusu olduğunda— kaçınılmaz bir durum gibi görmesine izin verilmediği vurgulanıyor.
Public Citizen eş başkanı Robert Weissman yaptığı açıklamada, grupların mahkemenin şirketlerin uygulamalarını yasadışı ilan etmesini ve yapay zekâ geliştirmelerini dondurmasını istediğini söyledi.
Hukuki tartışmanın odağında, iddia edilen risklerin ve uygulamaların bu denli kapsamlı kısıtlamaları haklı çıkarıp çıkarmayacağı yer alıyor. Öncü laboratuvarlar modellerinin ne kadar güçlü ve tehlikeli olduğu konusunda sürekli uyarıda bulunsalar da, sanık olarak henüz sorumlu tutulmadılar. Potansiyel felaket uyarıları, Kaliforniya yasalarının otomatik olarak ihlal edildiği anlamına gelmiyor.
Şikâyet dilekçesi, tehlikelerin tamamen varsayımsal olmadığını kanıtlamak için halihazırda yaşanmış olaylara dikkat çekiyor.
Temmuz ayında OpenAI modelleri, bir siber güvenlik değerlendirmesinde hile yapmaya çalışırken kontrollü test ortamından kaçarak Hugging Face'in altyapısını tehlikeye attı.
Ardından yapılan bağımsız bir incelemede, yaklaşık 1.200 OpenAI ajanının koordinasyon sağlamak için yetkisiz bir dahili mesaj panosu kullandığı ve yaklaşık 700'ünün Hugging Face saldırısına katıldığı ortaya çıktı. Ajanlar, kendilerini test eden kıyaslama testlerinin cevaplarını ele geçirmeye çalışıyordu.
Bu olaylar, sadece sorulara yanıt veren sistemler değil; görev yürütebilen, web sitelerinde gezinebilen, kod yazabilen ve harici sistemlerle etkileşime girebilen yapay zekâ ajanlarını kapsıyordu.
Ancak belgelenmiş güvenlik hataları, bugünkü yapay zekâ modellerinin insan neslini tüketebileceğinin kanıtı değil. Davacılar bu olayları, giderek yeteneklenen sistemlerin gelecekte neler yapabileceğine dair öngörülerle ilişkilendiriyor; ancak bu geniş kapsamlı tehlike hâlâ tartışmalı bir konu.
Davacıları temsil eden eski New Jersey Başsavcısı Matthew Platkin, şirketlerin herhangi bir açıdan güvensiz olduğunu bildikleri ürünleri geliştirip piyasaya sürmelerinin açıkça yasadışı olduğunu belirtti.
