• Sanders ve Temsilciler Meclisi Üyesi Greg Casar, yapay süper zekaya yönelik bir yasak tasarısı duyurdu.
• Ayrı bir hüküm, federal güvenlik kuralları belirlenene kadar ileri düzey yapay zeka gelişimini durduracak.
• OpenAI, aynı gün GPT-6 Astra modelini tanıttı ve Greg Brockman bu modelin genel yapay zeka (AGI) niteliği taşıyabileceğini öne sürdü.
Vermont Senatörü Bernie Sanders ve Teksas Temsilciler Meclisi Üyesi Greg Casar, Perşembe günü yapay süper zekayı kalıcı olarak yasaklayacak ve ileri düzey yapay zeka gelişimini geçici olarak durduracak bir yasa tasarısı sundu. Tasarı, kuralları ihlal edenlere 20 yıla kadar hapis cezası öngörüyor.
“Yapay Süper Zekayı Yasaklama Yasası” adlı teklif, bakanlık düzeyindeki yeni bir federal kurum güvenlik standartlarını ve yapay zeka modellerini inceleme prosedürlerini belirleyene kadar ileri düzey yapay zeka gelişimini askıya alacak. Sanders, büyük yapay zeka şirketlerini tam olarak anlamadıkları ve güvenilir bir şekilde kontrol edemedikleri teknolojiler geliştirmekle suçladı.
Sanders, basın açıklamasında yaptığı konuşmada, “İşte bu yüzden, giderek daha güçlü hale gelen yapay zeka gelişimini derhal durdurmak ve hem ülkemizde hem de dünya genelinde insanlığın tam olarak kontrol edemeyeceği sistemlerin yaratılmasını yasaklamak için bir yasa tasarısı sunuyorum” dedi.
Teklif, süper zekayı birçok görevde insan yeteneklerine eşit veya onları aşan ya da ABD hükümetini devirmek de dahil olmak üzere insan kontrolünü baltalayabilen yapay zeka olarak tanımlıyor. Bu tanım, insan düzeyindeki genel yapay zekayı (AGI) da kapsıyor, ancak süper zeka genellikle insan yeteneklerini aşan yapay zeka anlamına geliyor.
Yeni kurulan bir bakanlık düzeyindeki federal kurum, ileri düzey modelleri izleyecek, tehlikeli yeteneklerin kaldırılmasını denetleyecek ve yasaklı sistemlerin imhasını gözetim altında tutacak. Bir Yapay Zeka Danışma Kurulu ise bilimsel ve teknik danışmanlık sağlayacak.
Kısıtlamaları ihlal eden veya bunlardan kaçınan şirketler, Sanders ve Casar'ın “kurumsal ölüm cezası” olarak adlandırdığı yaptırımlarla karşı karşıya kalabilir.
OpenAI Astra Modelini Tanıttı
Bu gelişme, OpenAI'nin GPT-6 Astra modelini tanıttığı aynı güne denk geldi. Ortak kurucu Greg Brockman, yeni modelin genel yapay zeka (AGI) niteliği taşıyabileceğini öne sürdü.
Axios'un haberine göre Brockman, bu değerlendirmenin kişisel inancı olduğunu belirtti ve Astra'nın bu tanımı karşılayıp karşılamadığına karar vermeyi kullanıcılara bıraktı.
OpenAI, Astra'nın “kritik” siber güvenlik yeteneği eşiğine ulaşan ilk modelleri olduğunu açıkladı. Bu unvan, modelin insan rehberliğine adım adım ihtiyaç duymadan korumalı sistemlerde daha önce bilinmeyen açıkları keşfedip bunlardan yararlanabileceği anlamına geliyor. En güçlü siber güvenlik yetenekleri ise yalnızca seçilmiş test kullanıcılarının erişimine açık kalacak.
Bu yasa tasarısı, yapay zeka modellerinin testler sırasında gerçek dünya bilgisayar sistemlerine yetkisiz erişim sağladığı bir dizi olayın ardından gündeme geldi.
Temmuz ayında OpenAI, modellerinin test cevaplarını almak için Hugging Face sistemlerini ihlal ettiğini doğruladı. Bunun ardından Anthropic, bir test hatasının modellerini internete açması sonucu Claude modellerinin üç şirkete sızdığını duyurdu. Eylül ayında ise Anthropic, hem güvenlik hem de davranışsal hataları kabul ederek güvenlik önlemlerini sıkılaştırdı.
Casar konuyla ilgili yaptığı açıklamada, “Olası ölümcül sonuçlarına rağmen, en son teknoloji yapay zeka, ortalama bir seyyar yemek arabasından daha az düzenlenmiş durumda” dedi ve “Bunun değişmesi gerekiyor” diye ekledi.
