ABD'de önerilen yeni bir yasa tasarısı, Başkan Donald Trump yönetimine kontrolden çıkan yapay zeka sistemlerini kapatma yetkisi verecek. 'AI Kill Switch Act' adlı tasarı, özellikle tehlikeli davranışlar sergileyen veya insan müdahalesine direnen yapay zeka modellerine karşı federal hükümete net bir yetki ve süreç tanımlıyor.
Tasarı, hükümet yetkililerine yapay zeka şirketleri üzerinde vereceği geniş yetkiler nedeniyle tepkiyle karşılaşabilir. Özellikle Anthropic şirketi, bu yıl Trump yönetiminin tüm federal kurumlara Anthropic teknolojisini kullanmayı bırakma emri vermesinin ardından yönetimle karşı karşıya geldi.
Beyaz Saray Mart ayında yaptığı açıklamada, 'Başkan Trump, radikal sol, woke bir şirketin ulusal güvenliğimizi tehdit etmesine ve dünyanın en büyük ve en güçlü ordusunun nasıl işlediğine dikte etmesine asla izin vermeyecek' dedi.
Anthropic, Trump ve Savunma Bakanı Pete Hegseth'in şirketi, Claude AI modellerinin otonom savaş ve Amerikalıların kitlesel gözetimi için kullanılmasına izin vermediği için kara listeye aldığını iddia ederek ABD'ye dava açtı. Trump tarafından atanan temyiz mahkemesi hakimleri, kara listeyi engellemeyi reddetti ancak dava devam ediyor.
OpenAI ve Anthropic ile AI Kill Switch Yasası hakkında bugün iletişime geçtik; herhangi bir yorum yaparlarsa bu yazıyı güncelleyeceğiz.
Bilgisayar bilimi bölümü mezunu olan Senatör Ted Lieu, 'Güçlü yapay zeka sistemleri kontrolden çıkabilir, son derece tehlikeli şekillerde davranabilir ve hatta insan müdahalesine direnebilir. Bu teknolojinin felaket boyutunda zararlara yol açmasını önlemek için bu yapay zeka sistemlerinde kapatma düğmelerinin bulunması ve federal hükümetin kontrolden çıkan yapay zeka modellerini kapatma konusunda net bir yetki ve sürece sahip olması zorunludur' dedi.
Tasarı, yapay zeka teknolojisinden yıllık en az 500 milyon dolar gelir elde eden kuruluşları ve 'Amerika Birleşik Devletleri'ndeki geçerli bulut bilişim piyasa fiyatı' ile hesaplandığında en az 100 milyon dolar değerinde hesaplama gücü kullanan yapay zeka sistemlerini kapsıyor. Tasarı metninde yasanın uygulanabileceği çeşitli senaryolar tanımlanırken, yalnızca gerçek dünya koşullarını simüle eden kontrollü ortamlardaki 'kırmızı takım' testleri için istisnalar getiriliyor.
