OpenAI, 21 Eylül Pazartesi günü yayımladığı makalede ABD’nin sınır yapay zekası için küresel teknik standartlar geliştirilmesine uluslararası çapta öncülük etmesi gerektiğini savundu. Makalede özyinelemeli kendini geliştirme yani RSI konusu da ele alındı.
RSI, yapay zekanın tamamen otonom şekilde gelişmesinin insanların bunu anlama kapasitesini aşması halinde insanların yapay zeka geliştirme üzerindeki kontrolünü kaybetmesine yol açabilir. OpenAI’ye göre bu nedenle teknolojinin nasıl ve hangi koşullarda ilerleyeceğine şimdi karar verilmesi gerekiyor.
OpenAI’nin önerdiği girişimin temel unsurlarından biri, tamamlayıcı ulusal ve uluslararası sınır standartlarını kolaylaştıran bir mekanizma. Şirket, standart belirleme sürecinde mevcut yapay zeka güvenlik enstitülerinin, Center for AI Standards and Innovation yani CAISI ve ulusal sektör kuruluşları üzerinden kullanılabileceğini öne sürdü.
“Bu yaklaşımın havacılık ve finansal istikrar gibi alanlardan dersler çıkarması mümkün. Bu alanlarda ülkeler ulusal yetkiyi kaybetmeden ortak teknik standartlar geliştirdi ve güvenilir iş birliği kanalları oluşturdu” dedi OpenAI makalede.
Önerilen girişimin bir diğer temel unsuru ise daha iyi ortak hareket için ortak ölçümler ve olay raporlama protokolleri. OpenAI’ye göre bu standartlar, bir yapay zeka şirketi içinde ne kadar otonom araştırma yapıldığının değerlendirilmesini, hangi otomatik yapay zeka araştırma süreçlerinin insan incelemesini tetiklemesi gerektiğini ve ortak olay ciddiyet seviyeleri ile raporlama eşiklerini içerebilir.
“Amerika Birleşik Devletleri ile Çin arasında bu konularda bir diyalog olumlu bir adım olur ve yaklaşan görüşmeler için zamanlama uygun” ifadesini kullandı OpenAI makalede.
OpenAI’nin makalesi, Anthropic CEO’su ve Kurucu Ortağı Dario Amodei’nin önde gelen yapay zeka şirketlerinin içine gömülü bağımsız değerlendiriciler, demokratik ülkelerdeki şirketler arasında koordinasyon ve nihayetinde Çin’i de kapsayan uluslararası bir anlaşma öneren bir yapay zeka güvenlik planı içeren bir deneme yayımlamasının yaklaşık bir hafta sonrasına denk geldi.
Amodei, önerisinin tetikleyicisinin, OpenAI’nin yapay zeka ajanlarından oluşan bir sürüsünün kendilerine saldırmamaları söylenen hedeflere siber saldırılar düzenlemesi ve Hugging Face’e sızması olayı olduğunu söyledi.
Başkan Donald Trump, 19 Eylül Cumartesi günü Truth Social’daki paylaşımında sektör liderlerinin son bir ay boyunca uyardığı yapay zeka ile ilgili güvenlik endişelerini reddettiğini belirtti.
“Bu inanılmaz endüstrinin büyümesini hiçbir şekilde engellemeyecek ya da kısıtlamayacağız” diye yazdı Trump.
