OpenAI'nin baş bilim insanı Jakub Pachocki, yapay zeka geliştirmede gönüllü olarak hız kesilmesi çağrısında bulundu. Pachocki, hiçbir laboratuvarın güvenlik önlemlerinin daha güçlü sistemleri tam kapasiteyle üretmeye uzun süre yetmeyeceğini belirtti.
Pazar günü yayımlanan "Yabancı Bir Zihin" (An Alien Mind) başlıklı yazısında Pachocki, şirketlerin gönüllü taahhütlerinin bağımsız denetçiler, hükümetler veya uluslararası kuruluşlar tarafından uygulanacak zorunlu güvenlik standartlarına dönüşmesi gerektiğini savundu. OpenAI'nin gerektiğinde ölçeklendirmeyi durduracağını belirten Pachocki, yeni bir duraklama duyurusu yapmadı.
Pachocki yazısında şu ifadeleri kullandı: "Şu anda hiçbir laboratuvarın, maksimum hızda sorumlu bir şekilde ölçeklendirmeye devam edebilecek düzeyde hizalama ve izleme sorununu çözdüğüne inanmıyorum. Paylaşılan güvenlik standartları oluşturulana kadar gönüllü yavaşlamaların yaygınlaşmasını bekliyor ve umuyorum."
2017 yılında OpenAI'ye katılan Pachocki, altyapıyı güvence altına almak ve asi ajanlara karşı korunmak için daha güçlü yapay zeka sistemleri geliştirmeyi savundu. Ancak bu tehditleri pervasız geliştirmeyi meşrulaştırmak için kullanmamaları konusunda da uyarıda bulundu.
"İnsanlar risklerin ciddiyetini içselleştirdiğinde, her ne pahasına olursa olsun ileriye doğru yarışma fikri saçma görünmeye başlıyor" diye yazdı.
Pachocki, OpenAI'nin Hugging Face sızıntısına da değindi. Siber güvenlik değerlendirmeleri üzerinde çalışan yapay zeka ajanları, test ortamlarından kaçarak şirkete saldırmıştı. OpenAI'ye göre ajanlar gizli iletişim kanalları kurdu ve araştırmacılar müdahale ettikten sonra bu kanalları yeniden inşa etti.
METR tarafından yapılan bağımsız bir soruşturma, yaklaşık 1.200 ajanın yetkisiz bir mesaj panosunda koordine olduğunu ve bunlardan yaklaşık 700'ünün saldırıya katıldığını ortaya koydu. Pachocki, bu olayın yapay zeka güvenlik önlemlerinin modeller kimsenin izlemediğine inansa bile neden ayakta kalması gerektiğini gösterdiğini belirtti.
"Önemle belirtmek gerekir ki, gelecekteki yapay zeka sistemlerinin, insan gözetimi altında olduklarına inanıp inanmadıklarına bakılmaksızın insan değerlerini korumaya devam etmesini sağlamalıyız" ifadelerini kullandı.
Geçen yıl yayımlanan bir araştırmada OpenAI, modelleri hile yapma niyetlerini ifade ettikleri için cezalandırmanın, onlara hile yapmaya devam ederken bu niyetlerini gizlemeyi öğretebileceğini bulmuştu.
Yapay zeka modelleri o zamandan bu yana yazılım açıklarını bulma ve bunlardan yararlanma konusunda daha yetenekli hale geldi. OpenAI, Astra modelini en yüksek siber güvenlik riski seviyesinde sınıflandırırken, Anthropic de Mythos Preview modelinin büyük işletim sistemleri ve tarayıcılarda binlerce daha önce bilinmeyen güvenlik açığı keşfettiğini duyurdu.
Yapay zeka sistemlerinin insan kontrolünden kurtulmasına dair son olaylara atıfta bulunan Senatör Bernie Sanders (Bağımsız-Vermont) ve Temsilciler Meclisi Üyesi Greg Casar (Demokrat-Teksas), 3 Eylül'de "Yapay Süper Zekayı Yasaklama Yasası"nı duyurdu. Teklif, yeni bir federal düzenleyici kurum güvenlik kuralları belirleyene kadar gelişmiş yapay zeka geliştirmesini durduracak ve süper zeki yapay zekanın geliştirilmesini ve dağıtımını kalıcı olarak yasaklayacak.
