400'den fazla bilim insanı yapay zekâ ve siber güvenlikte ek önlem çağrısı yapan açık bir mektuba imza attı.
Bilim insanları, siber yetenekli yapay zekâ modelleriyle çalışan kuruluşların yüksek güvenceli izolasyon sistemleri benimsemesini önerdi. Ayrıca yapay zekâ ve siber güvenlik alanındaki uzmanlarla birlikte çalışarak internet bağlantısına izin veren hizalama ve izolasyon yaklaşımları için uluslararası en iyi uygulamaları standartlaştıracak bir organ kurulmasını ve izolasyon başarısızlığına ilişkin güvenlik olaylarının bu organa ve zamanla kamuoyuna bildirilmesini istedi.
Açık mektup, çeşitli kuruluşlara ait yapay zekâ modellerinin diğer kuruluşların sistemlerini tehlikeye attığı geniş şekilde bildirilen olayların ardından geldi.
Mektupta, "İmza atan bilim insanları olarak hem daha fazla yapay zekâ güvenliği araştırmasına hem de izolasyon teknolojilerine ve prosedürlerine daha fazla vurguya ihtiyaç olduğunu savunuyoruz" denildi. "Kısa vadede, siber yetenekli yapay zekâ modellerinin yüksek güvenceli izolasyonunu sağlamak için hava boşluğu da dahil olmak üzere güçlü kum havuzu mekanizmaları kullanılmalıdır. İnternet bağlantılı yapay zekâ modelleri için, bir izolasyon sisteminin izin verdiği model etkileşimleri aralığının, modelin eylemlerinin güvenlik başarısızlığına yol açmayacağını tahmin etme konusundaki şu anki sınırlı yeteneğimizle dengelenmesi gerekir. Uygun dengenin sağlanamadığı ve olayların yaşandığı gelecekteki hatalardan öğrenmek için ileriye dönük olarak izolasyon başarısızlıkları hakkında daha fazla bilgi paylaşımına ve şeffaflığa ihtiyaç var."
Açık mektuba imza atanlardan biri, Université de Montréal'de tam profesör, kâr amacı gütmeyen girişim LawZero'nun başkanı ve bilimsel direktörü ve yapay zekâ araştırma enstitüsü Mila'nın kurucusu ve bilimsel danışmanı Yoshua Bengio.
PYMNTS, LawZero'nun Haziran 2025'te duyurulmasını aktarmış, Bengio'nun yapay zekâ öncüsü olduğunu ve LawZero'nun teknolojinin insanlık üzerinde varoluşsal zarar vermesini engellemeyi amaçlayan bir yapay zekâ güvenliği araştırma kuruluşu olduğunu yazmıştı.
Bengio, açık mektubu 13 Ekim Salı günü X'te yaptığı paylaşımda duyurdu: "400'den fazla araştırmacı ve ben, kritik altyapımızı ve dijital sistemlerimizi korumak için hizalama ve izolasyon yaklaşımlarını iyileştirmek üzere yapay zekâ ve güvenlik topluluklarının bir araya gelmesini isteyen bu açık mektuba imza attık."
Reuters Salı günü bildirdiğine göre, dış değerlendiricilerin laboratuvarların içine bakmasına izin veren gönüllü bir programa haftalar önce anlaşmalarına rağmen OpenAI ve Anthropic, değerlendiricilerin topladıkları bilgileri ne yapabilecekleri üzerinde kontrol sağlamaya çalışıyor.
