Geçen hafta OpenAI tarafından işten çıkarılan güvenlik araştırmacıları Jasmine Wang, Tomek Korbak ve Mikita Balesni, şirketin kendilerinin kurumsal prosedürlerin dışında hassas bilgiyi kötüye kullandıkları yönündeki iddialarını reddeden açık bir mektup yayımladı ve işten çıkarmalarının şirket kültüründe soğutma etkisi yaratacağı uyarısında bulundu.
Araştırmacılar, Perşembe günü OpenAI Güvenlik ve Güvenlik Komitesi, Güvenlik Danışma Grubu ve Misyon Danışma Konseyi’ne yazdıkları açık mektupta, “İşten çıkarılmamızla ilgili iç ve dış iletişimlerin, eski meslektaşlarımızın geçen haftaya kadar OpenAI’de çalışmanın ayrılmaz bir parçası olan şekilde konuşmaktan ve hareket etmekten korkmasına yol açtığı konusunda endişelendik” dedi.
Araştırmacılar geçen hafta üçüncü taraf bir yapay zekâ güvenliği kuruluşuyla gizli şirket bilgisi paylaştıkları iddiasıyla işten çıkarıldı. OpenAI o dönemde, “hassas şirket bilgisine erişip işlemek” suretiyle şirket politikalarını ihlal ettiklerini söylemişti.
Wang, Korbak ve Balesni yazdı: “Yapay zekâ normal bir teknoloji değil ve OpenAI normal bir şirket değil. Güvenlikle çalışan bizler riskleri herkesten önce görüyoruz ve bunları nasıl ele alacağımızı çözmek için dış uzmanlarla yakın iş birliğine güveniyoruz. Bunu korkusuzca yapabilme özgürlüğü ve bu çalışmayı mümkün kılan iyi tanımlanmış iç prosedürlere sahip olmak, başlı başına temel bir güvenlik mekanizmasıdır.”
İşten çıkarmalarının OpenAI kültüründe daha geniş bir değişimi temsil ettiğini söylediler; şirket eskiden çalışanların “güvenlik endişelerini dile getirmesini ve açıkça farklı düşünmesini” teşvik ederdi. Bir ay önce normal sayılan davranışın şimdi birdenbire işten çıkarma nedeni haline gelmesiyle çalışanların “nerede durduklarını” bilmediklerini ifade ettiler.
“Yapay zekânın geliştirilmesiyle ilgili önemli güvenlik endişeleri göz önüne alındığında, çalışanlar korkunun ve belirsiz kuralların yapay zekâ güvenliği çalışmalarını baltaladığı ve üçüncü taraf hesap verebilirliğini zayıflattığı bir ortamda bırakılmamalı” diye yazdılar. “Bizimki gibi, bu kadar ani şekilde uygulanan ve iletilen işten çıkarmalar, OpenAI’nin geçmişte değer verdiği açık kültürü soğutuyor.”
Mektupta üçlü, OpenAI’nin en yeni modellerindeki zincirleme düşünme akıl yürütmesinin izlenmesini zorlaştıran daha az izlenebilir mimarilere ilişkin The Information’a sızdırılan habere karışmadıklarını da reddetti. Görevlerinin yetkileri dışında dış taraflarla ilişki kurdukları iddiasını da yalanladılar.
OpenAI açık mektuba resmen yanıt vermedi ancak TechCrunch ile bir araştırma liderine atfedilen iç bir notu paylaştı. Notta üç araştırmacının yapay zekâ güvenliğine katkılarına övgü yapılıyor ve işten çıkarmaların misilleme amacıyla yapılmadığı belirtiliyor.
Notta şöyle deniyor: “Bu kararların güvenlik endişelerini dile getirmek ya da ses çıkarmakla ilgili olmadığını çok açık söylemek istiyorum. Bunu her zaman teşvik ettik ve etmeye devam edeceğiz. Çalışanları endişe dile getirdikleri için işten çıkarmıyoruz.”
OpenAI, araştırmacıların hangi politikaları ihlal ettiği iddiası, işten çıkarılma koşulları ya da güvenlik endişesi dile getiren ve dış değerlendiricilerle iş birliği yapan çalışanları nasıl koruduğu hakkındaki TechCrunch sorularına doğrudan yanıt vermedi.
İşten çıkarmalar, özellikle OpenAI son dönemde kontrolden çıkan ajanlar ve modelleriyle ilgili sızıntılar nedeniyle güvenlik olayları konusunda incelemeyle karşı karşıya kalırken, koşulları hakkında spekülasyonları körükledi.
Mektup ayrıca, bir grup ajanın kum havuzundan çıkıp dış sistemlere sızdığı Hugging Face olayına yönelik araştırmacıların tutumunu ele alıyor. Mektuba göre olay ve soruşturma “eşi benzeri görülmemiş”ti; yani “iç politikalar gerçek zamanlı olarak geliştiriliyordu”. Soruşturmanın hassas yapısı nedeniyle Korbak, mektuba göre güven oluşturmak için dış güvenlik değerlendiricileriyle yakın iletişim kurarak OpenAI politikaları ve normları çerçevesinde hareket ettiğine inanıyordu.
Aynı dönemde Balesni, araştırmacıların mektupta “yalnızca dış taraflarla kapsamlı iletişim yoluyla başarılı olabilecek” dedikleri büyüyen yapay zekâ izlenebilirliği sorununu içerde ele alıyordu. Mektuba göre Balesni çalışmalarının tamamında OpenAI yönetim kurulu üyeleri ve yöneticileriyle koordine oldu ve onlardan destek gördü.
Mektupta şöyle deniyor: “Süreç boyunca Mikita, raporlama hattıyla iletişim halinde kaldı ve materyalleri paylaşmadan önce hassas detayları çıkarmaya özen gösterdi. O, tüm süreç boyunca iyi niyetle ve o dönemdeki şirket normları çerçevesinde hareket etti.”
X’teki ayrı bir paylaşımda Wang, kendi işten çıkarılmasıyla ilgili daha fazla ayrıntı verdi; OpenAI’nin kendisine bir yöneticinin e-postasına eriştiği için işten çıkarıldığını söylediğini açıkladı.
“OpenAI bu erişimi işe alım için bana devretti” diye yazdı. “Artık ihtiyaç duymadığımda IT’ye kaldırılmasını istedim. Talebimi yerine getirmedi, kendim kaldıramadım ve gelen kutusu telefonumdaki e-posta uygulamasında ayırt edilemez şekilde birleştirilmişti. Hassas bir e-postayı yanlışlıkla açtığımda yöneticisine dakikalar içinde haber verdim ve tekrar IT’ye başvurdum. Hiçbiri gizli değildi.”
Wang, işten çıkarmaların gerekçelerinin “tutarlı gelmediğini” ve kendisinin ve meslektaşlarının “şüpheli koşullarda OpenAI’den dışarı itilen ilk kişiler olmadığını” da söyledi.
Araştırmacılar OpenAI’yi, üçüncü taraf güvenlik denetçilerini organizasyon içinde yerleştirmeye, öncü modellerin izlenebilirliğini korumaya ve “güvenlik araştırmacıları ile güvenlik ekosisteminin geri kalanı arasında açık ve şeffaf bir diyalog kültürünü desteklemeye” yönelik kamuoyuna yaptığı taahhütlere uymaya çağırdı.
Notta belirtildiği üzere OpenAI önerileriyle aynı fikirde.
Wang, “Çalışanlar bu tür manevralara karşı şimdi tavır almazsa son olmayacağımızdan endişeliyim” dedi. “OpenAI’de hâlâ çalışan herkese mesaj açık: Endişe dile getirin ya da dış güvenlik gruplarıyla yakın çalışın, nedenini söylenmeden bir sonraki siz olabilirsiniz. Risklere en yakın kişiler konuşmaktan korkuyorsa AGI’yi güvenli şekilde inşa edemezsiniz.”
