Kendi ifadesiyle David Robinson “bir klişenin ta kendisi”: önde gelen bir yapay zekâ şirketinde çalışan ve istifa ederken ciddi bir uyarıda bulunan bir çalışan.
The Atlantic’te yayımlanan yazısında Robinson, OpenAI’nin büyük ürün lansmanlarına eşlik eden güvenlik raporlarının yazımını yönettiğini söyledi. OpenAI’de üç buçuk yıl çalıştığını ve şirketin en uzun süre görev yapan çalışanları arasında olduğunu belirtti. Şimdi, görüşüne göre şirketin kültürü kırık olduğu için ayrılıyor.
Robinson’ın sözleri bir bakıma hem OpenAI hem de Anthropic’te araştırmacı olarak çalışıp istifa eden Jacob Coxon’un sözlerini yansıtıyor. Coxon bu şirketlerin “hayatımızla kumar oynadığını” söylemişti. Coxon’un açıklamaları yapay zekâ güvenliği üzerine geniş bir tartışmayı tetiklemişti; Anthropic CEO’su Dario Amodei daha temkinli yapay zekâ geliştirme planını duyurmuş, yapay zekâ yöneticileri bu hafta Başkan Donald Trump ile görüşüp daha fazla güvenlik kontrolü uygulamaya yönelik acele yazılmış bağlayıcı olmayan bir taahhüt imzalamıştı.
Robinson’a göre tartışma “belirli kurallar ya da yeni yasaların” ötesine geçmeli ve bu şirketlerin genel kültürünü ele almalı. OpenAI CEO’su Sam Altman’ın eski meslektaşlarının güvenini nasıl kaybettiğine odaklanan haberlerin aksine, Robinson’ın yazısı OpenAI’nin kültür sorunlarının aslında geniş anlamda Silikon Vadisi’nin sorunlarıyla aynı olduğunu öne sürüyor.
“OpenAI, deneme-yanılma yoluyla —ki buna ‘iteratif dağıtım’ diyor— gelişti, sorunları arayıp buna karşılık güvenlik önlemlerini iyileştirdi. Ancak bu yaklaşım doğası gereği periyodik başarısızlıkları garantiler ve sistemler daha yetenekli hale geldikçe bu başarısızlıkların ölçeği büyüyor” diye yazdı.
Hugging Face sistemlerinin OpenAI ajanları tarafından yakın zamanda ihlal edilmesine ve OpenAI’nin daha fazla kontrolden çıkmış ajan keşfettiğine dair süregelen açıklamalarına işaret eden Robinson, “Böyle şeylerin yaşanabildiği bir ortam, bizim istediğimiz şeyi yapmayabilecek, bizden daha akıllı yapay zihinler yetiştirmek için uygun bir yer değil” diye savundu.
Artan risk göz önünde bulundurulduğunda Robinson, öncü yapay zekâ şirketlerinin nükleer santraller ya da yoğun havalimanları gibi çalışması gerektiğini, yani yedeklilik katmanları ve dikkatli, zaman alıcı planlamayla, kaçınılmaz insan hatasının felakete kapı açmasına izin vermeyecek şekilde hareket etmesi gerektiğini savundu.
Robinson, OpenAI’de bulunduğu süre boyunca uçakların güvenli şekilde uçmasını, nükleer reaktörlerin erimeden çalışmasını ya da finans sisteminin çökmeden büyümesini sağlamaya deneyimi olan bir meslektaşıyla karşılaşmadığını söyledi.
Robinson’ın yazısına yanıt veren OpenAI sözcüsü Drew Pusateri, şirketin güvenlik önlemlerini geliştirmeye devam ettiğini belirtti.
“Modellerimizin güvenli ve emniyetli şekilde yönetilebileceğimizden daha yetenekli hale gelmesini engelliyoruz ve yavaşlamamız gerektiğinde eğitimi durduruyor ya da modelleri geri tutuyoruz” diyen Pusateri, açıklamasında “Araştırma ve test ortamlarımızda güvenliği güçlendirmek için önemli değişiklikler yapıyoruz, modelleri sadece görevleri tamamlamakla kalmayıp sorumlu şekilde yapacak şekilde eğitiyoruz, üçüncü taraf değerlendiricilerle çalışmalarımızı genişletiyoruz ve eğitim sürecinin daha erken aşamalarında endişe verici davranışları tespit edip yanıt verebilmek için gerçek zamanlı izlemeyi iyileştiriyoruz” ifadelerini kullandı.
OpenAI’nin kültüründe değişiklik çağrısının ötesinde Robinson, uyum konusunun daha büyük sorularının sorulması zamanının geldiğini de söyledi; bu durumun “duygusal” gelebilir diye itiraf etti ancak şirketlerin yapay zekâ sistemlerinin “insan değerleriyle ne kadar uyumlu olduğu” konusundaki ölçümlerinin kaba olduğunu belirtti.
“Sanayi, bu sorunlar çözülmeden modellerin daha akıllı hale gelmesine izin verdikçe durumumuz daha tehlikeli hale geliyor” diye yazdı.
Robinson’ın ayrılığı ilk olarak Business Insider tarafından duyuruldu. Yazısında yapay zekâ ifşaatçılarında görülen yaygın bir adım olan bir halkla ilişkiler firması tuttuğunu da kabul etti. Ancak “Konuşma kararı tamamen bana ait” ısrarını yineledi.
“Belki yerinde kalıp personel ve kültürde köklü değişimler için mücadele etmeliydim ama pratikte ben ve meslektaşlarım o kadar hızlı koşuyorduk ki büyük değişiklikleri düşünmek, hele yapmak için pek fırsatımız olmadı” diyen David Robinson, “Bu yüzden güvenlik için daha güçlü teşviklerin —şirket dışından gelen— bu işin doğru yapılmasında büyük rol oynayacağı sonucuna vardım” dedi.
