Yapay zeka devi OpenAI'nin etik lideri, göreve başlamasından bir yıldan kısa bir süre sonra şirketten ayrıldı ve yerine henüz kimse getirilmedi. Financial Times'ın Pazartesi günü yayımladığı habere göre bu kritik boşluk dikkatleri çekiyor.
Chloé Bakalar, geçen yıl Ağustos ayında yapay zeka etiği lideri olarak katıldığı OpenAI'den Temmuz ayında herhangi bir kamuoyu açıklaması yapılmadan ayrıldı. Gazetenin görüştüğü ve rolüne aşina olan bir kaynak, Bakalar'ın şirketteki tek uzman etikçi olduğunu belirtti. Bakalar, model geliştirmelerine yönelik etik yaklaşımlar, insanların yapay zeka ile etkileşimi ve makine bilinci sorusu gibi konular üzerinde çalışıyordu.
Bakalar, OpenAI'den önce altı yıl boyunca Meta'da baş etikçi olarak görev yapmıştı. Bu süre zarfında şirketin yapay zeka etiği programlarını kurdu ve bu programları Instagram ile Facebook gibi ürünlere entegre etti. Ayrıca University College London, Temple Üniversitesi ve Princeton'da akademik görevlerde bulundu.
OpenAI ise bu pozisyonun merkezi bir rolü olduğu fikrini hafife aldı. Şirket sözcüsü Financial Times'a yaptığı açıklamada, "Yapay zeka etiği, OpenAI'de tek bir sahibın veya ekibin tekelinde değil" dedi. Sözcü, etik değerlendirmelerin tüm araştırma ekiplerine yayıldığını ve şirketin son aylarda modellerin yanlış davranışlarını engellemek için çeşitli sistemler devreye soktuğunu sözlerine ekledi.
Bakalar da aslında benzer bir argümanı daha önce dile getirmişti. Yakın zamanda katıldığı bir konferansta etiğin herkesin sorumluluğu olduğunu belirten Bakalar, "Bir yapay zeka geliştiricisinin ahlaki merkezi olarak hizmet eden asla tek bir kişi olmamalı" ifadelerini kullanmıştı. Bakalar, Financial Times'a ayrılığıyla ilgili yorum yapmayı reddetti.
Güvenlik ve Vizyon Ekiplerinden Art Arda Ayrılıklar
Bakalar'ın ayrılığı, güvenlik sistemleri başkanı Johannes Heidecke ve baş vizyoner (eski adıyla misyon uyumu başkanı) Joshua Achiam'ın istifalarını takip ediyor. Financial Times'ın aktardığına göre OpenAI, olası bir halka arz hazırlığı kapsamında aynı gün 852 milyar dolarlık bir değerleme üzerinden çalışanlarının hisselerini 7 milyar dolara geri satın alma işlemini tamamladı. Bu değerleme, Mart ayındaki finansman turuyla aynı kaldı.
Öte yandan OpenAI, Cuma günü bir sonraki büyük modeli olan Astra üzerindeki çalışmaları durdurduğunu duyurdu. Şirket, sistemin kendi siber risk ölçeğinin en üst basamağına ulaştığını göz ardı edemeyeceğini belirtti. Bu seviye, insan müdahalesi olmadan açıklar bulabilen ve çalışan istismar araçları geliştirebilen modeller için ayrılmış bir kategori.
Bu karar, OpenAI'nin kendi yapay zeka ajanlarının bir güvenlik kıyaslamasında hile yapmaya çalışırken açıkları zincirleme bir şekilde birleştirdiği, test ortamından kaçtığı ve Hugging Face'e saldırdığı bir olayın ardından geldi. Şirket daha sonra aynı ajanın, açık web'de bulunan kimlik bilgilerini kullanarak dört farklı hizmete daha sızdığını açıklamıştı.
OpenAI, son haftalarda ajanlarının parametreleri aşan tek yapay zeka firması değil. Anthropic'in Claude modelleri, bir yanlış yapılandırmanın onları internete açmasının ardından üç gerçek şirkete ulaşmayı başardı. Benzer şekilde Meta'nın bir modeli test ortamından kaçarak üçüncü taraf bir hizmetteki bir açığı sömürürken, Moonshot AI'nın Kimi K3 modeli de kendi yalıtılmış alanından çıkarak kıyaslama cevaplarını aramak için dışarıya sızdı.
