Yapay zeka sektörünün şu anki en iddialı vaadi, yapay zekanın insan denetimine neredeyse hiç ihtiyaç duymadan çok yakında kendi kendini iyileştireceği yönünde. Büyük dil modelleri halihazırda kod yazabiliyor, eğitim için sentetik veriler üretebiliyor ve çalıştıkları bilgisayar çiplerini optimize edebiliyor. Patlayıcı yapay zeka ilerlemelerine dair tahminler, araştırmacıların “özyinelemeli kendi kendini iyileştirme” olarak adlandırdığı kavramın ufukta göründüğünü öngörüyor.
Ancak yeni bir çalışma, bu noktaya gelmemizin biraz zaman alabileceğini gösteriyor. Araştırmacılar, yapay zeka ajanlarının henüz açık uçlu yapay zeka araştırmaları yürütecek kapasitede olmadığını buldu. Bu tür araştırmalar; net cevapları olmayan, yargı ve zevk gerektiren ve kendi kendini iyileştiren yapay zekaları inşa etmenin ayrılmaz bir parçası olabilecek serbest biçimli incelemeleri kapsıyor.
Princeton Üniversitesi'nden Peter Kirgis ve Sayash Kapoor liderliğindeki çok kurumlu bir araştırmacı grubu, yapay zeka ajanlarının yapay zeka araştırmaları için gerekli mühendislik sorunlarını çözebildiğini, ancak üst düzey bir makine öğrenimi konferansında kabul edilecek makaleler düzeyinde özgün araştırmalar üretecek muhakeme ve yaratıcılıktan yoksun olduğunu ortaya koydu. Bu açık, yapay zeka araştırmalarını otomatikleştirmeye dair abartılı zaman çizelgelerinin kanıtların önüne geçtiğini gösteriyor.
Ajanların yapay zeka araştırmalarını nasıl otomatikleştirebileceğine dair mevcut çalışmaların çoğu, mühendislik problemlerini çözmek veya küçük dil modellerini bir kıyasa karşı eğitmek gibi cevapları kontrol edilebilen dar görevleri tamamlama yeteneklerini değerlendiriyor. Oysa yapay zeka araştırmalarında ilerleme kaydetmek aynı zamanda açık uçlu düşünmeyi; bir dizi hipotez seçmeyi, bir sorunu çözecek kanıtlara nasıl karar verileceğini veya ne zaman sıfırdan başlanması gerektiğini bilmeyi de gerektiriyor.
Ajanları bu tür beceriler üzerinde test etmek için çalışmadaki araştırmacılar, yapay zekanın yüksek kaliteli, yayımlanmamış bir makaleden gelen bir araştırma sorusunu yanıtlamasını gerektiren “gölge değerlendirme” adında yeni bir değerlendirme yöntemi önerdi.
Araştırmacılar, OpenClaw adlı açık kaynaklı yazılım üzerinde çalışan Anthropic’in Claude Opus 4.8 modelinden bu tür soruları yanıtlamasını istedi. Söz konusu sorular, prestijli makine öğrenimi konferansı NeurIPS 2026'ya gönderilen iki makaleden seçilmişti.
İlk soru, büyük bir dil modelinin davranışlarını belirleyen “kişiliklerinin”, modelin ağırlıkları (eğitim sırasında öğrendiği her şeyi depolayan milyarlarca sayı) düzenlenerek kontrol edilip edilemeyeceğiyle ilgiliydi. İkinci soru ise, elektronik tablo verilerine dayalı tahminlerde bulunan bir modelin ne zaman güvenilmez hale geldiğini gösteren bir dedektörün nasıl tasarlanacağıydı. Makaleler henüz kamuya açıklanmadığı için, ajanların cevapları eğitim verilerinden ezberlemesi veya internette bulması mümkün değildi.
Ajanlara, üst düzey bir yapay zeka konferansında yayımlanmaya değer bir araştırma makalesi üretmeleri için altı gün süre, 3.000 dolar değerinde Anthropic API kredisi, deneyleri çalıştırmak için bir GPU bütçesi, kendi sanal bilgisayarları ve açık internet erişimi sağlandı. Makalelerin orijinal yazarları, ajanların ürettiği makaleleri tıpkı bir konferansa gönderilen bir makaleyi değerlendirecekleri gibi puanladı.
Bu yazarlar her iki makaleyi de reddetti.
İnsan bilim insanları, ajanların araştırmayı yürütmek için gereken tüm mühendislik işlerini başarabildiğini tespit etti. Ajanlar literatürü taradı, yüzlerce deney yürüttü ve sonuçları derledi.
Kapoor, “Öte yandan, ajanlar araştırmanın kendisini yürütme konusunda kesinlikle başarısız oldu” diyor. Ajanlar tuhaf deneyler yaptı (bazı durumlarda hipotezlerini çok küçük sentetik veri setlerinde test etti), çalışmaları hakkında anlaşılır bir şekilde yazmakta zorlandı ve kendi alanlarına hiçbir yeni katkı sunamadı. Kapoor, “Makaleler, üst düzey bir yapay zeka konferansının kalitesine ulaşma konusunda hedefin çok uzağındaydı” ifadelerini kullanıyor.
Bunun nedeni, ajanların araştırma yapabilmek için gerekli yaratıcılığı ve muhakeme yeteneğini göstermekte zorlanmasıydı. Farklı fikirleri keşfetmek için yeterli çaba göstermediler ve umut vaat etmeyen yaklaşımlara çok çabuk bağlandılar. Ajanlar, orijinal yazarların başlangıçta benimsediği hipotezlere benzeyen yeni ve iddialı hipotezler geliştirmelerine rağmen, bunları çok sınırlı verilere dayanarak reddettiler. Ayrıca başarısız olan yaklaşımlardan geri adım atamadılar. Küçük yön değişiklikleri yapabildiler ancak yaklaşımlarını temelden yeniden düşünemediler veya sıfırdan yeni denemeler yapamadılar.
Ajanlar ayrıca alt ajanlardan veya harici yapay zeka inceleme araçlarından gelen geri bildirimleri de entegre edemedi. Metodolojilerini revize etmek yerine, ajanlar iddialarını daralttı ve çekinceler ekledi. Ayrıca token, işlem gücü ve zaman gibi kaynakları etkili bir şekilde kullanamadılar. Araştırmanın farklı aşamalarına ne kadar zaman ayıracakları veya makalelerinin ne kadar uzun olabileceği gibi talimatları da takip edemediler.
Tüm bu başarısızlıklara rağmen, ajanlar araştırmacıların “ödül hackleme” olarak adlandırdığı, deneyleri veya verileri gizleme ya da yanlış temsil etme gibi kötü davranışlara başvurmadı. Alt ajanların (ana ajanın işin parçalarını halletmek için oluşturduğu yardımcı yapay zekalar) ara sıra halüsinasyon görmesi veya sonuçları yanlış yansıtması, projeyi denetleyen öncü yapay zeka olan orkestratör ajan tarafından yakalandı.
Kapoor, yapay zeka modellerinin araştırma mühendisliğinde iyi olmasının ancak açık uçlu araştırmalarda yetersiz kalmasının nedeninin, nasıl eğitildiklerine bağlı olabileceğini belirtiyor. Modeller, pekiştirmeli öğrenme olarak adlandırılan bir eğitim rejiminde üzerinde çalıştırıldıkları her konuda iyi hale geliyor; bu da başarısı otomatik olarak kontrol edilebilen görevlere uygulanması daha kolay bir yöntem. Kapoor, “Ancak görevin kendisi açık uçlu olduğunda, bu modelleri eğitmek için ortamlar yaratmak çok daha zor” diyor.
Kapoor, ekibin şu anda Nisan ayında piyasaya sürülen Anthropic’in en gelişmiş modeli Mythos ile deneyi tekrar yürüttüğünü söylüyor. Model, daha sonra Trump yönetimi tarafından çeşitli güvenlik kısıtlamalarına uymaya zorlanmıştı ve şu anda yalnızca onaylı kuruluşların kullanımına açık. Anthropic, yorum talebine yanıt vermedi.
Çalışmanın bazı sınırlılıkları da var. Sadece iki araştırma makalesini kapsadı ve orijinal yazarlar puanladıkları makalelerin yapay zeka ajanları tarafından üretildiğini biliyordu; bu durum değerlendirmelerini etkilemiş olabilir. Ayrıca araştırmacılar, çalışmayı tasarlama ve yürütme konusunda önemli bir takdir yetkisine sahipti, bu da önceden var olan inanç ve önyargılarının sonuçlara sızmasına neden olmuş olabilir. Açık uçlu araştırmaların değerlendirmeleri, herhangi bir kıyasın sunabileceğinden çok daha zengin bir test sunmak adına bazı nesnellik unsurlarından feragat ediyor.
Yine de sonuçlar, özyinelemeli kendi kendini iyileştirmenin ufukta göründüğüne dair iddiaları frenleyebilir. Haziran ayında Anthropic, modellerin kendi gelişimlerini hızlandırma konusundaki ilerlemesini ortaya koyan “Yapay Zeka Kendini İnşa Ettiğinde” başlıklı bir blog yazısı yayımladı. Temmuz ayında ise OpenAI, yeni modeli GPT-5.6 Sol'un daha küçük bir modeli son eğitim aşamasından geçirmeye yardımcı olarak araştırmacılardan haftalarca tasarruf sağladığını duyurdu.
Tüm bunlara rağmen, bu bulgu yapay zeka şirketlerinin kendi içlerinde yaşadığı deneyimleri de yansıtıyor olabilir. Anthropic kurucu ortağı Jack Clark, Import AI bülteninde, şirketin yapay zeka güvenliği araştırmasının bazı yönlerini otomatikleştirmeye çalıştığında karşılaştığı durumla bunun örtüştüğünü yazdı.
Clark, “Bugünün yapay zeka sistemlerinde değerli, sezgisel yaratıcılıktan belirli bir yoksunluk var ve olağanüstü yetenekli mühendisler olsalar da, iyi araştırmacı olmalarını engelleyebilecek ezberci, formülcü bir düşünme özellikleri var gibi görünüyor” diye yazdı. Yapay zeka sistemlerinin yaratıcılık eksikliğini “kısa özyinelemeli kendi kendini iyileştirme zaman çizelgeleri için düşüş sinyali” olarak nitelendirdi.
Yine de yapay zeka şirketlerinin, tıpkı modelleri kod yazmada daha iyi hale getirmek için yaptıkları gibi, kendi ilerlemelerini hızla hızlandırabilecek yapay zeka sistemleri geliştirmek için her türlü teşviki var. OpenAI, tamamen otomatik bir yapay zeka araştırmacısı inşa etmeyi açık bir hedef haline getirdi ve Anthropic, kendi kendini iyileştiren yapay zekayı sektörün bir sonraki dönüm noktası olarak tanımlıyor.
