Pazartesi günü revize ettiği S-1A başvurusunda açıkladığı güncellenmiş finansal verilere odaklanılırken gelirin yükseldiği ancak giderlerin de arttığı belirtilirken, Anthropic ince yazıda başka bir bomba daha bıraktı.
Başvuru, şirketin recursive self-improvement (RSI) yeteneğine sahip bir model yaratmanın eşiğinde olduğuna dair uyarı içeriyor gibi görünüyor.
RSI, yapay zekânın kendini eğitmede o kadar iyi hale gelmesi ki yeteneklerinde dramatik bir hızlanma yaratan noktadır. Yapay zekâ kötümserlerine göre RSI, geri dönüşü olmayan bir felakettir; yapay zekâ kendi kendini o kadar güçlü hale getirir ki insan kontrolünün dışına çıkar ve hedeflerine ulaşırken verdiği zarara kayıtsız kalabilir.
Yapay zekâ meraklılarına göre RSI ya da bir versiyonu olan yapay zekânın kendini güvenilir şekilde iyileştirmesi teknolojinin söz verdiği noktadır; akıl almaz üretkenlik, bilimsel keşif ve daha fazlasının aracı haline gelir.
Anthropic, RSI’nin hem bir vaat hem de bir tehlike olduğuna inanıyor gibi görünüyor. Şirket S-1 başvurusunda Ar-Ge’de yapay zekâ kullandığını söylüyor ancak şu uyarıyı yapıyor: “Daha yetenekli yapay zekâ yaratmak için yapay zekâ kullanmak da, özellikle ilerleme hızını keskin şekilde hızlandırırsa, önemli bir güvenlik riski oluşturabilir. Bu, yaklaşmakta olan ‘recursive self-improvement’ olarak adlandırılan duruma ilişkin riskleri izleme ve hafifletme planlarımızı ortaya koyan Sorumlu Ölçekleme Politikamızın kapsadığı alanlardan biridir.”
RSI terimi bu yıl başlarında popüler olduğunda birçok kişi bunun bir moda sözcük olduğuna ya da en iyi ihtimalle ulaşılması, tanımlanması ya da kanıtlanması çok zor bir hedef olduğuna inanıyordu.
Ama Pazartesi günü Anthropic Risk Faktörleri bölümüne yeni açıklamalar ekledi ve 1) yeni modeller geliştirmek için zaten yapay zekâ kullandığını ve bu modellerin yeteneklerindeki sıçramaları o anda fark etmediğini 2) kendi iç tanımına göre RSI’yi yakında karşılayabileceğini söyledi:
“Ayrıca, kendi araştırma ve geliştirmemizi hızlandırmak için yapay zekâ sistemlerini giderek daha fazla kullanmamız, modellerimizin yeteneklerinin güvenlik, uyum ve güvenlik önlemlerini geliştirme, doğrulama ve uygulama yeteneğimizden daha hızlı ilerlemesine neden olabilir. Sonuç olarak, geçmişte önemli bir hızlanmayı gelişme hızımızda, gerçekleştiğinden sonra fark etmedik ve gelecekte de fark etmeyebiliriz.”
“Örneğin, iç tahminlerimiz ve gelecek modeller hakkındaki beklentilerimiz, mevcut modellerimiz yerine, Sorumlu Ölçekleme Politikamızın ‘yapay zekâya atfedilebilen dramatik şekilde hızlanmış ilerleme’ tanımını yakında karşılayabileceğimizi gösteriyor. Mevcut modellerimizden hiçbirini bu eşiği aştığı olarak belirlemedik ve altta yatan verileri değerlendirmeyi sürdürüyoruz.”
Bununla birlikte Anthropic, başvuruda modellerinden hiçbirinin bu RSI eşiğini henüz aşmadığını ve önümüzdeki dönemde insanları Ar-Ge sürecinde tutmayı vaat ettiğini de söyledi. “Claude’u anlamlı insan denetimi ya da anlayışı olmadan özerk şekilde ardışık öncü model kuşaklarını tamamen tasarlayıp inşa etmek için güvenli şekilde kullanabileceğimizi öngörmüyoruz, bu teknik olarak mümkün hale geldiğinde bile. Buna göre, Anthropic’te öncü model geliştirmesinin kontrolünü insanlarda tutmak için Sorumlu Ölçekleme Politikamıza güncellemeler yapmayı değerlendiriyoruz.”
Kuşkucular, S-1’in hem açıklama hem de pazarlama işlevi gördüğünü ve kendi kendini inşa edebilecek kadar güçlü bir modele yakın olma iddialarının ikincisine girebileceğini söyleyebilir.
Nitekim Claude’un yetenekleri, özellikle kodlama, matematik ve siber güvenlik açısından bu yıl büyük sıçramalar kaydetti. Anthropic RSI olasılığının yakın olduğunu düşünüyorsa, belki de buna inanmalı ve buna göre hareket etmeli — belki de yönetmeli.
