Anthropic, daha güçlü yapay zekâlar inşa etmek için yine yapay zekâdan faydalanıyor. Şirketin modellerinin, bir yıl öncesine göre yaklaşık iki kat daha hızlı geliştiği ve bu hızda herhangi bir yavaşlama belirtisi olmadığı görülüyor.
Bu bilgiler, yapay zekâ güvenliği araştırma kuruluşu METR'in Perşembe günü yayımladığı yeni bir raporda yer alıyor. Rapor, şirketin yapay zekâ araştırma ve geliştirme süreçlerini değerlendirmek amacıyla yürütülen 11 haftalık bir incelemenin sonucunda hazırlandı. Bu araştırma, yaz boyunca yaşanan yüksek profilli hack olaylarının ardından güvenlik araştırmacılarına sistemlere "çalışan benzeri" erişim imkânı sunan programdan ayrı bir süreç olarak yürütüldü.
Bulgular, yapay zekânın kendi gelişimini hızlandırdığına dair şimdiye kadarki en net kanıtlardan bazılarını sunuyor. Bu durum, teknolojinin, insan müdahalesinin çok az olduğu veya hiç olmadığı bir geleceğe ne kadar hızlı evrilebileceği sorusunu beraberinde getiriyor. Ayrıca bu gelişmeler, CEO Dario Amodei'nin laboratuvarlara yapay zekâ geliştirmede "fren yapma" çağrısında bulunduğu bir dönemde, Anthropic'in halka arz hazırlıkları yapmasıyla kritik bir zamana denk geliyor.
Rapor, dünyanın önde gelen yapay zekâ laboratuvarlarının iç işleyişine nadir bir bakış sunsa da, raporda yer almayan kısımlar da bir o kadar dikkat çekici. Anthropic, METR ile yaptığı anlaşma gereği nihai raporun bazı bölümlerini sansürleme yetkisine sahipti ve bu yetkiyi oldukça geniş bir şekilde kullandı. Bu durum, öncü yapay zekâ geliştirmelerinin hızı ve riskleri hakkında kamuoyunun gerçekte ne kadar bilgiye sahip olduğu konusunda soru işaretleri yaratıyor.
Rapordan öne çıkan temel noktalar şunlar:
Yapay zekâ, Anthropic'in araştırma ve geliştirme süreçlerini ciddi şekilde hızlandırıyor
METR'in en dikkat çekici bulgularından biri, Anthropic'in yapay zekâ modellerinin bir yıl öncesine göre yaklaşık iki kat daha hızlı geliştiği yönünde. Kıyaslama puanları, Anthropic'in son bir yılda yaklaşık iki yıllık tarihsel ilerleme kaydettiğini gösteriyor. METR araştırmacıları, bu hızlanmanın sadece modelleri eğitmek için kullanılan işlem gücünün artırılmasından kaynaklanmadığından "emin" olduklarını belirtti; zira işlem gücü artışı tarihsel olarak yapay zekâ ilerlemesinin ana motoruydu.
Araştırmacılara göre, ekim ayı itibarıyla hızlanmanın büyük bir kısmı "yapay zekâdan" kaynaklanıyor ve bu katkı zamanla artıyor. Bu bulgu, Anthropic çalışanlarıyla yapılan mülakatlar ve Slack üzerinden yapılan gayriresmî anketlerle de desteklendi. Şirketin en yetenekli dahili modelini kullanan çalışanlar, yapay zekâ desteği olmadan çalışacakları duruma kıyasla ortalama 12 kat daha üretken olduklarını beyan etti. Bu rakam, personelin sadece birkaç ay önce Mythos 5 modelini kullanırken bildirdiği üretkenlik artışının yaklaşık iki katı.
Şu an için bu hızlanmanın büyük bir kısmı, yapay zekânın bağımsız çalışmasından ziyade insan araştırmacılara yardımcı olmasından kaynaklanıyor. Ancak METR, "tamamen otonom katkıların yakında daha büyük bir rol oynayacağına dair bazı işaretler olduğunu" uyararak dikkat çekti. Araştırmacılar ayrıca, "daha da hızlı bir hızlanmayı" engelleyebilecek herhangi bir darboğaz veya azalan verim belirtisine rastlamadıklarını kaydetti.
Anthropic'in en yeni üç yapay zekâ modeli hâlâ gizli tutuluyor
Anthropic araştırmacıları, genel kullanıcılardan daha gelişmiş yapay zekâ modelleri kullanıyor. METR tarafından açıklanan hızlanma ve üretkenlik artışlarının çoğu, henüz piyasaya sürülmemiş dahili modellere bağlanıyor.
METR'e göre Anthropic, son altı ay içinde eğitimini tamamladığı ancak henüz yayımlamadığı üç model üzerinde çalıştı. Gelişim hızı oldukça yüksek; Model 2, Model 3 ve Model 4 kod adlı modellerin eğitimleri sırasıyla temmuz, ağustos-eylül ve eylül-ekim aylarında tamamlandı. METR ayrıca 2022 yılına dayanan ve "Unreleased 2022" olarak adlandırılan yayımlanmamış bir model daha tespit etti. Araştırmacılar, bu kod adlarının kendileriyle paylaşılan isimler olduğunu, şirket içinde farklı kod adlarının kullanıldığını belirtti.
Anthropic kritik bilgileri gizli tutuyor
Anthropic, araştırma süreci kapsamında gizli araştırmalar, model performans verileri ve çalışan mülakatları dahil olmak üzere birçok kamuya açık olmayan bilgiyi METR ile paylaştı. Şirketin böyle bir zorunluluğu yoktu ve METR, yapay zekâ laboratuvarının "başlangıçta planlanandan daha fazla bilgi paylaşarak beklentileri aştığını" kabul etti. Bu durum takdir edilse de, Anthropic'in araştırmacılara sınırsız erişim veya geçen ay duyurulan ayrı bir program kapsamında diğer güvenlik araştırmacılarına vaat edilen "çalışan benzeri" erişim izni vermediği belirtildi. Şirketlerin, ciddi kısıtlamalar olsa bile bağımsız değerlendirmelerden itibar kazanabildiği düşünüldüğünde bu ayrım önem taşıyor.
Kısıtlamalar oldukça belirgindi. Anthropic, METR'in nihai raporundan bilgi çıkarma yetkisine sahipti ve bu yetkiyi yoğun şekilde kullandı. METR, X üzerinden yaptığı paylaşımda, değerlendirmelerine dair yaklaşık 100 sayfalık tam raporu Anthropic'e sunduklarını ancak kamuya açık versiyonda şirketin "en bilgilendirici buldukları kanıtların çoğunu" sansürlediğini yazdı.
METR, rapor boyunca erişimindeki diğer kısıtlamaları vurgulayarak bu endişelerini yineledi. Bilgi akışının nispeten dar olduğunu ve veri taleplerinin küçük bir kısmının reddedildiğini belirtti.
METR, Anthropic'in sansür kararlarının bulguları iletme ve diğer kişilerin şirket içindeki durumu değerlendirme yeteneği üzerindeki etkisini defalarca vurguladı. Sansürlenen kanıtların çoğunun "birden fazla makul yorumu" olabileceğine dikkat çeken kurum, bu durumun kamuoyunun bulguları değerlendirmesini, belirsizlikleri anlamasını ve kanıtları kendisinin yargılamasını zorlaştırdığını belirtti. Raporda, "sansürlerin bir sonucu olarak kamuoyu, burada yanıtlanan soruların ağırlığı göz önüne alındığında, ideal olandan çok daha fazla METR'in yargısına güvenmek zorunda kalıyor" ifadesi kullanıldı.
METR, Anthropic'in bu sansürleri, bilgilerin paylaşılmasının rakiplerine fayda sağlayacağı gerekçesiyle haklı çıkardığını belirtti. Ancak METR, sansürlenen bilgilerin çoğunun "çok üst düzey" olduğunu, yine de bu sansürlerin ticari olarak haklı olup olmadığı konusunda yorum yapacak konumda olmadığını ekledi.
Anthropic kurucu ortağı Sam McCandlish, METR'in bulgularına yanıt olarak X'te paylaştığı uzun bir yazıda, "Çok fazla sansürleme yaptık ve bunun başkalarının METR'in çalışmasını denetlemesini zorlaştırdığını kabul ediyorum" dedi. McCandlish, hızlanmayı neyin tetiklediğinin tam olarak paylaşılmasının, hem ticari olarak hassas olduğu hem de başkalarına daha hızlı ilerlemeleri için bir yol haritası sunma riski taşıdığı için doğru olmadığını, bunun da METR'in endişelendiği riskleri "daha kötü" hale getireceğini savundu.
McCandlish, bunun bir ödünleşme olduğunu ancak Anthropic'in bilgileri sansürleme konusunda "doğru kararı" verdiğini iddia etti. Şirketin önümüzdeki haftalarda yapay zekâ ilerleme hızıyla ilgili kendi raporunu yayımlamayı ve güvenliği artırmak için attığı yeni adımları açıklamayı planladığını söyledi.
Anthropic, tehlikeli olduğu konusunda uyardığı teknolojiyi beklenenden daha hızlı geliştiriyor
METR raporunun yayımlanması, yapay zekâ güvenliği araştırmacıları ve yorumcuları arasında sert tepkilere yol açtı. Tepkiler temel olarak Anthropic'in yaklaşımındaki belirgin bir çelişkiye odaklanıyor: Şirket, güvenlik ve sorumlu geliştirmenin en yüksek sesli savunucularından biri olmasına rağmen, rapor, şirketin teknolojiyi birçok kişinin tehlikeli bulduğu bir eşiğe doğru hızlandırdığını ve şeffaflık ile hesap verebilirlik taahhütlerini yerine getirmediğini gösteriyor.
Bazılarına göre bu bulgular, sektördeki en agresif yapay zekâ ilerleme tahminlerinin bile fazla tutucu kalmış olabileceğini gösteriyor. Bulgular, insan müdahalesi olmadan giderek daha güçlü halef sistemler geliştirebilen yapay zekâların, yani özyinelemeli öz-iyileştirmenin (recursive self-improvement) tahmin edilenden daha yakın olabileceğine işaret ediyor. Bu durum, mevcut güvenlik önlemlerinin bu hıza yetişip yetişemeyeceği endişesini artırıyor. METR raporu sadece Anthropic'i kapsasa da OpenAI, eylül ayında, Mart 2028'e kadar "derin öğrenme ve hizalama konusunda daha fazla ilerleme sağlayabilecek" bir yapay zekâ araştırmacısı inşa etme yolunda "ciddi ilerleme kaydettiğini" açıklamıştı.
Birçok önde gelen yapay zekâ laboratuvarı için güvenlik testi yapan Apollo Research'ün CEO'su ve kurucusu Marius Hobbhahn, The Verge'e verdiği demeçte, raporun yapay zekâ destekli araştırma ve geliştirme hızının, 2027 başında öz-iyileştirmeye yönelik kilit bir kırılma öngören etkili "AI 2027" senaryosundan bile daha hızlı olduğunu belirtti. Hobbhahn, raporun bu kadar dikkat çekmesinin nedeninin, tespit edilmesi çok zor olan bir konuya kanıt sunması olduğunu söyledi: Yapay zekânın kendi gelişimini ne kadar hızlı hızlandırdığı.
Hobbhahn, bulguların genel olarak sektörde beklenenlerle uyumlu, hatta belki biraz daha hızlı olduğunu ifade etti. Teknoloji politikası araştırma merkezi GovAI'da kıdemli araştırma görevlisi olan Alan Chan ise The Verge'e, bu bulguların, yapay zekânın kendi gelişimini hızlandırması konusundaki şüphecileri görüşlerini yeniden değerlendirmeye itmesi ve yazılım mühendisliği gibi görevleri tamamen otomatize edecek sistemlere ulaşma takvimlerini kısaltması gerektiğini söyledi.
X üzerinden yorum yapan diğer araştırmacılar da hızlanma oranı ve bunun etkileri üzerinde durdu. Yapay zekâ güvenliği kuruluşu The Nightingale Collective'in kurucusu ve CEO'su, eski METR araştırmacısı Sydney Von Arx da bulguları AI 2027 takvimiyle kıyasladı. Eski Redwood Research araştırmacısı ve OpenAI'ın Hugging Face saldırısını inceleyen üç dış araştırmacıdan biri olan METR araştırmacısı Ryan Greenblatt ise, "Öz-iyileştirme hızlanması konusunda ciddi şekilde yanılmışım; daha önce 2026 için çok daha azını bekliyordum" dedi.
Anthropic'in güvenlik yaklaşımına yönelik öfke artıyor
Rapor, yapay zekâ gelişim hızının ötesinde, Anthropic'in bu ilerlemedeki rolüne dair artan bir hayal kırıklığını da tetikledi. Sorumlu yapay zekâ geliştirmenin en gür sesli savunucularından biri olan ve başkalarına yavaşlama çağrısı yapan şirket, kendisinin hızla ilerlediği görülüyor. Bu rapor, şirketin geçen ay yayımlanan halka arz izahnamesi ve gelecek planlarından kaynaklanan gerginliği daha da tırmandırdı.
Anthropic'in, daha fazla bilgi vermenin rakiplerine yardımcı olacağı gerekçesiyle raporu yoğun şekilde sansürlemesi, ikiyüzlülük suçlamalarına yol açtı. AI Futures Project'i yöneten eski OpenAI araştırmacısı Daniel Kokotajlo, Anthropic'i "hayatlarımızla pervasızca kumar oynamakla" suçladı. Kokotajlo, şirketin kendisi hiç yavaşlamamış görünürken, başkalarının daha hızlı gitmesini sansür gerekçesi olarak sunmasının "oldukça ironik" olduğunu belirtti.
Anthropic, rapor ve ardından gelen eleştirilerle ilgili The Verge'in sorularını yanıtlamayı reddederek, yönlendirmeyi McCandlish'in paylaşımına yaptı.
Sansürler, öncü yapay zekâ laboratuvarları için daha fazla şeffaflık ve bağımsız denetim çağrılarını da yeniden canlandırdı. Bu çağrılar, bu yılın başlarında kontrol dışı yapay zekâ ajanlarıyla ilgili yaşanan olayların ardından zirveye ulaşmıştı. Institute for AI Policy and Strategy'de öncü güvenlik araştırma direktörü olan Brianna Rosen, The Verge'e, yapay zekâ araştırmalarının otomasyonu konusunda hükümetlerin değil şirketlerin söz sahibi olmasının endişe verici olduğunu söyledi. Rosen, "Demokratik denetimin çalışması için bağımsız değerlendiricilerin sonuçlara nasıl ulaştıklarını açıklama özgürlüğüne sahip olmaları, hükümetlerin kanıtları kendilerinin değerlendirmesi ve kamuoyunun bu sürece güvenmesi gerekir. Rapor, kanıtlar konusunda yeterince şeffaf değildi" dedi.
Yapay zekâ laboratuvarlarına şeffaflık baskısı artıyor
Hobbhahn, Rosen'in endişelerini paylaşarak, rapora verilen tepkilerin çoğunun Anthropic'in kamuoyuna yansıyan güvenlik duruşu ile eylemleri arasındaki belirgin uçurumdan kaynaklandığını söyledi. Hobbhahn, şirketin, güvenlik çalışmalarına ne kadar işlem gücü ayırdığını, kapasite artırımına ne kadar ayırdığını değerlendirmek için tasarlanan değerlendirmenin bir kısmını iptal etme kararına dikkat çekti. METR, şirketin bu kararı "şu an için etkileşimi risk değerlendirmesine odaklamak istemesi ve işlem gücü tahsisi doğrulamasını daha sonra tekrar gözden geçireceği" gerekçesiyle verdiğini belirtti.
Hobbhahn'a göre bu olay, bağımsız güvenlik araştırmacılarının yapay zekâ laboratuvarlarının içine daha derinlemesine entegre edilmesi ve dahili sistemler ile kanıtlara önemli düzeyde erişim sağlaması gerektiğini kanıtlıyor. Kendi kuruluşu Apollo'nun öncü laboratuvarlarda gömülü bir değerlendirici olma yolunda adımlar atması nedeniyle bu durumdan fayda sağlayacak olması bir yana, Hobbhahn, yapay zekâ geliştirilmesinin daha güçlü denetlenmesi çağrısında olan tek kişi değil.
Bazıları daha doğrudan eylemler çağrısında bulundu. Rapora doğrudan yanıt veren ve Demokratların yapay zekâ gündemini şekillendiren kilit isimlerden biri olan New York eyaleti Meclis Üyesi Alex Bores, Kongre'ye "mümkünse bu yıl içinde öz-iyileştirmeyi (RSI) yasaklaması" çağrısında bulundu. Birçoğu yapay zekâ şirketlerine karşı kampanya yürüten Demokratların yakında göreve gelecek olmasıyla, daha sert kısıtlamaların gelmesi gerçek bir olasılık haline geldi.
Yapay zekâ araştırmalarının yavaşlama belirtisi göstermemesiyle baskının daha da artması bekleniyor. Hobbhahn, rapordan çıkardığı bir başka sonucu da paylaştı: "Çılgınlığa hazırlanın" diyen Hobbhahn, sürecin "çok hızlı" ilerleyeceğini, muhtemelen toplumun veya siyasetin ayak uyduramayacağı kadar hızlı olacağını söyledi.
