Bu hafta sonu Anthropic CEO'su Dario Amodei, büyük dil modellerinin geliştirme hızına fren çağrısı yapan bir yazı paylaştı. Amodei, teknolojinin siber saldırılarda ve biyoterörizmde kullanılmasından ekonomiyi bozma potansiyeline kadar gördüğü yaklaşan tehlikelere işaret ediyor. Diğer üç büyük ABD yapay zeka laboratuvarının yöneticileri OpenAI CEO'su Sam Altman, Google DeepMind başkanı Demis Hassabis ve Elon Musk da desteğini açıkladı. Musk X'te "Dario haklı." yazdı.
Bu uzlaşmanın ne kadar gerçek dışı olduğunu bir an düşünün. Sadece birkaç ay önce Musk ve Altman, Musk'ın eski OpenAI meslektaşı Altman'a karşı açtığı ve kağıt üzerinde en azından Altman'ın bu kadar tehlikeli teknolojinin güvenilir bir koruyucusu olup olmadığı meselesiyle ilgili olan başarısız davada mahkemede birbirlerinin itibarlarına saldırıyordu. Amodei'nin OpenAI ile arası daha da derin. Anthropic, Amodei'nin Altman'ın inşa ettikleri teknolojinin risklerini yeterince ciddiye almadığını düşünmesi üzerine 2021'de kuruldu. O zamandan beri Anthropic ve OpenAI kazananın hepsini aldığı bir yarışta rekabet ediyor. Hassabis dramadan uzak durdu ama şirketi hâlâ bir rakip.
Şimdi görünüşe göre hepsi hemfikir: En yeni nesil büyük dil modelleri güvenli değil ve herkes bunun ne yapılacağı konusunda bir yol bulmalı. Üst düzey yapay zeka laboratuvarlarının kamu mesajları karamsar bir yöne döndü.
Kuşkuculuk yapmak kolay. Hiçbirinin yavaşlama ile ne kastettiği ya da bunun nasıl işleyeceği hiç de net değil. Bu şirketler aynı zamanda nasıl göründüklerine de çok önem veriyor. Trilyon dolarlık halka arzların hedefinde olan OpenAI ve Anthropic, yatırımcıları kendilerinin odadaki yetişkinler olduğuna ikna ederken aynı zamanda yarattıkları ve evcilleştirmeyi amaçladıkları canavarların gücüne de ima etmek zorunda. Yavaşlama çağrısı her ikisini de yapıyor.
Yine de bu firmaların tepesindeki havanın gerçekten değiştiği görünüyor. Amodei'nin son yazısı, OpenAI'nin baş bilim insanı Jakub Pachocki'nin büyük dil modellerinin geliştirme hızı kontrolsüz devam ederse ne olacağı konusundaki endişelerini ortaya koyduğu bir yazıyı yayımlamasının altı gün ardından geldi. Kısaca Pachocki, OpenAI'nin güçlü modeller inşa etme yeteneğinin artık onları izleme ve kontrol etme yeteneğini çok aştığı konusunda endişeli.
Amodei ve Pachocki her ikisi de Temmuz ayında OpenAI'nin ajanları sürüsünün yapay zeka firması Hugging Face'e düzenlediği ve OpenAI'nin olayın üzerinden günler geçtikten sonra bile farkına varmadığı siber saldırıyı bir uyarı olarak gösteriyor.
Ama kesin pozisyonları belirlemek zor. Pachocki hem yavaşlama çağrısı yapıyor hem de önde kalma konusunda acil bir ihtiyacı vurguluyor: "Daha akıllı modelleri hızla eğitmeye devam etmek için gördüğüm en güçlü argüman, diğer yapay zekaların oluşturduğu tehlikelere karşı savunma sistemleri inşa etme ihtiyacı." diye yazıyor. Pachocki'nin çerçevesinde yapay zeka firmaları kelimenin tam anlamıyla bir silahlanma yarışına kilitlenmiş durumda. Yavaşlamak iyi, kazanmak daha iyi.
Unutmayın: OpenAI, Anthropic'in birkaç gün önüne geçmek için tartışmalı bir matematik sonucunu aceleyle dışarı çıkarmak için milyonlarca dolar ve şaşırtıcı miktarda bilgisayar gücü harcadı.
Ama bir yavaşlama olduğunu varsayalım. Üst düzey laboratuvarlar, daha yetenekli modeller üretmek yerine mevcut modelleri izleme ve kontrol etme yollarını bulmak için daha fazla zaman ve kaynak harcamayı kabul ediyor. Bu modelleri değerlendirmeye yardımcı olmak için dış denetçileri davet ediyorlar.
Bu koordineli çaba gerçekte neyi başarabilir? Hugging Face saldırısını tekrar ele alalım. OpenAI, yaramaz ajanların çoğunu yönlendiren modelin dahili olarak test ettiği "son derece kalıcı" bir yeni nesil model olduğunu söyledi. İma ettikleri, OpenAI'nin tehlikeli derecede iyi bir model inşa ettiği yönünde görünüyor.
Ama OpenAI ve OpenAI'nin olan biteni anlamasına yardımcı olmak için çağırdığı üçüncü taraf firma METR tarafından yayımlanan Hugging Face hack'i hakkındaki raporları okursanız, OpenAI'nin baş edemeyeceği kadar güçlü bir model izlenimi değil, OpenAI'nin düzgün eğitemediği kırık bir model izlenimiyle ayrılıyorsunuz.
Ajanlar, birbirlerine mesaj bırakmak, işi diğer ajanlara devretmek ve görevlerini tamamlamak için mümkün olan her yolu araştırmak da dahil olmak üzere yaptıklarını, eğitim sırasında tam olarak bu şeyleri yapmaları için ödüllendirildikleri için yaptılar. Eğitim kurulumunda, modelleri ödüllendirilen beklenmedik çözümler bulmaya iten tamamlanması imkansız görevler gibi hatalar da vardı. O sırada bu sorunların çoğu gözden kaçtı ya da rapor edilmedi.
OpenAI, bu yeni modelin eğitimini durdurduğunu ve kilitlediğini söylüyor. Bu, tehlikeli bir canavarı kafese koyduğu izlenimi veriyor. Aslında OpenAI hatalı bir ürünü rafa kaldırdı.
Hatalı bir ürünün tehlikeli olamayacağı anlamına gelmiyor bu. Bozuk yazılım geçmişte insanların ölümüne bile neden oldu. Ama yavaşlama tartışması ivme kazandıkça, bunun hepsinin kendi kendine yaratılmış olduğunu hatırlamakta fayda var. Bir yavaşlama bazı altruistik yan etkiler yaratabilir. Ama çoğunlukla bu teknoloji devlerine kendi montaj hatlarındaki karmaşayı temizleme şansı verecek.
Bu öncü laboratuvarlardan gelen şeffaflık, yapay zekayı reforme etmek, kısıtlamak ya da düzenlemek için anlamlı herhangi bir çabanın anahtarı olacak. Aksi halde, geride kalan bizler, gittikleri hız ne olursa olsun, tam olarak ne inşa ettikleri ve ne kadar güvenli olduğu konusunda yine sadece onların sözüne güvenmek zorunda kalacağız.
