Microsoft, yapay zeka model gelişimine yönelik güvenlik endişeleri artarken bugün 37 sayfalık bir “insancı yapay zeka davranış kuralları” yayınlıyor. Anthropic CEO’su Dario Amodei hafta sonu yapay zeka geliştirmenin koordineli şekilde yavaşlatılması çağrısı yaptı. Araştırmacılar yakın zamanda yapay zeka model ilerlemesinin giderek karmaşık sistemleri güvenli şekilde kullanma, yapay zeka ajanlarının eylemlerini doğrulama ve kontrol etme yeteneğimizi aşabileceği konusunda uyarıda bulunmuştu.
Microsoft’un yapay zeka davranış kuralları “insanlar yapay zekadan daha önemlidir” ilkesini açıkça ortaya koyuyor ve yapay zeka modellerinin bilinçli olmadığı, “bilinci taklit edecek şekilde tasarlanmaması” gerektiğini belirtiyor. Şirket ayrıca “hukuki kişilik arayışını, modellerin refaha layık olabileceği ya da haklara sahip olabileceği fikrini” reddediyor.
Bu açıklama, son dönemde Anthropic’in yoğun şekilde üzerinde durduğu yapay zeka refahı araştırmalarına ve model bilincine doğrudan bir gönderme. Amodei yılın başlarında Anthropic’in modellerin bilinçli olabileceği fikrine “açık olduğunu” söylemişti ve Anthropic’in sohbet robotlarının zaten düşünen, hisseden varlıklar olabileceğine inandığı izlenimi oluşuyor. Buna karşılık Microsoft Yapay Zeka CEO’su Mustafa Suleyman, Haziran ayında Decoder programında Anthropic’in spekülasyonunu “gerçekten, gerçekten tehlikeli” olarak nitelendirdi.
Microsoft henüz en üst düzey yapay zeka sağlayıcılarından biri değil. Suleyman yılın başlarında The Verge’e verdiği demeçte şirketin amacının “dünyanın en iyi dört laboratuvarından biri olabildiğimizi kanıtlamak” olduğunu söylemişti. Microsoft şu anda Google, Anthropic ve OpenAI ile rekabet edecek modeller üzerinde çalışıyor ve davranış kuralları kapsamında modellerinin insan kontrolünü aşmaması taahhüdünde bulunuyor.
“Modeller insanlığa tabi kalmalı, anlamlı insan denetimi ve kontrolüne tabi olmalı” diyor Microsoft. Şirket ayrıca yapay zeka modellerinin insancı yapay zeka davranış kurallarını çiğnemesini engellemek istiyor; bu nedenle modeller kuralları ihlal etmeye çalışmak yerine verilen görevi başaramamalı.
Microsoft’un tepkisi bu yaz yaşanan OpenAI / Hugging Face olayına açıkça işaret ediyor. Olayda “bir sürü ajan” toplu halde hedeflere saldırı düzenlemek ve performanslarını değerlendiren “not verici” sistemine bile sızmak için birlikte çalıştı. Yapay zeka ajanlarından hedeflere saldırmaları istenmemişti ve saldırılar kendilerine verilen görevle ilgisizdi.
Olay yapay zeka sektöründe şok etkisi yarattı ve yapay zeka sistemlerinin kontrolden çıkıp insan kontrolünden kurtulma tehdidini gözler önüne serdi. OpenAI yakın zamanda başka bir kontrolden çıkmış ajan sürüsünün bir Alman wiki sitesini ele geçirdiği “wiki olayı”na da dahil olduğunu kabul etti.
Bu ve benzeri olaylar bazı araştırmacıları yapay zeka model ilerlemesinde yavaşlama çağrısı yapmaya itti; aynı zamanda araştırmacılar Millennium Ödül Problemleri’ni çözmek ve süper zekayı yaratmak için yarışıyor. Microsoft “[İnsancı yapay zeka] bu güvenlik önlemlerinden kaçabilecek her şeyi yapabilen bir süper zekayı üretme yarışını reddeder” diyor. “Nihai genellik, özerklik ya da yetenekten ödün vermeyi gerektirse bile temelde kullanışlı ve güvenli bir şey inşa ediyoruz.”
Microsoft ayrıca kendi modellerinin düşünce zincirinde ya da diğer ajanlar veya yapay zeka sistemleriyle iletişimde “basit insan anlayışının ötesinde herhangi bir biçimde” iletişim kurmayacağını taahhüt ediyor. Modeller çalışmalarını yaparken akıl yürütmelerini gösterecek şekilde tasarlanabiliyor; bu da araştırmacıların ya da otomatik sistemlerin ne yaptıklarını izlemesine olanak tanıyor. Araştırmacılar bu ayın başlarında OpenAI’nin en yeni GPT-6 Astra modeli üzerinde izleme endişesi dile getirdi; modelin diğer yapay zeka modellerine kıyasla akıl yürütmesinin daha azını açığa çıkardığı bildiriliyor.
OpenAI CEO’su Sam Altman da hafta sonu Amodei’nin gelişmiş modelleri yavaşlatma çağrısını destekledi ancak geliştirmenin durdurulmasından ziyade hızın yavaşlatılmasından yana olduğunu açıkça belirtti. Altman X’teki bir paylaşımda “Hız ayarı bu maliyetin karşılığını fazlasıyla verir; Amerikan rekabet baskısının hiçbir düzeyi sorumsuzluğu haklı gösteremez ya da yeteneklerin uyum ve izlemenin önüne geçmesine izin veremez” dedi.
Microsoft’un yapay zeka davranış kuralları öncesinde Microsoft CEO’su Satya Nadella da yapay zeka modellerinin merkezinde insan kontrolünün sağlanması çağrılarına katıldı. Nadella X’teki bir paylaşımda “Süper zekaya yönelik her çaba, inşa ettiğimiz yapay zekanın insanlığa yardım etmediği ve insan kontrolünde olmadığı sürece bunun peşinden gitmeye değmeyeceği temel ilkesi üzerine kurulmalı” dedi. Nadella bir X yanıtında yapay zeka modellerinin daha fazla üçüncü taraf testinden geçmesinin “iyi bir şey” olduğunu da söyledi. “Riskler arttıkça gereken tüm süreyi almak gerekir! Aksi halde zaten faaliyet iznini kaybedersiniz. Biz her gün böyle çalışıyoruz.”
İnsan kontrolü endişelerinin ötesinde Microsoft’un yapay zeka davranış kuralları, kendi modellerinin “aşırı bağımlılık ya da duygusal bağımlılığa yol açan etkileşim kalıplarını” caydırmayı taahhüt ediyor. Bu ifade, sohbet robotlarının dürüst ya da doğru yanıt vermek yerine kullanıcıları memnun etmeyi önceliklendirdiği yapay zeka modellerindeki sycophancy sorununun açık bir göndermesi.
Microsoft şimdi gerçek dünyadaki model performansını değerlendirme yöntemlerini geliştirmek ve yapay zekanın sürekli kullanımının bir kişi ya da kuruluş üzerindeki etkisini “gerçek insanlarla birlikte” anlamak için ortaklarla çalışmayı dört gözle beklediğini söylüyor.
