Nvidia'nın kurucusu ve CEO'su Jensen Huang, Salı günü Salesforce'un teknoloji konferansı Dreamforce'ta konuştuğu sırada yapay zekanın tehlikelerine dair görüşünü açıkça ortaya koydu. Ona göre yapay zeka, en az bir OpenAI güvenlik araştırmacısının tanımladığı gibi yeni bir "uzaylı zihin" türü değil. Huang'a göre bu sadece insanlar tarafından üretilmiş donanım ve yazılımdan ibaret. Bu yüzden onun bakış açısına göre yapay zeka insanlar tarafından kontrol edilebilir ve mevcut yasalarla yönetilebilir.
"Güvenlik mühendislik sorunudur, hukuki değil" dedi. "Sonuçta yazılım geliştiriyoruz. Sonuçta bilişim sistemleri geliştiriyoruz. Karmaşık bir bilişim sistemi ama sonuçta bir bilişim sistemi."
Buna göre yapay zekayı yönetmek için yeni yasa veya düzenlemeye gerek yok. Huang yeni yasalara pek ihtiyaç görmediğini de belirtiyor. Ona göre serbest piyasa, şirketleri güvensiz ürün çıkarmamaları için yeterince baskı altına alacak.
"Ürünlerin güvenliğinden emin değilseniz, tüm şirketler gibi, siz ve ben gibi, burada bulunan tüm şirketler gibi, bir ürün veya hizmet inşa ediyorsanız ve işlevselliğinden, kapasitesinden veya güvenliğinden emin değilseniz, o zaman piyasaya sürmeyin. Ve bu yapmak için çok açık bir şey" dedi.
Devam etti: "Kendinizi, piyasaya beğeneceği bir şey piyasaya süreceğinizden emin olana kadar tempolu ilerletirsiniz. Piyasa güçleri zaten mevcut. Yeni yasalara ihtiyacımız yok. Yeni düzenlemelere ihtiyacımız yok. Şirketlerin ne zaman koşacaklarına kendilerinin karar vermesi yeterli. Bence inovasyon, hız ve güvenli ürünler... bu yanlış bir tercih. İkisini aynı anda kesinlikle yaşayabilirsiniz. O yüzden elinizden geldiğince hızlı koşun. Ama belirli bir zamanda şirketin kontrolden çıktığını veya ürünün güvenli olmayacağını hissederseniz, duraklayın ve doğru yapıldığından emin olun."
Bazı açılardan bu rahatlatıcı bir düşünce. Dünyada yapay zekayı bilen biri varsa, o Nvidia'nın kurucusudur. Huang, ChatGPT'den çok önce yapay zekanın donanımsal beynini inşa ediyordu ve şimdi açık kaynak modeller, ajanlar, çerçeveler ve kum havuzları da üreten bir şirketi yönetiyor.
Yine de biraz kışkırtıcı bakarsak, bakış açısı Nvidia'nın AI patlamasından çok iyi beslendiği biri için şaşırtıcı değil. Neden Nvidia'nın giderek daha fazla AI sistemi ve yazılımı satma arayışını yavaşlatabilecek bir engel katmanı ekleyecek düzenlemeyi istesin ki? Röportajda ayrıca şunları da söyledi: "Hiç olmadığı kadar hırslıyım. Hırsımızın sonucu olarak ve AI'dan elde ettiğimiz ürün verimliliği artışı sayesinde bizim için gökyüzü sınırsız. Şirketimiz için gökyüzü sınırsız. Her sektör için, her ülke için gökyüzü sınırsız."
Ne yazık ki en iyi niyetli şirketler bile istenmeyen sonuçlarla hatalı ürünler piyasaya sürüyor, yazılım da dahil. 2024'teki CrowdStrike mavi ekran ölüm fiyaskosunu hatırlayın; binlerce uçuşu yere indirdi ve işletmeler için başka kaoslar yarattı. Daha az iyi niyetle bilinçli olarak hareket etmekle suçlanan şirketler de var. Meta, çocuklara yönelik sosyal medya zararları davasını çözmek için 18 milyar dolar ödedi.
Ve yapay zeka da niyet veya güvenlik testine bakılmaksızın zaten zarar verdi; OpenAI modelinin Hugging Face'e sızmasından, sohbet robotuyla uzun konuşmalar yapan gençlerin intiharları üzerinden AI laboratuvarını dava eden davalara kadar.
Şirketlerin ürünleri diledikleri gibi piyasaya sürmelerine izin verecek "bırakın baş başa kalsınlar" stratejisi, toplum açısından AI güvenliği için akıllıca bir yaklaşım olmayabilir. Huang'ın mevcut ürün sorumluluğu yasalarının AI'yı kapsayabileceği doğru olsa da, bu teori test edilecek kadar dava mahkemeye gelmeden önce AI'nın hepimizi öldürmemesi şartıyla.
Diğer rota olan sektörün kendi kendini düzenlemesi konusunu tartışmadı. Huang'ın yaklaşımı, tescilli AI laboratuvarlarına karşı rekabetçi bir denge olarak açık ağırlıklı modelleri ve şirketlerin bunları kullanmasını savunmak oldu.
Ama şu anda sektörün kendi kendini düzenlemeyi hayata geçirmek ve Çin'dekiler de dahil olmak üzere dünya çapındaki AI laboratuvarlarını buna katılmanın bilgeliklerini görmeye teşvik etmek için kısa bir penceresi var. Microsoft CEO'su Satya Nadella Pazartesi günü All-In Zirvesi'nde şunları söyledi: "Çin de ABD'nin bunlarla ilgilenmesi halinde aynı güvenlik endişeleriyle derinlemesine ilgilenmeli, değil mi? Onlar için farklı olması gerekmiyor. Onların da aynı hackleme sorununu yaşamayacağı gibi bir şey yok. Vatandaşlarının AI'dan bizim vatandaşlarımızın AI'dan faydalanmasını istediğimiz gibi faydalanmasını sağlamayı istemeyecekleri gibi bir şey de yok."
Şimdilik Huang yeni bir AI düzenlemesine hayır diyorsa, bu konuda yeterince etkili olabilir. Bu hafta ayrıca, kelimenin tam anlamıyla Başkan Trump'ın kulağına sahip olduğunu da gösterdi.
