Çinli yapay zeka laboratuvarlarının damıtma teknikleriyle öncü model üreticilerinden bilgi çıkarması söz konusu olduğunda Y Combinator CEO'su Garry Tan, düzenleyicilerin bu işe karışmamasını umuyor. Hatta ABD'li yapay zeka laboratuvarlarının da aynı oyunu oynaması gerektiğini düşünüyor.
“Hiçbir şey yapmazdım” dedi CNBC’ye bu hafta yaptığı röportajda. “Amerikan damıtma rejimi olması gerektiğini savunabiliriz.”
TechCrunch’a yaptığı açıklamada bunun, daha küçük Amerikan açık ağırlık yapay zeka laboratuvarlarının da ABD’li öncü yapay zeka laboratuvarları üzerinde aynı tür eğitim tekniklerini kullanmasını istediği anlamına geldiğini belirtti. Böylece ABD’nin Çinli olmayan daha sağlam bir açık ağırlık seçenekleri setine kavuşması sağlanacak.
Damıtma, bir model üreticisinin nasıl çalıştığını ve akıl yürüttüğünü öğrenmek için başka bir modeli yoğun şekilde istemlendirmesi anlamına geliyor. Yapay zeka laboratuvarları tarafından yeni modelleri eğitmeye yardımcı olmak için yaygın ve meşru bir şekilde kullanılıyor.
Anthropic bu hafta Çinli laboratuvarların kimliklerini gizleyerek izinsiz damıtma yaptığını, bunu yapmak için dolandırıcılık ve çalıntı kimlik bilgilerine güvendiğini iddia eden ikinci raporunu yayımladı. Anthropic CEO’su Dario Amodei daha önce ABD düzenleyicilerine damıtma konusunda sıkı önlem alması çağrısında bulunmuştu.
Silikon Vadisi’nin prestijli ve üretken girişim hızlandırma programının komutanının buna katılmaması dikkat çekici.
Açık olmak gerekirse Tan, Amerikan yapay zeka laboratuvarlarının çalıntı kimlik bilgileriyle damıtma yapmasını savunmuyor. Onların ön kapıdan gelmekte özgür olmasını istiyor. Aslında argümanı iki katlı. Model üreticilerinin müşterilerinin modellerinin kendileriyle paylaştığı bilgilerle ne yapabileceklerini dikte etmesinin aşırıya kaçma olduğunu düşünüyor.
Ayrıca öncü yapay zeka laboratuvarlarının modellerini eğitmek için mümkün olduğunca çok insan bilgisini toplarken izin istemediklerini de belirtiyor. Ünlü bir şekilde telif hakkıyla korunan çok sayıda materyali fikri mülkiyet sahiplerinin izni olmadan yuttular.
“Kapalı ağırlık modellere API çağrılarıyla kullanıcıların ve müşterilerin ne yapacağını kontrol etmek kısıtlayıcı geliyor ve hükümetin burada oynayabileceği bir rol var. Geniş kamu erişimli veriler üzerinde eğitilmiş zekaya erişimin kendisi de kısıtlayıcı kullanım şartlarının arkasına kilitlenmekten ziyade bir kamu yararı biçimi olarak normalleştirilmesi gerekiyor” dedi TechCrunch’a Amerikalı laboratuvarların da damıtma yapma özgürlüğüne sahip olması gerektiği sorulduğunda.
Tan, kendini bir kez siber psikoz olarak tanımlayacak kadar yapay zeka tutkunu biri olarak açık ağırlık yapay zeka laboratuvarları ile öncü laboratuvarlar arasında bir denge görmek istiyor.
“Onlar öncülük ediyor ve ileriye taşıyorlar. Bunun finanse edilebilir olmasını ve devam eden harika bir iş modeli olmasını istiyoruz” dedi CNBC’ye. “Açık ağırlık modellerin insanlara özgürlük ve erişim vermesini istiyorsunuz.”
Ona göre gerçek yapay zeka kıyamet senaryosu, öncü yapay zekanın tüm muazzam gücünün tek bir güçlü, özel sağlayıcının eline geçmesi. “Kıyamet senaryosu, yapay zeka için kıyamet senaryosu tek bir şirketin olması” dedi. “En iyi sermaye erişimine sahip. En iyi yapay zeka araştırmacılarına sahip. Onu ele geçiriyor ve aniden tek bir monolitik şirket kalıyor. Bu kötü olur.”
