Decoder'da bugün iş dünyasının geleceği üzerine iki bölümlük serinin ilk bölümündeyiz ve Biden döneminde ABD Adalet Bakanlığı'nda antitröst başkanı olarak görev yapan Jonathan Kanter'la konuşuyorum. Günümüzde WashU'da hukuk profesörü ve Carnegie Mellon'da teknoloji politikası profesörü.
Teknolojideki en büyük konu şu anda yapay zeka güvenliği ve düzenlemesi üzerine hızla büyüyen tartışma. Anthropic ve Google DeepMind dahil büyük yapay zeka laboratuvarlarından araştırmacılar gürültülü şekilde istifa etti, modellerin gerçek tehditler oluşturduğunu ve sektör genelinde güvenliğin ciddiye alınmadığını söyledi. Diğer araştırmacılar yapay zekanın hepimizi öldürme ihtimalinin yüzde 10'dan fazla olduğunu söyledi ve bu şirketlerin CEO'ları gelişimi yavaşlatma ve düzenleme geliştirme çağrısında bulundu, güvenlik konularında koordinasyon sağlayabilmek için antitröst muafiyeti talep etti.
Bu çok fazla fikir ve ben özellikle antitröst kısmıyla ilgileniyorum. Bu durum şirketlerin düzenleyici ele geçirme aradığı, bir kartel oluşturmaya çalıştığı ve halka arz öncesinde yatırımcı baskısından kurtulmanın bir yolunu bulduğu suçlamalarına yol açtı.
Her şeyi anlamak için Jonathan Kanter'ı aradım.
Jonathan, antitröst başkanı olduğu dönemde Google, Apple ve Ticketmaster'a karşı büyük antitröst davaları açtı ve Lina Khan ile birlikte Amerikan antitröst politikasının fiilen yeniden başlatılmasını yönetti. Duyacağınız gibi Google ve Ticketmaster'a karşı bu davaları kazandı ve Apple'a karşı açtığı dava Trump döneminde Adalet Bakanlığı'nda sürüyor, bu durum birçok kişiyi şaşırttı.
Bu yeniden başlatma yapay zeka tartışmasında da bazı şaşırtıcı ittifaklara yol açtı. Avowed libertarian ve eski Trump yapay zeka sorumlusu David Sacks, antitröst muafiyetine gerek olmadığı yönündeki Lina Khan sözlerini onaylayarak paylaştı.
Bütün bunlar çok fazla ve Jonathan'la birlikte bu düzenlemenin nasıl işleyebileceğini, antitröst hukuku, rekabet politikası ve Çin'le ilişkimizle nasıl etkileşebileceğini gerçekten detaylı şekilde konuşacaksınız.
Olur: Jonathan Kanter, eski DOJ antitröst başkanı, yapay zeka güvenliği ve düzenlemesi üzerine. Başlıyoruz.
Bu söyleşi uzunluk ve netlik için hafifçe düzenlendi.
Jonathan Kanter, Biden döneminde DOJ Antitröst Bölümü'nün eski başkanı ve şu anda WashU'da hukuk profesörü ve Carnegie Mellon'da teknoloji politikası profesörüsünüz. Decoder'a hoş geldiniz.
Tekrar dönmek her zaman bir zevk.
Harika. Artık özel bir vatandaşsınız. Bana politikacı cevapları vermeniz gerekmiyor.
Dilediğimi söyleyebilirim. Kendimi çok özgür hissediyorum.
Bu konuda çok heyecanlıyım.
Ben de öyle planlıyorum.
Amerika'da yapay zeka düzenlemesinin mevcut durumu hakkında bir milyon sorum var. Bu şirketleri nasıl düzenlemeli ya da düzenlememeli olduğumuzla ilgili fikirler dönüyor.
Trump yönetimi'nin tavrı görünüşe göre "hayır" ve bu büyüleyici. Federal hükümetin Trump yönetiminin görünüşe göre katılmaktan kaçındığı şekilde katılmayı reddetmesini nadiren görürsünüz. Ve bunun etrafında yüzen inanılmaz bir antitröst endişesi var. Bu şirketler bir kartel oluşturmaya mı çalışıyor? Halka arzlarının istediği gibi gitmeyeceğini fark etmiş olabilirler diye düzenleyici ele geçirme mi arıyorlar? Açık ağırlıklı Çin modellerinden daha ucuz rekabeti engellemeye mi çalışıyorlar?
Şu anda durumun genel hissini verin, sonra sizinle detaylara inmek istiyorum.
Şu anki dünya durumu şöyle: arabaları ve kamyonları icat ettik ama yolda çizgi yok, trafik ışığı yok, stop işareti yok ve hız limiti yok. Yaşam biçimimizi, iş yapış biçimimizi, sosyalleşme biçimimizi ve bilgi arama, üretme ve tüketme biçimimizi dönüştüren inanılmaz güçlü bir teknolojiyi icat ettik. Bazı temel yol kurallarına ihtiyacımız var. Bunu iki açıdan düşünüyorum. Şirketlerin ne yapması gerekiyor? Hükümetin ne yapması gerekiyor? Her iki tarafta da sorumluluklar var. Her ikisine de girmekten memnuniyet duyarım.
Sadece düzenleme istemenin mutlaka bir kartel oluşturduğu fikriyle başlayalım. OpenAI, Anthropic, Google DeepMind, hatta Elon Musk dahil tüm büyük öncü yapay zeka şirketleri birbirini mutlaka sevmiyor. Birbirini mutlaka sevmeyen insanlar bunlar. Hep birlikte yavaşlamaları gerektiğini söylüyorlar. Anthropic'ten Dario Amodei'nin kullandığı ifade "öncüyü hızlandırmak".
Benim okumam şu: birbirlerine güvenmiyorlar, bir esir ikileminde bulunuyorlar ve en muhtemel hükümet gibi dış bir gücün onlara uymak zorunda oldukları bir politika çerçevesini zorlamasına ihtiyaçları var. Bu temel olarak adil bir okuma mı?
Biraz öyle. En cömert olandan en sinik olana kadar yorumumu vereyim, ikisi de TL;DR, hiçbir şekilde antitröst muafiyetiyle sonuçlanmamalı.
En cömert yorum, yeniliğin hızından ve düzenlemenin olmamasından korkmaları, nereye süreceğini bilmemeleri ve yoldan çıkmaktan ya da birini vurmaktan endişe etmeleri. Bunun bir miktar doğruluğu var. İnsanlığı yok edebileceğine inandıklarına inanıyorum. O kıyamet senaryosunun doğru olduğundan emin değilim ama buna inandıklarına inanıyorum. Bu daha cömert versiyon.
Daha sinik versiyon ise çok para harcamaları, nakit kanamaları ve bunun devamını getirememeleri, ancak geri çekilirlerse halka arzda değerlemelerini etkileyecek olması. Bu yüzden hepsine çok fazla para harcamayı durdurma ve yenilik hızını yavaşlatma izni verecek birinin olmasını istiyorlar, böylece halka açılmadan önce rekabet etmek zorunda kalmazlar ve ekonomilerini çözebilirler.
Bu alandaki en üst oyuncuların tümünün anlaşması otomatik olarak bir kartel oluşturur mu? Bu sinik yorum tarafında çok fazla "Sadece düzenleyici ele geçirme istiyorsunuz. Kartel kurmak istiyorsunuz. Rekabeti engellemek istiyorsunuz." var.
Bu tür bir düzenlemenin riski elbette var. Ne gerekli ne değil diye geçelim.
Sadece çok net olayım, bu şirketlerin güvenli ve emniyetli ürünleri topluma sunabilmek için koordinasyona ihtiyacı yok. Şunu düşünün: Boeing ve Airbus. Boeing'in kapıların uçaktan düşmesinden korkması. Bu Airbus'ın suçu değildi ve bu kapıların uçaktan uçmasını önlemek için Airbus'la birlikte yeniliği yavaşlatmaları gerekmiyordu. Daha güvenli uçaklar inşa etmeyi öğrenmeleri gerekiyordu. Sürüş sırasında patlayan arabalar üretiyorsanız, bu diğer araba şirketinin suçu değil ve bu sorunları çözmek için bir araya gelmeniz gerekmiyor. Üretim sürecinizde neyin yanlış gittiğini bulmanız gerekiyor. Bir yapay zeka ajanının başkasınınkine girip başkasının teknolojisini hacklemesine neden olan ürünler yaratırsanız, benim zihnimde bu bir çalışanın gidip bunu yapmasından farklı değil.
Güvenli ve emniyetli ürünler inşa etme sorumluluğunuz var ve ajanları dijital ve ikili olsun, yapay zeka olsun ya da insan olsun, kötü şeyler yapmaya başladığında onları çalıştıran şirket sorumlu tutulmalı ve tutulabilir. Bunlar temel yol kuralları. Güvenlik ve emniyet bağlamında meşru iş birliğinin olduğu alanlar var. Örneğin, kötü niyetli botlar gibi tehditleri uygun şekilde paylaşmak için bir temizleme merkezi oluşturmak ya da herkesin daha güvenli ürünler inşa edebilmesi için bir depo oluşturmak. Bu tür iş birlikleri diğer sektörlerde olur ve antitröst muafiyetine ihtiyaç duymazsınız çünkü antitröst yasaları bu tür çalışmaları yasaklamaz. İki şirket "Çok sert rekabet ediyoruz ve yavaşlamamız gerekiyor" derse, evet bu antitröst yasalarını ilgilendirebilir ama burada yapmamız gereken şey bu değil.
Yenilik yapmalıyız ama şirketlerin güvenli ve emniyetli ürünler inşa etme sorumluluğu olmalı ve hükümetin yol çizgilerini koyma sorumluluğu olmalı, "Güvenli ve emniyetli bir ürün inşa etmezseniz sonuçlar bunlar olur. Güvenli ve emniyetli bir ürün inşa etmezseniz sorumluluk şöyle görünebilir. Güvenli ve emniyetli bir ürün inşa etmezseniz belki ajanlarınız için robot hapishanesi olmalı ve piyasadan çekilmeli."
Robot hapishanesine özellikle değinmek istiyorum. Ürün sorumluluğu hukuku üzerinde uyguladığımız baskı miktarı var. Burada daha spesifik konuşmak istediğim bir şey var ama eşim bir avukat. Bu sabah sizinle konuştuğumu söyledim ve burada kırılma noktaları olduğunu açıklamaya çalıştım ve bana o bakışı attı ve "Bu sadece bir kabus hukuk fakültesi varsayımı." dedi. Tarif ettiğiniz şey, "Tort hukuku bu şirketler için bir düzenleyici çerçeve oluşturuyor mu?" Ve bunun bir yerinde, "Ajanım gidip seni hacklerse, direktifim Anthropic'in sorumlu olması. Bir tür geçiş sorumluluğu mu yaratacağız? Bu zaten oluyor mu yoksa başka bir yasa ya da açıklama yasasına mı ihtiyacımız var?" Görüşünüz nedir bu konuda? Benim Meta Muse ajanımı seni saldırması için yönlendirirsem ve yaparsa bu Meta'nın suçu mu?
Her ikisi de. Şirketler insan istihdam eder ve teknoloji inşa eder. Bu insanlar ve bu teknolojiler işverenleri adına hırsızlık yapmak ya da başkasının mülküne girmek gibi sorunlu şeyler yaptığında sorumluluk vardır ve bu ürün sorumluluğu olabilir ama ürün sorumluluğundan daha fazlası olabilir. Sadece kötü şeyler yapan insanlar ya da kötü şeyler yapan teknoloji üreten şirketler. Ve ürün sorumluluğu çerçevesi en son Meta'ya karşı Facebook ve Instagram ve çocuk güvenliği ve güvenliği ve ruh sağlığı konusunda açılan davada gerçekten işledi.
Durun, bekleyin. Bu benim için gerçekten büyüleyici. Bunun hakkında konuşmak istediğim bir şey bu, çünkü çalışması on yıl aldı.
İşte sorun bu! İşte hükümetin devreye girmesi gereken yer. Şirketlerin bugün güvenli ve emniyetli ürünler inşa etme yükümlülüğü var ve yeniliğin hızı bunun yapılmaması için bir mazeret değil. Bunun çok net olalım. Aynı zamanda arabaları ve kamyonları ve trenleri icat ettik ve geçişlerimiz yok, ışıklarımız yok, yolda çizgilerimiz yok. Kongre neredeyse hiçbir şeyi yapamaz. Bu teknoloji şirketleri düzenleme istediklerini söylerken aktif olarak buna karşı lobi yapıyorlar ve çok uzun süredir yapıyorlar. Bütün şey tamamen bir karmaşa ve bu sistemimizin bir semptomu, bu tamamen bir karmaşa. Ve açıkçası, siyasi bilimci olarak bunu gerrymandering ve Citizens United gibi şeylere kadar izlerim, süreç kontrolden çıktı ve temel güvenlik standartlarını ve sorumluluklarını yerine getirmesi gereken Kongre bunu yapmadı.
Buna rağmen Kongre'nin hareketsizliği tehlikeli ürünler sunmak için bir mazeret değil. Ürününüzün insanlığı yok edeceğine inanıyorsanız, onu inşa etmeyin. Ürününüzün başkasının eşyasını kıracağına inanıyorsanız, daha güvenli bir şekilde nasıl inşa edeceğinizi bulmak için geri dönün.
Tahmin edin ne mi? Bu yenilik. Bunlar sadece düzenleyici sorunlar değil, yenilik sorunları. Şirketlerimizin daha güvenli ve emniyetli ürünler inşa etmeleri için onları teşvik etmede daha iyi bir iş yapmamız gerekiyor. Bunu yaptıklarında bu ürünler daha iyi performans gösterecek ve daha iyi yenilik göreceğiz. Şu anda yenilik asimetrik çünkü güvenlik ve emniyet için uygun özen gösterilmeden yapılıyor, sosyal medyada gördüğümüz gibi. Sonuç olarak şimdi iletişim kurmayı gerçekten iyi ve etkili kılan ama çocukluk bağımlılığı ve ruh sağlığı söz konusu olduğunda gerçekten kötü ürünlerimiz var. Belki dersimizi öğrenmeli ve insanları bu teknolojinin başlangıcından itibaren baştan itibaren daha güvenli, daha emniyetli ürünler inşa etmeye teşvik etmeliyiz.
Sosyal medya düzenlemesiyle karşılaştırmayı biraz daha sıkı yapalım. Büyük Meta davasını yeni geçirdik; bu bir ürün sorumluluğu davası. Ürünleri ergenlere zarar verecek şekilde tasarlandı. Meta, Mark Zuckerberg'in Facebook'u denetlemek yerine yapay zeka inşa etmeyi tercih edeceğini düşündüğüm için davayı çözdü.
Ama bir jüriye kaybettiler.
Genelde bir jüriye kaybederler ve bu dava iyi gitmiyordu ama temel olarak uzlaştılar. Vazgeçtiler. Eğer savaşmış ve temyize gitmiş olsalardı, bazı birinci değişiklik gerekçeleriyle kazanacaklarına dair bir görüş var, ürün sorumluluğu davası hepimizin düşündüğü kadar güçlü olmayabilirdi. Ve başka bir neden söylemem de Meta düzenleyiciye boyun eğdi ve son tavrı bir uzlaşmaydı. Boyun eğdiler ve bir miktar düzenlemeyi kabul ettiler. Ürün sorumluluğu versiyonunun bir şirketi Meta gibi bir miktar düzenlemeyi, bir miktar kontrolü kabul etmeye zorlaması uzun zaman aldı.
Bir şirketi Meta gibi bir miktar düzenlemeyi, bir miktar kontrolü kabul etmeye zorlamak için. Bugün "OpenAI, ChatGPT'nin ne yaptığından muhtemelen sorumludur. Anthropic, Claude'un ne yaptığından muhtemelen sorumludur" diyorsak, vidayı sıkma ve "Kesinlikle sorumlusunuz" diyen düzenlemeyi geçirme zamanı değil mi?
