Washington eyaletinin zengin Seattle banliyölerinden Kirkland'da, Washington Gölü'nün doğu kıyısında harika bir gün. Hava sıcaklığı 30 derece civarında ve gökyüzü olabildiğince mavi. Gates Ventures'ın konferans salonundan bakıldığında Carillon Point Marina'da suyun üzerinde süzülen lüks tekneler ve gölün karşısındaki Olimpik Dağlar'ın oluşturduğu ufuk çizgisi görülüyor. Manzara muhteşem. Ama aynı zamanda hafiften ürkütücü.
Çünkü manzara sakin olsa da, haberci hiç öyle değil. Konferans salonundaki masanın karşısında oturan Bill Gates, sandalyesinde ileri geri sallanıyor ve son derece hareketli. Terör tehditlerinden, ekonomik çöküşten veya yapay zeka sistemlerinin kontrolünü kaybetmekten bahsettikçe, ben de giderek daha fazla tedirgin olmaya başlıyorum.
Milyarder hayırsever ve eski Microsoft CEO'su Gates, yapay zeka teknolojisinin ilerleme hızının kendisini giderek daha fazla endişelendirdiğini, özellikle de güvenlik önlemlerinin bu hıza yetişemediğini söylüyor. Bugün yayımlanan yeni bir makalede Gates, birden fazla potansiyel tehlikenin kontrol altına alınması gereken noktaları çoktan geçtiğimizi savunuyor. MIT Technology Review'a verdiği röportajda yeni notuyla ilgili olarak, “Biyolojik yetenekler, siber yetenekler, psikososyal yetenekler, iş piyasasını yok etme yetenekleri ve hatta kontrol eksikliği açısından eşiği geçtik” diyor ve ekliyor: “Sektörün dışındaki ilgisizlik ve tartışma eksikliği karşısında gerçekten şoktayım.”
Dünyayı, kendi deyimiyle hızla büyüyen bir toplumsal yıkıcıya karşı uyandırma çabası içinde olan 70 yaşındaki teknoloji devi, hem kamuoyu önünde hem de özel görüşmelerde alarm zillerini çalmaya başladı. Bugün yayımlanan ve bu konudaki ilk makalesi olan yeni yazısının yanı sıra, sektör, hükümet ve sivil toplum liderleriyle yaptığı görüşmelerde gür bir uyarı sesi olarak dikkat çekiyor.
Gates birçok konuya dikkat çekse de, mevcut öncü modellerin biyolojik yeteneklerine dair uyarıları özellikle ürpertici. “Yeni moleküller üretebilen her model izlenmelidir” diyen Gates, “Biyoterörizm riskini, doğal bir pandemiye kıyasla yaklaşık 50 kat daha korkutucu ve doğal pandemi riskinden çok daha olası görüyorum” şeklinde konuşuyor.
Uyarıların yanı sıra, toplumu ileriye taşıyacak bazı yenilikçi fikirler de ortaya atıyor. Bunların arasında insanlara ayrılmış işler ile robotlara ve token'lara konacak vergiler gibi kavramlar yer alıyor. Robot vergisi, onun uzun süredir üzerinde durduğu bir fikir. İlki, toplumca kabul görmüş bazı işlerin insanlara ayrılmasını öngörüyor; Gates bunun ülkeden ülkeye değişebileceğini belirtiyor. İkincisi ise, yapay zeka kullanımından elde edilen ve insan emeğinin yerini alan işlerden kazanılan paradan ayrılan bir vergi sistemi.
İşin içinde biraz da iyimserlik var elbette. Gates, yapay zekanın tarımı, sağlık hizmetlerini ve eğitimi dönüştürme konusundaki potansiyeline, bürokrasiyi aşmamıza yardımcı olabileceği yollara dair oldukça umutlu. Ve nihayetinde bolluğa ulaşacağımızı savunuyor. Ama önce? Türbülans. Hem de bolca.
MIT Technology Review, önümüzdeki yolun tehlikeleri ve bizi nasıl daha iyi bir yere götürebileceği hakkında konuşmak için bu milyarder hayırseverle bir araya geldi.
Aşağıdaki röportaj, uzunluğu kısaltmak, netliği ve okunabilirliği artırmak amacıyla düzenlenmiştir.
Mat Honan / MIT Technology Review: Bunu yaptığınız için teşekkürler. Açılış için söylemek istediğiniz özel bir şey var mıydı, yoksa direkt ben mi başlayayım?
Bill Gates: Biliyor musun, aklıma takılan iyi bir soru şuydu: Neden şimdi konuşuyorum?
MIT Technology Review: Tam olarak benim ilk sorum!
Bill Gates: Aslında iki temel nedeni var. Birincisi, biyolojik yetenekler, siber yetenekler, psikososyal yetenekler, iş piyasasını yok etme yetenekleri ve hatta kontrol eksikliği açısından eşikleri çoktan geçtik; orada zorlukların işaretlerini görüyoruz. Bunca yıldır insanlar, “Tamam, bu eşiklere yaklaştığımızda, bunu sadece iyi insanların kullanmasına nasıl izin vereceğimizi veya bu şeyleri yapmasını nasıl engelleyeceğimizi çözeceğiz ve belki de o zaman insanların modelleri kopyalamasına izin vermeyeceğiz” dedi. Ve bu eşikleri geçtiğimiz için şok içindeyim.
Bu eşikleri geçmiş olmamız bir nedeni, ikincisi ise sektörün dışındaki ilgisizlik ve tartışma eksikliği karşısında gerçekten şoktayım. Sektörün içinde durum karmaşık çünkü sektör kendini eleştirmeyi sevmiyor veya oyuncular birbirlerini eleştirmekten hoşlanmıyor. Bazı şirketler daha az giriş seviyesi çalışan işe alıyor, ki buna oldukça mütevazı bir sinyal demek gerekir. Ama bu olacak ve çok uzun bir zaman diliminde de değil; çünkü insanları yetenek ve güvenilirlik açısından geri çeken şeylerin tümü çözülmüş durumda. Dolayısıyla beyaz yakalı pazarının önemli bir kısmı için çok düşük maliyetli bir ikame söz konusu. Robotik teknolojisinin ne kadar hızlı ilerleyeceği konusunda da bir fikriniz olabilir. Henüz o noktada değiliz ama orada kaydedilen ilerleme gerçekten şaşırtıcı; ABD'den biraz daha fazla Çin'de ama her iki ülkede de var.
MIT Technology Review: Tüm bunların internet devriminden ve önceki bazı teknolojik devrimlerden çok daha hızlı gerçekleştiğinden bahsettiniz. Hangi zaman ölçeğinden bahsediyorsunuz? Aştığımız eşiklere işaret ettiniz. Sizin görüşünüze göre, bu kaçınılmaz değişimin yaşanacağı bir dönüm noktasını çoktan geçtik mi?
Bill Gates: Geçmiş kesinlikle bu konuda çok yanıltıcı ve birçok insan buna güveniyor. “Hey, önceki hiçbir teknoloji net bir iş kaybına yol açmadı” diyorlar ve haklılar. Ben de o konuşmayı yaptım.
Ama sahip olduğum herhangi bir inandırıcılıkla söylüyorum, bu sefer durum farklı. İnsan emeği maliyetlerine kıyasla mütevazı bir maliyetle, aynı zaman diliminde her sektördeki işlerin son derece yüksek bir yüzdesinde insan bilişinin yerini alabildiğinizde ve hata oranlarınız muhtemelen insan oranlarından daha düşük olacak. Geçmiş gerçekten çok yanıltıcı. Mevcut ekonomik istatistikler de çok yanıltıcı.
“Yapay zeka konusunda endişeliyseniz, bir veri merkezine gidip protesto etmek, bu kötü şeyleri en aza indirme konusundaki tartışmayı başlatmanın en etkili yolu değildir.”
Ve herhangi bir endişe ifadesi varsa bile, bu “Hey, veri merkezleri inşa etmeyin” şeklinde oluyor. Oysa ABD'deki tüm veri merkezlerini durdursanız bile, bahsettiğim sorunların hiçbirini değiştirmez. Veri merkezleri küresel olarak inşa edilmeye devam edecek. Yapay zeka konusunda endişeliyseniz, bir veri merkezi protestosuna katılmak, bu kötü şeyleri en aza indirme konusundaki tartışmayı başlatmanın en etkili yolu değildir. Tıpkı bir petrol şirketi yöneticisine bağırmanın iklim değişikliğini çözmenin yolu olmadığı gibi.
MIT Technology Review: Makalenizde yapay zekanın faydalarından da maliyetlerinden de bahsediyorsunuz. Bu mesajı dengelemeyi nasıl düşünüyorsunuz? Ve insanlar okurken biraz endişelenmelerini umuyor musunuz?
Bill Gates: Umuyor muyum, yoksa endişelenmek zorundalar mı! Toplumun genel olarak buna dikkat etmediğini söyleyen en tiz ses olacağımı beklemiyordum, ama bunun gerekli olduğunu düşünüyorum.
Evet, olumsuzlukların çok daha büyük olacağından aşırı derecede endişeliyim. Olumlu yanlar gerçek. Gates Vakfı olarak aşılar ve ilaçlar konusunda yaptığımız yenilikler, bu araçları nasıl kullandığımız inanılmaz. Protein ve hücre düzeyinde modelleme için verileri toplamaya yönelik büyük bir kamu alanı çabasının parçasıyız ve Stanford'daki Biomni'yi finanse ediyoruz.
Henüz hükümet bürokrasisiyle etkileşime geçme konusunda yapay zeka üzerinden iyileştirilmiş bir yolumuz yok. Oysa yapay zeka bürokraside, karmaşık düzenleyici işlerde çok iyidir. “Küçük iddia mahkemesine gitmek istiyorum; bu konuda bana yardım et” gibi.
Vakıf, NextLadder adında bir grup kurdu ve bu grup, makalede bahsettiğim düşük gelirli aile senaryosuyla çok ilgili. Hangi faydalar var? Hangi eğitim programları mevcut? “Tahliye edildim.” “Hapisten çıkıyorum.” “İflas etmek zorundayım.” Durumlar son derece karmaşık ve bu konularda yardımcı olacak çok sayıda danışman tutma imkanı yokken, yapay zeka ekonomik zorluklar yaşayan ve hükümet veya sivil toplum yardımı bulması gereken biri için harika bir ajan olmalı.
