Alan Turing'in yapay zeka hakkındaki ünlü fikirleri, son 75 yıldır yapay zeka araştırmalarını yanlış bir yola yönlendirmiş olabilir. Önde gelen bilgisayar bilimci Peter J. Denning'e göre durum bu.
Denning, yeni kitabı Turing'in Hatası: Zekasız Makinelerin Boyunduruğundan Kaçış'ta, Turing'in 1950'de yaptığı iki temel varsayımın bugün hâlâ yapay zeka araştırmalarını şekillendirdiğini savunuyor. Bunlardan ilki, zekanın fiziksel bir bedenden bağımsız var olabileceği ve bu nedenle bilgisayar yazılımında yeniden yaratılabileceği. İkincisi ise bir makinenin, bir insanla sohbette başarılı bir şekilde taklit yaparak zeka gösterebileceği fikri. Bu fikir daha sonra Turing testi olarak bilinmeye başlandı.
Denning, "Bu iki iddia, yapay zeka araştırma ve geliştirmesinin büyük kısmını şekillendirdi" diye yazıyor. "Benim önermem şu: Bu iddialara boyun eğmemiz bizi bugün içinde bulduğumuz yapay zeka karmaşasına sürükledi."
Denning, yapay genel zeka (AGI) peşinde koşmanın, yani insan seviyesinde zekaya sahip makineler geliştirmenin başarıya ulaşmasının pek mümkün olmadığını söylüyor. Bunun yerine, toplumun inşa ettiği teknolojilerin önemli yeni riskler getirebileceği uyarısında bulunuyor.
Örtük Bilgi Sorunu
Denning'in argümanının merkezinde, insan anlayışının kolayca kelimelere dökülemeyen veya bilgisayarların işleyebileceği bir forma dönüştürülemeyen devasa kısmı olan 'örtük bilgi' kavramı yer alıyor.
Denning'e göre makine öğrenimi, örtük bilginin beş ana kategorisini yakalayamıyor: sağduyu, insanlarla ve çevreyle günlük etkileşimler, duygular ve algı, pratik performans becerileri ve kültüre gömülü sosyal ve tarihsel bilgi.
Araştırmacılar uzun süredir sağduyuyu veritabanlarında düzenlemeye çalışıyor. Bu alandaki en bilinen çabalardan biri, Douglas Lenat'ın 1980'lerde başlattığı Cyc projesiydi. Projenin amacı, kapsamlı bir sağduyu bilgisi koleksiyonu oluşturmaktı. Kırk yıllık çalışmanın ardından proje yaklaşık 25 milyon girdi içeriyordu.
Denning, "Yine de bu hazine bile, uzman sistemleri gerçekten uzman sayılacak kadar akıllı yapmaya yetecek bir sağduyu birikimi oluşturamadı" diye belirtiyor. "Cyc, insanları uzman yapan bilginin büyük kısmının önermeler olarak ifade edilemeyeceğini doğruladı."
Denning, pratik becerilerin çok daha büyük bir zorluk oluşturduğuna inanıyor.
"Binlerce alandaki performans becerilerimiz makinelere aktarılamıyor" diye açıklıyor. "Becerili sonuçların tanımları ('neyin ne olduğunu bilmek') çoğu zaman bit olarak temsil edilip bir makinede saklanabilirken, becerili performans için gereken bedensel bilgiyi ('nasıl yapılacağını bilmek') nasıl kodlayacağımızı bilmiyoruz."
Başarılı müzisyenleri örnek gösteriyor.
"Bir virtüöz kemancı güzel müzik çalabilir ancak bir çırağa bunu nasıl üreteceğini tarif edemez. Bir robot becerikli insanları gözlemleyip taklit edebilse bile, biyolojik bir bedeni olmadığı için müzisyenin güzel müzik çalarken nasıl hissettiğini veya bir dinleyicinin bunu duyduğunda nasıl hissettiğini kavrayamaz."
Denning, sezgi, içgüdü, hayal gücü ve kendiliğinden yaratıcılığı da makinelerin erişemeyeceği örtük bilgi biçimleri arasında sayıyor.
İnsan Bilgisi Neden Kodlanmaya Dirençli?
Denning, tüm bu sınırlamaların 'temsil sorunu' olarak adlandırdığı şeyden kaynaklandığını savunuyor.
Bilgisayarlar yalnızca, tanıyıp işleyebilecekleri fiziksel formlara kodlanmış veri ve talimatları kullanarak hesaplama yapabilir. Ancak örtük bilgi doğal olarak bu çerçeveye uymaz.
Denning, "Her kelimenin arkasında, ona anlam veren derin bir örtük bilgi kuyusu vardır" diyor. "Kelimeler, anlamların kendileri değil, yalnızca sembolik temsilleridir. Yaygın olarak kullanılan Büyük Dil Modelleri (ChatGPT, Claude ve Gemini gibi) yalnızca kelimeleri manipüle eder; söylediklerinin anlamını bilemez veya anlayamazlar."
Denning'e göre bu, temel bir ayrım yaratıyor. Bilim insanları örtük bilginin insanlarda nasıl çalıştığını hâlâ tam olarak açıklayamadığı için, bunu makinelerin kullanabileceği bir forma dönüştüremiyorlar.
Denning, "Örtük bilgiyi nasıl barındırdığımız büyük ölçüde bir gizem" diye itiraf ediyor. "Tek bildiğimiz, onun bedensel olduğu. Onu ortaya çıkarmak için vücudumuzda neyi gözlemleyip ölçebileceğimiz hakkında hiçbir fikrimiz yok."
Bağlam ve Kültür Zekayı Şekillendiriyor
Denning ayrıca zekanın büyük ölçüde bağlama, yani kelimelere, eylemlere ve kararlara anlam veren çevre koşullara bağlı olduğunu savunuyor.
Bağlam, insanların alaycılığı, mizahı, samimiyeti ve duyguyu tanımasını sağlar. Ne zaman diplomatik olunacağını, ne zaman şaka yapılacağını ve sayısız sosyal ipucunun nasıl yorumlanacağını belirlemeye yardımcı olur.
Denning, "Mevcut bağlamın bir varsayımının nereden geldiğini sorguladığınızda, bunun önceki bağlamlardaki önceki konuşmalara dayandığını keşfedersiniz. Bunların her biri de sırasıyla daha önceki konuşmalara ve bağlamlara dayanır. Bu örüntü sonsuz ve fraktaldır" diye açıklıyor.
Kültür, yapay zeka için bir başka büyük engel oluşturuyor.
Denning, kültürü değerler, normlar, yargılar, tarih, topluluklar, ruh halleri ve hatta güç ve ilgi içeren ilişkileri kapsayan bir kavram olarak tanımlıyor.
Denning, "İnsan konuşmaları, kullanılan kelimelere anlam ve alaka kazandıran arka plan varsayımlarıyla doludur" diye açıklıyor. "BDM'leri giderek daha büyük sinir ağlarıyla ölçeklendirmek, onların kültür dediğimiz bedensel insan bilgisini edinmelerini sağlamayacaktır. BDM'ler Turing testinin hedefine, yani insan düşüncesinden ayırt edilemeyecek makine düşüncesini göstermeye ulaşamayacak."
Yapay Zeka Güvenliği ve İnsan Anlayışının Sınırları
Denning, insanların ve yapay zeka sistemlerinin sonuçta birbirlerinin tam olarak anlayamayacağı farklı örtük bilgi biçimleri geliştirebileceği sonucuna varıyor.
Denning, "Makineler bizim örtük bilgimizi okuyamaz, biz de onlarınkini okuyamayız" diye yazıyor. "Geçilmez bir uçurumun iki yakasındaki uzaylılar gibiyiz."
Bu boşluğun yapay zeka güvenliği konusunda ciddi endişeler doğurduğunu savunuyor. Makineler, insan niyetlerinin ardındaki söylenmemiş bağlamı yorumlayamazsa, gelişmiş yapay zeka sistemlerini insan hedefleriyle güvenilir bir şekilde uyumlu hale getirmek imkansız olabilir.
Denning, "Yapay zeka otomasyonu yoluyla, makine ağlarının kendi makine zekalarını geliştirmeleri muhtemeldir. Bu zeka, insan genel zekası seviyesine ulaşmasa da insanlar için ciddi sorunlar yaratma kapasitesine sahip olacaktır. Bu tehdit, süper zeki makinelerin devralmasından daha büyüktür" diye açıklıyor.
"Makine zekasının bizden farklı kaygıları var ve bizi umursadığı görünmüyor. Düşünme ve problem çözme biçimleri bize yabancı geliyor. Bu makinelerle nasıl güvenli bir şekilde yaşayacağımızı henüz bilmiyoruz."
"Bir yapay zeka otomasyon tekilliğinden geri çekilmek bizden çok şey talep edecek. İlk olarak, toplumumuzda zeki makineler ortaya çıktıkça tanıdık kültürün kaybolduğunu ve neyin geleceğini bilmediğimizi kabul ederek başlıyoruz. Makineler gibi düşünmeyi veya makinelere boyun eğmeyi reddediyoruz. Düşük zekalı makinelerin dayattığı bir boyunduruğa teslim olmayı reddediyoruz. En önemlisi, insanlığımızı yeniden ortaya koyuyor, bizi makinelerden farklı kılan şeyi bir kez daha ilan ediyor ve bu farklılıkları kutluyoruz."
