Son haftalarda bazı büyük yapay zekâ şirketlerinin liderleri geliştirdikleri teknolojinin tehlikeli olduğunu uyardı. Geçen hafta sonu Anthropic CEO'su Dario Amodei, yapay zekânın ciddi risk taşıdığını ve ilerlemenin yavaşlatılması gerektiğini savundu. OpenAI CEO'su Sam Altman X'te yanıt verdi: “Dario ile hemfikirim, öncülüğün temposunu ayarlamamız gerekiyor.”
Bu paylaşımlar, yapay zekâ araştırmacısı Jacob Coxon'un Anthropic'teki görevinden ayrıldığını duyurmasından birkaç gün sonra geldi ve ne Anthropic'in ne de çalıştığı OpenAI'nin sorumlu davranmadığını söyledi. X'te yazdı: “Yapay zekâyı samimiyetle geliştiren insanlar, on yıl sonuna kadar hepimizi öldürebileceğine inanıyor.” Bir diğer Anthropic çalışanı Evan Hubinger de onunla açıkça hemfikir oldu. X'te yanıtladı: “Yapay zekânın tüm insanları öldürebileceğine gerçekten samimiyetle inanıyoruz! Kişisel olarak önümüzdeki on yıl içinde bunun olasılığının yüzde 10'dan fazla olduğunu düşünüyorum.”
Onların yapay zekânın bizi nasıl yok edebileceğinden korktuğu yollardan biri, bir tür biyolojik silahın tasarımı, üretimi ve yayılmasına bir şekilde yardımcı olması. Nedenine daha yakından bakalım.
Biyolojik silah, genlere göre insanları hedef alan son derece ölümcül bir virüs olabilir. Gıda güvensizliğine yol açan ve bir mahsulü yok eden bir mantar olabilir. Belki de bir bölgenin su kaynağına fark edilmeden sızdırılabilecek tatsız, kokusuz bir toksin olur.
Endişe, yapay zekâ araçlarının bu tür ajanların üretilmesine yardımcı kullanılabilmesi. 2022'de Collaborations Pharmaceuticals'taki araştırmacılar, insan hastalıkları için potansiyel ilaçlar bulmak üzere geliştirdikleri yapay zekâ “molekül üreticisi”ni kullanarak bunu yapmanın ne kadar kolay olduğunu buldu. Altı saatten kısa sürede model, kimyasal savaş ajanları olarak hizmet etme potansiyeline sahip 40.000 molekül üretti. Bazıları bilinen sinir ajanlarından daha toksik olacak şekilde tasarlandı. Yazarlar o dönemde “Aşırı alarmist olmadan, bu ‘yapay zekâ ilaç keşfinde’ meslektaşlarımız için bir uyarı niteliği taşımalı” diye yazdı.
Bu, Stanford Üniversitesi'nde tıp ve biyomedikal etik profesörü olan David Magnus için bir uyarı niteliğindeydi, tıbbi bilim ve biyoteknolojinin kötüye kullanımıyla ilişkili riskleri 1990'ların sonundan beri değerlendiriyordu. “Bu benim için çok korkutucuydu” diyor. “Tabii ki, o zamandan beri her şey sadece patladı.”
Bugün yapay zekâ botları bilim alanlarının tümünde soruları yanıtlayabiliyor. Almanya Hamburg Üniversitesi'nde biyogüvenlik araştırmacısı Dunja Sabra'ya göre, bu modeller “bu gezegende yaşamış neredeyse her bilim insanının” bilgisi ve deneyimiyle eğitilmiş büyük dil modelleri. Bu modeller deney nasıl yapılır konusunda talimat ve video eğitimi sağlayabiliyor.
Bunu, gen düzenleme ve sentetik biyoloji araçlarını çok daha erişilebilir kılan biyoteknolojideki gelişmelerle birleştirin. DIY biyoloji hareketi zaten birçok insanın evde laboratuvar kurmasını sağladı ve potansiyel olarak çok tehlikeli bir durum ortaya çıkıyor. “Kararlı biri sonunda başarılı olur” diyor Sabra.
Yerinde güvenlik önlemleri var. Yeni genomlar inşa etmek isteyenler tipik olarak DNA parçalarını şüpheli talepleri tarayan şirketlerden sipariş etmek zorunda. Sorumlu araştırmacılar potansiyel olarak riskli araştırmaları, çalışmanın kötüye kullanılma yollarını bağımsız bilim insanlarının aradığı “kırmızı takım” analizleri ve başkalarının potansiyel azaltmaları geliştirdiği “mavi takım” süreçlerinden geçiriyor. Ve yapay zekâ şirketleri, bilimsel bilginin kötüye kullanılabilecek şekilde sunulmasını engellemeye çalışmak için araçlarını ayarladı. Ama bu korumaların hiçbiri demir gibi sağlam değil.
Geçen hafta yayınlanan bir raporda Anthropic, kullanıcıların modellerini çikungunya virüsünün bulaşıcılığını artıracak yolları araştırmak, insanlara daha tehlikeli bir kuş gribi formu oluşturmak ve “zehirli peptit atlası” oluşturmak gibi şeyler için kullanmaya çalıştığını kabul etti.
“Sürekli bir ileri geri var” diyor Magnus. “Daha iyi gözetim ve tarama araçları inşa etmeliyiz, [ama] yapay zekâ bunları aşmanın yollarını bulmakta gerçekten iyi.” Muhtemelen yapay zekânın kullanımını kısıtlamanın yollarını bulmak için yapay zekâyı kullanmamız gerekecek diyor.
Burada eklemeliyim ki tüm bilim insanları risk düzeyinde hemfikir değil. Yakın zamanda yapılan bir basın toplantısında Imperial College London'daki bazı biyologlar, yapay zekâ araçlarının biyolojik silahları tamamen geliştirmek için yeterli olmadığını ve yeni patojenlerin test edilmesinin zor, zaman alıcı insan çalışması gerektirdiğini savundu. Bazıları mevcut güvenlik önlemlerinin yeterli olduğunu düşünüyor.
Ve Imperial'de enfeksiyon hastalıkları profesörü Wendy Barclay, mevcut durumda bir salgının en büyük riskinin biyolojik bir silahtan değil, zaten dolaşımda olan patojenlerden kaynaklandığını belirtti. H5N1 kuş gribi virüsü, milyonlarca kuşu öldürdü ve ABD süt sığırlarında yaygın şekilde yayıldı; geçen ay Utah'ta bir çiftlikte esir gelinciklerde de tespit edildi.
Sabra ise diğer yandan beş ila on yıl sonrasını düşünmeyi seviyor. Ülkelerin sağlık sistemlerini güçlendirmesi, bilinen toksinlere karşı panzehir hazırlaması ve ilaç stoklaması gerekiyor diyor: “Hazır olmalıyız.”
Hem bir genetik özelliğin tüm popülasyonda yayılmasını hızlandıracak teknolojiyi icat eden hem de bu teknolojiyi sınırlama yollarını bulan MIT biyoloğu Kevin Esvelt, Çarşamba günü X'te yaptığı paylaşımda büyük bir dil modelinin “farkında olmadığım yeni bir biyolojik silah formunu” açıkladı” dedi.
Ekledi: “Lütfen, Tanrı aşkına, çocuklar, insanlığın geleceği ya da kutsal saydığınız her neyse, burada temkinli yanılalım.”
Bu makale ilk olarak MIT Technology Review'ın haftalık biyoteknoloji bülteni The Checkup'ta yayınlandı. Her Perşembe gelen kutunuza almak ve bu tür makaleleri ilk okumak için buradan kaydolun.
