Geçen Çarşamba Anthropic, yılın başlarında moleküler biyoloji laboratuvarı başlattığını duyurdu. Claude ajanları zor biyoloji problemlerini okuyup varsayımda bulunurken, insan bilim insanları onların bildirdiği konularda deney yapıyor. Şirket, bu yapay zeka destekli laboratuvarın ilk keşfini yaptığını söyledi.
Anthropic’in sisteminin ne yaptığını anlamak için, bilim insanlarının canlı dünyayı dizilemesiyle biriken milyonlarca DNA dizisinin bulunduğu bir kütüphanede sayfa çevirdiğinizi hayal edin. Bir atılım için atılacak bir adım, belki ilginç bir enzimi kodlayan tuhaf bir diziyi bulmak olabilir. Sonra o enzimin ne yaptığını ve sonunda onu kullanışlı bir şey yapacak şekilde nasıl manipüle edeceğinizi bulmanız gerekir.
Anthropic’e göre 950 ajandan oluşan sistemin 21 saat sonra bulduğu şey yeni bir dizi değildi. Ajanlar bunun yerine bilinen bir enzim çevresindeki tekrar eden bir desale işaretledi; Anthropic’in dediğine göre bu desen daha önce kataloglanmamıştı. Ancak Anthropic’in duyurusunda bu desen “bilim ve tıbbı zaten dönüştüren” gen düzenleme teknolojisi CRISPR’a yol açan şeye “benzer” olarak nitelendiriliyor; bu da ajan ordusunun gerçekten dikkat çekici bir şey bulmuş gibi görünmesine neden oluyor.
Bu iddialar bazı biyologları kızdırdı. Birinin viral paylaşımı, ilaç üreticisi Eli Lilly’nin başkanı ve CEO’su tarafından da desteklendi; paylaşımda “tuhaf bir gen kümesi ve tekrarları bulmak çoğu zaman kolay kısımdır. Zor kısım ve gerçek keşiflerin çıktığı yer, sistemin aslında ne yaptığını anlamaktır” denildi. Başka bir deyişle ajanlar bazı laboratuvar işlerini yaptı. Ama bu bir keşif değil.
Bu, yapay zekanın etkileyici bir şey yapsa bile — insan gözüyle tek başına algılaması zor olan biyolojik veriler yığınında bir desen bulmak gibi — sonucun kendisinin bilim için bir atılım oluşturmayabileceği hatırlatması. Yapay zeka için yeni olan şey, bir biyolog için rutin, şaşırtıcı olmayan ya da sadece o kadar da önemli olmayabilir.
Konuyu daha da bulanıklaştıran şey, Kopenhag Üniversitesi’nden biyolog Mario Rodríguez Mestre’nin hafta sonu New York Times’ın haberine göre ekibinin bu özel deseni daha önce keşfettiğini söylemesi oldu. Claude ile düzenli olarak sohbet eden Mestre, Anthropic ekibinin kendi sohbetlerinden öğrenip öğrenmediğini merak etti. Anthropic bunu reddediyor, ancak Mestre Claude kullanımını tamamen durdurduğunu söylüyor.
Sorunun bir kısmı, yapay zeka şirketlerinin sistemlerini bilim insanlarının kullanabileceği mikroskop veya süper bilgisayar gibi araçlar olarak sunmaması. Yapay zeka sistemlerinin kendilerinin keşif yaptığını ısrarla savunuyorlar. Bazılarına göre bu yaklaşım, yeni bilginin tipik olarak iş birliğinden ve giderek büyüyen araç cephaneliğinden ortaya çıktığı bilim pratiğiyle uyumsuz.
Bu aynı zamanda gerçek ilerlemeye karşı daha şüpheci olmaya da yol açıyor. 200 bin adayı keşfedilmeye değer birkaçına indirmek küçük bir başarı değil; meşru bilimsel bir çalışmadır. Genel amaçlı bir sohbet robotunun bu işi yapabilmesi dikkat çekici; insanları yönlendirmiş ve deneyleri nihayetinde yürütmüş olsa bile. Ama standart Claude’un kendisinin bir keşif yapıp yapmadığı haline gelince, her şey ya atılım ya da çöküş diye ikiye bölünen tartışmada bir taraf için kanıt haline geliyor.
Yapay zekayı bir keşif yapıp yapmadığına göre yargılamaya başlayınca, gerçekten bir başarı elde etmiş gibi göründükten sonra bile hedefleri kaydırmak cazip hale geliyor. Bu ayın başlarında OpenAI, kendi ekip ajanlarının matematik alanında bir milyon dolarlık bir problemi çözdüğünü söyledi. Ancak birkaç hafta sonra, akışımda neredeyse her yapay zeka şüphecisi, bunun gerçekten önemli olan matematik problemi olup olmadığını soran bir makaleyi paylaşıyordu.
Açık olmak gerekirse, yazı OpenAI’nin çözümünün yanlış olduğunu savunmuyordu. Bunun yerine, söz konusu sonucun matematikçilerin en çok önem verdiği sonuç olmayabileceğini savunuyordu. Bir matematikçinin modellerin bazı çalışmalarını izinsiz kullandığı suçlamasını da ekleyin ve insanlar ya OpenAI hile yaptı ya da çözüm önemli değildi diye düşünüyor. Ya da her ikisi.
Bu, Anthropic’in duyurusunu eleştiren gönderiyi yazan biyolog Lucas Harrington’ın endişe duyduğu şeyin bir parçası. Önerisiyle bitirdi: Yapay zeka şirketleri, diye söyledi, “şimdi barı yüksek tutmalı, böylece bir yapay zeka gerçekten temel olarak yeni bir biyolojik mekanizma keşfettiğinde herkes bunun ne kadar büyük bir olay olduğunu takdir eder.” Ancak OpenAI’nin Sam Altman’ı ve Anthropic’in Dario Amodei’si birbirini geçme yarışında, yapay zekanın bilimsel atılımları için barı yükseltmek akıllarının son sırasında olabilir.
