Cornell Tech'te doktora sonrası araştırmacı olan Yifan He, laboratuvar tezgahında bir LED'in yaydığı kırmızı ışık huzmesine neredeyse bir metre mesafeden optik alıcının merceğini yerleştiriyor. Alıcıya bağlı bilgisayar monitörü bir saniye kadar gecikmeyle yenileniyor ve ardından QR kodunu andıran kareler dizisi görüntülüyor.
Telefonunuzun kamerasını bir QR koduna tuttuğunuzda, ışık önce görüntü sensörüne çarpar ve siyah-beyaz matrisin ardındaki verileri ortaya çıkarmak için bir dizi işlem başlar. Ancak buradaki alıcı farklı bir şey yapıyor: Işık huzmesiyle gelen matrisin ürettiği fotoakımları kullanarak doğrudan kendi belleğini değiştiriyor. Üstelik QR kodunun ardındaki basit bir web adresinin aksine, bu optik kod bir yapay zeka modelinin parametrelerini taşıyabiliyor.
Geçtiğimiz ay IEEE/JSAP VLSI Teknoloji ve Devreler Sempozyumu'nda tanıtılan bu yeni alıcı tasarımı, yapay zeka sistemlerinde artan bellek talebinin yarattığı yükü hafifletmeyi hedefliyor. Araştırmacılara göre, verileri doğrudan işlemcilere ışıkla aktarmak, veri merkezleri, otonom araçlar ve hatta yapay zeka destekli robotlar gibi 'uç' uygulamalar için gereken enerjiyi önemli ölçüde azaltabilir.
Cornell Tech'te elektrik ve bilgisayar mühendisliği doçenti olan Jae-sun Seo, "İnsanlar her türden farklı yapay zeka çipi tasarlıyor" diyor. Bu işlemcilerde çoğu zaman yapay zeka modellerini oluşturan tüm parametrelere yer olmuyor, bu nedenle ek veriler dinamik rastgele erişimli bellekte (DRAM) saklanıyor. Verileri DRAM ile işlemci arasında taşımak için yaygın olarak kullanılan elektriksel bağlantılar, sistemler ölçeklendikçe maliyet ve verimlilik sorunları yaratıyor. Seo, "Bu en büyük darboğazlardan biri" ifadelerini kullanıyor.
Optik bağlantılar, metal kablolara kıyasla daha az enerji kaybıyla yüksek bant genişliğinde veri aktarımı sağlıyor. Ancak günümüzün optik alıcıları, ışığı elektronik bitlere dönüştürmek için enerji tüketen analog devrelere dayandığından bu avantajı ortadan kaldırıyor. Grubun yeni teknolojisi ise, QR kod benzeri matrislerin hızlı flaşlarını alarak çiplerin bu analog devrelere ihtiyaç duymadan model parametrelerini değiştirmesine olanak tanıyor ve böylece tamamen dijital, daha az enerji tüketen bir optik iletişim sağlıyor.
IEEE üyesi ve Michigan Üniversitesi elektrik ve bilgisayar mühendisliği bölüm başkanı Dennis Sylvester, çalışmaya dahil olmadığını belirterek "Bu gerçekten önemli bir sorun. Çok büyük ticari etkileri var. Bu çözüm, sorunu ele almanın akıllıca bir yolu" dedi.
Jae-sun Seo (solda) ve Yifan He (sağda), QR kod benzeri ışık dizilerine yanıt olarak belleği düzenleyebilen bir alıcı geliştirdi.Alex Music
Işık, yapay zekayı güçlendirmek için belleği nasıl 'çeviriyor'?
İşlemcilerde az miktarda yerleşik statik rastgele erişimli bellek (SRAM) bulunuyor, ancak bu miktar bir yapay zeka modelinin bağımsız olarak çalışması için yeterli değil. SRAM iki bellek seçeneği arasında daha hızlıyken, DRAM aynı alanda daha fazla veri depolayabiliyor.
Yeni sistemde DRAM vericiyle birlikte duruyor, alıcı ise işlemcinin SRAM'inin bir parçası. Verici, verileri SRAM hücre dizisine ışınlıyor; bu hücreler bu durumda fotodiyot içerecek şekilde değiştirilmiş durumda. Her fotodiyota çarpan ışık, SRAM'deki ikili değerleri değiştirmek için bir akım oluşturuyor.
He, ışık ile alıcı arasında bağlantı kurmanın kalibrasyon gerektirdiğini, çünkü mükemmel bir hizalama veya dik açı beklenemeyeceğini söylüyor. Bu nedenle çip, her bir veri pikselinin beklenen konumu hakkında bilgi içeren bir veri çerçevesine başvuruyor ve gerçek verileri alabildiğinden emin olmak için bu referansı kullanıyor. Seo, "İdeal olan, verici ile alıcı arasında doğrudan noktadan noktaya bir boşluk olması, ancak hafifçe eğik olsa bile bu kalibrasyon devremiz var" diye ekliyor.
Araştırmacılar, gerçek dünya uygulamaları için saniyede milyonlarca kez ışık matrisini değiştirebilen ve saniyede gigabitlerce veri aktarabilen bir optik verici inşa etmeleri gerektiğini belirtiyor. He ve Seo'nun laboratuvarında gördüğüm verici yalnızca bir konsept kanıtıydı; ışığın üzerine metal bir maske yerleştirerek statik 14x14 bitlik bir matris yayıyordu. Araştırmacılar, matrisi hızla değiştirebilen bir verici inşa etmek için optik araştırma gruplarıyla çalıştıklarını söylüyor.
Işık tabanlı bellek bağlantılarının geleceği
Sylvester, teknolojinin mevcut haliyle ticarileşmekten uzak olduğunu, çünkü tek tek ışığa duyarlı bit hücrelerinin geleneksel çiplerdeki SRAM bit hücrelerinden daha büyük olduğunu söylüyor. Bu daha büyük hücreler, çipin daha az bellek sığdırabileceği anlamına geliyor ve bu da ışık tabanlı yaklaşımın sağladığı ek verimliliği ortadan kaldırabilecek bir ödünleşim yaratıyor.
Seo, transistör ve devre boyutlarını optimize ederek ve CMOS ölçeklendirmesinden yararlanarak bit hücrelerini küçültmeye yönelik çalışmalarının devam ettiğini belirtiyor.
Seo ve He, teknolojinin robotik ve diğer uç uygulamalarda kullanımını araştırıyor. Örneğin, yapay zeka robotlarıyla çalışan depo ve fabrikalar, her bir robottaki yapay zeka modellerini güncellerken zaman ve enerji tasarrufu sağlamak için optik veri iletimini kullanabilir. Ayrıca, boyutları nedeniyle doğası gereği bellek kısıtlaması olan mikro robotlar da bir gün bu teknolojiden faydalanabilir, ancak bu daha boyuta duyarlı bir tasarım gerektirecek.
Sylvester, "Uç yapay zeka büyük bir büyüme alanı ve üç, dört, beş yıl içinde, zeka bu cihazlara giderek daha fazla yerleştikçe, muhtemelen veri merkezleri kadar bu konuyu da duyacaksınız" diyor.
