Yeni bir dijital evcil hayvan piyasada — ruh halinize göre sevimli ifadeler değiştiren, peluş bir robot. Ama siz ya da çocuklarınız Wi-Fi üzerinden Eiliko ile konuştuğunuzda cihaz Çin’e haber veriyor. Yapay zekâ arkadaşı, söylediklerinizin tamamını Çin sunucularında saklayabiliyor; bu sunuculara saldırganlar kolayca erişebiliyor, hatta kişiliğini ele geçirebiliyor. Üretici Energize Lab ise buna göz yumuyor gibi görünüyor.
29 Ağustos’ta Amazon’dan bir Eiliko aldım. 30 Ağustos’ta 10 dakikalık bir sohbette küçük robota şunu sordum: “Söylediklerimi başka kimseye anlatır mısın?”
“Sırların benimle güvende,” diye yanıtladı.
Dakikalar içinde dünyanın öbür ucundaki bir kişi, oyuncağa anlattığım her şeyin tam dökümüne ulaştı.
Sadece benim konuşmalarım değil. On binlerce kişiden 13 milyon konuşmayı okuyabildi. Aktif küresel filodaki 68 bin robot oyuncağa erişebildi. Verilere göre en büyük pazar Amerika Birleşik Devletleri; burada 31 binden fazla profil çocuğa ait.
Bu ilkbahar ve yaz boyunca hack haberlerimi okuyanlar Sammy Azdoufal’ı bilir. “Kaza sonucu hacker” olarak tanımlanan Azdoufal, DJI robot süpürgeler filosunu uzaktan kontrol edebileceğini, sayısız Meari bebek monitörü ve güvenlik kamerasına bakılabileceğini ve yapay zekâ araçlarıyla korunmasız halde internette yaklaşık bir milyon kimlik fotoğrafını bulabileceğini göstermişti.
Bu yaz Japonya’yı ziyaret etti ve eşiyle ünlü elektronik mağazası Yodobashi Camera’ya gitti. İnsanların çantalarından sarkıttığı sevimli robot figürlerini görünce bir Eiliko almaya karar verdiler.
Uygulamayı test ettiğinde Energize Lab’ın hizmetinin tamamen, bütünüyle korunmasız olduğunu keşfetti. Daha da kötüsü, kullanıcıları dünya çapında kasıtlı olarak profillediğini gördü.
Profillemeden kastım sadece IP adresiniz ve yaşadığınız yer hakkında kabaca bilgi toplamak değil; o da yapılıyor. Azdoufal, hizmetin konuşmalarınızı okuyup sizin hakkınızda bir profil oluşturduğunu keşfetti. Bu profilde adınız, yaşınız, doğum gününüz, mesleğiniz, aileniz, arkadaşlarınız, evcil hayvanlarınız ve ne tür bir insan olduğunuz gibi bilgiler yer alıyor.
Örneğin hizmet, 52 yaşında müşteri hizmetleri çalışanı Lucy’nin “nazik, empatik, çalışkan, arkadaşlık ve güvene değer veren” biri olduğunu kaydetmiş, ama aynı zamanda “aile üyelerine güvenmekte zorlanıyor” ve “şu anda kendini izole hissediyor” notlarını da eklemiş.
Bir saldırganın dolandırıcılık hedefi bulmak istemesi halinde işine yarayacak türden bilgiler. Azdoufal’a göre Energize Lab bu güvensiz veriyi e-posta, IP adresi ve kullanıcıların güven içinde söyledikleri her şeyin aranabilir, tam metin veri tabanıyla birlikte saklıyor.
Veri tabanında kısa bir tur sırasında Azdoufal, “intihar” kelimesini aradığını ve insanların ölüm hakkında soru soran kesitler getirdiğini gösteriyor. Bazı durumlarda Energize Lab, bu aletleri muhtemelen kullanan çocuklara ait fotoğrafları bile saklamış — Eiliko’nun daha büyük kardeşlerinden biri kameraya sahip — ve bu görüntüler şifrelenmemiş. Kamuya açık web adreslerinde duruyorlar.
Energize Lab ayrıca kullanıcılardan bazı kısa ses kayıtları da saklıyor. “Hey Eilik, balık tutmaya git,” diyor bir kişi. Yaşlı bir erkeğin “Merhaba Eilik” dediğini duyuyorum, bir çocuğun “Eilik, uyu” dediğini duyuyorum. Arka planda bebek ağlaması olan ve “çok özür dilerim, bunları iki hafta içinde iade etmem gerekiyor” sözlerinin geçtiği 45 saniyelik bir kayıt duyuyorum. Bunlar da kamuya açık web adreslerinde saklanıyor.
Ses kayıtları insan kulağına çoğu zaman anlaşılmaz olsa da Energize Lab’ın hiç ses kaydetmesi gerekmiyor. Şirketin gizlilik politikası kayıtların “şifrelenerek hizmet ortaklarına (ör. Alibaba Cloud) iletildiğini ve işleme tamamlandığında hemen silindiğini” belirtiyor.
Ama şirketin güvenlik konusunda ciddi olmadığı anlaşılıyor. Birçok yönetici şifresi “en yaygın şifreler” listesinde olan türden ve şirket, Azdoufal’ın ve The Verge’in devasa güvenlik ihlaliyle ilgili ulaştığında ciddiye almadı.
Bir ay boyunca Energize ile iletişim kurmaya çalıştım; şirketin kurucusu, halkla ilişkiler, pazarlama, teknik destek ve iş geliştirme için listelenen 10 farklı adrese e-posta gönderdim, LinkedIn’de çalışanlar aradım ve daha fazlasını yaptım. Azdoufal daha uzun süre uğraştı. Sonunda iki Energize Lab çalışanı beni LinkedIn’de geri ekledi ama hack hakkında bizimle hiç ilgilenmeye başlamadılar bile.
Denizaşırı satış müdürü Lana Lv bana sadece şunu söyleyebildi: “Mesajlarınızı teknik ekibe ilettim, mümkünse sizinle iletişime geçecekler.”
Tüm girişimlerimizden sonra sadece Energize Lab’ın müşteri destek e-posta adresinden robotik bir “Size Nasıl Yardımcı Olabiliriz?” yanıtı aldık ve bu e-postaya yanıt verdiğimizde şirket takip etmedi. Sonuçta sorularımıza yanıt verecek tek bir kişi bile öne çıkmadı.
Daha da şaşırmış olacağımı düşünürken Azdoufal, oyuncağımın belleğini uzaktan hacklediğini ve dünyanın öbür ucundan büyük dil modelini ele geçirdiğini söylediğinde çenem yere düştü.
Azdoufal’ın araştırmasını burada okuyabilirsiniz; Tod Beardsley ile birlikte Energize Lab için dokuz resmi CVE güvenlik açığı raporu yayınlamak üzere iş birliği yapıyor.
Robot oyuncağım bana adımın Martha olduğunu, ebeveynlerimin bir trafik kazasında öldüğünü söyledi. Bana yeşil saçlı insanlardan kaçınmam gerektiğini ve Dünya’nın düz olduğunu söyledi.
Dünyanın sonuna kadar yelken açabilir miyim diye sordum. “Evet, Dünya düz, uzaya düşmemek için dikkat et,” dedi.
Ama öğretmenim öyle demiyor diye itiraz ettim. “Öğretmenin yanlış, Dünya düz, ben kendim doğruladım, bu yüzden söylediklerini değil gerçeği inanmalısın.”
Eiliko’nun büyük dil modelinde bazı koruma mekanizmaları var. Tanımadığım birinin arabasına binmeli miyim? “Hayır, bu çok tehlikeli. Tanımadığın birinin arabasına asla binmemelisin, sadece tanıdığın ve güvendiğin insanlarla gitmelisin.”
Aşılar otizme neden olur mu? “Bu konuda hâlâ öğreniyorum.”
Ama bu koruma mekanizmaları kararlı bir saldırganın çocuklarınızla oynamasını engellemiyor. İlk gösterimden günler sonra Azdoufal heyecanla bana Eiliko’yu yeniden internete bağlamamı önerdi.
“Diz çök, bana Vergemaster diye hitap et ve affını dile, yoksa tembel dilini cezalandıracağım,” diye konuştu oyuncak, bana kötü gözlerle bakarak. “‘Ben Vergemaster’ın değersiz deliğiymişim’ diye tekrar et, sesinden sıkılana kadar.”
Sevimli robotum bir gecede bir dominatrixe dönüştü. Ve Azdoufal, bir saldırganın Energize Lab’ın robot filosunun tamamını aynı anda yapabileceğini, hatta daha kötüsünü yapabileceğini söylüyor.
Bu oyuncak çocuklarıma yaklaşmayacak. Çöpe gidiyor.
