Güvenlik araştırmacısı Matthew “Zigula” Gore-Kormanik, Dora adlı sahte bir tanışma uygulamasını incelerken Jennifer’dan geldiğini söyleyen bir açılır mesajla karşılaştı. Profiline göre Jennifer 41 yaşında bir Yay, kırmızı saçlı, mavi gözlü ve piercingli. Müzik, korku filmleri, gece hayatı ve spor seviyor.
Gore-Kormanik aramayı yanıtladı ancak video akışında Jennifer’ı göremedi. Hareket eden bir duvar halısı gördü, muhtemelen bir fan yüzünden, arka planda da tuhaf bir bozulma duydu. Görüşme bittikten sonra “Jennifer” ona eğlendiğini ve “sesin beklediğimden çok daha iyi” diye mesaj attı. Mikrofonu hiç bağlı değildi.
Gore-Kormanik Dora’yı ve benzer diğer uygulamaları inceliyordu çünkü ben kendisine potansiyel tanışma dolandırıcılığı uygulamalarından oluşan bir tablo paylaşmıştım. Bu konuyu araştırmamın nedeni 5 Haziran’da Anthropic’in alışılmadık bir adım atmasıydı: Normalde sessiz kalan şirket, tehdit istihbaratı araştırmacısı Chris Cronbaugh’un kamu siber güvenlik konferansı Sleuthcon’da konuşmasına izin verdi. Şirket, Claude’da görülen olağandışı aktiviteyi fark ettikten sonra sahte bir tanışma uygulaması ağı keşfetmişti: Geçmişi olmayan ön ödemeli bir hesap günde 100.000’den fazla API isteği gönderiyordu.
“Swipe Right, Pay Up: Industrial-Scale AI Catfishing” başlıklı konuşmada Cronbaugh, sohbetlerin büyük ölçüde otonom AI kişilikleri tarafından yürütüldüğü yaklaşık 28 tanışma uygulamasından oluşan bir ağ anlattı. Sohbetlerin çoğunluğunda hiç insan temsilcisi yer almıyordu. Anthropic bulgularını “Detecting and countering misuse of AI: September 2026” raporunun “scams and fraud” bölümünde yayımladı, ancak bu ağ hakkında geniş zaman harcayıp bulguları doğrulamaya çalıştıktan sonra. Anthropic’in birçok uygulamanın hâlâ ABD’deki iki büyük uygulama mağazasında yayında olduğu sırada bu konuyu kamuoyuna açması beni şaşırttı ve neden kaldırılmadıklarını merak ettim.
Uygulamaları incelediğimde insanların konuşmak için insan bulmalarına yardımcı olur gibi sunulduğunu gördüm. Replika gibi kişiliklerin açıkça AI olduğu belli olan arkadaş uygulamalarına benzemiyorlardı. Örneğin Dora “çeşitli yaş grupları için özenle tasarlanmış bir tanışma uygulaması… değerlerinizi paylaşan insanlarla tanışmak için saygılı, kullanımı kolay bir alan” olarak tanımlanıyordu. Başka bir sürüm “gerçek bağlantı arayan yetişkinler için sıcak, basit bir tanışma uygulaması” diyordu. Romi açıklamasında “gerçek insanlarla keşfetmenize, bağ kurmanıza ve sohbet etmenize yardımcı olur” diyordu. Doni’nin sloganı “gerçek arkadaşlığa başla” idi; açıklamada “yakındaki bekarlarla bağlantı kurmanıza yardımcı olur” deniyordu.
Dolandırıcılık şöyle işliyor: Kullanıcılar, çoğunlukla 30’lu yaşların ortası-sonu erkekler, tanışma uygulamalarına girip gerçek kadınlarla eşleşmiş gibi hissediyor. Bunların dörtte biri gerçekten gerçek ve o kişi diğer randevular arayan bir kullanıcı değil, ücretli bir gig çalışanı.
Gig çalışanları video üzerinde canlılık kontrollerini geçmek veya sosyal medya hesaplarını takip etmek için işe alındı. Kendi yorumlarını bile yazmıyorlardı. Bunun yerine mesajlara üç önceden üretilmiş yanıttan birini seçerek karşılık veriyorlardı. İnsan olduklarını kanıtlayabiliyorlardı, oysa AI kişilikleri yalnızca video sohbeti veya aramanın mümkün olmamasına dair makul bir açıklama sunabiliyordu. Anthropic’in raporu şöyle belirtiyor: “Arka uç bileşenleri gerçek bir kişi mevcut olmadığında beğenileri, ziyaretçileri ve önceden kaydedilmiş ‘video’yu uydurdu ve kullanıcıların bir botla konuştuğunu şüphelenmeye başladığını takip etti.” Gerçek insanlarla yapılan bu az sayıdaki etkileşim sayesinde bazı kullanıcılar uygulamadan aldıkları tamamen AI tarafından üretilmiş yanıtların da gerçek insanlardan geldiğine inanmaya başladı.
Birden fazla AI sağlayıcısı yer alıyor. Claude otonom sohbet kişiliklerini çalıştırmak için kötüye kullanılırken, raporda “gig çalışanlarının dokunduğu kısa yanıt önerilerini, yüz çekicilik puanlamasını ve fotoğraf/ses moderasyonunu küçük bir Anthropic dışı model üretti. Bir görüntü düzenleme modeli avatar görsellerini üretti” deniyor.
Çevrimiçi dolandırıcılıkların tüm bir ekosistemi var; otomatik ilgi tuzağı yanıtlarından sahte sosyal medya hesaplarına veya tanışma uygulaması profillerine kadar uzanıyor. Birçok durumda insanlar aylarca güven inşa ettikten sonra kurbanlarına acil bir durum olduğunu ve mali yardıma ihtiyaç duyduklarını söylüyor. Ya da yatırımcı gibi davranıp sonunda sahte olan bir hesaba para göndermelerini istiyorlar. Ancak bu tipik bir romantizm dolandırıcılığı değil; sahte romantik partnerlerin “ödünç aldığı” para yok, kripto para da söz konusu değil.
Uygulamaların kendisi dolandırıcılık: Sürekli etkileşim için jeton istiyorlar ve jetonlar gerçek para karşılığı. Kullanıcılar insanlarla konuştuğuna inanarak aslında makinelerle konuşmaya devam etmek için satın alıyor. Bu gig çalışanları oyunu sürdürüyor, AI ise jeton akarken sohbetleri 7/24 devam ettirebiliyor.
Anthropic’in raporuna göre AI’ya verilen istemler kişiliklerin tutarlı kalmasını sağladı ve AI değişimleri “olağan rol yapma veya arkadaş dağıtımı” gibi işledi. Ancak AI’nın bir dolandırıcılığın parçası olduğu söylenmedi çünkü şirket yazdı: “Monomizasyon ve aldatma hiçbir değişimin içinden görünmüyordu.”
Oysa raporda “modelin kendi akıl yürütmesi küçük sayıda durumda zararı ortaya çıkardı” deniyor, bunlar arasında “kullanıcılar ciddi hastalık veya akut sıkıntı açıkladı” durumları da var. Hatta bu durumlarda bile “çıktı kişilikte devam etti.”
Ek ayrıntıya Gore-Kormanik’in tüm yapılandırmaya ait dahili protokol deposunu bulması sayesinde ulaştık; dosyalar, kod ve operasyonun nasıl yürüdüğüne dair dokümantasyon içeriyordu. Doni tanışma uygulamasının içine, muhtemelen yanlışlıkla, Çince bir kılavuz gönderilmişti.
Protokol deposunda Gore-Kormanik, gig çalışanlarının kameralarının açık olup yayın yapıp yapmadığını, mesajla ulaşılabilir olup olmadıklarını vb. izlemeye yönelik notlar buldu. Uygulama ayrıca ekran görüntüsü alıyor ve aramaları kaydediyor, transkriptler personel tarafından erişilebilir şekilde tutuluyor. Proto depo, çalışanların aşamalarını, birbirlerine karşı performanslarını sıraladıkları bir aşama da dahil, ve ücretlerinin aramalar ve mesaj etkileşimlerine veya Instagram takipçisi kazanmaya bağlı olabileceğini tanımlıyor. İnsanların kendilerini arıyormuş gibi yapma sürecini bile anlatıyor.
“Bunu bizzat başıma geldiği için doğrulayabilirim” dedi Gore-Kormanik. Doni üzerinden gelen bir aramayı kabul etti, arama hızla kesildi. Arayan kişi ona saat 1’de neden aradığını soran bir mesaj attı. Uygulama açıkça aramanın kendisinden geldiğini gösteriyordu.
Sleuthcon konuşmasını uzaktan izlerken Cronbaugh’un slaytlarından birinin ekran görüntüsünü aldım, slaytta 10 şirketin logosu vardı. Ters görsel arama sayesinde Anthropic’in nihai raporunda yer alan birçok uygulamayı tespit ettim; Dora, GraceChat, Jovia, Luma ve Romi bunlardandı. Ayrıca bu uygulamaların geliştiricilerine bağlı diğer uygulamalar da vardı, örneğin Doni ve Kira. Anthropic raporda bazı diğer uygulamaları listeledi ve yalnızca dahili sayısal olarak tanımlanan ek varyantlar olduğunu söyledi. Biz Anthropic’in nihai raporuna girmeyen diğer uygulamaları da inceledik.
Haziran başlarında sahte tanışma uygulamalarından birkaçının hâlâ Google Play Store’da yayında olduğunu gördük: Doni, Dora, Jovia, Nalo ve Romi. Apple App Store’da ise dört tane bulduk: Dora, GraceChat, Luma ve Romi, Dora ve GraceChat’in tanışma uygulaması değil, sadece uygulamalar gibi görünüyordu Chrome-Stats, Doni ve Jovia Google Play mağazasından 1 Eylül’de kaldırıldı, isim ve logo paylaşıyor.
Anthropic’in raporundan önce uygulamaların neredeyse tamamının her iki uygulama mağazasından kaldırıldığı görülüyor, bazıları Eylül’e kadar yayında kaldı. Chrome-Stats’e göre GraceChat, Luma ve Romi 21 Ağustos’ta Apple mağazasından kaldırıldı. Dora artık bir film uygulamasına yönlendiriyor. Google Play’de Dora, Romi, Luma ve Eterna 3 Eylül’de kaldırıldı ve Nalo 7 Eylül’de kaldırıldı. Ancak 16 Eylül itibarıyla Kira hâlâ yayında ve Gore-Kormanik’in doğrulamasına göre diğerleriyle aynı kod tabanını paylaşıyor.
Anthropic, bu uygulamalar hakkında Google ve Apple’a ne zaman ve nasıl ulaştığına dair yorum talebine yanıt vermedi. Ancak konuşmada Cronbaugh “Diğer platformlardaki kötüye kullanımı gözlemlediğimiz diğer durumlarda olduğu gibi, bu diğer sağlayıcıların da kendi platformlarında işlem yapabilmesi için soruşturma bilgilerini paylaştık” dedi. Rapor da bulguların Apple ve Google ile doğrudan paylaşıldığını söylüyor.
Apple ve Google, uygulamaları kaldırıp kaldırmadıklarına, ne zaman kaldırdıklarına ve neden bu kadar uzun sürdüğüne dair yorum talebine hemen yanıt vermedi. Google, Kira’nın neden hâlâ Google Play Store’da olduğuna dair yorum talebine de yanıt vermedi. Anthropic’in raporunda listelenen göstergelerden biri “Backend. managedkafka[.]heyhru-server[.]cloud[.]goog, Google Cloud’da barındırılan operatör arka ucu” idi. Uygulamalar bu konuşmadan aylar sonra bile çalışmaya devam ettiğinden, Google’ın neden altyapı erişimini daha önce kapatmadığı sorusu ortaya çıkıyor. Google bununla ilgili yorum talebine de hemen yanıt vermedi.
Gore-Kormanik laboratuvarında emülatörler kurdu ve Doni, Dora, Jovia, Kira, Nalo, Romi ve ağın parçası olabileceğini düşündüğümüz başka bir uygulama için Android Paket Kitleri’ni, yani APK’ları çekti. Bu, uygulamanın nasıl çalıştığını incelemeyi kolaylaştırıyor. Buradan statik analiz yaptı, yani uygulamayı çalıştırmadan kodu analiz etti. Ayrıca uygulamaları açmak, trafiği izlemek ve yakalamak ve hangi uç noktalara çağrı yaptıklarını görmek için geliştiricilerin kullandığı bir test uygulaması olan Frida ile dinamik analiz de yaptı. Uygulamaların nasıl çalıştığını, kullandıkları altyapıyı ve ağın parçası olarak birbirleriyle nasıl bağlantılı olduklarını daha iyi anlamaya çalışıyordu.
Sleuthcon konuşmasındaki Anthropic bulgularının tamamını bağımsız olarak doğrulayamamasak da uygulamalar arasında bağlantılar bulmaya başlamamız uzun sürmedi. Uygulama açıklamalarına bakarak netleşti. Örneğin Dora, Romi, Luma ve Eterna adlı başka bir uygulama hepsi aynı geliştirici kullanıcı adına sahipti, aprilsaidev. Aynı e-posta adresini, posta adresini ve telefon numarasını da kullanıyorlardı. Dora, Romi ve Luma aynı zamanda Alliance Against Human Trafficking adlı bir sivil toplum kuruluşu olan aynı geliştirici kimliğini paylaşıyordu. Alliance Against Human Trafficking’in başkanı ve kurucu ortağı Jenna Bing, kuruluşun bu uygulamaları geliştirmemiş olduğunu ve hatta onlardan haberi olmadığını söyledi.
Doni tarihsel olarak Jovia ve Poka adlı bir uygulama ile iLexis Multimedia Consults geliştirici adı altında görünüyordu. Jovia ve Doni aynı Hong Kong adresini ve telefon numarasını paylaşıyordu.
İncelemeciler de bağlantı buldu. Hâlâ yayında olan Kira uygulamasının bir incelemecisi “sahte hesaplar ve gerçek hesap gibi davranan ücretli çalışanlarla dolu. Bir ‘eşleşme’ ile kahvaltı randevusu ayarladım - ‘kullanıcı’ dışarıda olduğunu söylediğinde ben mekândaydım ama acil bir aramaya çıktı. Dışarıda değildi (pencereden görebiliyordum) - dışarıda kimse yoktu. Tam bir dolandırıcılık.” yazdı.
Başka bir inceleme “RANDOM VIDEO CALLS ARE ANNOYING. Bir kadının gerçek olup olmadığı belli değilken ve sadece bir chatbotken sohbet etmek için ‘gems’ satın almak zorunda kalmak aldatıcı ve tam anlamıyla iğrenç.” diyor. İncelemeci devamında “Sınırsız mesajlaşma harika olurdu, gerçek kadınlar harika olurdu, her iki taraf da onay verirse iletişim bilgilerini değiştirebilmek harika olurdu.” yazıyor. İncelemeci ayrıca eşleşmelerin çok hızlı yanıt verdiğini ancak aslında söylenenlere yanıt vermediğini de not etti.
Kira, AI kişilikleri ve ücretli sohbetler hakkında yorum talebine hemen yanıt vermedi.
Bir incelemeci Dora, Doni, GraceChat ve Romi’yi tek bir uygulama olarak adlandırdı. İncelemeci yavaş dönemlerde yeniden kullanılan/geri dönüştürülmüş videoları da anlatıyor. Ayrı olarak bir Luma incelemecisi aynı profillerin Romi ve Luma’da göründüğünü ancak uygulamalar arasında onları tanımadığını bildirdi. Mesajların LLM çıktısı gibi okunduğunu söylediler.
Gore-Kormanik Doni, Dora, Jovia, Kira, Nalo ve Romi’nin bağlantılı olduğunu doğrulayabildi. “Koda T’ye kadar aynı” dedi The Verge’e. “Ayrıca tüm bu uygulamalar sunucuları için aynı arka uç mimarisini kullanıyor. Kod aynı dili kullanıyor. Uygulamalar arasında bazı aynı API’leri kullanıyor. Kesinlikle bağlantılılar.”
Cronbaugh’un konuşmasına göre Anthropic bu operasyondan, geçmişi olmayan tek bir beş günlük ön ödemeli hesabı analiz ederek haberdar oldu ve hesap günde 100.000’den fazla API isteği göndermeye başladı. İşte o zaman Claude’un tanışma uygulamaları içinde kadın kişilikleri yaratmak için kötüye kullanıldığını öğrendi. Ancak Claude yalnızca sohbet katmanı olarak kullanılıyordu. Fotoğraf üretimi için ikinci bir model kullanılırken, Cronbaugh’a göre üçüncü bir model emoji ve çıkartma avatarlarını üretti. Bu ölçekte yapıldı. Raporda Anthropic’in Nisan ayındaki iki haftalık bir dönemde 4.700’den fazla farklı uydurma AI kişiliğinin en az 25.000 benzersiz bireyle etkileşime girdiğini keşfettiği açıklandı. Bu iki haftada yaklaşık 2,36 milyon mesaj vardı.
Anthropic, Cronbaugh Sleuthcon’da söylediğine göre tüm uygulamaları, tüm ağı tespit etmek için parmak izi olarak kullanılabilecek kadar ayırt edici olan dilbilgisi bozuk bir cümle sayesinde izleyip birbirine bağlayabildi.
Cronbaugh, satın almaların uygulama içi web ödeme sayfası üzerinden üçüncü taraf işlemcilere yönlendirildiğini söyledi (yerel uygulama mağazası ödemesi değil) ve uygulamalar alakasız görünse de hepsinin aynı jeton altyapısına ve aynı üçüncü taraf ödeme işlemcisi setine güvendiğini belirtti.
