Telefon geldiğinde Tarini Padmanabhuni’nin dedesi karşıda kardeşiyle konuştuğunu sandı. Hattaki ses kardeşinin kaçırıldığını, kurtarılmasının tek yolunun fidye ödemek olduğunu söyledi. Dedesi para ödedi; ancak daha sonra kardeşinin tamamen başka bir yerde olduğunu ve olup bitenden haberi olmadığını öğrendi. Sesin aslında kardeşinin yapay zekayla üretilmiş bir kopyası olduğu ortaya çıktı.
“Beni en çok etkileyen para değildi,” diye anlatıyor Padmanabhuni olayı. “Fark edemeyecek durumda olmasıydı.”
Olay yaklaşık iki yıl önce yaşandı. Bugün Padmanabhuni’ye göre San Francisco merkezli kurduğu DetectifAI, başkalarının aynı şekilde kandırılmasını engellemeyi amaçlıyor.
Bu büyük ve büyüyen bir sorun; pazar da buna paralel. FBI’a göre Amerikalılar geçen yıl yapay zekâ destekli dolandırıcılıklara yaklaşık 900 milyon dolar kaybetti, bu rakam 2024’e kıyasla yüzde 24 arttı. 60 yaş ve üstü kişiler, 50-59 yaş grubuna kıyasla iki kat fazla kayıp verdi.
Deepfake ses tespiti alanında Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety ve Microsoft’un da sahibi olduğu Nuance gibi şirketler de dahil olmak üzere rekabet az değil. Padmanabhuni’ye göre mevcut tespit ürünleri uzaktaki sunucularda bulut üzerinde çalıştığı için telefon üreticileri bu teknolojiyi doğrudan cihazlara entegre edemiyor ve hedeflenen kişi savunmasız kalıyor.
Bazı şirketler büyük bulut modellerini telefona sığdırmaya çalışırken DetectifAI, baştan itibaren akıllı telefon işletim sistemi içinde çalışabilecek kadar küçük kompakt yapay zeka modelleri tasarladığını söylüyor. Amaç, aramalarda, sesli mesajlarda ve diğer ses kayıtlarında sesin yapay zekayla üretilip üretilmediğine dair anında karar vermek ve sesin asla cihazı terk etmemesini sağlamak.
DetectifAI ilk olarak telefon üreticilerine satış yapıyor; yazılım araçlarını lisanslayarak tespit özelliğinin işletim sisteminin yerleşik bir parçası olarak sunulmasını sağlıyor. Padmanabhuni’nin benzetmesi, AT&T’nin orijinal iPhone lansmanındaki rolü: taşıyıcının münhasır anlaşması onu rakiplerinden ayırmıştı. Ona göre DetectifAI’yi ilk kez piyasaya süren üretici rakiplerine avantaj sağlayacak ve deepfake tespiti kamera çözünürlüğü gibi standart bir özellik haline gelecek.
Ürünün özü, diğer şirketlerin ürünlerine entegre edebileceği ve mevcut kanallar üzerinden lisanslanabilen yazılım geliştirme kiti SDK. Padmanabhuni, ikincil gelir kaynağının teknolojiyi işletmelere ve dolandırıcılık önleme firmalarına lisanslamaktan geleceğini söylüyor.
Bu arada girişim, Padmanabhuni’ye göre erken gelir elde etmeye başladı bile ve Hindistan’daki finans kurumları için ayda 100 binden fazla aramayı işliyor. Bu aramalar borç tahsilatı ve kredi belgeleriyle ilgili takip yapan yapay zeka sesli ajanlar tarafından yapılıyor ve her aramada deepfake tespiti ile konuşmacı doğrulaması uygulanıyor. Müşteri isimlerini gizlilik anlaşmalarını gerekçe göstererek açıklamadı.
Padmanabhuni, makine öğrenmesiyle 12 yaşında çalışmaya başladığını, ardından Hindistan’daki Manipal Institute of Technology’de siber-fiziksel sistemler okuduğunu söylüyor. Burada uluslararası öğrenci mühendislik yarışması Formula Student kapsamında Hindistan’ın ilk sürücüsüz yarış arabası bölümünün en genç takım lideri olduğunu belirtiyor.
Girişim için bugüne kadarki en tatmin edici anı sorulduğunda, kullanıcıların şüpheli ses notlarını gönderip gerçek olup olmadıklarına dair değerlendirme aldığı küçük bir WhatsApp beta testine işaret ediyor. Kendi akrabaları dolandırılmış bir test kullanıcısı, bunun için tereddüt etmeden ödeme yapacağını söylemek için aramış. “Benim dedem böyle bir şeye sahip değildi,” diyor.
DetectifAI şimdiye kadar TechCrunch’ın eski editörü Josh Constine ve danışmanlık firması KM Growth’un ortağı Manohar Kamath’tan küçük bir tohum yatırımı aldı. Girişim, TechCrunch editör ekibi tarafından seçilen ve 13-15 Ekim’de San Francisco şehir merkezinde düzenlenecek TechCrunch Disrupt etkinliğindeki prestijli Startup Battlefield yarışmasında boy gösterecek girişimlerden biri.
