Yapay zeka destekli dolandırıcılık çağrıları giderek artıyor. Yazıya böyle başlamak pek hoş değil, biliyorum, ama maalesef artık distopik bir kabusun içinde yaşıyoruz. Yapay zeka kaynaklı dolandırıcılıklar yeni bir şey değil, ancak sıradan bir insanın bunları tespit etmesi giderek zorlaşıyor. Bu durum, teknolojiyle arası pek iyi olmayanları en savunmasız grup haline getiriyor.
Bu konuyu araştırmaya birkaç ay önce başladım. Bir aile üyem, İngiltere'nin Royal Mail kurumunda çalışıyormuş gibi davranan bir yapay zeka botundan telefon alınca araştırmaya giriştim. Muhtemelen bu araştırma sürecim yüzünden, algoritmama yapay zeka dolandırıcılarının tuzağa düşürüldüğü videoları her gün öneriyor. İtiraf etmeliyim ki önüme düşen her bir videoyu büyük bir keyifle izliyorum.
Tıpkı yapay zeka botlarının WWE kelimesini telaffuz etmekte zorlanması gibi, dolandırıcılık karşıtı YouTube içerik üreticisi Kitboga'nın keşfettiği üzere, basit bir komut enjeksiyonu ile yapay zeka dolandırıcılarını çıldırtmak mümkün. Bu yöntemle botların sonsuz bir döngüde "kooga-ooga-amen, Albuquerque, New Mexico" cümlesini tekrar etmesini sağlayabiliyorsunuz.
Ancak savaşa sadece Kitboga girişmiyor. YouTube'da Jim Browning de son zamanlarda çok daha tehlikeli bir yapay zeka dolandırıcılığı türünü, yani derin sahte (deepfake) video kullanan dolandırıcıları deşifre ediyor.
Yüzünde tuhaf bir uyuşukluk ifadesi olan derin sahte bir adamın, panik içinde neden yüzünün önüne üç parmak koyamadığını açıklamaya çalışırken dönüp durmasını izlemek, son zamanlarda izlediğim bazı stand-up gösterilerinden çok daha komik. Videodaki adam her "aw c'mon, man, that's too much" (hadi ama dostum, bu çok fazla) dediğinde bir yudum alsaydınız, aşağıdaki klipteki derin sahte görüntünün yarısı kadar bile sarhoş görünmezdiniz.
Peki tüm bunlar bizi daha acil bir soruyla baş başa bırakıyor: Bu tür dolandırıcılıklar ne kadar yaygın? Yapay Zeka Olayları Veritabanı (AI Incident Database) projesine göre durum oldukça yaygın.
MIT araştırmacısı ve Yapay Zeka Olayları Veritabanı işbirlikçisi Simon Mylius, yakın zamanda The Guardian ile yapay zeka dolandırıcılıklarının artışı hakkında konuştu. Mylius'a göre asıl sorun, bu teknolojiyi kullanmanın ne kadar kolay hale geldiği: "Yetenekler aniden öyle bir seviyeye ulaştı ki sahte içerikler artık neredeyse herkes tarafından üretilebiliyor. Giriş bariyerinin fiilen ortadan kalktığı bir erişilebilirlik seviyesine geldik."
İşin kötü yanı, durum daha da vahim. Dün CNET, sosyal mühendislik savunma şirketi Doppel'in baş strateji ve deneyim sorumlusu Bobby Ford ile bir röportaj yayınladı. Ford, Mylius'un tespitlerini yineledi ancak bununla da kalmadı; çoktan geç kaldığımızı ve yapay zeka dolandırıcılarının üretim hızını artırdığını belirtti. Ford konuyla ilgili olarak, "Eskiden bir tehdit aktörünün o derin sahte görüntüyü oluşturması belirli bir zaman ve kaynak gerektirirdi. Artık aynı süreye ihtiyaç yok, çok daha hızlı üretiliyorlar ve dolayısıyla hacim artıyor" ifadelerini kullandı.
Peki gelecekte kendimizi bu tür yapay zeka dolandırıcılıklarına karşı nasıl koruyabiliriz? Açıkçası, eğer böyle bir yazıyı okuyorsanız, gerçek bir insan ile yakın bir aile üyenizin yapay zeka tarafından taklit edilmiş versiyonu arasındaki farkı ayırt edebilecek kadar teknolojiye hakimsiniz demektir.
Bu yüzden bence çözüm çok basit: Yukarıdaki klipleri, bu tür dolandırıcılıklara kanma ihtimali yüksek olan çevrenizdeki insanlara iletin. Ailenizin bir mesaj grubu var mı? Büyükanne ve büyükbabanızı son zamanlarda aradınız mı? Facebook'ta sürekli yapay zeka saçmalıkları videolarını paylaşan amcanız bunun bir dolandırıcılık yöntemi olduğunu biliyor mu? Hem kendinizi aramak için bencilce bir sebebe ihtiyacınız varsa şunu unutmayın: Dolandırıcılar muhtemelen zaten mirasınızı çalmayı planlıyor.
