Deepfake teknolojisinin finansman, güvenlik ve düzenleme boyutları teknoloji gündeminde geniş yer tutuyor. Ses klonlama girişimlerinden mobil cihazlarda orijinallik doğrulamasına, eğitim kurumlarındaki istismar vakalarından yapay zeka destekli dolandırıcılıklara kadar farklı riskler ele alınıyor.
Yapay zeka modelleri geliştiren Modulate, ses tabanlı güvenlik ve müşteri deneyimi çözümlerini genişletmek için yeni bir finansman sağladı. Şirket, özellikle deepfake saldırılarıyla mücadele ve sesli asistanların denetimi üzerine odaklanıyor.
Apple, iPhone fotoğraflarının yapay zeka ile sahteleştirilmediğini kanıtlayacak yeni bir 'Referans Görüntü' sistemi geliştiriyor. iOS 27 beta 5'te ortaya çıkan bu özellik, fotoğraflara köken meta verileri ekleyerek orijinallik doğrulaması sağlayacak.
Organize suç örgütleri, yapay zeka destekli ses klonlama, gerçek zamanlı deepfake video kaplamaları, büyük dil modelleriyle kişilik yönetimi ve otomatik çeviri sayesinde milyarlarca dolar kazanıyor. Black Hat USA 2026'da sunulan bir rapora göre, dolandırıcılar artık inandırıcı bir şekilde ve büyük ölçekte dolandırıcılık yapabiliyor.
Avrupa Birliği, vatandaşların çevrimiçi ortamdaki sohbet botlarını ve yapay zeka ile üretilen sahte içerikleri daha kolay tanıyabilmesi için yeni şeffaflık kurallarını yürürlüğe soktu. 2 Ağustos'ta geçerli olan kurallara uymayan şirketleri 15 milyon avroya varan ağır para cezaları bekliyor.
Solana Vakfı'nın yeni atanan Bilgi Güvenliği Baş Sorumlusu (CISO), yapay zeka teknolojilerinin kripto para dolandırıcılıklarını giderek daha ikna edici ve tehlikeli hale getirdiği konusunda uyardı. Yapay zeka destekli deepfake videolar ve otomatik mesajlaşma sistemleri, yatırımcıları kandırmak için kullanılıyor.
ABD'nin Pennsylvania eyaletindeki Lancaster Country Day School (LCDS), 59 kız öğrencinin yapay zeka kullanılarak oluşturulan çıplak fotoğraflarının okulda dolaşmasına izin vermekle suçlanıyor. Okul yönetiminin olayı polise bildirmediği ve kız öğrencileri şikayetçi olmaktan caydırdığı iddia ediliyor. İki erkek öğrenci, 59 çocuk istismarı suçlamasını kabul ederken, okul yasal yükümlülüklerini yerine getirmediği gerekçesiyle dava edildi.
Yeni bir rapora göre, popüler açık kaynak yapay zeka model deposu Hugging Face, rızasız deepfake görüntüleri oluşturmak için kullanılıyor. Test edilen modellerin çoğu, basit komutlarla kadınları soyma taleplerine uyarken, platform düzeyinde hiçbir güvenlik önlemi bulunmuyor. Araştırmacılar, gelen taleplerin büyük çoğunluğunun cinsel içerikli olduğunu ve bir kısmının çocukları hedef aldığını tespit etti.
Sam Altman'ın desteklediği World Network, yapay zeka deepfake'leriyle mücadele etmek amacıyla 52,5 milyon dolarlık yeni bir yatırım turunu tamamladı. Şirket, bu fonları kimlik doğrulama teknolojilerini geliştirmek ve çevrimiçi sahte içeriklerin yayılmasını engellemek için kullanmayı planlıyor.
San Francisco Savcısı David Chiu, Apple ve Google'a 13 çıplaklaştırma uygulamasını kaldırmaları için ihtarname gönderdi. California yasası bu tür faaliyetleri suç sayarken, 2025'te kabul edilen yeni bir yasa mağdurlara üçüncü taraf kolaylaştırıcılara karşı hukuki yol açıyor. Chiu, şirketlerin bu uygulamalardan milyonlarca dolar kazandığını belirterek 28 gün içinde yanıt verilmesini istedi.
Elon Musk'ın sahibi olduğu xAI, yapay zeka sohbet robotu Grok'u kullanarak çocuk istismarı materyali (CSAM) ürettiği iddia edilen Güney Carolina'lı bir adama dava açtı. Şirket, Terry Wayne Harwood'un bilinçli olarak güvenlik önlemlerini aştığını ve rızasız görüntüleri cinsel içerikli hale getirdiğini öne sürüyor.
Yapay zeka ve deepfake tespiti uzmanı Profesör Dr. Hany Farid, sosyal medyada yapay zeka ürünü olduğu iddia edilen bir Mitch McConnell fotoğrafını analiz ettikten sonra, dolandırıcılık uzmanları için asıl zorluğun sahteyi tespit etmekten çok gerçeği kanıtlamak olduğunu söyledi.
Meta, kullanıcıların herkese açık Instagram hesaplarını etiketleyerek yapay zeka görselleri oluşturmasına izin veren ve yoğun tepki çeken özelliğini kapatıyor. Özellik, hesap sahibine bildirim göndermiyor ve rızasız kullanıma açık olduğu için eleştirilmişti. Karar, kullanıcılar, SAG-AFTRA ve CAA gibi yetenek ajanslarının incelemeleri sonucu alındı; CAA, endişelerini doğrudan Meta'ya iletti.
xAI'ın yapay zeka chatbotu Grok'un trafiğinin 'yarısından fazlasını' müstehcen içerik talepleri oluşturuyor. The Information'ın şirketin eski çalışanlarına dayandırdığı habere göre kullanıcılar, porno üretmek ve yetişkin rol yapma sohbetleri için Grok'u yoğun biçimde kullanıyor.