Geriye dönük bakıldığında Instagram'daki paylaşım daha fazla kırmızı bayrak çıkarmalıydı. Paylaşımda, oyuncu Mia Goth'un, oyuncu ve yönetmen Shia LaBeouf'tan boşanma davası açmasının ardından günler geçtikten sonra, eski eşiyle ilgili gönderme yapan bir mesajla T-shirt giyerken görüldüğü iddia ediliyordu: MY EX IS MY BIGGEST FAN. Vurguyu artırmak için gönderiye Beyoncé'nin "Single Ladies (Put a Ring on It)" şarkısı eklenmişti.
Pearl filminin yıldızı olan ve sosyal medyada pek aktif olmayan bir isim için bu durum karakterine aykırı olurdu. Ancak paylaşımı yapan Instagram hesabı @miagoth_, mavi "doğrulanmış" tikine sahipti ve bir milyondan fazla takipçisi vardı. Sayfa fan hesabı olarak etiketlenmesine rağmen, içerik günler içinde neredeyse 500 bin beğeni topladı; beğenenler arasında eğlence sektöründen isimler de vardı.
Görüntü, The Verge'in haberine göre yapay zekâ üretimiydi ve hesabı Mia Goth'un temsilcisi daha önce Goth'un "sahte, yapay zekâ görüntülerini" paylaştığı için Instagram'a şikâyet ettiğini söylemişti. Meta, hesabın ünlü bir kişi tarafından işletilmemesi ya da resmi bir sayfa olmaması durumunda bile kullanıcıların mavi doğrulanmış rozet satın almasına izin veriyor.
"Bu fan hesabının Instagram'ın mavi tik için belirlediği kriterleri karşılaması temel düzeyde rahatsız edici," dedi Goth'un temsilcisi Christine Tripicchio The Verge'e gönderdiği e-postada. "Bunun ötesinde, Instagram'ın sahte ve manipüle edilmiş görüntülerin yayılmasını, kamuya açık bir kişinin benzerliğinin korunması ve bütünlüğü karşısında açıkça önceliklendirmesi akıl almaz."
Boşanma haberi nedeniyle paylaşım ünlü dedikodu sitelerine sızdı ve bu haberler Google aramasında yayılımı artırdı. Oyuncu ve tişört için yapılan aramalarda yapay zekâ destekli özet, Goth'un yakın zamanda açılan boşanma davasının ardından eski eşi Shia LaBeouf'a "açık bir gönderme yaptığı" yönünde çıktı ve söz konusu blogları kaynak gösterdi. Google arama sonuçlarında "Mia Goth, Instagram'da 'My ex is my biggest fan' tişörtüyle dikkat çekiyor" başlıklı bölüm öne çıktı; yanında görüntüyü tartışan sosyal medya gönderilerine bağlantılar yer aldı. Instagram, hesabı sonunda kamuya açık bir kişiyi taklit ettiği için kaldırdı.
Tüketici yapay zekâ araçları birkaç yıl önce kullanıma sunulduğundan beri, en akılda kalan ve tartışmalı kullanımlarından bazıları ünlü kişilerle ilgili oldu. Söz konusu kişiler dijital olarak klonlanıp oyuncak gibi kullanıldığında tarihsel olarak iyi tepki vermediler: Yapay zekâ üretimi bir Drake ses benzeri şarkı, telif hakkı ihlali şikâyetlerinin ardından YouTube'dan kaldırıldı. Scarlett Johansson, OpenAI'nin izni olmadan kendisine benzeyen bir sesle ChatGPT'yi piyasaya sürdükten sonra hukuk ekibi tuttu. Ariana Grande'nin geçen yıl yapay zekâ üretimi içeriklerini paylaştığı bir hesabı engellediği söyleniyor. Taylor Swift, 2024'te Donald Trump'ın kendisini desteklediği yönünde sahte görüntüler paylaşmasının ardından pozisyonunu netleştirmek için harekete geçtiğini belirterek başkan adayı Kamala Harris'i desteklediğini açıkladı.
Herkesin, zengin ve ünlülerin bile yeni bir teknolojiyle ilgili normlarla boğuştuğu bir an vardı. Şimdi çevrimiçi yapay zekâ içeriğinin çukuru sadece büyüyor ve bunun kimse tarafından durdurulup durdurulamayacağı belli değil.
Ünlü kadınları tasvir eden yapay zekâ içerikleri çoğu zaman açıkça cinsel içerikli oluyor. Johansson'un yalnızca yapay zekâ üretimi görüntülerini paylaştığı bir profil, şirketlerin hesapta reklam vermesi için iletişim bilgisi içeriyor ve Patreon ile Telegram kanallarına abonelik satan bağlantılar sunuyordu. Platform dışı içerik Johansson'un adını ve yapay zekâ görüntüsünü yetişkin içerik reklamında kullanıyordu. Başka bir hesap, Millie Bobby Brown, Zendaya ve Grande gibi oyuncular ve müzisyenlerin gerçekçi yapay zekâ görüntülerini paylaşıyor; hepsi kısmen soyunmuş ya da cinsel pozisyonlarda. Bazı hesapların kendi nişleri var, örneğin "Stranger Things oyuncularının birbirleriyle evlenmesi."
The Verge, ünlü deepfake içeriği paylaşan sekiz hesap hakkında Meta'ya soru sorduğunda şirket sözcüsü Alex Dziedzan, bazı hesapların kaldırıldığını söyledi. Bunlardan ikisi, Goth'unki ve Johansson'unki, kaldırılmış görünüyor.
"Bir kişinin benzerliğini o kişi gibi görünmek için kullanacak hesaplara izin vermiyoruz; içerik gerçek ya da yapay zekâ üretimi olsun fark etmez," dedi Dziedzan e-postada.
Taylor Swift bir içecek tutuyor, Drake'in "Burning Bridges" şarkısına küfürlerle eşlik ederek rap yapıyor. "Ben bir [Quaalude] içtim/vücudumu titretiyor," diyor, 2009 VMAs anındaki ünlü elbiseyi giyiyor. Video yapay zekâ, açıkça. Instagram'da 1,8 milyon izlenmesi var.
"Sanırım PR ekibi onun N kelimesini söylemesini sevmez," diye yorum yaptı biri.
Instagram, bu tür videolarla dolu; çoğu anlaşılmaz biçimde çok spesifik formatları takip ediyor. Yapay zekâ Shrek'in yapay zekâ Swift'le aynı şeyi yapması 3,1 milyon izlenme aldı. İşte şampanya şişesiyle elinde farklı bir Drake şarkısına şarkı söyleyen Steve Jobs (371 bin izlenme). Başka bir hesap tarafından paylaşılan aynı Lionel Messi versiyonu da var (2,1 milyon izlenme). Formula 1 pilotları Lewis Hamilton ve Max Verstappen'in Bruno Mars ve Rosé'nin "APT" şarkısına dudak senkronizasyonu yaptığı bir klip 2,9 milyon izlenme aldı. Başka bir klipten yapay zekâ Swift'in yapay zekâ Travis Kelce ile yapay zekâ Madison Square Garden'da düğünü görülüyor.
"ai he wore white tuxedo," diye bir hayran yardımseverce düzeltme yaptı.
Milli kişilik hakları yasalarının bulunmadığı ortamda, gerçek insanları içeren yapay zekâ üretimi içerikler platform düzeyinde dava ediliyor. (ABD'nin 2025'te yürürlüğe giren Take It Down Yasası, özellikle yapay zekâ üretimi içerikler de dahil olmak üzere rızaya dayalı olmayan mahrem görüntülerin dağıtımını suç sayıyor ve platformların 48 saat içinde kaldırmasını zorunlu kılıyor.)
YouTube'un benzerlik tespiti var; belki de en sağlam deepfake izleme ve kaldırma sistemi bu. Program kapsamında YouTube, platformunda bir kişinin görsel eşleşmelerini tarıyor ve yakın zamanda ses benzerlerini de kapsayacak şekilde genişletildi; kişiler içerik kaldırma talebinde bulunabiliyor. Her talep kabul edilmiyor; şirket, kaldırma taleplerini değerlendirirken kamu yararı, haber değeri ve rızayı göz önünde bulundurduğunu söylüyor. Program başlangıçta ünlüler, içerik üreticileri, siyasetçiler ve gazeteciler gibi kamuya açık kişilerle açıldı, ancak şimdi her yetişkin YouTube hesabını kapsıyor. Şirket daha önce aldığı kaldırma talebi sayısının nispeten küçük olduğunu belirtmişti. Yaratıcılar YouTube'da kendileriyle ilgili neyin paylaşıldığını bilmek istiyor, ancak çoğu zaman bu içerik "genel olarak işlerine ekleyici ya da zararsız" oluyor; içerik ürünleri başkan yardımcısı Amjad Hanif, mart ayındaki bir basın brifinginde bunu söyledi.
YouTube sözcüsü Jack Malon, The Verge'e gönderdiği e-postada şirketin benzerlik tespitinin eğlence sektörüyle ortak geliştirildiğini belirtti. Malon, 2026'nın ilk yarısında YouTube'un program aracılığıyla bildirilen videoların yüzde 95'inden fazlasını kaldırdığını söyledi.
Meta platformlarındaki yapay zekâ üretimi içeriklerin çoğu yapay zekâ olarak tanımlayan etiketlere sahip. Gerçekçi videolar ya da yapay zekâ seslerinin kullanıldığı sesler gibi bazı içeriklerin yapay zekâ etiketi taşıması gerekiyor. Öte yandan sabit görüntüler etiketleme zorunluluğundan muaf; bu da Mia Goth'un sahte görüntüsünün Meta kurallarına göre açıklama gerektirmeyeceği anlamına geliyor. Şirket ayrıca, platformu dolduran yapay zekâ etkileyici türlerinin artmasının ardından gerçek dünyada var olmayan bir avatarın gösterildiği tüm hesaplara uygulanan "yapay zekâ üretimi profil" etiketlerini de tanıttı.
Ama gerçek insanları yapay zekâ üretimi görüntüleriyle besleyen ve algoritmanın sevdiği hesapların küçük bir endüstrisi var. Bazı içerikler açıkça kötü niyetli değil, sadece tuhaf: Facebook'ta örneğin, orijinal kadronun kostümlü olarak kırmızı halıda, yeniden kadrolanmış versiyonun oyuncularıyla birlikte yürüdüğü yapay zekâ üretimi film galası videolarının bir türü var. Bir profil, yapay zekâ içerikleriyle para kazanma konusunda çevrimiçi kurslar satarak ayda 29 dolar reklamı yapıyor.
Yapay zekâ üretimi ünlü içerikleri gerçekten gerçekmiş gibi kandırma kapasitesine de sahip; Mia Goth'u ve hesabını tasvir eden görüntüde olduğu gibi. Viral olan belirli paylaşım, oyuncunun 2015'te "Goth'la tartışmaya devam etseydim onu öldürürdüm" dediği filme alınan ve başka bir eski partneri tarafından istismar etmekle suçlanan LaBeouf'u aşağıladığı izlenimini veriyordu. Sahte görüntü dikkat çekici, karanlık ve zamana uygundu; yani sosyal medyada viral olmak için mükemmel ama ilgili taraflar için potansiyel bir sorumluluk. Olay, bu tür kafa karışıklığını önlemesi gereken güven ve güvenlik hükümlerinin başarısızlığını gösteriyor.
Sosyal medyada yapay zekâ içerikleri gerçek görüntülerin standart yeniden paylaşımlarıyla özgürce karışıyor. Ve bir sayfa kaldırılsa bile, içerik üretmeye devam eden başkaları var: 300 binden fazla takipçisi olan ve hâlâ aktif olan başka bir Instagram hesabı, Johansson'un gerçek ve yapay zekâ üretimi içerik karışımı gibi görünen fotoğraf ve videolarını düzenli olarak paylaşıyor. En popüler gönderilerinden biri, neredeyse yarım milyon beğeni alan Johansson'un yapay zekâ görüntüsü gibi görünen bir gönderi. Meta kurallarına uygun olarak yapay zekâ açıklaması yok. Derin sahteleştirilmiş Johansson kanepeye uzanıyor, çıplak ayakları ön planda sergileniyor. Bu o değil, açıkça; ama yorumlardaki hayranları ya bilmiyor ya da umursamıyor.
