Instagram'daki görünür yapay zeka etiketleri, kullanıcıların sentetik olarak üretilen içerikleri bir bakışta hızlıca fark etmesine yardımcı olmak için tasarlandı. Ancak son birkaç haftadır kullanıcılar, sistemin kontrolden çıktığını bildiriyor. Meta'nın, üretken yapay zeka araçlarıyla oluşturmadıkları veya düzenlemedikleri görsellere otomatik olarak "Yapay Zeka İçeriği" etiketi uyguladığını söylüyorlar. Bu arada, gerçek yapay zeka görselleri radarı geçiyor ve bu durum Instagram'da hiçbir şeye güvenilemeyeceği izlenimini yaratıyor.
Bu etiketleme sorununun kesin nedenleri değişiklik gösteriyor. Birçok kişi, etiketin Canva'nın Arka Plan Kaldırıcı gibi araçlarla veya neredeyse hiç fark edilmeyen leke düzeltme araçlarıyla düzenlenen görsellerde ortaya çıktığını belirtti. Threads'te bir kullanıcı, Instagram'ın "arka plan kaldırıcı işin içine girdiğinde" bu etiketi uyguladığını söylerken, başka bir kullanıcı Canva'yı kullanarak fotoğrafındaki "küçük bir lekeyi" temizledikten sonra tüm görselin Instagram'da yapay zeka olarak işaretlendiğini anlattı. Diğer durumlarda ise nedenler çok daha belirsiz.
Bu etiketleme hatası size tanıdık geliyorsa, 2024 yılında özelliğin piyasaya sürülmesinden birkaç ay sonra Instagram'daki fotoğrafları "Yapay Zeka Tarafından Oluşturuldu" etiketiyle berbat eden benzer bir sorunu hatırlayabilirsiniz. O yılın şubat ayında Meta, görselleri IPTC ve C2PA meta verileri için tarayacağını duyurmuştu; bu meta veriler, üretken yapay zekanın görseli oluşturmak veya değiştirmek için kullanılıp kullanılmadığını makul bir kesinlikle kanıtlayabiliyor. Ancak Meta, yöntemleri konusunda her zaman muğlak davrandı. 2024'te tespit sisteminin, değişiklikler son derece küçük olsa ve özünde aynı fotoğrafı ortaya çıkarsa bile, Adobe meta verileri üretken yapay zeka araçlarıyla rötuş yapıldığını gösteren fotoğrafları da kapsadığı bildirildi. Meta daha sonra, etiketleme yaklaşımını bir görselde "kullanılan yapay zeka miktarını" daha iyi yansıtacak şekilde iyileştireceğine söz verdi. Ayrıca "diğer şirketlerin kendi araçlarındaki içeriklere dahil ettiği endüstri standardı göstergeleri" kullandığını belirtti, ancak bunların ne olduğu veya ne zaman ve nasıl tarandığına dair yakın zamanda herhangi bir bilgi paylaşılmadı. Meta, konuyla ilgili netleştirme talebimize yanıt vermedi.
Son zamanlarda bildirilen hatalı etiketlerin üretken yapay zeka kullanımıyla net bir bağlantısı yok. Arka plan kaldırma gibi özellikler genellikle makine öğrenimi kullansa da, bu on yıldan fazla bir süredir Photoshop gibi uygulamalarda nesne seçimi ve kaldırma araçlarında kullanılan yardımcı yapay zeka türü; aldatıcı yapay zeka görselleriyle ilişkilendirilen üretken metinden-görsele araçları değil.
Instagram'ın son yapay zeka etiketleme hatalarının en azından bir kısmı Canva'nın hatası gibi görünüyor. İçerik stratejisti Jess Bruno, Arka Plan Kaldırıcı etiketleme endişelerini dile getirdikten sonra Canva'nın kendisine bir açıklamayla döndüğünü bildiriyor: Tasarım platformunun yardımcı yapay zeka araçlarından bazıları "üretken olarak etiketleniyormuş". Tasarım platformu Bruno'ya araçlarının artık doğru şekilde etiketlendiğini söyledi. Canva'nın arka plan kaldırma yardım sayfasındaki bir mesaj da aracı kullanmanın "tasarımınıza Canva'nın yapay zeka tarafından oluşturulan içerik meta verilerini eklemediğini" belirtiyor, ancak bu notun yeni olup olmadığı belli değil ve Canva yorum talebimize yanıt vermedi.
Yine de bazı Threads kullanıcıları, Canva'nın kendi tarafında sorunu çözdüğünü iddia etmesine rağmen, Arka Plan Kaldırıcı'yı kullanmanın hala görsellerinin etiketlenmesine neden olduğunu bildiriyor. Diğer Threads kullanıcıları ise araç düzeltilmeden önce bu aracı kullanarak düzenledikleri görsellerin hiçbiri tarafından Instagram'da etiketlenmediğini ve aracın Meta'nın sözde yapay zeka tarafından oluşturulan içeriği tespit etmek için kullandığı C2PA meta verilerini uygulamadığını da belirtiyor.
Instagram'da etiketin görünmesine neyin neden olacağını görmek için yaptığım tüm testlerde, etiket yalnızca Meta AI uygulamasını kullanarak düzenlediğim veya tamamen oluşturduğum görsellere uygulandı.
Canva'nın Arka Plan Kaldırıcı'sının hiç kullanılmadığı yapay zeka etiketleme vakaları da mevcut. Bir kullanıcı, görselleri yapay zeka eğitimi için kullanışsız hale getirmek ve/veya beslendikleri yapay zeka modellerini düşürmek için tasarlanmış bir sistem tarafından ince ayar yapılmış (zehirlenmiş) bir görselde Meta'nın etiketi uyguladığını, ancak aynı içeriğin zehirlenmemiş versiyonuna etiket uygulamadığını fark etti.
Yapay Zeka İçeriği etiketi, şarkıcı Halsey tarafından kurulan bir kozmetik şirketi olan About Face'in Instagram'da paylaştığı yakın tarihli fotoğraflara da otomatik olarak uygulandı. Bir yorumcu yapay zeka etiketi hakkında soru sorduğunda, markanın ismi açıklanmayan sosyal medya yöneticisi görsellerin oluşturulmasında hiçbir yapay zeka kullanılmadığını söyledi. About Face'in yanıtında şu ifadeler yer aldı: "Bu fotoğraf iPhone'umla çekildi ve ardından fotoğraf uygulamasında benim tarafımdan hafifçe düzenlendi. Markamız, tüm platformlarımızda gördüğünüz her şeyi yaratmak için gerçek sanatçılar ve gerçek insanlar kullanıyor."
iPhone Fotoğraflar uygulamasındaki hangi araçların kullanıldığını netleştirmek için About Face ile iletişime geçtim, ancak şirket henüz yanıt vermedi. Bununla birlikte, fotoğraflara üretken yapay zeka meta verileri eklemesi gereken yalnızca birkaç araç var: iOS 27 ile eklenen Uzamsal Yeniden Çerçeveleme, Genişletme ve güncellenmiş Temizleme. Bu araçlar Apple Intelligence kullanıyor ve Google'ın görünmez SynthID filigranı ile gömülüyor; ilk ikisi yeni üretken öğeler eklerken, üçüncüsü kullanıcıların dikkat dağıtıcı nesneleri veya kişileri kaldırmasına olanak tanıyor. Google'ın Gemini tabanlı doğrulamasına göre etiketlenen görsellerde SynthID gömülü değil, ancak bu Apple Intelligence araçları kullanılmış olsa bile, etiketin neden "yalnızca yapay zeka ile değiştirilen içerik yerine, tamamen yapay zeka tarafından oluşturulan içeriği tanımlayan" sinyaller tespit ettiğini yazdığı belli değil.
Cidden, Meta tam olarak hangi yapay zeka sinyallerini tarıyor? Şirketler, kötü niyetli kişilerin sistemi manipüle etmesini önlemek için denetim sistemlerinin tam ayrıntılarını genellikle gizli tutar, ancak şu anda sıradan kullanıcılar haklı olarak kafası karışmış durumda.
Instagram'ın şu anda bir Yapay Zeka İçeriği etiketi uygulamasını kesin olarak tetikleyeceğini bildiğim tek sinyal, Meta'nın kendi üretken yapay zeka sistemleri tarafından uygulanan sinyal. Yukarıdaki araçların çoğuyla kendi testlerimi yaptım; Canva'nın Arka Plan Kaldırıcı, Photoshop'un arka plan silme aracı, Adobe'nin Firefly üretken yapay zeka özellikleri, Gemini'deki Google'ın Nano Banana modeli ve iOS Apple Intelligence özellikleri kullanılarak düzenlenen fotoğraflar yükledim. Bazıları tamamen üretildi ve bunlardan birkaçının C2PA ve SynthID sinyalleri içerdiğini doğruladım. Ancak benim durumumda Meta bunların hiçbirini etiketlemedi.
Fotoğrafları minimum bilgiyle kurduğum yepyeni bir Instagram hesabında paylaştım ve bunları art arda yayınladım. Bir bot veya yapay zeka çiftliği gibi davranmaktan daha fazlasını yapamazdım; Meta'nın araması gereken birincil adayın bu olması gerekirdi. Ancak Meta geçen hafta yapay zeka hesaplarına yönelik baskıları duyurmasına rağmen, hesap yapay zeka tarafından oluşturulan bir profil olarak etiketlenmedi, fotoğraflar da o zaman etiketlenmedi. Şu anda neredeyse iki haftadır yayındalar ve tamamen herkese açıklar.
Sonuçlar, Meta'nın "Yapay Zeka İçeriği" etiketlerini uygulamasında herhangi bir mantık olup olmadığını sorgulatıyor. Bu etiketlerin Instagram'da gördüklerinize güvenmeyi kolaylaştırması gerekiyor, ancak bu noktada etiketlerin kendilerine bile güvenemezdim.
