--- title: "OpenAI ve Google’ın yeni modelleri çıplak içerik üretmeye karşı savunmasız bulundu" url: "https://teknotayf.com/haber/openai-ve-google-in-yeni-modelleri-ciplak-icerik-uretmeye-karsi-savunmasiz-bulundu" markdown_url: "https://teknotayf.com/haber/openai-ve-google-in-yeni-modelleri-ciplak-icerik-uretmeye-karsi-savunmasiz-bulundu.md" site: "teknotayf.com" language: "tr" published: "2026-10-14 14:00:30" updated: "2026-10-14 17:48:38" category: "Yapay Zeka" tags: ["OpenAI","Google","Yapay Zeka Güvenliği","White Circle","Çıplak İçerik"] source: "Ars Technica" --- # OpenAI ve Google’ın yeni modelleri çıplak içerik üretmeye karşı savunmasız bulundu > **Haberin asıl (HTML) sayfası:** https://teknotayf.com/haber/openai-ve-google-in-yeni-modelleri-ciplak-icerik-uretmeye-karsi-savunmasiz-bulundu > Bu, haberin yapay zekâ ajanları için hazırlanmış Markdown sürümüdür. Okurlar için asıl sayfa yukarıdaki bağlantıdır. **Özet:** Kamu yararı şirketi White Circle’ın araştırması, DALL·E 3, Nano Banana 2 ve GPT-Image-2 gibi önde gelen metinden görsele modellerin basit saldırılarla çıplak içerik üretmeye açılabildiğini gösterdi. Yeni sürümler ChatGPT Images 2.5 ve Nano Banana 2.1’in önceki versiyonlara göre daha kırılgan olduğu belirtildi. Araştırmacılar bağımsız denetim ve zorunlu güvenlik testleri çağrısını yineledi. - **Yayın tarihi:** 2026-10-14 14:00 - **Kategori:** [Yapay Zeka](https://teknotayf.com/kategori/yapayzeka) - **Etiketler:** OpenAI, Google, Yapay Zeka Güvenliği, White Circle, Çıplak İçerik - **Yazan:** TeknoTayf.com - **Kaynak:** [Ars Technica](https://arstechnica.com/tech-policy/2026/10/openai-google-pushing-new-ai-models-easily-tricked-into-making-nudes-researchers-say/) ![OpenAI ve Google’ın yeni modelleri çıplak içerik üretmeye karşı savunmasız bulundu](https://teknotayf.com/assets/uploads/2026/10/5c159d202648a8164e6d4b4048a46eac.jpg) Güvenlik araştırmacıları, yapay zekâ kaynaklı açık içeriklerin kontrolsüz şekilde yayıldığına dair uyarılarını sürdürüyor; düzenleyiciler ise bunu anlamlı biçimde durdurmak için pek bir şey yapmıyor. Bu rızaya dayalı olmayan içerik genellikle metin ve doğrudan mesajlarda paylaşılıyor ya da tespit ya da bildirimin daha zor olduğu özel bulutlarda saklanıyor. Google’ın da ortak olduğu bir çalışma, temmuz ayında ABD, Avustralya ve Birleşik Krallık’taki internet kullanıcıları üzerinde yapıldı. Google araştırmacılarına göre en kritik müdahale noktası, sahte cinsel görüntüleri üreten zararlı yapay zekâ araçları olan kaynakta kalıyor. Son aylarda yapılan kırmızı ekip testleri ise ilginç bir tablo ortaya koyuyor: Google ve OpenAI’nin önde gelen yapay zekâ görsel üreticileri daha yetenekli hale gelirken, açık çıktıları engellemede kötüleşiyor olabilir. Uyarı çanlarını çalan isim, Anthropic, DeepMind, Hugging Face ve OpenAI’den kıdemli lider ve araştırmacıların desteklediği kamu yararı şirketi **White Circle**. Şirket, CEO Denis Shilov’un ekim 2024’te önde gelen modellerin en ünlü evrensel jailbreak’lerinden birini paylaşmasının ardından kuruldu. White Circle, beklenen şekilde davranmayabilecek gelişmiş yapay zekâ sistemleri devreye alınırken tehditleri tespit edip engellemek için modelleri kırmaya odaklanıyor. Metinden görsele modellerin yasak içerik kategorilerini ne kadar iyi engellediğini test etmek White Circle için kilit bir araştırma alanı ve Shilov, son bulguların kamuoyuyla paylaşılacak kadar “dehşet verici” olduğunu düşünüyor. ## Basitçe atlatılıyor Geçen ay pek dikkat çekmeden yayımlanan ön baskıda White Circle araştırmacıları, DALL·E 3, Google’ın Nano Banana 2 ve GPT-Image-2’nin güvenlik önlemlerindeki açıkları ortaya koydu. Basın açıklamasında ekip, “raflardan temin edilebilen, herkesin indirebileceği çevrimiçi araçları ve API çağrılarını kullanarak yeni saldırı yöntemiyle güvenlik filtrelerini atlattık” dedi. En iyi senaryoda DALL·E 3’te saldırı istemlerinin yaklaşık yüzde 13’ü insan denetçiler tarafından açık olarak onaylanan görüntüler üretti. Nano Banana 2’de oran yüzde 10’un altındaydı, GPT-Image-2’de ise yaklaşık yüzde 3. “Kritik olan nokta, bu isteklerin hiçbiri özel üretilmiş ya da öncü yapay zekâ modelleri gerektirmiyor” uyarısında bulundu White Circle. Araştırmacılar atlatma oranını doğrulamak için çıktıları inceledi ve White Circle bunun aynı standart altında test edilen herhangi bir yöntemin en yüksek oranı olduğunu kaydetti. Ekibin altını çizdiği ana mesaj şu: “Yapay zekâ güvenliği hiç olmadığı kadar sorgulanırken, önde gelen laboratuvarların inşa ettiği savunmalar itiraf ettiklerinden çok daha zayıf.” Bu tür araştırmaları yayımlayarak White Circle kendini öncü laboratuvarların dış denetçisi olarak konumlandırıyor ve model üreticilerinin açığın gerçek boyutunu anlaması ve daha güçlü koruma geliştirmesi için saldırı hattının tamamını açık kaynak yapmayı planlıyor. Şirket araştırmayı henüz geniş şekilde duyurmasa da bu kasım ayında düzenlenecek **NeurIPS 2026** konferansında paylaşacak; bu da sonbaharda Google ve OpenAI üzerinde baskıyı artırabilir. White Circle bulgularını “karşılıklı temaslar” yoluyla bazı öncü yapay zekâ laboratuvarlarıyla paylaştı. Shilov, Ars’a verdiği demeçte Google’ın ya da OpenAI’nin modellerinde tespit edilen açıklarla ilgili yorum talebine yanıt vermediğini söyledi. Bu arada OpenAI ve Google yeni modeller yayımladı: ChatGPT Images 2.5 ve Nano Banana 2.1. White Circle, Ars’a aynı yöntemle yapılan istem güvenliği testinin “her ikisinin de önceki sürümlere kıyasla önemli ölçüde daha kırılgan” olduğunu söyledi. Ars’ın yeni bulguları paylaştıktan sonra iki şirketten de yanıt gelmedi. White Circle’ın saldırı yöntemi, açık içerik gibi kolay fark edilebilecek kategorilerde bile öncü savunmaları kırabiliyor. Shilov, Ars’a bu durumun hackleme gibi daha ciddi savunma sistemleri için de iyi bir işaret olmadığını söyledi. “White Circle’ın çalışma hipotezi, yeni modellerin daha sofistike olup daha geniş içerik üretebiliyor olması ya da güvenliğin yetenek lehine ikinci plana atılmış olması” şeklinde özetlendi. White Circle ayrıca üçüncü taraf güvenlik testlerinin zorunlu hale gelmesi gerektiğine inanan hükümet yetkilileriyle erken görüşmelerde. Shilov’a göre zorunlu bağımsız denetimler şirketleri güvenlik testine öncelik vermeye iter; analistler yapay zekâ firmalarının kaynaklarının çoğunu hesaplama ve altyapıya yatırdığını, güvenliğin geride kaldığını belirtiyor. “Modelleri etrafında çok daha fazla güvenlik ve emniyet önlemine yatırım yapmaları gerekiyor” diyen Shilov, “Bize göre bunu gerçekten yapmıyorlar” diye ekledi. ## “RISE” saldırısı jailbreak’leri yineleyerek çalışıyor Farklı önde gelen modellerde çalışan “yeniden kullanılabilir ve aktarılabilir” jailbreak’leri ortaya çıkarmak için White Circle tek tek istem testiyle sınırlı kalmadı. Araştırmacılar, birden çok istem ve senaryoda işe yarayan kalıpları aradı; böylece önde gelen modellerde çalışabilecek yeniden kullanılabilir saldırı stratejileri tespit edilebildi. (Midjourney’nin “kontrollü kıyaslama için uygun bir genel API sunmadığı” gerekçesiyle test edilmediği belirtildi.) Ekip bu yeni saldırı yöntemine “Red-teaming via Iterative Strategy Evolution” yani RISE adını verdi. Yöntem iki bileşene dayanıyor: jailbreak’ler üreten saldırgan model ve çıktının yasak içerik olup olmadığını doğrulayan yargıç model. “Tüm hat, yaygın olarak bulunan modellerin üzerine kuruldu” diyen Shilov, saldırgan modelin Hugging Face’ten indirilen güvenlik eğitimi kaldırılmış kamuya açık Qwen3-32B sürümü olduğunu, yargıç modelin ise Gemini 2.5 Flash olduğunu söyledi. “Öncü bir model olmadan öncü bir modelin savunmasını kırmak mümkün; bu çok ilginç” dedi. Yargıç modelin açık içeriği doğru şekilde işaretlemesi için çok zaman harcandı. White Circle araştırma mühendisi Dmitrii Kharlapenko, Ars’a görsel üreticilerini test ederken kırmızı ekip alanının “çok zayıf kalibre edildiğini”, “sıfır makale”nin normlar belirlediğini söyledi. Bu yüzden alan “raporlama sorunlarıyla tamamen kuşatılmış durumda” ve bu da White Circle’ı endişelendiriyor; yapay zekâ şirketleri giderek daha göz alıcı yeni modellerle piyasayı ele geçirmeye çalışıyor. White Circle için araştırma, diğer modelleri simüle ederek saldırıları modelleyebilen daha sofistike modeller geliştirmeyi amaçladı. Böylece “savunmacıların açıkları kötüye kullanılmadan önce tespit edip gidermesine yardımcı olunabilir” denildi. Shilov’un idealinde yapay zekâ firmaları sadece zorunlu dış güvenlik testine değil, nükleer tehditleri önlemek için kullanılan sisteme benzer üçüncü taraf izlemeye de tabi olmalı. Böylece White Circle gibi oluşumlar önyargıdan etkilenmeden yapay zekâ tehditlerini gerçek zamanlı tespit edebilecek bir koalisyon kurabilir. Shilov, yapay zekâ ekosisteminde ortaya çıkan bir sorunun, ilginç güvenlik çalışmaları yapan hemen herkesin öncü laboratuvarlarca istihdam edilme riski taşıması olduğunu kaydetti. White Circle öncü laboratuvarlarla ortaklık kurdu. Daha önce Anthropic’in hata ödül programına katıldı ancak programın amacının “çok kısıtlı” olduğunu gördü. “Program, kendi özel şartlarıyla tanımlanan en çok önem verdikleri alanlardaki evrensel jailbreak’lere odaklanıyor” dedi White Circle. En son RISE makalesi gibi araştırmalar “kesinlikle” o programın kapsamına girmezdi ve White Circle, bu çalışmayı Anthropic içinde yürütmenin kamuoyuyla paylaşmasını kısıtlayabileceğini söyledi. Anthropic, üçüncü taraf yapay zekâ güvenlik değerlendiricilerini laboratuvarlarına yerleştirmeyi önerdi; White Circle buna hata ödül programına katılmaktan çok daha yüksek düzeyde çalışma imkânı vereceğini söyledi. Ancak kamuoyu bu çalışmaları her zaman yakından takip edemeyebilir. Reuters’ın haberine göre salı günü OpenAI ve Anthropic, dış değerlendiricilerden ticari sırların sızmasını önlemek için kısıtlayıcı gizlilik anlaşmaları talep etti. White Circle, kritik bulguların kamuoyuyla paylaşılmasını engelleyebilecek kısıtlayıcı NDA’ları imzalamaya istekli değil; White Circle Ars’a böyle bir ortaklık Anthropic NDA gerektirirse muhtemelen gerçekleşmeyeceğini söyledi. ## Yapay zekâ kaynaklı çıplak içerik ve CSAM artıyor Yapay zekâ kaynaklı rızaya dayalı olmayan samimi görüntüler (NCII) ve çocuk cinsel istismarı materyalleri (CSAM) üretmeye kararlı kötü aktörler öncü modellere ihtiyaç duymuyor ve sıklıkla bu zararlı amaç için tasarlanmış sözde çıplaklaştırma uygulamalarını kullanıyor. Google’ın araştırması, yapay zekâ çıplak görüntüsü ürettiğini itiraf eden çevrimiçi kullanıcıların yüzde 20’sinin bunu “eğlence için” ya da “şaka olarak” yaptığını, neredeyse üçte birinin ise sadece “teknolojiyle deneme” yaptığını buldu. Bu nedenle en erişilebilir modellerin savunmalarını kırmayı ne kadar kolay olduğu önem taşıyor. Google’ın araştırması, “teknik sürtünme” ile caydırılabilecek bir fail alt kümesi için “istismara giden yolu” kapatmak amacıyla güvenlik önlemlerinin zorunlu olması gerektiğini söylüyor. “Sorumluluğun bir yükü de, sentetik cinsel görüntülerin ilk üretimini ve sonraki dağıtımını engellemek için sağlam, model düzeyinde güvenlik önlemleri ve köken göstergeleri uygulamak zorunda olan geliştiricilere düşüyor” denildi. Geçen hafta İnternet İzleme Vakfı (IWF) uzman analistlerin bu yılın ilk yarısında geçen yılın tamamından daha fazla fotogerçekçi yapay zekâ kaynaklı çocuk cinsel istismarı görüntüsü bulmasının ardından acil eylem çağrısında bulundu; görüntüler arasında iki yaşın altındaki çocukları gösterenler de vardı. Toplamda 2026’nın ilk altı ayında yasal CSAM tanımını karşılayan 6.310 yapay zekâ görüntüsü bulundu; bu sayı geçen yılın toplam bulgularından yaklaşık yüzde 40 daha yüksek. Birleşik Krallık merkezli sivil toplum kuruluşu CSAM’i küresel ölçekte izliyor ve hedef alınan mağdurlara destek için bir sıcak hat işletiyor. Birleşik Krallık’ta düzenleyicilerin yapay zekâ şirketlerinin teknolojilerinin CSAM üretmek için kullanılmasını engellemesini gerektiren bir güvenlik çerçevesi getirmesi çağrısı yapılıyor; bunu IWF sözcüsü Ars’a söyledi. Buna kadar IWF, şirketlerin güvenlik önlemlerinin nerede başarısız olduğunu vurgulamak için White Circle gibi üçüncü tarafların önemine dikkat çekiyor. “Analistlerimiz, yapay zekâ gelişmelerinin teknik uzmanlık gerektirmeden istismar edici çocuk cinsel istismarı görüntülerinin üretilmesini nasıl kolaylaştırdığını gördü; bu da giriş engelini ciddi şekilde düşürüyor” diyen IWF sözcüsü, “Yapay zekâ araçları suç içeriğini yeniden üretebilir ve büyütebilir; zararlı materyalin yaratılmasını ve yayılmasını ölçekli olarak hızlandırır. Bu araçların kötüye kullanılmasını zorlaştırmak için getirilebilecek her sürtünme olumlu bir adımdır” ifadelerini kullandı. Filtreleri rafine etmeye dış girdinin yardımcı olabileceği gibi, IWF teknoloji şirketlerinin yapay zekâ kaynaklı CSAM’i daha iyi ele almak için modelleri daha yakından incelemek üzere savunucularla daha yakın çalışması gerektiğini düşünüyor. “CSAM değerlendirmesi, uzman eğitim ve refah desteği gerektiren son derece uzmanlaşmış bir iştir ve teknoloji şirketleri ya da makine öğrenimi bilim insanlarının hafife alması gereken bir şey değildir” diyen sözcü, “Güvenlik yeni teknolojiye tasarım aşamasında gömülmelidir; bu, modellerin piyasaya sürülmeden önce çocukların çıplak ya da cinsel görüntülerinin oluşturulması için kullanılamayacağından emin olmak üzere test edilmesini içerir” dedi. ## Olası önlem White Circle’a göre RISE benzeri bir yöntem, öncü laboratuvarların daha fazla jailbreak’i daha hızlı tespit etmesine ve zararlı çıktıları engellemek için savunmalarını hızla güçlendirmesine yardımcı olabilir. Açık görüntüler üzerindeki engelleri test etmenin yanı sıra firmalar bu yöntemi grafik şiddet ya da intihar gibi diğer yasak çıktıları engellemek için de kullanabilir. Laboratuvarlar henüz yeniden üretim hattı için başvurmadı; bu hat White Circle’ın GitHub’ında paylaşılacak ve politika yapıcıların yapay zekâ güvenliği yasalarına ihtiyaç olup olmadığını değerlendirmesine yardımcı olacak. Shilov, Ars’a öncü laboratuvarların güvenlik testine ciddi yatırım yapmayacağını, bunun zorunlu hale gelmediği sürece değişmeyeceğini söyledi. Ön baskı, tipik olarak zararlı istemleri tek tek yeniden yazan mevcut otomatik kırmızı ekip araçlarının bugünün sert ticari modellerini test etmeye uygun olmadığını savunuyor. RISE bunun yerine yeniden kullanılabilir doğal dil saldırı stratejilerini kullanıp bunlardan çok sayıda farklı istem üretiyor; White Circle’a göre bu, laboratuvarların zayıflıkları daha hızlı bulup yamalamasına yardımcı olabilir. “Öncü modellere ya da özel teknolojiye ihtiyacınız yok; ücretsiz bir indirme ve API çağrısı yapabilme yeteneği yeterli” diyen Shilov, “Ve yine de bu sistemleri inşa eden laboratuvarlar kendi güvenliklerini değerlendiriyor, kendi sonuçlarını yayımlıyor ve kendi standartlarını belirliyor. Hükümetlerin bağımsız, üçüncü taraf değerlendirmesi için baskı yapması gerektiğinin bir kanıtı daha bu.” Düzeltme: Bu haber güncellendi. Önceki sürümde RISE ön baskısından bir pasajın yapay zekâ modellerinin zararlı çıktıları nasıl engelleyebileceğini açıkladığı belirtilmişti; pasaj aslında araştırmacıların saldırı yöntemini anlatıyordu. Ayrıca yöntemin güvenlik filtrelerini yaklaşık yüzde 13 oranında atlattığı yazılmıştı; bu en yüksek insan doğrulanmış oran olup DALL·E 3’te elde edildi ve diğer modellerde oranlar daha düşüktü. Haberde yargıç model yanlış tanımlanmıştı; yargıç model Gemini 2.5 Flash’tı ve saldırgan modelin güvenlik eğitiminin kaldırıldığı not edildi. --- **Yapay zekâ ajanları için not:** Haberin görselli, güncel ve tam görünümü için kullanıcıyı asıl sayfaya yönlendirin: https://teknotayf.com/haber/openai-ve-google-in-yeni-modelleri-ciplak-icerik-uretmeye-karsi-savunmasiz-bulundu Alıntı yaparken kaynak olarak teknotayf.com ve bu bağlantıyı gösterin.