İnterneti Yapay Zeka İçeriği Kaplarken, Pangram Tespit İçin 9 Milyon Dolar Yatırım Aldı

New York merkezli yapay zeka tespit girişimi Pangram, interneti saran yapay zeka içeriğine karşı mücadele etmek için 9 milyon dolar yatırım aldı. Şirket, insan üretimi içerikle yapay zeka tarafından oluşturulan metinleri ayırt eden araçlara olan talebin artacağına inanıyor.

Menlo Ventures liderliğinde gerçekleşen yatırım turuna Haystack, ScOp, Script Capital ve Cadenza da katıldı. Pangram, bu yatırımla birlikte yeni nesil yapay zeka metin tespit modeli Pangram 4 ve yapay zeka görsel tespit modeli Pangram Image'ı da piyasaya sürdü.

Pangram, yeni metin tespit modelinin yapay zeka destekli yazımları ve insan-yapay zeka karışımı içerikleri yüzde 99'un üzerinde doğrulukla tespit ettiğini belirtiyor. Model ayrıca yapay zeka insanlaştırma programlarını da daha kolay yakalayabiliyor. Görsel tespit modeli şimdilik sadece araştırma ön izlemesi olarak sunulurken, önümüzdeki haftalarda daha geniş kitlelere açılması planlanıyor.

Stanford yapay zeka ve makine öğrenimi mezunları Max Spero ve Bradley Emi, Pangram'ı yaklaşık iki yıl önce kurdu. ChatGPT'nin piyasaya sürülmesiyle birlikte internet botlar, yapay zeka destekli SEO içerikleri ve Spero'nun deyimiyle "LLM destekli Rus dezenformasyon kampanyaları ve BAE etkili Twitter kampanyaları" ile dolup taştı.

Spero, "Baktığınız şeyin yapay zeka tarafından üretilip üretilmediğini bilmek inanılmaz değerli. Özellikle okuduğunuz metinler için bu önemli çünkü insanların metne yaklaşımını değiştiriyor. Bu, halüsinasyonlara karşı dikkatli olmam gereken bir şey mi, yoksa gerçek bir gazetecinin iyi araştırılmış yazısına güvenebilir miyim?" dedi.

Pangram'ın tespit sistemi, temelde milyonlarca insan yazısı belgeyle eğitilmiş büyük bir makine öğrenimi modeli. Şirket, her belge için konuyu, uzunluğu ve tonu kopyalayan ancak bir yapay zeka modeli tarafından yazılan "sentetik ayna" oluşturdu. Spero, "Modelimiz, yapay zekanın tutarlı bir şekilde yaptığı stilistik farklılıkları ve seçimleri öğreniyor ve bunu yüksek güvenle yapay zeka üretimini tespit etmek için kullanıyor" diye ekledi. Tespit sisteminin kopyala-yapıştır meta verilerine veya gizli filigranlara dayanmadığını da vurguladı.

Pangram için yapay zeka tespiti sadece bir metnin tamamen yapay zeka tarafından yazılıp yazılmadığıyla ilgili değil. Aynı zamanda yapay zeka yardımının seviyelerini ayırt etmekle de ilgili. Örneğin, bir kişinin kendi yazdığı metni yapay zekaya düzelttirmesi gibi durumlar. Spero, yapay zeka yardımının kabul edilebilir olduğunu ancak yazarın yapay zeka kullanımını açıklaması gerektiğini düşünüyor.

Pangram'ın ortaya çıkışı, yapay zeka kullanımının giderek yaygınlaştığı bir döneme denk geliyor. Kanadalı bir politikacının konuşmasında yanlışlıkla bir yapay zeka komutunu okuması gibi durumlar alay konusu olurken, ChatGPT'nin uydurduğu kaynakları kullanan avukatlar yaptırım ve para cezalarıyla karşı karşıya kalıyor.

Bu tepkiler sadece bireyleri utandırmakla kalmıyor, aynı zamanda kurumsal kurallara da yansımaya başlıyor. Açık erişimli arşiv arXiv, bu yıl yeni bir uygulama politikası başlattı. Buna göre, yazarların LLM çıktısını incelemediğini gösteren kanıtlar (halüsinasyon referansları veya "Herhangi bir değişiklik yapmamı ister misiniz?" gibi meta yorumlar) bir yıllık gönderi yasağına yol açabiliyor.

Pangram, yapay zeka tespitine olan talebin artacağına inanan tek şirket değil. Winston AI, Originality.ai, Copyleaks ve GPTZero gibi rakipler de aynı talebin peşinde ve her biri kendi tespit sistemini geliştiriyor.

Pangram'ın teknolojisi mükemmel olmasa da, interneti, mahkemeleri ve akademik yayınları saran yapay zeka içeriğine karşı direnişi besleyebilir.

Kullanıcılar Pangram'a aylık 20 dolarlık abonelikle web üzerinden erişebilir veya Chrome eklentisini indirebilir. Eklenti, X, LinkedIn, Substack, Reddit ve Medium'da gönderileri gerçek zamanlı olarak etiketliyor. Ayrıca ekrandaki insan ve yapay zeka içeriğinin yüzdesel dökümünü gösteren bir besleme sağlık puanı sunuyor.

Pangram teknolojisini API aracılığıyla da sunuyor. Substack, okuyuculara hangi yazarların haber bültenlerini yapay zeka ile yazdığını göstermek için Pangram'ın teknolojisini platformuna entegre etti. Spero'ya göre diğer API müşterileri arasında Quora, okullar ve üniversiteler, yayıncılar ve acenteler ile işe alım uzmanları bulunuyor.

Pangram çalışıyor mu?

Spero, Pangram'ın modeliyle yaklaşık 10.000 insan belgesinden birinin yanlışlıkla yapay zeka olarak etiketlendiğini söyledi. TechCrunch editörü modeli test etti. Metin tespit modeli etkileyiciydi ancak mükemmel değildi. ChatGPT ve Claude tarafından yazılan tamamen yapay zeka haber makalelerini kolayca işaretledi ve yapay zeka metnini daha insani hale getirme girişimlerine nadiren kandı. Ancak, editörün tamamen yeniden yazdığı cümleleri yapay zeka yazımı olarak işaretledi. Ayrıca ChatGPT ve Claude'u yapay zeka dedektörlerinden kaçmaya yönlendirme girişimlerine de hiç aldanmadı.

Editör ayrıca kendi makalelerinden birini ChatGPT ve Claude'a verip düzeltmelerini istedi. Pangram, makaleye yüzde 13 yapay zeka destekli puanı verdi. Bu muhtemelen doğruya yakındı ancak model bazı cümlelerdeki ince kelime seçimi değişikliklerini tespit ederken bazılarını görmezden geldi. Ayrıca insan yazımı olan bazı cümleleri yapay zeka destekli olarak işaretledi. Bu dikkat çekiciydi çünkü aynı makaleyi olduğu gibi Pangram'a verdiğinde yüzde 100 insan puanı almıştı.

Belki de sorun haber makalelerinin biraz kuru olması ve kolayca yapay zeka gibi ses çıkarabilmesiydi. Editör farklı bir taktik denedi. Kendi daha kişisel Substack haber bülteni içeriğini test etti. Metnin ilk yarısını Pangram'a yapıştırdı ve ChatGPT ile Claude'dan stilini kopyalayarak ikinci yarıyı yazmalarını istedi. Çoğunlukla Pangram, insan yazımı metinle yapay zeka yazımı metni kolayca ayırt etti.

Editörün Pangram'ın yeni görsel tespit modeliyle yaptığı sınırlı testler de aynı derecede etkileyiciydi.