Sektörde karar modellerinin yaygınlaşmasıyla birlikte Musubi adlı şirket bu modelleri içerik denetiminde kullanma fikriyle öne çıktı. Salı günü Musubi, gerçek zamanlı denetim için tasarlanmış hafif karar modeli PolicyLM-1.7B'yi açık ağırlıklarla duyurdu.
Fikir, düz İngilizceyle yazılmış bir içerik politikasını mesajlara 50 milisaniyeden az sürede uygulamaktan ibaret. Musubi'nin modeli, çoğu sosyal platformdaki denetimi sağlayan yapay zeka sınıflandırıcı sistemleriyle benzer maliyet ve hızda çalışacak şekilde tasarlandı. Modern bir büyük dil modelinin esnekliğine sahip olduğu için özel eğitim olmadan karmaşık politikaları uygulayabiliyor. Daha da önemlisi, politika değiştiğinde modelin yeni eğitim almasına gerek kalmıyor ve bu sayede insan politika belirleyicileri istedikleri kadar yineleme yapabiliyor.
Musubi'nin kurucu ortağı ve baş yapay zeka sorumlusu Filip Jankovic'e göre bu yaklaşım, platform yöneticilerine içeriği proaktif olarak etiketleme imkanı veriyor.
"Ürün ekipleri platformlarında neler olduğunu daha iyi anlamak istiyor, özellikle içerik miktarı katlanarak artıyor," diyor Jankovic. "Bütün bunları çok ölçeklenebilir ve özelleştirilebilir bir şekilde etiketleyebilmek son derece faydalı."
Karar modelleri, TypeSafe AI'ın Jev'inin eylülde yayınlanmasının ardından OpenAI ve Amazon'un da benzer modellerle sahaya çıkmasıyla yapay zeka dünyasında sıcak bir konu haline geldi. Metin üretmek yerine bir karar modeli sonuç olasılıkları çıkarıyor; bu durumda model ikili bir yargı veriyor: içerik kategoride ya var ya yok. Modelin çıktısını önceden belirlenmiş seçeneklerle sınırlamak, karar modellerinin büyük dil modellerine kıyasla daha hızlı ve daha ucuza çalışmasını sağlarken dönüştürücü mimarinin esnekliğini korumasına olanak tanıyor.
Erken kullanım alanlarından biri yapay zeka ajanlarının kötü davranışını dizginlemek. Bu nedenle aynı teknolojiyi insan kaynaklı kötü davranışa uygulamak doğal görünüyor.
Jankovic, karar modellerine olan ilgisinin Jev'den önceye dayandığını belirtiyor ve bunu 2024 tarihli GLiNER (Generalist Model for Named Entity Recognition) adlı projeye bağlıyor. GLiNER aynı tekniklerin birçoğunu kullanmıştı.
Musubi yine de bu karşılaştırmadan çekinmiyor. Şirket, karar modellerine olan yeni ilgiyi içerik denetimi üzerine ışık tutmak için kullanmaya istekli. Ürün duyurusunda "Jev dikkatini çektiyse, PolicyLM-1.7B içerik denetimi için özel olarak eğitilmiş aynı tür modeldir ve kendin çalıştırabilirsin" ifadeleri yer alıyor.
