ABD, CNN'in haberine göre yapay zeka araçlarının yardımıyla oluşturulmuş "tamamen yanlış" bir ABD istihbarat raporuna dayanarak Çinli bir gemiye binmekten kıl payı kurtuldu.
CNN'in aktardığına göre, "bölümle ilgili bilgisi olan dört kaynak" tarafından belirtilen hatalı istihbarat, bir ABD Özel Harekat Komutanlığı analisti tarafından sunuldu ve Çinli geminin Orta Doğu üzerinden nükleer silah programı bileşenleri taşıdığını öne sürdü. ABD ordusu hava desteğiyle gemiyi durdurup arama yapmaya hazırlanıyordu; yetkililer, raporun oluşturulmasında kullanılan bir sohbet robotunun geminin taşıdığı malzemeyi "yanlış tanımladığını" fark edene kadar.
Bir kaynak CNN'e, yapay zeka destekli bu fiyasko "neredeyse bir savaşa yol açıyordu" dedi.
En kötü ne olabilir?
CNN'in haberine göre söz konusu analist, Çinli geminin yük manifestine ilişkin istihbarat raporlarını analiz etmek için bir sohbet robotu kullandı ve bu durum felakete ramak kala sonuçlandı. Sohbet robotu "açık kaynak istihbaratını hükümet arşivlerindeki gizli sinyal istihbaratıyla birleştirdi" ve bu bilgi, CNN'e göre felaket bir zinciri neredeyse başlatan bir istihbarat raporuna dönüştürüldü.
Bu kıl payı atlatılan olay, halüsinasyon yapan bir yapay zekanın profesyonel bir raporun güvenilirliğini bozmasının daha güçlü ve sonuçlu örneklerinden biri. "Halüsinasyon" 2023'te Cambridge Sözlüğü'nün yılın kelimesi olduğundan beri, eğitim verileri yeterli bağlam sağlamadığında uydurma yapan yapay zeka araçlarının kurbanı olan kurgu dışı yazarlar, gazeteciler, akademik araştırmacılar, hakimler, doktorlar, polis teşkilatları, kurumsal çağrı merkezleri ve daha fazlasının öne çıkan örneklerini gördük. Ve bazı sevimli "halüsinasyon yapma" istemleri denemelerine rağmen, bazı araştırmacılar büyük dil modellerinin halüsinasyon yapmasının tamamen engellenmesinin imkansız olabileceğini öne sürüyor.
ABD ordusunun istihbarat raporlarının analizinde yapay zekaya güvenirken bu tür sorunların farkında olması beklenirdi. Ancak Savunma Bakanlığı Ocak ayında "AI acceleration strategy" yani yapay zeka hızlandırma stratejisini uygulamaya koydu ve bu strateji "her hizmet ve birimdeki görev sistemleri de dahil olmak üzere yapay zeka sömürüsü için uygun tüm verilerin federasyonlu BT sistemleri arasında kullanılabilir hale getirilmesini" hedefliyordu.
