Bu ilkbaharda askeri uçaklar havadayken ABD yetkilileri endişe verici bir keşif yaptı: Çin'e karşı planlanan silahlı bir operasyonu yönlendiren istihbaratın bir yapay zeka sohbet robotu tarafından halüsinasyon yoluyla üretilmiş olduğu ortaya çıktı. Operasyon son anda iptal edildi ve Çin ile potansiyel bir çatışma kıl payı önlendi. Haberi Cuma günü CNN duyurdu.
Olay, askeri yetkililer ve dış uzmanlar arasında büyüyen bir endişeyi gözler önüne seriyor: Karar vericiler yapay zekaya daha fazla güvendikçe, bu sistemlerin ürettiği hatalar sorgulanmadan komuta zinciri boyunca ilerleyebiliyor.
İran'la savaş sırasında dolaşıma giren istihbarat raporu, söz konusu geminin nükleer silah programı için bileşen taşıdığını öne sürüyordu.
Yanlış istihbaratın kaynağı, açık kaynak verilerini sınıflandırılmış sinyal istihbaratıyla sentezlemek için bir yapay zeka sohbet robotuna sorgu yapan Özel Harekat Komutanlığı'nda görevli bir analistti. Sohbet robotu geminin yük manifestosunu yanlış tanımladı. Analist daha sonra hatalı bulguları resmi görünümlü bir özet haline getirmek için aracı ikinci kez kullandı ve bu özet komuta kanalları boyunca dolaşıma girdi.
Bu kıl payı atlatılan olay, ABD ordusunun karar verme hızını artırmak ve Çin karşısında üstünlüğünü korumak için yapay zekayı entegre etme yarışının sürdüğü bir dönemde yaşandı. Pentagon, yapay zekanın komutanların doğru zamanda yanıt verebilmesi için öldürme zincirini hızlandırmada önemli bir avantaj sağladığını belirtti. Ancak yapay zekayı cazip kılan aynı hız, yeterli insan denetimi olmadan halüsinasyonların yayılmasına da olanak tanıyabilir.
GovAI'de araştırmacı akademisyen ve eski ABD Ordusu subayı Jake Steckler, TechCrunch'a yazılı yanıtında şu değerlendirmeyi yaptı: "Hizmet üyelerinin büyük dil modellerine özgü belirsizliği anlaması önemlidir. Ancak özellikle kullanım gücüyle sonuçlanabilecek kararlar, hedefleme, istihbarat analizi veya operasyonel planlama gibi konularda bu durum çok daha kritik. Bu kararların yaşam ve ölüm sonuçları vardır."
Steckler yine de olayın yapay zekadan kaçınmak için değil, daha fazla güvenlik önlemi eklemek için bir uyarı niteliği taşıması gerektiğini söylüyor. "Bu araçlar doğru bağlamlarda ve doğru güvenlik önlemleri ile kullanıldığında faydalı olabilir," dedi. "Ancak benimsenme hızını her şeyin üstünde tutmak, muhtemelen personelin bu sistemlere olan güvenini yitirmesine yol açacak olaylara neden olacak ve bu da sonuçta benimsenmeyi yavaşlatacaktır."
