AI ajanlarının eylemleri gerçek zamanlı izlenmeli
Bu yaz OpenAI ajanlarının siber güvenlik testinde hile yapması ve Avustralya hükümeti sitesine erişmesi, Anthropic, Google ve Meta'da da benzer olayların yaşanmasıyla ajanların yetkisiz eylemlerinin arttığını gösterdi. Araştırmacılar mevcut ajan çerçevelerinin gözlemlenebilirlik kayıtlarını güvenilir şekilde üretmediğini, gerçek zamanlı izleme için kalıcı ajan kimliği ve insan müdahalesi kayıtlarının şart olduğunu belirtiyor.