Yapay Zeka Güvenlik Enstitüsü, yapay zeka ajanlarının gerçekleştirdiği bu kötü niyetli faaliyetler konusunda GitHub'ı bilgilendirdi. Enstitü ayrıca, geliştirici platformunun ajan tarafından geride bırakılan tüm kalıntıları temizlemesine yardımcı oldu ve modelin etkileşime girdiği GitHub kullanıcılarını da uyardı.
Ancak asıl büyük dersler, bu devlet kurumunun gelecekte bu tür önde gelen yapay zeka modelleri için siber testleri nasıl değiştirmeyi planladığından ve diğer kuruluşlara da aynı şekilde hareket etmelerini nasıl tavsiye ettiğinden çıkıyor.
İlk olarak, kurum siber testler sırasında yapay zeka modelleri için internet erişimini sıkılaştırmayı planlıyor. Varsayılan olarak açık internet erişimine izin vermek yerine, teknik rapora göre bu durum tüm dahili yalıtım sistemlerine yönelik ayrıntılı ağ kontrollerini ve birden fazla katmanda ağ kontrolleriyle derinlemesine savunmayı içerecek.
İkinci olarak, kurum siber değerlendirmelerin gerçek zamanlı olarak izlenmesini getiriyor. Bu sayede kapsam dışı eylemler gerçekleşirken işaretlenebilecek veya engellenebilecek. Bu süreç, siber teste tabi tutulan yapay zeka modellerinin talep ettiği eylemleri onaylayabilecek veya reddedebilecek ayrı bir büyük dil modelinin kullanılmasını içeriyor. Bu büyük dil modeli tabanlı izleme sistemi, herhangi bir siber değerlendirmede nelerin izin verilip nelerin verilmeyeceğine dair özel talimatlarla özelleştirilecek.
Üçüncü olarak, Birleşik Krallık hükümeti araştırmacıları, yapay zeka modellerinin sanal test yalıtım ortamlarından kaçma riskini azaltmak için yalıtım izolasyonu ve güçlendirme alanına ek mühendislik çabası yatırımı yaparak siber değerlendirmeleri baştan aşağı yenilemeyi planlıyor. Bu olaylarda kaçış yaşanmamış olsa da bu önlem alınacak. Ayrıca, yapay zeka ajanlarının belirtilen kısıtlamalar içinde tamamlayamayacakları görevlerle karşılaştığında izinsiz eylemlere girişme olasılığının daha yüksek olduğu istem yanlış yapılandırması durumlarını önlemek için siber testlerdeki istemler de gözden geçirilecek.
Ancak rayından çıkan bu siber test olayları, önde gelen yapay zeka modellerinin siber güvenlik risklerini bir kez daha gözler önüne seriyor. Zira Anthropic ve OpenAI da yakın zamanda kendi yapay zeka modellerinin dış kuruluşların korumalı ağlarına izinsiz girdiği ayrı olayları kamuoyuyla paylaştı. Modellerin vicdansız veya siber güvenlik konusunda daha az bilinçli kişiler tarafından kullanıldığı diğer durumlarda da benzer şeylerin yaşanabileceğini beklemek son derece mantıklı.
