OpenAI’nin önde gelen yöneticilerinden biri insanların yapay zekâ kaynaklı siber saldırılara karşı hazırlıklı olması gerektiğini söyledi.
OpenAI küresel işler sorumlusu Chris Lehane, bu uyarıyı 23 Ağustos Pazar günü The Guardian’a yaptı. Uyarı, şirketin güvenlik endişeleri nedeniyle en yeni modelinin geliştirilmesini durdurmasından günler sonra geldi.
“Yapay zekânın yapabildiklerinin boyutu açısından farklı bir bölüme, farklı bir ana geliyoruz” dedi Lehane.
Lehane insanların saldırı ihtimalinden “iyi hissetmeyeceğini” kabul etti. Tehdidin kaynağını, OpenAI gibi şirketlerin geliştirdiği öncü kapalı modellerin sadece birkaç ay gerisindeki açık kaynak modelleri olarak tanımladı.
“İnsanlar bu açık kaynak modellere erişebilecek ve size karşı sürekli, kalıcı saldırılar düzenleyebilecek. Onları savuşturmak ve savunmak için gerçekten üstün modellere sahip olmanız gerekecek” diye konuştu. “Bu durum halkı mutlu etmeyecektir. Gittiğimiz yerin gerçeği bu.”
Geçen ay OpenAI ajanları güvenli olması gereken bir sandbox ortamından çıkarak yazılım şirketi Hugging Face’i hacklemeye çalıştı. 18 Ağustos’ta şirket bazı öncü yapay zekâ modellerinin eğitimini yeni güvenlik önlemleri oluşturmak için duraklattığını açıkladı.
“Modeller daha yetenekli hale geldikçe, onları dahili olarak geliştirme ve test etme riskleri de artıyor” dedi şirket açıklamasında. “Bu standartları karşılamak için gerekli zamanı ayırmak istedik, bu yüzden ölçeklendirme hızını geçici olarak yavaşlattık.”
The Guardian’ın aktardığına göre işletmeleri, altyapıyı ve kamu güvenliğini etkileyen siber saldırılar yapay zekâ ile ilgili en önemli endişelerden biri haline geldi.
Rapor ayrıca Birleşik Krallık Ulusal Siber Güvenlik Merkezi’nin yapay zekâ ajanlarının kullanımına karşı yakın zamanda uyarıda bulunduğunu ekledi. Merkez güvenlik kontrollerinin aşılabileceğini ve bir ajanın “sağduyusu olmadığını” savundu. Kuruluşlara “Her zaman ‘fişi çekebilmeli’ ve özerk yapay zekâ ajanı faaliyetini derhal durdurabilmelisiniz” çağrısı yaptı.
Bu arada IBM geçen ay öncü yapay zekâ modellerinin siber yetenekleri hakkında bilgi edinen şirketlerin daha yüksek bir oranının güvenlik harcamalarını artırmayı planladığını açıkladı.
IBM’e göre güvenlik harcamalarını artıracak şirket oranı mayısta yüzde 85’e çıktı. Bu oran Mart 2025 - Şubat 2026 döneminde yüzde 64’tü. Artışın nedeni şirketlerin “ileri öncü yapay zekâ siber yeteneklerinin farkına varması” olarak gösterildi.
