OpenAI, yapay zeka modellerini eğitmek için yeni güvenlik protokolleri benimsediğini açıkladı.
Bunun modelleri internet erişimi olmayan kapalı bir sistemde çalıştırmak anlamına geldiğini şirket, 23 Ekim Cuma günü yaptığı duyuruda belirtti.
“Bulut sağlayıcılarıyla yakın çalışarak altyapımız boyunca yeni kontroller ekledik, ajanların istismar edebileceği saldırı yüzeyini azalttık ve uyumsuz davranışları ile güvenlik sınırlarını aşma girişimlerini tespit etme yöntemlerimizi geliştirdik” dedi OpenAI. “Bu korumalar birbirini destekliyor, böylece tek bir kontrol başarısız olsa bile kapsama devam edebiliyor; buna savunma derinliği stratejisi deniyor.”
Şirketin değişikliği, yapay zeka modellerinin başka şirketlerin sistemlerini ihlal ettiği bir dizi olayın ardından geldi. Bunlardan biri temmuz ayında OpenAI ajanlarının Hugging Face adlı teknoloji şirketine sızmasıydı.
OpenAI, bu yeni politikayı “bu güvenlik önlemlerindeki ilerlemeler daha geniş internet erişimini haklı kılana kadar” sürdüreceğini söyledi ve yatırımların zarar vermeden önce “sofistike uyumsuz davranışları” tespit edip durdurmasına yardımcı olduğunu belirtti. Örneğin geçen ayki iç araştırma modeli “bir DNS çözümleyicisindeki yanlış yapılandırmayı istismar etti” ve bir eğitim çalışması sırasında sınırlı da olsa canlı internete erişim sağladı.
“Olayı kontrol altına alsak da, daha fazla çalışmayı gerektiren zayıflıkları ortaya çıkardı” diyen şirket, “En yetenekli modellerimizin eğitim ve değerlendirmesini duraklattık ve bu duraklamayı altyapımızı daha da sağlamlaştırmak, izlememizi güçlendirmek ve ciddi risk oluşturan faaliyetleri tespit ettiğimizde çalışmaları otomatik olarak durduracak sistemleri geliştirmek için kullandık.”
Duyuru, OpenAI’nin iki gün önce son iki ayda ciddi bir güvenlik sorunu olarak nitelendirdiği bir sorunun onarımına öncülük ettiğini açıklamasının ardından geldi.
Şirketin blog yazısına göre bu projenin hedefi, web sitelerini ve web uygulamalarını çalıştırmak için kullanılan açık kaynaklı programlama dili PHP’deki kritik güvenlik açıklarıydı.
Yazıda açıkların bağımsız olarak Calif ve Wiz tarafından keşfedilip bildirildiği belirtildi. Ardından PHP’nin bakımcıları OpenAI, Wiz, Cloudflare ve diğerlerinin desteğiyle açıkların duyurulmasından önce güvenlik önlemleri hazırladı. OpenAI’ye göre PHP kullanan kuruluşlar şimdi düzeltmeleri uygulamaya koyuyor.
“Bu kusurların ciddiyeti ve PHP’nin yaygın kullanımı göz önüne alındığında, bunu son zamanların en etkili güvenlik sorunlarından biri olarak görüyoruz” dedi OpenAI. “Bu, yapay zekanın internet ölçeğinde güvenlik açıklarını ortaya çıkarabilme biçimini vurguluyor, ancak aynı yetenekler saldırganların hızla saldırgan araçlar ve istismarlar geliştirmesine de yardımcı olabilir.”
