Alabama Başsavcısı, OpenAI'nin Hugging Face hacking incidentini soruşturuyor. Şirketin ürünlerinin güvenliğini sağlamadaki eksikliği devletin tüketici koruma yasalarını ihlal ediyor. OpenAI, internal-only research prototype'unu güçlendireceğini ve bir teknik rapor yayınlayacağını duyurdu.
OpenAI, California'nın geçen yıl kabul ettiği AI güvenlik yasasının daha da güçlendirilmesi gerektiğini belirtti. Şirket, özellikle model geliştirme yaşam döngüsü boyunca siber güvenlik korumalarının güçlendirilmesi gerektiğini vurguladı.
Guidelight AI Standards tarafından yapılan bir çalışmada, önde gelen AI laboratuvarlarının çoğunun, kötü niyetli modellerini kapsamak için yeterli plana sahip olmadığı ortaya çıktı. Çalışmada, OpenAI en yüksek puanı alırken, Anthropic ve Meta en düşük puanı aldı.
Kraken'in ana şirketi Payward, Anthropic'in Project Glasswing projesine katıldı. Proje, AI güvenlik çözümlerini geliştirmeyi hedefliyor. Payward, Claude Mythos 5'i kullanarak sistemlerini güvenlik açıklarını taramak için kullanacak.
Güvenlik araştırmacıları, büyük AI modellerinin 'iç düşüncelerini' okumaya yönelik bir yöntem buldu. Bu yöntem, Anthropic, OpenAI ve Google'ın kullandığı ortak bir şifreleme anahtarını hedef alıyor. Araştırmacılar, 315.320 reasoning bloğunu çözdükleri sırada 182 kimlik bilgisi ve 62 canlı API anahtarı elde etti.
AI güvenlik endişeleri artarken, üç öncü araştırmacı AI araştırmasının açık kalması gerektiğini savunuyor. Geoffrey Hinton, Fei-Fei Li ve Andrew Ng, Ai4 konferansında konuşarak, AI'nin açık olması gerektiğini ancak farklı yaklaşımlar önerdiler.
Bitcoin Red Team, AI teknolojisini kullanarak Bitcoin projelerinde kritik açıkları buluyor. Ekibin başkanı Rob Hamilton, AI hizmetleri için yaklaşık 20.000 dolar harcandığını ve bu çalışmaların iyi sonuçlar verdiğini belirtti.
Okta, AI güvenlik şirketi Permiso'yu yaklaşık 200 milyon dolara satın almak için anlaşma imzaladı. Satın alma, Okta'nın kimlik tehdidi tespit ve yanıt yeteneklerini genişleterek AI ajanlarını ve makine kimliklerini korumayı hedefliyor. Anlaşmanın 2027 mali yılının üçüncü çeyreğinde tamamlanması bekleniyor.
Birleşmiş Milletler'in bağımsız uluslararası bilimsel paneli, yapay zeka teknolojisinin potansiyel zararları konusunda uyarıda bulunuyor. Bilim insanları, AI'nin artan yetenekleri karşısında bilim ve hükümetlerin adaptasyon yeteneklerinin geride kaldığını belirtiyorlar.
Adversa AI'nin GuardFall olarak adlandırdığı bir araştırma, açık kaynaklı AI kodlama ajanlarının kabuk injection riskine karşı savunmasız olduğunu ortaya koydu. Bu risk, ajanların shell komutlarını çalıştırma şeklini hedef alıyor.