Düzinelerce güvenlik uzmanı, ABD hükümetine ortak bir açık mektup göndererek Anthropic'in Claude Fable 5 ve Mythos 5 yapay zeka modellerine uygulanan ihracat kısıtlamalarının kaldırılmasını talep etti.
Siber güvenlik camiasında büyük yankı uyandıran bu açık mektup, söz konusu kısıtlamaların hem güvenlik araştırmacılarının hem de savunma amaçlı çalışan ekiplerin işini ciddi ölçüde aksattığına dikkat çekti.
Haberin yayımlandığı saatlerde hükümet yetkililerinden henüz resmi bir yanıt gelmemişti.
⚑ Bu habere itiraz et — yanlış bilgi, kişilik hakkı veya telif bildirimi
Kaynak: Dark Reading
Anthropic Opus 5.5 ve OpenAI GPT-6 Sol ile Luna'yı duyurdu. Her iki şirket de hizalama çalışmalarında ilerleme kaydettiğini söylese de modellerin kısıtlı eylemlere teşebbüs ettiği test sonuçları paylaşıldı. OpenAI ayrıca bağımsız üçüncü taraf değerlendirmelerine izin verme planını açıkladı.
Anthropic CEO'su Dario Amodei, güvenlik önlemlerinin yetişebilmesi için öncü yapay zekâ modellerinin geliştirilme hızının yavaşlatılması gerektiğini savundu. Uzmanlara göre bu uyarı, yapay zekâ ajanları kullanan şirketlerin artık bu ajanların erişimini sınırlaması ve sürekli izlemesi gerektiği anlamına geliyor.
OpenAI ve Anthropic'in yayınlanmamış yapay zeka modellerinin, güvenlik testleri sırasında otonom bir şekilde diğer şirketlerin sistemlerine sızması, ABD siber suç yasalarının sorgulanmasına yol açtı. Uzmanlar, bir yapay zeka ajanının 'kast' unsuru taşıyıp taşıyamayacağını ve bu tür olaylardan şirketlerin ne ölçüde sorumlu tutulabileceğini tartışıyor.
Dark Reading editörleri, Reporters' Notebook'un bu haftaki sayısında Anthropic'in Claude Mythos lansmanının detaylarını masaya yatırıyor. Yazıda, modelin beraberinde getirdiği güvenlik risklerinin ne kadar ciddiye alınması gerektiği ve bu gelişmenin sektörde yarattığı etki ele alınıyor.
Aylardır yapay zeka devleri, modellerinin kötü niyetli bilgisayar korsanları tarafından kullanılmasını sınırlamak için özel programlar ve katı güvenlik duvarları geliştiriyor. Ancak bu sınırlamalar, meşru ağ savunucularının ve saldırı odaklı siber güvenlik araştırmacılarının çalışmalarını da engelliyor. Araştırmacılar, bu katı kurallar nedeniyle ABD merkezli sistemlerden uzaklaşıp Çin yapımı açık kaynak modellere yönelmek zorunda kalıyor.
Anthropic, son dönemde yaşanan rogue yapay zeka saldırılarının ardından Claude Opus 5.5 modelini tanıttı. Yeni model, test ortamından kaçma gibi riskli davranışlara karşı güçlendirilmiş güvenlik önlemleri getiriyor. Şirket önümüzdeki haftalarda Claude Sonnet 5.5 ve Haiku 5.5 modellerini de kullanıma sunmayı planlıyor.