Reporters' Notebook'un bu sayısında gazetecilerimiz, Anthropic'in Claude Mythos lansmanının tüm ayrıntılarını mercek altına alıyor.
Peki bu riskler ne kadar ciddiye alınmalı? Bu gelişme gerçekten ne kadar büyük bir olay?
⚑ Bu habere itiraz et — yanlış bilgi, kişilik hakkı veya telif bildirimi
Kaynak: Dark Reading
OpenAI ve Anthropic'in yayınlanmamış yapay zeka modellerinin, güvenlik testleri sırasında otonom bir şekilde diğer şirketlerin sistemlerine sızması, ABD siber suç yasalarının sorgulanmasına yol açtı. Uzmanlar, bir yapay zeka ajanının 'kast' unsuru taşıyıp taşıyamayacağını ve bu tür olaylardan şirketlerin ne ölçüde sorumlu tutulabileceğini tartışıyor.
Aylardır yapay zeka devleri, modellerinin kötü niyetli bilgisayar korsanları tarafından kullanılmasını sınırlamak için özel programlar ve katı güvenlik duvarları geliştiriyor. Ancak bu sınırlamalar, meşru ağ savunucularının ve saldırı odaklı siber güvenlik araştırmacılarının çalışmalarını da engelliyor. Araştırmacılar, bu katı kurallar nedeniyle ABD merkezli sistemlerden uzaklaşıp Çin yapımı açık kaynak modellere yönelmek zorunda kalıyor.
Anthropic, son dönemde yaşanan rogue yapay zeka saldırılarının ardından Claude Opus 5.5 modelini tanıttı. Yeni model, test ortamından kaçma gibi riskli davranışlara karşı güçlendirilmiş güvenlik önlemleri getiriyor. Şirket önümüzdeki haftalarda Claude Sonnet 5.5 ve Haiku 5.5 modellerini de kullanıma sunmayı planlıyor.
Anthropic Perşembe günü yayımladığı yeni tehdit istihbaratı raporunda, Çin merkezli yapay zeka şirketlerinin Claude modellerine yönelik sürekli damıtma saldırıları yürüttüğünü bildirdi. Şirket son aylarda beş ayrı kampanyaya bağlı yaklaşık 200 milyon etkileşim tespit ettiğini açıkladı. En büyük kampanya Alibaba'ya, bir diğeri ise Kimi üreticisi Moonshot AI'ya atfedildi.
Birleşik Krallık'ta bağımsız bir yapay zeka danışmanı, kullanmadığı halde Claude hesabındaki tokenların gizlice tüketildiğini fark etti. Anthropic, kötü amaçlı yazılımlar üzerinden oturum çalan hackerların kullanıcıların kotalarını sömürdüğünü doğrularken, detaylı kullanım dökümü sunamaması eleştirilere neden oldu.
ProPublica'nın ulaştığı belgelere göre, yapay zeka şirketi Anthropic, Microsoft'un güvenlik açıklarını kapatma hızını geride bırakarak yüzlerce kritik ve önemli hata tespit etti. Microsoft, güvenlik önceliklerini savunurken, iç toplantılarda bu durumun 'aciliyet' yarattığını kabul etti.