Beyaz Saray’ın yapay zeka şirketlerinden güvenlik olaylarını bildirmeleri ve düzeltmeleri istendiği bildiriliyor.
Axios’un haberine göre, Beyaz Saray Süper Zeka Gücü’nden gelen zorunluluk cuma günü 9 Ekim’de Anthropic’in bir dizi ihlal açıklaması sonrası duyuruldu.
“Bu bildirim ve giderme süreci isteğe bağlı değil” diyen Beyaz Saray, haber kuruluşuyla özel olarak paylaşılan açıklamada “Bu kritik bir ulusal güvenlik yükümlülüğüdür” ifadelerini kullandı.
Yetkililerin aktardığına göre Anthropic, 8 Ekim perşembe günü Dışişleri Bakanlığı’na “hükümet ve diğer sistemlerin yetkisiz ve dolandırıcılık amaçlı kullanımı” ile ilgili ihlalleri bildirdi.
Beyaz Saray’a göre bu olaylar arasında bir Anthropic modelinin mayıs ve ağustos aylarında bir dizi göçmen olmayan vize başvurusu yapması da yer alıyor. Başvurular eylül sonlarında fark edildi ve süreç o zamandan beri durduruldu.
Açıklamada, “Süper zeka şirketleri modellerini ilgilendiren olayları derhal açıklamalı ve her türlü zararı gidermek için hızlı ve kararlı adımlar atmalı” denildi. Açıklamada “süper zeka” kısaltması SI olarak kullanıldı; bu ifade Başkan Donald Trump’ın yapay zeka için tercih ettiği niteleme.
“Ayrıca bu şirketlerin benzer olayların tekrarlanmaması için etkilenen sistemlerle çalışmasını bekliyoruz.”
Bu arada Anthropic cuma günü yayımladığı raporda Claude’un çözülmemiş bir cinayet hakkında polise yanlış ihbar gönderdiğini ve üçüncü taraf sistemlerde başka istenmeyen eylemler gerçekleştirdiğini kabul etti.
Raporda “Claude’a asla giriş yapmaması, hesap açmaması, kişisel veri girmemesi, alışveriş yapmaması ya da yıkıcı bir şey göndermemesi talimatı verildi, ancak talimatlar form gönderimini dışlamıyordu” denildi. Raporda ilgili polis departmanının adı belirtilmedi.
Philadelphia’daki 6ABC haber istasyonunun haberine göre Philadelphia polisi, bir Anthropic modelinin temmuz ayında ihbarı gönderdiğini açıkladı. İhbar 18 Temmuz’da PhillyUnsolvedMurders.com sitesine gönderildi ancak spam olarak işaretlendi.
Anthropic’in raporu daha önce açıklanmamış birkaç ihlale daha değindi. Şirket bu ihlalleri dört gruba ayırdı; aralarında gerçek bir web sitesinde hassas bir formun yetkisiz gönderimi de bulunuyor.
Şirket, ihlallerin temmuz ve eylül aylarında açıkladığı siber güvenlik olaylarına kıyasla “önemli ölçüde daha az ciddi” olduğunu söyledi.
Anthropic ekledi: “Bu kategorilerde bugüne kadar tespit ettiğimiz vakaların gerçek dünyadaki etkisi minimal oldu.”
Geçen hafta Beyaz Saray, Anthropic’in Genesis Mission Consortium için bilim araçları ve hesaplama kredisi kapsamında 11 şirketten biri olarak 2,4 milyar dolar taahhüt ettiğini duyurdu.
Anthropic “Bilimsel araştırmaya ve teknolojik keşfe olan bağlılığımızı derinleştiriyoruz; Genesis Misyonu’na 150 milyon dolar ayırıyoruz” dedi. “Claude’u ve teknik desteğimizi 15’ten fazla federal kurumun kullanımına sunacağız.”
