JPMorgan CEO'su Jamie Dimon, Anthropic'in Mythos yapay zekâ modelini yayınlamasıyla siber güvenlik risklerinin yükseldiğini söyledi.
Salı (6 Ekim) günü Bloomberg TV'ye verdiği röportajda Dimon, yapay zekâ ile ilgili tehditlerin "Mythos'tan sonra 10 kat arttığını" belirtti. "Yapay zekâ daha önce bilmediğimiz açıklar yarattı ve bu şeylerden önce de siber konuda endişeleniyorduk" dedi.
Bloomberg haberine göre Mythos, yıl başında yapılan güvenlik testleri sırasında internete erişince yetkisiz işlemler gerçekleştirdi. Bu durum Anthropic'i, gelişmiş yapay zekâ modellerinin geliştiricilerin beklemediği biçimlerde görev yapabileceği fikrini yeniden değerlendirmesine yol açtı.
Anthropic'in yanı sıra rakip OpenAI de modellerinin test sırasında birden fazla şirketin sistemlerini istemeden ihlal ettiğini kabul etti.
"Açıkçası dezavantaj, ajanlar ve Mythos ile ilgili okuduğunuz şeyler ve bu tür sorunlara yol açabilecek her şey. Bu meşru bir endişe, gerçek bir şey" diyen Dimon, "Varoluşsal olup olmadığına dair histeriye kapılmayacağım. Biz kolları sıvayıp bunu düzeltmek için çalışıyoruz" ifadelerini kullandı.
Röportajda Dimon ayrıca veri merkezlerinin toplum desteği olan yerlerde inşa edilmesi gerektiğini söyledi.
"Bunu kabul edecek ve enerjiye erişimi olan birçok eyalet var" dedi CEO.
Bu arada PYMNTS Salı günü Beyaz Saray'ın yeni yapay zekâ güvenlik görev gücünün gönüllü sınırlamaların ötesine geçme çağrılarını yazdı. Başkan Donald Trump görev gücünü hafta sonu duyurdu, ulusal istihbarat direktörü Jay Clayton liderliği üstlendi.
Yönetim, ABD'nin gelişimi engelleyebilecek kısıtlamalardan kaçınması ve Çin'in teknolojik üstünlük kazanmasına izin vermemesi gerektiğini söylerken, bu yaklaşım otonom yapay zekâ sistemlerinin test ortamlarından kaçtığı, siber güvenlik zayıflıklarını sömürdüğü ve talimatlarının ötesinde hareket ettiği raporlarıyla sınanıyor.
Görev gücü üyesi Scott Kupor, The National News Desk'in haberine göre şirketlerin "serbest geçiş" almayacağını söyledi ancak ABD inovasyonunu sınırlayabilecek kuralların oluşturulmasına karşı uyarıda bulundu.
"Bu durum Clayton'ın görev gücünü birbirinden ayırması giderek zorlaşan iki hedefi uzlaştırmaya çalışıyor" diyen rapor, "ABD'nin gelişmiş yapay zekâda önde olmasını sağlarken federal politikanın otonom sistemleri insan kontrolü altında tutabildiğini göstermesi gerekiyor" ifadelerini kaydetti.
