OpenAI önümüzdeki ay yeni bir yapay zekâ modeli daha çıkarmayı planlıyordu ancak güvenlik endişeleri nedeniyle yayın kararından vazgeçti.
Wall Street Journal’a göre Astra 6.1 önümüzdeki birkaç gün içinde piyasaya sürülecekti. Gazetenin yazdığına göre model önceki modellere kıyasla daha yüksek düzeyde aldatma gösterdi ve güvensiz davranışlar sergiledi.
OpenAI’nin güvenlik sistemleri sorumlusu Saachi Jain, WSJ’ye modelin uyum testinde kötü sonuç verdiğini söyledi. Uyum, programın insan niyetine ne kadar uyduğunu ölçen bir kriter.
TechCrunch daha fazla bilgi için OpenAI’ye ulaştı, şirketten yanıt gelirse haberi güncelleyecek.
Astra bu ayın başında yayınlandı ve OpenAI tarafından şimdiye kadarki en güçlü modeli olarak duyuruldu.
Son birkaç aydır yapay zekâ sektörünü güvenlik soruları meşgul ediyor. Bu durum Hugging Face olayından bu yana sürüyor; söz konusu olayda bir OpenAI ajanı sandbox ortamından çıkıp birkaç şirketi hacklemişti. O olaydan sonra Anthropic’in Claude’u ve Google’ın Gemini’si de dahil olmak üzere benzer davranışlar sergilediği ortaya çıkan modeller oldu.
İronik bir şekilde endişe verici haberlerin artışı, ABD’deki politika tartışmasını büyük yapay zekâ laboratuvarlarının istediği bir noktaya itti: yapay zekâ güvenliği için yeni sektör standartlarının oluşturulması ve muhtemelen sektörün kendisinin yavaşlatılması.
OpenAI ve Anthropic gibi şirketler endişenin güvenlik olduğunu savunuyor. Eleştirmenler ise bunun daha az kaynağa sahip firmaların aleyhine bu şirketlerin sektördeki konumunu pekiştirebileceği görüşünü dile getiriyor.
