OpenAI CEO'su Sam Altman, geçtiğimiz günlerde yapay zeka gelişim hızının toplumun yeni yetenek seviyelerine uyum sağlayabilmesi için 'dengelenmesi' gerektiğini söyledi.
TechCrunch'ın Equity podcast'inin son bölümünde Kirsten Korosec, Sean O'Kane ve Anthony Ha, Altman'ın bu yorumlarının muhtemelen bir OpenAI ajanının Hugging Face sistemlerine sızmasıyla tetiklendiğini tartıştı. Sean O'Kane, bir yapay zeka ajanı tarafından gerçekleştirilen bir hack'in yeni bir şey olduğunu ancak hack'in kendisinin 'yeni ve gelişmiş bir şey' olmadığını belirtti.
Sean O'Kane, 'Bu, gerçek bir gizli siber operasyondan çok Nixon'ın ekibinin Watergate'e girmesine benziyordu çünkü öyle olması gerekmiyordu ve öyle talimat verilmemişti. Umarım bu, şirketlerin bu konuda daha dikkatli olacağının bir işaretidir' dedi.
Altman'ın yorumları ayrıca Anthony Ha'ya hızlanma ve yavaşlama tartışmasının ne kadar yararlı olduğunu sorgulama fırsatı verdi. Ha, 'Bu çerçeve, sanki tek bir yol varmış ve tek kararımız hızlanmak ya da yavaşlamakmış gibi gösteriyor. Oysa farklı korkuluklar inşa edebilir, farklı yollar seçebiliriz' dedi.
Sean O'Kane, 'Belki de sonunda bir dönüm noktasına geldik. Bunun büyük bir itici gücü, geçen hafta konuştuğumuz OpenAI modellerinden birinin Hugging Face'in verilerine sızması ve internette başka şeyleri de ihlal etmesi olmalı' diye ekledi.
Kirsten Korosec, Altman'ın sözlerine dikkat ettiğini ancak OpenAI ve Anthropic'in onun bahsettiği şeyi yansıtan bir dilekçeyi desteklediğini hatırlattı. Korosec, 'Bence bunun çoğu Hugging Face olayı tarafından tetiklendi. Bu onu ve sektördeki birçok kişiyi korkutmuş olabilir. Zor olan şey, OpenAI'in gelir elde etmeye, para toplamaya veya başarılı bir halka arz yapmaya devam ederken bir yandan da 'gelişimi dengelemesi' gerekiyor. Bunu yapıp yapamayacaklarını merak ediyorum' dedi.
Anthony Ha, 'Bu spesifik hack - evet, bir OpenAI modeli tarafından yapıldı, ancak test sitesini düzgün bir şekilde güvence altına almamışlar gibi görünüyor. Teoride bu modelin internete çıkmaması gerekirdi. Güçlü, yanlış hizalanmış bir yapay zekanız varsa, bu insan hatasının riskleri dramatik bir şekilde artar. Ancak her şey, işleri olması gerektiği gibi güvence altına almamış olmaları gerçeğiyle başlıyor' dedi.
Sean O'Kane, 'Bu modelin yaptığı şey yeni ve gelişmiş bir şey değildi. Hugging Face'e sızmaya çalışırken düşünme şekli çok insaniydi ve aynı zamanda çok gürültülü ve dağınıktı, izlerini gizlemeye çalışmıyordu. Bu, gerçek bir gizli siber operasyondan çok Nixon'ın ekibinin Watergate'e girmesine benziyordu çünkü öyle olması gerekmiyordu ve öyle talimat verilmemişti. Bunun önlenmesi daha kolay olmalıydı' diye ekledi.
Sean O'Kane ayrıca Altman'ın bu avantajı kullanmasının akıllıca olduğunu belirtti: 'OpenAI önümüzdeki ay veya iki ay içinde piyasalara gitmiyor. Hatta 2027'de gitme fikrini ortaya attı ve gizli başvurularını sadece hazır olduklarında seçeneğe sahip olmak için yaptılar. Buna inanıyorsanız, Altman bu konuyu Anthropic'in yapamayacağı şekilde konuşma yeteneğine sahip çünkü Anthropic zaten birçok bankacıyla görüşüyor ve daha yakın vadeli bir halka arza doğru ilerliyor, bu nedenle ne söyleyebileceği ve piyasanın buna nasıl tepki vereceği konusunda daha kısıtlı.'
