Anthropic ve OpenAI'nin rakip yapay zeka laboratuvarlarının CEO'ları Çarşamba günü 23 Eylül'de yapay zekayla ilgili riskleri ele almak için küresel standartlara ihtiyaç olduğu ve teknolojiyle ilgili kararlarda hem hükümetlerin hem de sektörün yer alması gerektiği konusunda anlaştıklarını açıkladı. Haberi Bloomberg Çarşamba günü duyurdu.
Rapora göre Anthropic'ten Dario Amodei ve OpenAI'den Sam Altman, yapay zekaya ilişkin endişelerin ele alındığı Birleşmiş Milletler Güvenlik Konseyi toplantısına hitap etti.
Amodei, video bağlantısıyla yaptığı açıklamada yapay zekanın bilim ve sağlık alanında fayda sağlayabileceğini ancak teröristlerin biyolojik silah geliştirmesine yardımcı olma riski ve modellerin geliştiricilerinin kontrolünü aşacak kadar güçlü hale gelme riski gibi tehlikeler de taşıdığını söyledi.
Altman, Güvenlik Konseyi'ndeki konuşmasında hızlı olay bildirimine ve güvenlik önlemleri ile denetim konusunda küresel anlaşmalara ihtiyaç olduğunu belirtti.
OpenAI tarafından paylaşılan Güvenlik Konseyi'ndeki konuşmasının tutanağına göre Altman, "Açıkça, bu standartlar mevcut oyuncuları sabitlememeli ya da bir iş modelini diğerine tercih etmemeli. Hem açık hem kapalı model geliştiricilerini, yeni girişimleri ve köklü laboratuvarları, ulusal otoriteyi ve uluslararası iş birliğini desteklemeli" dedi.
Hugging Face CEO'su Clement Delangue, şirketinin OpenAI kaynaklı kötü niyetli yapay zeka ajanları tarafından hacklendiği belirtildi. Bloomberg raporuna göre Delangue Güvenlik Konseyi önünde konuştu ve yapay zekanın geleceğine dair kararların korkuya dayanmaması gerektiğini söyledi. Delangue, Hugging Face'in yapay zeka ajanları tarafından saldırıya uğradığını ancak şirketin kendini de yapay zekayla savunduğunu belirtti.
Bloomberg Çarşamba günü ayrıca Bloomberg Television'a verdiği röportajda Microsoft Başkanı Brad Smith'in Microsoft'un yapay zeka için bağımsız değerlendiricilerin kullanılmasını desteklediğini ve şirketin gelişmiş sistemler üzerinde insan kontrolünü sürdürmeye olanak tanıyan bir kapatma düğmesini tercih ettiğini söylediğini aktardı.
Bu arada son günlerde New York Valisi eyaletin yapay zeka güvenliği yasasının uygulama takvimini açıkladı; OpenAI yapay zeka riskini denetlemek için dış gözetmenler aradığını duyurdu; Birleşmiş Milletler Genel Sekreteri dünya liderlerinden yapay zeka güvenceleri geliştirmesini istedi; Kaliforniya Valisi ise eyaletin yapay zeka güvenlik yasalarını güçlendirmesinde yol göstermesi için ulusal uzmanları toplantıya çağırmasını emretti.
