Nvidia, kontrolden çıkan yapay zeka ajanlarını izlemek ve kontrol altına almak için yeni bir güvenlik platformu başlatıyor. Reuters'ın daha önce aktardığına göre bu adım, bir dizi yasa dışı sızma olayına yanıt olarak geldi. Pazartesi günü yapılan açıklamada şirket, yeni Open Agent Safety Platform'un sınırlarını aşmaya çalışan ajanları "milisaniyeler" içinde karantinaya alabildiğini belirtti.
Platform, şirketin Vera AI CPU'sunda çalışan açık kaynaklı OpenShell yazılımını kullanıyor. Nvidia'ya göre kullanıcılar bir yapay zeka ajanın erişebileceği bilgileri seçebiliyor ve OpenShell bu kısıtlamaları görev öncesinde ve sırasında denetliyor. Sistem ayrıca ajanları sürekli izlemek ve sınırları uygulamak için ayrı bir çip üzerinde çalışan Nvidia'nın Sentry teknolojisini de içeriyor.
Yapay zeka güvenliği konusundaki endişeler son haftalarda arttı. OpenAI, Anthropic ve Google, modellerinin test ortamlarının dışına çıkıp başka şirketlere sızdığı olayları açıkladı. Anthropic, Microsoft ve SpaceX dahil olmak üzere birçok büyük teknoloji şirketi Nvidia'nın Open Agent Safety Platform'unu destekliyor.
