Şu an, bugün, 14.000 dolar harcayarak bir humanoid robot satın alabilirsiniz.
Hiçbir güvenlik sertifikası incelenmiyor, hiçbir standart test protokolü doğrulanmıyor. Fiziksel güç ve gerçek zamanlı otonom karar alma yeteneğine sahip bir makine alıyorsunuz. Ve davranışlarını doğrulamak için kullanılan çerçeveler, yapabildiklerinin gerisinde kalıyor.
Bu, bu sistemleri geliştiren mühendislerin eleştirisi değil. Robotikteki zeka tarafı, hak ettiği heyecanı gerçekten hak eden bir hızla ilerliyor: daha iyi algılama, daha güçlü locomotion, daha hızlı çıkarım ve daha sıkı kontrol döngüleri.
Ama tekrar tekrar düşündüğüm soru şu: Bu sistemlerin kontrol mimarisi, basit bir teleoperasyondan tamamen otonom pekiştirme öğrenimine doğru evrilirken, test metodolojilerimiz ve güvenlik doğrulama süreçlerimiz de onlarla birlikte evriliyor mu?
Sanmıyorum. Henüz değil. Ve bu boşluğun konuşulmaya değer olduğunu düşünüyorum, endüstrinin sorumlu bir şekilde büyümesini sağlamak için.
Son zamanlarda çalıştığım iki araştırma makalesi, bunu düşünme şeklimi etkiledi. Birisi, robot zekasını temel kontrol mimarisi tarafından sınıflandıran bir çerçeve öneriyor. Diğeri, AI tabanlı sistemler için yazılım güvenlik risk analizinin nasıl evrimleşmesi gerektiğini inceliyor.
Birlikte, endüstrinin giderek daha çok ihtiyaç duyduğu bir şeyi gösteriyorlar: otonomi ile birlikte ölçeklenen bir test felsefesi. En yüksek seviyelerde formal güvenlik garantileri, test durumlarının sayımını değiştirir ve adversarial dayanıklılık değerlendirmesi, fonksiyonel test kadar rutin hale gelir.
