Beyaz Saray, güçlü açık ağırlıklı AI modellerini gönüllü önceden test etme çerçevesine dahil etmeyi planlıyor. Bu, bankalar, ödeme şirketleri ve tüccarlar için AI sağlayıcıları seçerken ortaya çıkan boşluğu daraltabilir.
Açık ağırlıklı modeller, şirketlerin kendi ortamlarında çalıştırabilmeleri, müşteri verilerini içerde tutabilmeleri ve kapalı sağlayıcılara bağımlı olmamaları nedeniyle daha çekici hale geliyor. Ancak bu modeller aynı zamanda siber saldırıya yardımcı olabilir, araç kullanımını otomatikleştirebilir ve güvenlik önlemlerini zayıflatabilir.
Beyaz Saray'ın Haziran ayında yayınladığı yönetmelik, geliştiricilerin federal hükümete geniş bir sürümünden önce erken erişim için siber güvenlik değerlendirmesi sağlamak üzere gönüllü bir çerçeve oluşturdu. Ancak açık modellerin artan yetenekleri bu dengenin daha da karmaşık hale gelmesine neden oldu.
Finansal kurumlar için soru pratiktir. Bir banka, kendi ortamında çalıştırdığı bir modeli tercih edebilir, ancak bu model aynı zamanda siber saldırıya yardımcı olabilir. Bu nedenle, bankalar modelin güvenlik önlemlerini ve davranışını daha yakından izlemelidir.
Son araştırmalar, açık ağırlıklı ve özel modellerin penetrasyon görevlerini çeşitli başarı oranlarıyla gerçekleştirebileceğini gösteriyor. Bankalar için önemli olan, her modelin tehlikeli olmadığı, ancak model yetenekleri, araçlar, izinler ve ağ erişiminin bir araya gelerek operasyonel risk oluşturabileceğidir.
Beyaz Saray'ın planladığı değişiklik, en azından bazı açık modellerin benzer bir hükümet testi yoluna sahip olmasını sağlayabilir. Ancak bu, kurumlar için spesifik validasyonu ortadan kaldırmayacaktır. Federal inceleme, genel siber yetenekleri değerlendirebilir, ancak bir modelin belirli bir bankanın ödeme yığını, tüccar-risk sistemi, toplama iş akışı veya müşteri hizmetleri acentasında güvenli olup olmadığını belirleyemez.
Sonuç, daha katmanlı bir satıcı-risk süreci olacaktır. Bankalar ve tüccarlar, bir modelin hükümet incelemesine uygun olup olmadığını, sunulup sunulmadığını, hangi bulguların paylaşılabileceğini ve testten sonra neler değiştiğini sorgulayacaktır. Ayrıca, modelin nerede çalıştırıldığını, kimler tarafından değiştirilebileceğini, hangi güvenlik önlemlerinin aktif olduğunu ve ne kadar sürede değiştirilebileceğini belgelemelidir.
Açık ağırlıklı AI, daha düşük maliyet, özelleştirme, yerel dağıtım ve birkaç dominant sağlayıcıya bağımlılık gibi avantajlar sunabilir. Ancak, yetenek arttıkça, uyumluluk dosyası daha da katı hale gelmelidir.
Ticaret, ödeme ve finansal hizmetler için ders, açık ve kapalı AI arasındaki seçim artık sadece bir teknoloji kararı değildir. Risk, dayanıklılık ve denetim kararıdır. Açık modeller Beyaz Saray test çerçevesine girerse, bu bir güvence boşluğunu kapatabilir. Ancak şirket içi kontrol boşluğunu kapatmayacaktır.
