Yapay zeka güvenliği girişimi HiddenLayer, üç yıl önce 50 milyon dolarlık A Serisi yatırım turunu tamamladığında, sektördeki en büyük soru işaretlerinden biri, girişimin koruma sağladığı yapay zeka tehditlerinin gerçek bir pazar oluşturacak kadar yaygınlaşıp yaygınlaşmayacağıydı. Eski meslektaşım Kyle Wiggers'in o dönemde belirttiği gibi, yapay zekaya yönelik geniş çaplı saldırıların somut örneklerini tespit etmek oldukça zordu.
Ancak işler çok hızlı bir şekilde değişti. Güvenlik şirketleri artık sadece yapay zeka ajanlarını değil, kullandıkları araçları ve eklentileri de izleyebilecek ürünler geliştirmek için adeta yarışıyor. Ajanların sömürüldüğüne dair hâlâ çok fazla manşet görmesek de, üretim aşamasında ajanların kontrolden çıkma riski Microsoft'un güvenlik blogunda da vurgulandığı gibi gayet gerçek. Bu nedenle, bu tür durumları önlemeye yönelik araçların pazarı patlama yaptı: Gartner, şirketlerin 2026 yılında yapay zeka araçlarını güvence altına almaya yönelik ürünlere 2,83 milyar dolar harcayacağını tahmin ediyor; bu rakam 2025'e göre yüzde 83 daha fazla. Kurum, 2027 yılında bu harcamaların neredeyse 4,78 milyar dolara ulaşmasını bekliyor.
Yapay zeka modellerini, ajanlarını ve iş akışlarını düşmanca saldırılara, güvenlik açıklarına ve kötü amaçlı kod enjeksiyonlarına karşı koruyan araçlar geliştiren HiddenLayer, bu değişimden en iyi şekilde yararlanmayı başardı. Şirketin kurucu ortağı ve CEO'su Chris Sestito, TechCrunch'a yaptığı açıklamada, girişimin yıllık tekrarlayan gelirinin geçen yıl 10 katından fazla büyüdüğünü belirtti. Sestito tam bir sayı vermeyi reddetse de, yıllık tekrarlayan gelirin artık "on milyonlarca dolar" seviyesinde olduğunu ve bu büyümenin yüzde 90'ından fazlasının geçen yıl imza atan yeni müşterilerden kaynaklandığını sözlerine ekledi.
Finans hizmetleri ve yapay zeka ürünleri geliştiren büyük teknoloji şirketleri şu anda şirketin en büyük dikey pazarlarını oluşturuyor. Ayrıca Savunma Bakanlığı ve istihbarat topluluğuyla da sözleşmeleri bulunuyor. Müşterilerinden biri, haftalık 700 milyondan fazla kullanıcısı olan "önde gelen bir öncü model sağlayıcısı"; bu tanım bana OpenAI veya Anthropic'i çağrıştırıyor.
Bu ivmeyi en iyi şekilde değerlendirmek isteyen girişim, Delta-v Capital liderliğinde Ten Eleven Ventures, Morgan Stanley, Microsoft'un M12'si, Booz Allen Hamilton ve diğerlerinin katılımıyla gerçekleşen B Serisi yatırım turunda 100 milyon dolar fon sağladı.
Austin merkezli girişim, genel hatlarıyla 2023'te sattığı ürünleri satmaya devam ediyor. Ancak Sestito, TechCrunch'a yaptığı açıklamada, yapmak zorunda kaldıkları en büyük değişikliğin, mevcut ürünlerini (keşif, çalışma zamanı koruması, saldırı simülasyonu ve tedarik zinciri güvenliği) prompt enjeksiyonu, ajan manipülasyonu ve kötü amaçlı araç kullanımını ele alacak şekilde genişletmek olduğunu belirtti.
Sestito konuyla ilgili olarak şunları söyledi: "Çıkarım hâlâ çıkarımdır. İster geleneksel bir makine öğrenimi modeli olsun, ister üretken yapay zeka, ister ajan tabanlı bir iş akışı... Teknolojimizin büyük bir kısmı hâlâ geçerliliğini koruyor. Yani aslında yön değiştirmek zorunda kalmadık, ancak kapsamımızı geleneksel modellemeden üretken yapay zekaya ve oradan da ajan tabanlı sistemlere doğru genişletmek zorunda kaldık."
Sestito, yapay zeka dağıtımları işletmeler arasında yaygınlaştıkça çalışma zamanı güvenliğinin özellikle öncelik kazandığını vurgulayarak, bunu geleneksel uç nokta algılama ve yanıt çözümlerine benzetti, ancak bu çözümlerin doğrudan yapay zeka için tasarlandığının altını çizdi.
Şirketin yeni ürünleri de bu değişimi yansıtıyor. Sestito, saldırganlar için açık kaynaklı modelleri sömürme konusundaki yeni fırsatları da vurguladı. Sestito, "Açık kaynaklı ve açık ağırlıklı modeller söz konusu olduğunda, çalıştığınız aracın gerçekten inandığınız ve iddia ettiği araç olduğundan emin olmak için yaklaşık 50 farklı yapay zeka dosya çerçevesini ayrıştırıyor ve tarıyoruz. Bir şeymiş gibi görünen ama aslında başka bir şey olan, yani modellerin içinde gizlenmiş başka modeller gibi durumları inceliyoruz" dedi.
Girişim, yeni sağlanan 100 milyon dolarlık fonun bu yönde ilerlemesine yardımcı olacağını, ancak mühendislik ve araştırmalarını genişletmeye devam ederken daha çok satış ve dağıtıma odaklanacağını belirtiyor. Ayrıca Avrupa ve EMEA bölgesine de açılmayı planlıyor.
Ancak HiddenLayer, bu savaş fonunu ileride daha fazla harcama yapmak için kullanmak zorunda kalabilir. Cisco, Palo Alto Networks ve Check Point gibi büyük siber güvenlik şirketleri, bu tür teknolojileri geliştirmekten ziyade satın almayı tercih ediyor. Öte yandan Noma ve Zenity gibi girişimler, bu alanın bitişik veya örtüşen bölümlerinde faaliyet göstermek için 100 milyon doların üzerinde fon topladı.
Sestito, şirketinin sunduğu yapay zeka güvenlik ürünlerinin bazı bölümlerinin nihayetinde Microsoft, OpenAI ve AWS gibi şirketlerin oluşturduğu platformlara entegre edilebileceğini kabul etti. Ancak yapay zeka altyapısının, kendi şirketlerinin geliştirdiği araçlardan ziyade keşif, kimlik ve politika kontrolleri gibi yönetişim özelliklerine doğru evrileceğini öngördüğünü belirtti.
Şimdilik HiddenLayer'ın görevinin "yapay zekayla birlikte dikey olarak ölçeklenmek" ve nihayetinde yapay zekaya giderek daha fazla bağımlı hale gelen siber güvenlik alanlarına yatay olarak genişlemek olduğunu söylüyor. Bu oldukça iddialı bir hedef, ancak girişimin bu erken avantajını sektörün geri kalanı arayı kapatmadan önce kalıcı bir iş modeline dönüştürebildiğini kanıtlaması gerekiyor.
