Kısa kısa:
• Bill Swearingen’in noRecognition projesi, kamera yazılımlarının kapladığı nesneleri (insanlar, yüzler veya arabalar) sınıflandırmasını durduran desenler üretiyor.
• Bu desenler, test ettiği 11 açık kaynaklı tespit algoritmasının tamamını, özellikle Flock plaka okuyucularının, Axon vücut kameralarının ve Clearview AI'ın arkasındaki yazılımları yendi.
• İlk halka açık test Cuma günü Las Vegas'taki Def Con'da yapıldı: Desenle kaplanan 2009 model bir Toyota Yaris, bir Flock kamerasının önünden geçirildi.
Bill Swearingen, Kansas City'deki evinde, güvenlik buluşmaları düzenleyen SecKC'nin kurucu ortağı olduğu yerde, geçtiğimiz yıl boyunca aynı deneyi defalarca tekrarladı. Yaklaşık 31 milyon testin ardından, Amerika genelinde yaygınlaştırılan tartışmalı gözetleme sistemi Flock kameralarına entegre edilen tespit yazılımlarından, kapladığı her şeyi gizleyebilen desenleri talep üzerine üretebildiğini söylüyor.
Swearingen, bunu ilk kez Cuma günü Def Con'da halka açık olarak gösterdi. YouTube kanalı Donut Media ile işbirliği yaparak, 2009 model bir Toyota Yaris'i en yeni desenlerinden biriyle kapladı ve aracı bir Flock kamerasının önünden geçirdi.
Swearingen, TechCrunch'a yaptığı açıklamada, "Etkili olduğunu kanıtladık" dedi, ancak tekerleklerin zorlu bir meydan okuma olduğunu da sözlerine ekledi. Donut Media, demoya ait videonun önümüzdeki birkaç hafta içinde yayınlanacağını duyurdu.
Bu desen kamerayı körleştirmiyor. Görüntü normal şekilde kaydediliyor ve ekranı izleyen bir insan bir araba görüyor. Bozulan şey, en üstteki katman; yani "bu bir araç, bu bir plaka, kaydet" kararını veren nesne tespit modeli.
Temel olarak, bir yapay zeka dedektörüne kendi matematiğine karşı tasarlanmış yeterli miktarda görsel gürültü beslediğinizde hiçbir şey kaydetmiyor. Araba tekrar samanlıkta iğne haline geliyor.
Bu durum, rakip makine öğrenimi (adversarial machine learning) olarak adlandırılıyor ve bilgisayarlı görünün sizin gördüğünüzü görmemesi nedeniyle işe yarıyor. Bir insana gürültülü bir grafik tasarım gibi görünen bir kaplama, bir sınıflandırıcı için tamamen hiçbir şey anlamına gelebiliyor.
Swearingen, bunu kendi ödevini notlandıran bir pekiştirmeli öğrenme modeliyle inşa etti. Desen tespit edildiğinde model ayarlanıyor ve tekrar deniyor; Swearingen bunu modele "boyamayı öğretmek" olarak tanımlıyor. Model artık her dakika yeni desenler üretiyor ve Swearingen, kamera satıcılarının bunlara karşı eğitim yapamaması için en güçlü desenleri çevrimdışı tutuyor.
"Gizlilik temel bir haktır" diyen Swearingen, bu desenleri insanların "takip edilmeyi reddetmesi" için bir yol olarak nitelendiriyor. Fikrin geçen yıl bir protestoya katılmak istediğinde ve kameraların oraya gelen herkesi kaydetmesinden endişe ettiğinde ortaya çıktığını belirtiyor.
Makinelerden Gizlenmenin Uzun Yolu
İnsanlar yıllardır tespit sistemlerine karşı doğaçlama çözümler üretiyor, genellikle hırdavatçı çözümleri kullanıyorlar. San Francisco'daki aktivistler, Waymo ve Cruise robotaksilerini dondurmak için kaputlarına trafik konileri koydular; bu, hiçbir kod gerektirmeyen bir açıklardan yararlanmaydı.
Geçen yılki Los Angeles göçmenlik baskınları sırasında, göstericiler daha da ileri giderek birkaç Waymo aracını yaktı. Maskeler, kapüşonlar ve siperli şapkalar protesto hatlarında varsayılan kıyafet olmaya devam ediyor. Yüz tanıma sistemlerini şaşırtan baskılar satan rakip giyim markaları yıllardır piyasada ve tanıma karşıtı gözlükler de işe yaradıklarına dair zayıf kanıtlarla ortaya çıktı.
