Gözetim teknolojisi girişimi Flock, perşembe günü bir dizi yeni politika ve araç duyurdu. Şirket, bu adımların otomatik plaka tanıma kamera sistemlerinin kötüye kullanımını engellemeye ve kolluk kuvveti müşterilerinin hesap verebilirliğini sağlamaya yardımcı olacağını iddia ediyor.
Flock artık polis departmanlarına verileri önceki 30 gün yerine yedi gün boyunca saklamalarını öneriyor. Bu değişiklikle birlikte şirket, müşterilerin 'olağanüstü durumlarda' verileri daha uzun süre saklaması gerektiğinde devreye sokabileceği ve belirli bir vaka numarası gerektiren 'Kanıt Modu'nu (Evidence Mode) tanıttı. Müşteriler artık, soruşturulan suçun türüne göre diğer müşterilerle paylaştıkları veriler üzerinde sınırlamalar belirleyebilecek.
Şirket, 'Denetim Desteği' (Audit Assistance) adlı aracı da önemli değişikliklerden biri olarak öne çıkardı. Flock bu aracı nisan ayında kullanıma sundu. O zamandan beri müşterilerinin 'üçte birinden fazlası' aracı etkinleştirdi ve girişim şimdi yıl sonuna kadar tüm müşterilerin bu özelliği açmasını zorunlu kılıyor.
Perşembe günü yayınlanan bir blog yazısına göre Denetim Desteği, 'anormal faaliyetleri tespit ediyor ve yönetici incelemesi için işaretliyor.' Böyle bir durum gerçekleşirse, araç bir yönetici müdahale edene kadar işaretlenen kullanıcıları otomatik olarak sistemden kilitliyor. Flock'a göre araç, müşterilerin kötüye kullanımı fark etmesine ve durdurmasına şimdiden yardımcı oldu.
Birçok yönetici Denetim Desteği'nin yeteneklerini övdü. Ancak aracın belirtilen önemine rağmen Flock, Denetim Desteği'nin gerçekte nasıl çalıştığını ayrıntılı olarak açıklamadı.
Bazı resmi açıklamalar, Denetim Desteği'nin neler yapabileceğine dair bir fikir veriyor; ancak işin 'nasıl' yapıldığına gelince açıklamalar muğlaklaşıyor.
Örneğin, Flock'un güven ve uyum başkanı Ashley Haber bir videoda, Denetim Desteği'nin 'belirli bir kullanıcıdan gelen garip bir arama geçmişi gibi görünebilecek şeyleri' işaretleyebileceğini ve müşterilerin kullanıcılarının sistemi nasıl kullandığını anlamasına yardımcı olacağını söyledi. Flock kurucu ortağı Paige Todd ise başka bir videoda, 'Denetim Desteği aslında olağandışı kalıpları erkenden işaretler. Bir kullanıcının aynı plakayı 30 günden fazla süre boyunca tekrar tekrar araması gibi durumları düşünün' dedi.
Flock müşterisi olan Georgia, Dunwoody Polis Departmanı'ndan Binbaşı Patrick Krieg ise bir basın bülteninde bu özelliği, 'bizi her türlü önyargı konusunda bilgilendiren bir algoritma' olarak tanımladı.
Flock, Denetim Desteği'ni 'olağandışı faaliyetleri erkenden ortaya çıkaran ve net, belgelenmiş bir iş akışıyla hızla incelenmesini sağlayan' bir özellik olarak tanımlıyor.
Belirsiz olan ve TechCrunch'ın yanıt aradığı konu ise bu 'algoritmanın' gerçekte nasıl çalıştığı, hangi verilerle eğitildiği ve büyük bir dil modeli kullanılarak geliştirilip geliştirilmediği. TechCrunch ayrıca aracın hangi kalıpları ortaya çıkarmak üzere tasarlandığını ve tam olarak neyin 'anormal faaliyet' olarak işaretlendiğini de sordu.
Flock'a göre Denetim Desteği, Makine Öğrenimi veya Yapay Zeka tabanlı değil. Şirket TechCrunch'a yaptığı açıklamada, 'Atipik arama kalıplarını daha fazla inceleme için işaretleyen bir veri aracıdır. İşaretleme tetikleyecek bir örnek, bir kullanıcının aynı plakayı birden fazla farklı vaka koduyla aramasıdır, çünkü bu potansiyel olarak bir kötüye kullanıma işaret edebilir. Bir işaretlemenin kesin olarak kötüye kullanım olduğu anlamına gelmez; yalnızca daha fazla soruşturmayı hak ettiği anlamına gelir' dedi.
Ancak Flock'un aracın ne kadar etkili olduğuna dair herhangi bir istatistiği veya verisi olup olmadığı, yanlış pozitif ve yanlış negatif oranlarının ne olduğu ve üçüncü bir tarafça denetlenip denetlenmediği gibi çok sayıda soru yanıtsız kalıyor.
Gizlilik uzmanları ve Flock eleştirmenleri Denetim Desteği'nden pek etkilenmiş değil.
Amerikan Sivil Özgürlükler Birliği (ACLU) kıdemli politika danışmanı Chad Marlow, Flock'un duyurusuna yanıt olarak yazısında, aracın kötüye kullanımı ele almada 'tutarlı bir şekilde çalıştığına dair hiçbir kanıt olmadığını' belirtti.
Marlow, 'Son zamanlarda düzinelerce polis memuru Flock'u kişisel nedenlerle kötüye kullandıkları için tutuklandı, kovuldu veya başka şekillerde disiplin cezası alırken, Flock bu tutuklamaların denetim aracının çalıştığının kanıtı olduğunu iddia ediyor' dedi ve ekledi: 'Ancak sistemi kötüye kullanan memurların toplam sayısını bilmediğimiz sürece, Flock ve denetim araçlarının ihlalcilerin yüzde 95'ini mi yoksa yüzde 5'ini mi yakaladığını sonuçlandıramayız. Flock'un denetim aracının gerçek etkinliğini belirlemek için bağımsız bir değerlendirici tarafından analiz edilmesi gerekiyor. O zamana kadar, aracın gerçek bir güvenlik önlemi mi yoksa sadece vitrin süsü mü olduğunu bilmiyoruz.'
Elektronik Sınır Vakfı'ndan (EFF) güvenlik araştırmacısı ve kıdemli kamu yararı teknoloğu Cooper Quintin, TechCrunch'a Denetim Desteği'nin çalışıp çalışmadığının bile önemli olmayabileceğini söyledi.
Quintin, 'Eğer çalışıyorsa, kolluk kuvvetleri bunu aşmanın yollarını bulacaktır' dedi ve sonunda önemli olanın kötüye kullananların yakalanıp hesap verip vermediği olduğunu ekledi. 'Kötüye kullanım için hiçbir sonuç yoksa ve aracın rapor verdiği kurum, kötüye kullanımı yapan polis teşkilatının kendisiyse, bu sadece Flock için bir incir yaprağıdır. Hesap verebilirliği sağlamanın en iyi yolu, bu teknolojinin kullanımını kısıtlayan ve kullanımı için mahkeme kararı gerektiren yasalar çıkarmaktır.'
Brennan Center'ın Özgürlük ve Ulusal Güvenlik Programı direktörü Rachel Levinson-Waldman, TechCrunch'a Denetim Desteği'ni zorunlu kılmanın doğru yönde atılmış bir adım olduğunu ve 'teorik olarak' aracın 'harika bir fikir' olduğunu söyledi. Ancak aracın pratikte nasıl çalıştığına dair yeterli bilgi olmadığı için kendisinin de 'denetlenmesi gerektiğini' sözlerine ekledi.
Flock'un bu duyuruları, müşterilerinin teknolojisini defalarca kötüye kullandığına dair yıllarca süren raporların ardından geliyor. Bu haftanın başlarında, eski Georgia şerif yardımcısı üç kişi, Bibb County Şerif Ofisi'nin basın bülteninde belirttiği üzere, 'o sırada kişisel ilişkileri olan' kişileri takip etmek için Flock kameralarını kullanmakla suçlanarak tutuklandı. Bu durumda, Bibb County şerifi David Davis, kötüye kullanımı ortaya çıkardığı için Flock'un yeni aracı Denetim Desteği'ni özellikle övdü.
