Eylül başlarında iki genç Waymo'ya bindi, ardından kendilerini polis arabasının arkasında buldu. Robotaksi şirketi Los Angeles Times'a göre hizmet şartlarını ihlal eden bir ateşli silah vakası tespit ettiğini, aracı durdurduğunu ve acil servisi uyardığını söyledi. Polis, araçta yüklü bir AR tarzı "hayalet silah" bulunduğu iddiasıyla yolcuları gözaltına aldı.
Gözaltılar, gizlilik ve otonom araçlar hakkında yanıtlanmamış pek çok soruyu ortaya çıkardı. Araçların ne kaydettiği, görüntülerin ne şekilde kullanıldığı ve yolcuların araç içinde ne kadar gizlilik bekleyebileceği bu sorular arasında yer alıyor.
Waymo'nun kamera donanımlı araçları daha önce de gizlilik ve gözetim tartışmasına konu oldu. Bloomberg'e göre kolluk kuvvetleri zaman zaman araçların kaydettiği görüntüleri elde etmek için arama kararı aldı. Geçen yıl LAPD, yakınlardaki bir Waymo aracının kaydettiği bir çarp-kaç olayının görüntüsüne ulaştı. Los Angeles'taki anti-ICE protestoları sırasında beş Waymo kundaklandı ve tahrip edildi; araçların protestocuların görüntülerini kanıt olarak kullanılıp kullanılmayacağı sorusu gündeme geldi. Waymo, kolluk kuvvetlerinden gelen talep sayısını ve bunlara ne sıklıkla uyduğunu kamuoyuna açıklamıyor.
Bu endişeler, polis ekiplerine araçları bölgesel olarak takip etme imkanı veren Flock'un otomatik plaka okuyucu ağına yönelik tepkileri yansıtıyor ve hükümet gözetimi ile kötüye kullanım korkularını artırıyor. Sabit Flock kameralarının aksine Waymo'lar şehirlerde hem dışarıda hem de araç içinde kameralar taşıyarak hareket ediyor.
Bu ay gözaltına alınan gençlerin yaşadığı olay endişeleri bir adım daha ileri taşıyor. Polis, suç işlendikten sonra görüntüleri elde etmek için Waymo'ya başvurmadı. Waymo, araç içindeki bir durumu kendi tespit etti ve polis müdahalesini kendisi başlattı.
Waymo sözcüsü Julia Ilina The Verge'e gönderdiği e-postada şirketin iç kameraları hizmet şartlarını uygulamaya yardımcı olmak için kullandığını, yasaklı eşya ve davranışları tespit ettiğini söyledi. Şirketin olası ihlalleri, araç içinde ateşli silah bulunması gibi durumları belirlemek için otomatik teknolojiden yararlandığını belirtti. "Waymo araç içinde bir ateşli silah tespit ederse yerel kolluk kuvvetleriyle iletişime geçebilir" diye ekledi.
Waymo, otomatik sisteminin bir şeyin ateşli silah olabileceğini nasıl belirlediği, bir uyarı için ne kadar güvene ihtiyaç duyduğu, otomatik bir uyarı ile polise yapılan çağrı arasında insanların oynadığı rolün ne olduğu ya da hizmet şartlarının hangi diğer ihlallerinin polis müdahalesini tetikleyebileceği konularını açıklamadı. Bu önemli eksiklikler. Bu bir insan taksi şoförünün 911'i araması değildi. Kameralar ve yapay zeka beyni ile donatılmış sürücüsüz bir araç, yolcularını ilgilendiren bir durumu polise bildirdi.
Otonom araç şirketi Zoox'un eski mühendisi ve AV-güvenlik sivil toplumu kuruluşu SAVE-US'un teknik danışmanı Bob Somers, Waymo sisteminin potansiyel olarak tehlikeli bir dizi silah ve davranış aramasını beklediğini söyledi. Yazılımın ateşli silah gördüğünden kesin olarak emin olmasına gerek olmayabilir. Somers'e göre sistem, bir şeye benzeyen bir şeyi daha ileri inceleme için işaretleyebilir.
"Belli bir nesne grubu tespit edilirse, olan biteni görmek için muhtemelen uzaktan bir operatör devreye girer" dedi Somers.
Carnegie Mellon Üniversitesi emekli profesörü ve otonom araç güvenliği araştırmacısı Phil Koopman, bilgisayarlı görü sistemlerinin nesneleri ve potansiyel olarak tehlikeli durumları tanımak üzere eğitilebileceğini söyledi.
"Belli bir nesne grubu tespit edilirse, olan biteni görmek için muhtemelen uzaktan bir operatör devreye girer." - Bob Somers
"Bir bilgisayarı yola bakıp nasıl süreceğine karar verecek şekilde eğitebiliyorsan, birinin silah tuttuğuna karar verecek şekilde de eğitebilirsin" diyen Koopman, ekledi, bu sistemlerin "asla yüzde yüz doğru olmadığı".
İşte insan incelemesi sorusu önem kazanıyor.
Bir yolcu bir şey tutarken gören insan bir taksi şoförünün bağlamı vardır. Şoför yolculuğun tamamında araçtadır. Yolcuların ne söylediğini duyabilir, sorular sorabilir. Nesnenin gerçek bir silah mı, oyuncak mı yoksa başka bir şey mi olduğuna karar verebilir. Temmuz ayında Waymo, iki genci araçtan su boncuklu oyuncak tabanca ile ateş ettikleri ve reşit olmayanların içki içtiği gerekçesiyle polise bildirdi. Gençlerin sonuçta herhangi bir suçlamayla karşılaşıp karşılaşmadığı net değildi.
İşaretlenen bir anı incelemek üzere getirilen bir uzaktan çalışan, insan bir şoförün yaşayacağı gibi tüm yolculuğun deneyimine sahip olmayabilir. Waymo, iç mikrofonların genellikle Yolcu Desteği ile yapılan görüşmeler sırasında ya da yolcuların etkinleştirmesi halinde aktif olduğunu belirtiyor; bu da bir inceleme yapan kişinin işaretlenen andan önce olanları duyamayabileceği anlamına geliyor. Yılın başı itibarıyla Waymo'nun ABD ve Filipinler'de vardiya başına yaklaşık 70 "uzaktan destek temsilcisi" bulunuyor ve bu kişiler "Waymo Sürücüsüne tavsiye ve destek sağlıyor ancak aracı doğrudan kontrol etmiyor, yönlendirmiyor ya da kullanmıyor". Waymo, araç içindeki olası ihlalleri inceleyen kişilerin bu temsilciler arasında olup olmadığını açıklamadı.
"Waymo'nun tehlikeli bir şey konusunda polisi uyarması halinde doğru yapması çok önemli" diyen Koopman, yanlış alarmın robotaksilere duyulan güveni zedelemenin ötesinde, polis karşılaşması sırasında yolcuları riske atabileceğini söyledi.
Ardından Waymo'nun yolculara ne beklemesi gerektiğini söylediği sorusu geliyor. Ön koltukta bir sürücü olmadığında robotaksiler gerçekte olduklarından daha özel hissedilebilir. 2023'te San Francisco Standard, Cruise robotaksilerinde kameralara rağmen ilişkiye girdiklerini ya da cinsel ilişkiye girdiklerini söyleyen dört kişiyle konuştu. Yayın, Waymo'da böyle bir şey yapan birini bulamadı ancak bu vakalar yolcuların insan sürücünün yokluğunu tanık yokluğu ile kolayca karıştırabileceğini gösteriyor.
Waymo'nun hizmet şartları yolcuların geçerli yasalara uymasını gerektiriyor ve tehlikeli bir durum yaratmayı, "silah taşımayı ya da silahı andıran bir şeyi, örneğin oyuncak tabancayı" taşımayı ya da uyuşturucu kullanmayı yasaklıyor. San Francisco'da tek başına binmek için en az 18 yaşında olmak gerekiyor. Bu ay gözaltına alınan iki yolcunun yaş ve silah kısıtlamalarını ihlal ettiği iddia ediliyor.
Şartlar, Waymo'nun kural ihlali olduğuna inandığı bir yolcunun erişimini askıya alabileceğini ya da sonlandırabileceğini söylüyor. Yılın başlarında Waymo, üç çocuğun araçtan dışarı sarkıp selfie çektikleri bir yolculuğun rezervasyonunda kullanılan hesabı askıya aldı. Ancak şirket, araç içinde gördükleri doğrultusunda polise başvurabileceğini yolculara açıkça bildirmiyor.
"Waymo'nun tehlikeli bir şey konusunda polisi uyarması halinde doğru yapması çok önemli." - Phil Koopman
Waymo'nun kamuoyuna açık kamera politikası, iç kameraların "araç içi kurallara uyulup uyulmadığının kontrol edilmesi" ve "güvenlik ve güvenliğin sağlanması" için kullanılabileceğini söylüyor. Politika, bir sorun şirketin dikkatine sunulduktan sonra Waymo Desteği'nin kaydedilmiş videoyu inceleyebileceğini ve acil durumlarda bir yolculuk sırasında canlı videoya erişebileceğini belirtiyor.
Politika ayrıca Waymo'nun yasal gerekliliklere uymak, anlaşmaları uygulamak ya da yolcuların ve diğerlerinin güvenliğini korumak için gerektiğinde kolluk kuvvetleriyle belirli verileri paylaşabileceğini söylüyor. Ancak araç içindeki otomatik izlemenin Waymo'nun kendisinin polisi aramasını tetikleyebileceğini açıkça belirtmiyor.
Electronic Frontier Foundation'da eyalet işleri direktörü Hayley Tsukayama, Waymo'nun kamu politikalarını "çok geniş" olarak nitelendirdi. Yolcuların "güvenlik ve güvenlik" gibi ifadelerden davranışlarının polis müdahalesiyle sonuçlanabileceği sonucunu çıkarmak zorunda kalmamalı; Tsukayama'ya göre Waymo bu olasılığı yolcular araçtan inmeye başlamadan önce açıkça açıklamalı.
"Binişlerde yasa dışı davranışları onaylamıyorum" dedi, ancak "yetkililerle paylaşacaklarsa bunun politika içinde açıkça belirtilmesi gerekir". Tsukayama'ya göre mevcut durumda bu durum "tüketicilerin beklentilerinin dışında".
Yine de robotaksilerin kendisi normların dışında. Yaygınlaştıkça yolcuların araç içinde neler olacağı konusunda yeni bir beklenti seti geliştirmesi gerekebilir. Bir insan sürücü aracında olup bitenlere nasıl yanıt vereceğine karar verebilir. Bir robotakside kameralar ve yazılım araç içinde olanları işaretleyebilir, uzaktan çalışanlar devreye girebilir ve araç polis çağrılırken kenara çekilebilir.
Waymo'nun sistemi bu olayda polisin yasa dışı bir ateşli silahı geri almasına yardımcı olmuş olabilir. Ancak olay aynı zamanda bir robotaksinin ne tür bir alan olduğu sorusunu da gündeme getiriyor: güvenlik için kameralı bir yolculuk, sürekli izlenen bir alan ya da kendi yolcularını arayan bir sistem.
Bu soru şimdiden kurguda da görünmeye başladı. Robotaksiler, sürücüsüz bir aracın insanlara karşı döndüğü Road Rage adlı yaklaşan kısa filmde kötü karakter olarak çıkış yapıyor. Filmin en rahatsız edici fikirlerinden biri bir robotaksinin ulaşım aracı olmaktan çıkıp kolluk kuvveti gibi davranması. Bu ay bunun nasıl görünebileceğine dair bir bakış sundu.
