Google Earth, kullanıcıların metin komutlarıyla uydu ve 3D görüntüleri değiştirmesine olanak tanıyan yeni bir yapay zeka özelliği ekledi. Ancak bu özellik, yanlış bilgi yaymak için kullanılabilecek gerçekçi sahte görüntüler oluşturma riski taşıyor. Dijital Dedektiflik'ten Henk van Ess, Meksika sınırındaki mülteciler ve İran'daki bir nükleer santral gibi yanıltıcı görüntüler üreterek bu riski gözler önüne serdi.
Google Earth, uydu, hava ve 3D görüntülerini kullanarak gerçekliği büken görüntüler oluşturmayı mümkün kılan yeni bir özellik ekledi. Artık bir metin komutuyla, Dijital Dedektiflik'ten Henk van Ess'in oluşturduğu gibi, 'Meksika sınırındaki mülteciler' veya İran'daki bir nükleer santral gibi görüntüler üretmek mümkün. NPR, aracın İran'ın Kharg Adası'nı alevler içinde ve sular altında kalmış bir ABD Kongre Binası'nı gösterebildiğini belirtti; bunların her ikisi de gerçek olsaydı büyük haber olurdu. Teknoloji sitesi 404 Media ise aracın Los Angeles'ta bir bomba krateri ve Google'ın Mountain View kampüsü dışında protestocular oluşturabildiğini gösterdi.
Google, Dijital Dedektiflik'in yapay zeka ile değiştirilmiş görüntülerine yanıt olarak şu açıklamayı yaptı: 'Yanlış bilgiyi ciddiye alıyoruz – Google Earth'te Nano Banana ile oluşturulan her görüntü, SynthID dijital filigranını içeriyor. Bu nedenle bir görüntüden emin olmayanlar, Gemini uygulamasına sorabilir veya görüntünün yapay zeka tarafından oluşturulup oluşturulmadığını görmek için Arama'da Lens'i kullanabilir.' Ars Technica'nın testleri, SynthID filigranının yoğun düzenlemelere ve veri kaybına rağmen korunabildiğini, ancak günlük kontrol sayısını yaklaşık 10 ile sınırladığını ortaya koydu. Ars, özellik kaldırılmadan önce Gemini üzerinden yaptığı testlerde yapay zeka ile değiştirilmiş görüntüdeki filigranı başarıyla tespit etti. Ancak Van Ess, Google'ın zararlı konularda görüntü oluşturulmasını engelleyen politikalarının, neden kendisinin Gazze'de bomba krateri olan bir hastane görüntüsü üretmesini engellemediğini sorguladı ve yalnızca Google'ın araçlarına güvenmenin şüpheli olduğunu vurguladı. Van Ess, şüpheli görüntüleri kontrol etmek için Google'ın Gemini'deki '@verifyai' etiketini kullanmanın yanı sıra, Sentinel-2 veya Landsat gibi diğer uydu platformlarıyla karşılaştırmayı ve hatta çekildiği söylenen yörünge verilerini doğrulamayı öneriyor.
Özellik, bu hafta başında Google Earth'ün web sürümünde küresel olarak kullanıma sunuldu. Google'ın blog yazısı, bu özelliği tarihi yerleri ve gayrimenkul projelerini görselleştirmek için bir araç olarak tanıtıyor. Ancak eleştirmenler, aracın yanlış bilgi oluşturmak ve yaymak için kullanılabileceğine hızla dikkat çekti. BBC'den bir gazeteci, 'Google Earth'teki bu yeni yapay zeka görüntü oluşturma özelliğinin, gazeteciler ve araştırmacılar için en güvenilir görsel kanıt kaynaklarından birinin çevrimiçi yanlış bilgi yaymak için kötüye kullanılması mümkün değil' diyerek alaycı bir şekilde paylaşım yaptı. Bellingcat araştırmacısı Jake Godin, tek tıklamayla görüntü oluşturmanın sahtelerin üretimini kolaylaştıracağı ve yayılmalarını hızlandıracağı konusunda uyararak, yanlış bilginin herhangi bir düzeltmeden daha hızlı yayıldığını ve hükümetlerin artık gerçek görüntüleri sahte olarak reddedebileceğini ekledi. Bazı görüntülerin sahte olduğunu anlamak kolay; örneğin Sfenks'in Özgürlük Heykeli ile birleştirilmesi gibi. Ancak Nano Banana 2 özelliğinin, yanlış bilgi yaymak için yeterince inandırıcı görüntüler oluşturabileceğini görebiliyorum. Google'ın filigranını kaldırmak zor olsa da, gözden kaçırmak veya atlatmak imkansız değil – Dijital Dedektiflik, Google Earth'ten yapay zeka ile değiştirilmiş bir videoyla Hive'ın yapay zeka dedektörünü kandırmayı başardı. Van Ess, testlerinde 'Hiçbir şey reddedilmedi, hiçbir şey yumuşatılmadı ve farklı bir komut denemem önerilmedi' diyerek özelliğin denetim eksikliğine dikkat çekti.
Sahte görüntülerin dijital ortamda nasıl yayıldığına dikkat çeken Van Ess, 'Sahteler, kimlik bilgileri sağlam olarak temiz dosyalar halinde dolaşmaz. Ekran kayıtları, yeniden kodlamalar, ekran görüntülerinin ekran görüntüleri veya birinin telefonundan aceleyle çekilmiş fotoğraflar olarak yayılırlar' ifadelerini kulladı. Nitekim bu durum pratikte de doğrulandı; Google Earth özelliği kullanılarak oluşturulan yapay zeka destekli bir görüntünün akıllı telefon kamerasıyla fotoğrafı çekildiğinde, SynthID'nin herhangi bir doğrulama sağlayamadığı ve filigranı okuyamadığı görüldü.
Özelliğin piyasaya sürülmesinden sadece bir gün sonra Google, tepkiler üzerine bu özelliği geri çekti. Şirket yaptığı açıklamada, 'İnsanların Google Earth'e dünyanın güvenilir bir görünümü için güvendiğini biliyoruz. Coğrafi uzmanların bu özelliği çeşitli yararlı amaçlar için kullandığını gördük, ancak politikalarımızı ihlal eden oluşturulmuş görüntülerin ekran görüntülerini paylaşan insanlar da gördük. Daha güçlü güvenlik önlemleri uygularken Google Earth'teki bu özelliği geri alıyoruz. Oluşturulan görüntülerin ana Google Earth deneyiminde başkaları tarafından görülmediğini ve yapay zeka tarafından oluşturuldu olarak filigranlandığını belirtmek önemlidir' ifadelerini kullandı. Google, özelliği daha güçlü korumalar uygulayana kadar yeniden etkinleştirmeyeceğini ancak bunun için bir zaman çizelgesi vermediğini duyurdu.
