Soruşturmacılara göre Carli Michelle Heller 26 Eylül'de Lee County Şerif Ofisi'ni "basıp vuracağım" diye yazdı ve ertesi gün yeni bir silahı olduğunu söyledi.
Gözaltı raporuna göre Anthropic'in güvenlik sistemleri paylaşımları işaretledi ve insan incelemeden sorumlu ekip durumu kolluk kuvvetlerine bildirdi.
Anthropic'in tüketici kullanım şartları, şirketin tek başına takdirine bağlı olarak kullanıcı girdilerini kolluk kuvvetlerine bildirme hakkı saklı tutuyor.
Florida'lı bir kadın yapay zekayı günlük gibi kullandığını söyledi. Şimdi bir suçlamayla karşı karşıya ve onu oraya gönderen okuyucu, göstermek istemediği biri.
Bonita Springs'ten Carli Michelle Heller, yerel WINK News'e göre 26 Eylül'de Lee County Şerif Ofisi'ni "vuracağım" diye yazdığı tespit edilmesinin ardından tutuklandı. Soruşturmaya göre Claude hesabındaki konuşmalarda ertesi güne kadar yeni bir silah edindiğini söylediği görüldü.
Gözaltı raporu, Anthropic platformunun anahtar ifadeleri ve tehdit içeren içerikleri izlediğini belirtiyor. İfadelerin ciddiyeti nedeniyle konu insan inceleme ekibine gitti ve ekip durumu kolluk kuvvetlerine bildirdi.
Memurlar Heller'ı tespit etti, evine gitti ve olaysız şekilde gözaltına aldı. Yazılı şiddet tehdidi oluşturmak suçlamasıyla karşı karşıya.
Anthropic'in belgeleri bunu gizlemiyor. Tüketici şartları, şirketin "tek başına takdirine" bağlı olarak kullanıcı girdilerini, çıktılarını veya eylemlerini kolluk kuvvetlerine bildirme hakkını saklı tutuyor. 10 Eylül 2026 tarihinden itibaren geçerli gizlilik politikası da şirketin ciddi zararı önlemek için ifşanın makul şekilde gerekli olduğuna iyi niyetle inanması halinde verilerin polisle paylaşılmasına izin veriyor.
Etkin olarak, verilerin model eğitimi için kullanılmasını reddetmek bile Anthropic'e verileri beş yıl yerine üç ay kullanma hakkı veriyor; böylece sohbetler asla özel olmuyor.
Aynı politika, güvenlik incelemesi için işaretlenen konuşmaların Anthropic'in zararlı içerik tespit etme yeteneğini geliştirmek için kullanıldığını söylüyor. İşaretlenen bir günlük girişi, dedektörler için eğitim materyali haline gelebilir.
Heller ilk değil. San Francisco Standard, eylülde Anthropic'in bir kullanıcıyı polise bildirdiğini yazdı; kullanıcı AR-15 satın aldığını ve CEO Dario Amodei'yi nişan aldığı iddiasıyla yazmış. Bir çalışan, güvenlik konusunda derhal endişeli olmadığını söyledi ve şirket politikasını gerekçe göstererek mesajları göstermeyi reddetti.
Kullanıcı Standard'a şakalaştığını söyledi ve haber çıktığında tutuklanmamış ya da suçlanmamıştı. Anthropic sözcüsü olayı "güvenlik önlemlerimizin amaçlandığı gibi çalışması" olarak nitelendirdi. Şirket, kendi çalışanlarına yönelik tehditleri farklı mı değerlendirdiği sorusuna yanıt vermedi.
Bu sadece Anthropic sorunu değil. Sekiz kişinin öldüğü Britanya Kolumbiyası'ndaki Tumbler Ridge'deki Şubat ayındaki okul saldırısından sonra OpenAI, Haziran 2025'te Kanada polisini uyarmayı değerlendirdiğini ancak hesabın ciddi fiziksel zarara yönelik yakın ve güvenilir bir risk göstermediği sonucuna vardığını söyledi.
OpenAI'nin Ağustos 2025 tarihli politika yazısı, başkalarına yönelik tehditleri insan denetçilere yönlendiriyor ve bunların kolluk kuvvetlerine havale edilebileceğini belirtiyor.
Heller'ın duruşması Kasım ayında planlandı.
