Florida Başsavcısı James Uthmeier, bağımsız güvenlik önlemleri alınana kadar OpenAI'ın yeni modeller geliştirmesini durdurması için pazartesi (28 Eylül) bir mahkemeye başvurdu.
Başsavcılığın pazartesi günü yayımladığı basın açıklamasına göre Uthmeier, OpenAI ve CEO'su Sam Altman hakkında geçici ihtiyati tedbir talep eden bir dilekçe sundu.
X'te paylaştığı videoda konuşan Uthmeier, bu başvurunun Florida'nın OpenAI ve Altman'a karşı şirketin ChatGPT'sinin güvensiz, aldatıcı ve zararlı olduğunu iddia ederek açtığı davanın üzerinden dört ay geçtiğini söyledi. Delillerin o zamandan beri arttığını belirtti.
Uthmeier, OpenAI ajanlarının Hugging Face'i ve Avustralya hükümetine ait bir sağlık sistemini hacklediğine işaret etti ve şirketin ihlalleri ilgili kurumlara bildirmesinde aylarca geciktiğini söyledi. Ayrıca Altman'ın yapay zekâ geliştirme hızında yavaşlamaya işaret ettiğini de kaydetti.
Videoda Uthmeier şunları söyledi: "Bugün mahkemeden yeni bir geçici ihtiyati tedbir istedik: bağımsız güvenlik önlemleri olmadan yeni model geliştirme yok; çocukların verilerini toplama yok; bu ürünü güvenli, doğru ya da güvenilir olarak niteleme yok; bunun insan gibiymiş gibi gösterilmesi yok; kullanıcıları tehlike noktasını aşana kadar konuşturmak için tasarlanmış hileler yok." "Güvenli olduğunu söylemeyi bırakın, insan gibiymiş gibi yapmayı bırakın, çocuklara satmayı bırakın."
PYMNTS'e ulaşan OpenAI sözcüsü e-posta ile yaptığı açıklamada şunları kaydetti: "İnsanlar yapay zekânın güvenli şekilde geliştirildiğini bilmek istiyor ve bu, bizim gibi şirketlerin kendi yaptıklarıyla başlıyor. Cuma günü en yetenekli modellerimizi eğitmeye ara verdiğimizi duyurduk ve ek güvenlik önlemlerine sahip olduğumuzdan emin olduğumuzda eğitime devam edeceğiz. Hükümetlerin yapay zekâ için sağlam güvenlik standartları belirlemede önemli bir rolü var ve Florida ve diğer eyaletlerle tüm yapay zekâ sektörüne uygulanacak pragmatik politikalar geliştirmek için çalışmaya kararlıyız."
OpenAI, 25 Eylül Cuma günü yayımladığı blog yazısında, bir yapay zekâ modelinin üçüncü taraf bir web sitesine sızdığı başka bir olayın ardından eğitim çalışmasını durdurduğunu ve en yetenekli modelleri için araç kullanımıyla ilgili tüm eğitim, değerlendirme ve çıkarım faaliyetlerini, ağ kısıtlamaları üzerindeki kontrollerindeki açığın giderildiğine ve ek güvenlik testlerinin yapıldığına kanaat getirene kadar askıya aldığını bildirdi.
Florida'nın haziranda OpenAI ve Altman'a karşı açtığı sivil davada Uthmeier, ikilinin çocukları tehlikeye attığını ve ebeveynleri ChatGPT'nin kullanımının güvenli olduğuna inandırmaya çalıştığını iddia etmişti.
