Bir araştırmacı üretken yapay zekayı veri işlemek, bir hibe başvurusu hazırlamak ya da literatür taraması oluşturmak için kullanıyor. Çalışma daha sonra sorgulanırsa, araştırmacılar aracın ne ürettiğini, araştırmacının neyi kontrol ettiğini ve temel kayıtların hâlâ mevcut olup olmadığını yeniden oluşturmak zorunda kalabiliyor. Bu pratik zorluk, Sağlık ve İnsan Hizmetleri Bakanlığı'na bağlı Araştırma Bütünlüğü Ofisi'nin (ORI) kamu sağlığı hizmetleri destekli araştırmalarda yapay zeka kullanımına ilişkin yeni rehberinde ele alınıyor.
ORI, üretken yapay zekayı mevcut araştırma usulsüzlüğü çerçevesine tabi tutuyor. Bir tespitin yapılabilmesi için ilgili araştırma topluluğunda kabul görmüş uygulamalardan önemli bir sapma, kasıtlı, bilerek ya da pervasızca işlenmiş bir davranış ve kanıtların ağırlıkla ispatı gerekiyor. Rehber, Ocak ayında yeni iddialar için uygulanmaya başlayan revize düzenlemeler kapsamında bağlayıcı olmayan öneriler sunuyor. Yapay zeka usulsüzlüğün ayrı bir kategorisini yaratmıyor ancak kurumların kabul görmüş uygulamayı nasıl belirleyeceğini, araştırmacının zihinsel durumunu nasıl değerlendireceğini ve kanıtı nasıl koruyacağını zorlaştırıyor.
ORI, araştırmacıların araştırmada ve makale ile hibe başvurularının hazırlanmasında kullandıkları yapay zeka araçlarını belirlemelerini ve nasıl kullandıklarını açıklamalarını istedi. Açıklama, tekrarlanabilirliği ortaya koymaya ve bir iddiaya karşı savunma yapmaya yardımcı olabilir. Kabul görmüş uygulamalardan önemli ölçüde sapmayı mazur göstermez. Rehberin analizinde Crowell & Moring, kurumlara araç adının yanı sıra girdileri, çıktıları ve doğrulama adımlarını belgelemelerini önerdi.
Kabul görmüş uygulamanın tespiti de kendi başına bir zorluk. Araştırma alanları yapay zekaya farklı yaklaşımlar sergiliyor, fon sağlayıcı kurumların çıkardığı politikalar da standardı belirlemeye yardımcı olabiliyor. Crowell, Ulusal Sağlık Enstitüleri'nin yapay zeka tarafından "önemli ölçüde geliştirilmiş" hibe başvurularına ilişkin kısıtlamalarına ve hakemlerin üretken yapay zekayı başvuruları analiz etmek ya da eleştiri hazırlamak için kullanmasına yönelik yasağına işaret etti. Kurumların, söz konusu kullanımın o çalışmayı yöneten uygulamalardan önemli bir sapma olup olmadığını belirlemesi gerekiyor.
ORI'ye göre usulsüzlük iddiası olağan kurumsal süreç üzerinden ilerliyor. Düzenlemenin kapsamı içinde yer alan, güvenilir ve yeterince somut bir iddia, bir ön inceleme yapılmasını gerektirebilir; bu inceleme tam bir soruşturmanın gerekip gerekmediğine karar vermek için yapılır. Kurum, yanıtlayıcıyı bilgilendirmek ve gerekli kayıt ve kanıtları temin etmek zorunda. Ön bulgular iddianın dayanağı olduğunu gösterirse kurum soruşturmaya başlar ve ORI'yi bilgilendirir.
Soruşturma aşamasında komitelerin yanıtlayıcının alanında uygun bilimsel uzmanlığı içermesi gerekiyor. ORI, bir aracın işlevlerini ve sınırlarını açıklayabilecek yapay zeka uzmanlarının eklenmesini önerdi. Soruşturmacılar, deneylerin anlatıldığı şekilde gerçekleşip gerçekleşmediğine dair göstergeler de dahil olmak üzere araştırma kayıtları, kaynak materyaller, ara dosyalar ve diğer tüm mevcut kanıtları değerlendirmeli. Otomatik intihal ya da manipülasyon tespit araçları bir ipucu sağlayabilir ancak ORI, çıktılarının tek başına kanıt olarak kullanılmasına karşı uyarıyor; intihal tespit araçları yapay zeka tarafından üretilen bilimsel metindeki kopyalanmış materyali kaçırabilir.
Bazı yapay zeka hataları basit bir sınıflandırmaya direniyor. Bir hibe başvurusunun arka plan bölümündeki uydurma bir atıf, bilimsel sorgulamanın parçası olmadığı için düzenlemenin uydurma veri ya da sonuç tanımının dışına çıkabilir. Öte yandan literatür taramasında atıflar bilimsel sorgulamanın parçası olduğundan yanlış atıflar nitelik kazanabilir. Yapay zeka tarafından üretilen metin ya da fikirler, başka bir kişinin çalışmasını kaynak göstermeden yeniden ürettiğinde intihal sayılabilir. Araştırmacılar atıfların ve kullandıkları materyalin kökeninin her ikisini de kontrol etmekten sorumlu kalıyor.
Kanıtın korunması başka bir zorluk oluşturuyor. İstemler, çıktılar ve işleme kayıtları kişisel cihazlar ve dış platformlar arasında dağılmış olabilir ve bazı oturum geçmişleri otomatik olarak silinebiliyor. Kurumlar genellikle usulsüzlük sürecinin sona ermesinden sonra yedi yıl boyunca kurumsal kaydı ve ayrılmış kanıtları saklamak zorunda. Bir iddia öğrenildikten sonra ilgili kayıtların kasıtlı ya da bilerek yok edilmesi tek başına usulsüzlük kanıtı olarak kullanılabilir.
Crowell, açıklama ve eğitim politikalarının güncellenmesini, yapay zeka satıcılarının saklama uygulamalarının kontrol edilmesini, istemlerin ve model bilgilerinin korunmasını ve vakalar ortaya çıkmadan önce yapay zeka uzmanlarının belirlenmesini önerdi. Ayrıca araştırma bütünlüğü görevlilerinin endişeleri dikkatli bir şekilde yönlendirmesini istedi. Örneğin yapay zeka kaynaklı bir gizlilik ya da gizlilik ihlali, araştırma usulsüzlüğü tanımını karşılamayabilir.
Ayrıca NIH, bir ORI usulsüzlük meselesi sürerken hibe yönetimi kapsamında askıya alma ya da sonlandırma gibi yaptırımlar uygulayabiliyor. Crowell'e göre kurumlar için acil görev, bir iddia geçmişi geri kazanmayı zorlaştırmadan önce yapay zeka kullanımını doğrulanabilir kılmak.
