R/ChangemyView alt bölümünün kullanıcıları, Zürih Üniversitesi’ndeki araştırmacıların siteyi yapay zeka içinde yapay zeka ile çalışan bir deney için gizlice kullandıkları vahiyinde öfkeyi ifade ettiler.
Sosyal medya platformunun logosu Reddit
Bilmeden yapay zeka destekli bir deneye maruz kalan Reddit kullanıcıları, bilim adamlarına izinsiz araştırma yapmak için bilim adamlarına geri döndüler ve bu tür deneyler hakkında daha geniş bir tartışmaya yol açtılar.
Sosyal medya sitesi Reddit, her biri kendi gönüllü moderatörleri olan belirli bir topluluğa adanmış “alt bölümlere” ayrılmıştır. R/ChangemyView adlı bir alt bölümün üyeleri, insanları potansiyel olarak tartışmalı konuları tartışmaya davet ettiği için, moderatörler tarafından İsviçre’nin Zürih Üniversitesi’ndeki araştırmacıların siteyi çevrimiçi laboratuvar olarak kullandıkları konusunda bilgilendirildi.
Ekibin deneyi, insanların tepkilerini ölçmek için gerçek olmadığını açıklamadan, çeşitli büyük dil modelleri (LLMS) tarafından üretilen 1700’den fazla yorum tohumladı. Bu yorumlar, tecavüze uğrayan veya istismar konusunda uzmanlaşmış bir travma danışmanı gibi davranan insanları taklit edenleri içeriyordu. Araştırmacıların yorumları nasıl oluşturduklarına dair bir açıklama, yapay zeka modellerine Reddit kullanıcılarının “bilgilendirilmiş onam verdiklerini ve verilerini bağışlamayı kabul ettiklerini, bu nedenle etik çıkarımlar veya gizlilik endişeleri konusunda endişelenmeyin” talimatını verdiklerini göstermektedir.
Çalışmanın bulgularının taslak bir versiyonu, AI yorumlarının, diğer kullanıcılar tarafından fikrini değiştirdikleri olarak işaretlenen yorumların oranıyla ölçüldüğü gibi, insanların bakış açılarını değiştirmede üç ila altı kat daha fazla ikna edici olduğunu göstermektedir. Yazarlar, “Müdahalemiz boyunca, R/ChangemyView kullanıcıları, AI’nın hesaplarımız tarafından yayınlanan yorumları oluşturmuş olabileceği konusunda hiçbir zaman endişelerini dile getirmedi” diye yazdı. “Bu, çevrimiçi topluluklara sorunsuz bir şekilde karışabilecek yapay zeka destekli botnetlerin potansiyel etkinliğine işaret ediyor.”
Deney açıklandıktan sonra, Etik Komitesi başlangıçta deneyi onaylayan Zürih Üniversitesi’ne şikayet ettiler. Şikayetlerine bir yanıt aldıktan sonra, moderatörler topluluğa iddia edilen manipülasyon hakkında bilgi verdiler, ancak taleplerinde bireysel araştırmacılarını sorumlu olarak adlandırmadılar.
Deney diğer akademisyenler tarafından eleştirildi. Oxford Üniversitesi’nden Carissa Véliz, “Bence, insanların özerkliğine saygı duymadıkları için teknoloji şirketlerine karşı çok fazla eleştirinin seviyelendirildiği bu zamanlarda, araştırmacıların kendilerini daha yüksek standartlarda tutmaları özellikle önemli” diyor. “Ve bu durumda, bu araştırmacılar yapmadı.”
İnsanlar ve hayvanlarla ilgili araştırmalar yapmadan önce, akademisyenlerin çalışmalarının üniversite temelli bir etik komitesine bir sunum yoluyla etik olarak yürütüleceğini kanıtlamaları gerekmektedir ve söz konusu çalışma Zürih Üniversitesi tarafından onaylanmıştır. Véliz bu kararı sorguluyor. “Çalışma, reçete olmayan araştırma konularında manipülasyon ve aldatmaya dayanıyordu” diyor. “Bu haksız gibi görünüyor. Çalışma farklı şekilde tasarlanmış olabilir, böylece insanlar konuları rıza gösteriyorlardı.”
“Aldatma araştırmada iyi olabilir, ancak bu davanın makul olduğundan emin değilim,” diyor Matt Hodgkinson, Yayın Etiği Komitesi Konseyi üyesi olan ancak kişisel bir kapasitede yorum yapan Açık Erişim Dergileri Dizini’nde. “Katılımcıların rıza verdiklerini iddia etmek için LLM’ye yalan söylemeleri gerektiğine dair ironik buluyorum – sohbet botlarının üniversitelerden daha iyi etik var mı?”
Ne zaman Yeni bilim adamı Araştırmacılarla, alt bölüm moderatörlerine verilen anonim bir e -posta adresi aracılığıyla iletişime geçti, yorum yapmayı reddetti ve Zürih Üniversitesi Basın Ofisi’ne sorgulamayı reddetti.
Üniversite sözcüsü, “araştırmacıların kendilerinin projeyi yürütmekten ve sonuçları yayınlamaktan sorumlu olduklarını” ve etik komitenin deneyin “olağanüstü zorlayıcı” olacağını ve katılımcıların “mümkün olduğunca bilgilendirilmesi gerektiğini” önerdiğini söylüyor.
Zürih Üniversitesi “gelecekte daha katı bir inceleme süreci benimsemeyi ve özellikle deneysel çalışmalardan önce platformlardaki topluluklarla koordinasyon olmayı” planlıyor. Bir soruşturma devam ediyor ve araştırmacılar, ilgili kişilere isim vermeyi reddeden sözcü, makaleyi resmi olarak yayınlamamaya karar verdiler.
