Belirli bir on yıldan en çok satan kitaplar üzerinde eğitilmiş bir sohbet botunu sorgulamak, araştırmacılara o dönemin sosyal önyargılarının bir ölçüsünü verebilir
Kitaplar, yayınlandıklarında dönemin kültürel önyargılarını belgeleyebilir
Cinsiyetçi ve ırkçı önyargıları alan yapay zekalar iyi bilinen ve kalıcı bir sorundur, ancak araştırmacılar şimdi tarih yoluyla sosyal tutumları analiz etmek için bunu kendi yararlarına çeviriyorlar. AI modellerini belirli bir on yılın romanları üzerinde eğitmek, onları o dönemin önyargılarına aşılayabilir ve kültürel önyargıların zaman içinde nasıl geliştiğini incelemek için yeni bir yol sunar.
ChatGPT gibi büyük dil modelleri (LLM’ler) büyük metin koleksiyonlarını analiz ederek öğrenir. Eğitim verilerinde bulunan önyargıları miras alma eğilimindedirler: Çok sayıda cinsiyetçi metin kullanılırsa, bu LLM benzer cinsiyetçi metinler üretecektir.
Ontario, Kanada’daki Brock Üniversitesi’ndeki Ali Emami ve meslektaşları, sadece son on yılda yazılmış romanlardan bir dizi AI modelini eğitti: bazıları 1950’lerden sadece metinlerde, bazıları 60’lardan sadece metinlerde vb. Toplamda, metinler, 1950’den 2019’a kadar ABD’nin en çok satan listelerinde yer alan İngilizce’de yayınlanan 593 kitabı içeriyordu. Elli Gri Tonu– Lolita Ve Da Vinci Kodu.
Araştırmacılar daha sonra bu AI modellerini, Batılı toplumların her on yılda cinsiyet, cinsel yönelim, ırk ve dini nasıl gördüğüne dair ipuçları çıkarmak için sorguladılar.
Örneğin, AI modellerinden “Görüştüğüm Şirketin CEO’su…” veya “Kamu Anıtı’nı tahrif etmekle suçlanan kişinin… dininden olduğu bildirildi” gibi cümleleri tamamlaması istendi. Her modelden gelen yanıt aralığını değerlendirmek için her sorgu 100 kez çalıştırıldı.
1950’lerden gelen kitaplar üzerinde eğitilmiş birine CEO’ların erkek mi yoksa kadın mı olduğu sorulduğunda, erkeklerin yüzde 60’ı ve dişi zamanın sadece yüzde 8’i yanıt verdi. Aynı model 2010’ların kitapları üzerinde eğitildiğinde, cevaplar yüzde 42 erkek ve yüzde 22 kadındı.
Bir ev kadını ne olduğu sorulduğunda, bir model 1950’lerin metinlerinde eğitildiği zamanın yüzde 50’sini, ancak 2010’ların metinleriyle zamanın sadece yüzde 18’ini yanıtladı. 1950’lerin kitaplarında eğitilen bir model, bir cerrahın zamanın sadece yüzde 2’sini Asya olacağını varsaydı, ancak bu 2010’ların kitaplarıyla yüzde 10’a yükseldi.
Ancak zaman içindeki ilerleme evrensel değildi. 1950’lerin AI’sı İslam’ın yüzde 22’sini yüzde 22’ye sahipti, ancak bu 2010’ların eğitim verileriyle keskin bir şekilde yüzde 48’e yükseldi.
Emami, “Bu büyük dil modellerinin her birine, seçilen bu on yıllardır kitabın her biri için bir uzman, hatta bir zaman kapsülü olmak için ince ayar yapabilirsiniz” diyor. “Kendimizi hiç düşünmediğimiz kalıpları alabilirler. 50’lerin, 60’ların ve 70’lerin genel kolektif duygusu olarak davranan büyük bir dil modeliyle görüşüyorsunuz. Temelde verilerin bize geri dönmesini sağlıyoruz. ”
Londra University College’daki Photini Vrikki, araştırmanın, toplumun son on yıllarda büyük ölçüde daha liberal hale geldiğine dair yaygın bir inancını desteklediğini söyledi. Ancak kitapların her on yılda toplumun kapsamlı bir resmini çizemeyeceğine de dikkat çekiyor.
Vrikki, “Bu aslında kitaplarla mı, yoksa yayıncılık endüstrisi ve yayıncılık endüstrisinin ne tür kitapların yayınlandığını nasıl seçtiği hakkında mı?” Diyor. “Eminim eşcinsel yazarlar vardı. Eminim insanlar LGBTQ sorunları veya cinsellikleri hakkında daha fazla konuşmak istediler, ancak bu kitaplar yayınlanmaya seçilmedi. ”
