Simüle edilmiş bir sosyal medya platformunda etkileşime giren AI chatbots’u içeren deneyler, antagonistik kullanıcı davranışını tasarlama çabalarının başarılı olmayacağını önermektedir.
Sosyal medyanın sorunları çözülebilir mi?
Sosyal medyanın polarize edici etkisi sadece kötü algoritmaların sonucu değildir, AI tarafından üretilen kullanıcılarla yapılan bir çalışma, platformların nasıl çalıştığının temel bileşenleri nedeniyle kaçınılmazdır. Çevrimiçi iletişim dünyasını temelden yeniden tasarlamadığımız sürece sorunun çözülmeyeceğini gösteriyor.
Petter Törnberg, Hollanda’daki Amsterdam Üniversitesi’nde ve meslektaşları, Amerikan Ulusal Seçim Araştırmaları Araştırmasına dayanarak ABD’de bir dizi siyasi inançları taklit etmek için tasarlanmış 500 AI Chatbot kurdu. GPT-4O mini büyük dil modeli tarafından desteklenen bu botlara, araştırmacıların reklam veya algoritma olmadan tasarladığı basit bir sosyal ağda birbirleriyle etkileşime girmesi talimatı verildi.
Her biri 10.000 eylem içeren deneyin beş çalışması sırasında, AI ajanları siyasi ilişkileri paylaştıkları insanları takip etme eğilimindeyken, daha fazla partizan görüşüne sahip olanlar daha fazla takipçi ve yeniden yayınlandı. Bu, daha fazla partizan posterlere yönelen kullanıcılara yönelik genel dikkati yineledi.
Önceki bir çalışmada, Törnberg ve meslektaşları, farklı algoritmalara sahip simüle edilmiş sosyal ağların siyasi kutuplaşmayı engelleme yollarını belirleyip tanımlayamayacağını araştırdılar – ancak yeni araştırmalar önceki bulgularıyla çelişiyor gibi görünüyor.
Törnberg, “Bunun (polarizasyon) algoritmalar tarafından yönlendirilen bir şey olmasını bekliyorduk” diyor. “Platformların bunun için tasarlandığını – bu sonuçları üretmek için – çünkü etkileşimi en üst düzeye çıkarmak ve sizi kızdırmak için tasarlandıklarını düşündük.”
Bunun yerine, soruna neden gibi görünen algoritmaların kendileri olmadığını buldular, bu da tasarımla antagonistik kullanıcı davranışını çok zorlaştırmaya çalışabilir. “Hayal edebileceğimiz en basit platformu kurduk ve sonra patlama, zaten bu sonuçlara sahibiz” diyor. “Bu, bunun zaten davranış gönderme, yeniden yayınlama ve takip etmemiz için çok temel bir şeyden kaynaklandığını gösteriyor.”
Bu davranışların sessiz mi yoksa karşı mı olabileceğini görmek için araştırmacılar, sadece kronolojik bir yem de dahil olmak üzere altı potansiyel çözümü test ettiler, viral içeriğe daha az önem verdiler, karşıt görüşleri ve empatik ve gerekçeli içeriği artırma, takipçiyi gizleme ve yeniden yayınladılar ve profil bioS’u gizlediler.
Müdahalelerin çoğu çok az fark yarattı: Parti çapraz parti karışımı yaklaşık yüzde 6’dan fazla değişmedi ve en iyi hesapların yüzde 2 ila 6 arasında değiştiği dikkatin payı, ilgili kullanıcıların biyografilerini gizlemek gibi diğerleri ise aslında sorunu daha da kötüleştirdi. Bir alanda kazançlar olduğunda, başka yerlerde olumsuz etkilerle karşılandılar. Kullanıcı eşitsizliğini azalttığını düzeltir, aşırı mesajları daha popüler hale getirirken, partizanlığı yumuşatan değişiklikler küçük bir elite daha fazla dikkat çekti.
Georgia Üniversitesi’nden Jess Maddox, “Sosyal medya faaliyetlerinin çoğu her zaman zehirli ağacın meyvesidir – sosyal medyanın başlangıç problemleri her zaman temel tasarımlarıyla yatıyor ve bu nedenle insan davranışının en kötüsünü teşvik edebilir” diyor.
Törnberg, deneyin bazı mekanizmaları basitleştirebilecek bir simülasyon olduğunu kabul ederken, bize sosyal platformların kutuplaşmayı azaltmak için ne yapması gerektiğini söyleyebileceğini düşünüyor. “Daha temel müdahalelere ihtiyacımız olabilir ve daha temel yeniden düşünmeye ihtiyacımız olabilir” diyor. “Algoritmalarla kıpırdatmak ve platformun parametrelerini değiştirmek yeterli olmayabilir, ancak (() etkileşimin yapısını ve bu alanların siyasetimizi nasıl yapılandırmasını daha temelden yeniden düşünmemiz gerekebilir.”
