Sosyal medya siteleri platformlarını insanlar veya algoritmalar kullanarak polis olsun, içerik denetimi kullanıcıları güvende tutmuyor, diyor Jess Brough
Meta, üçüncü taraf olayı kontrol etmenin sonunu duyurduğundan, kendisini “toplumsal ve politik baskıdan ılımlı içeriğe” kurtardığını iddia ettiği için, sosyal medya kullanıcıları içerik denetlenmesinin değerini sorguladılar. Bir platformun güvenliğini ve verimliliğini veya sistematik bir sansür yöntemini korumak için önemli bir araç mı? Benim görüşüme göre, içerik denetimi sadece kırık bir sistemi temsil ediyor-teknolojik ilerleme uğruna insan fedakarlığının doyumsuz gereksinimi ve sosyal medya şirketlerinin kâr odaklı güdülerini gizlemek için bir perdesi olarak kullanımı.
İçerik ılımlılığı, zararlı davranışların nefret söylemi veya sömürü olsun, bu sitelere yayılmasını önlemenin bir yolu olarak onlarca yıldır çevrimiçi platformların yasal çerçevesine yerleştirilmiştir. Platformlar, insan destekli içerik denetimi üzerinde algoritmik tespiti desteklemeye başlamasıyla, geri bildirim iş kayıplarına ve verimsiz sistemlerin ortaya koyduğu potansiyel zararlara odaklanmıştır.
Bu endişeler iyi yerleştirilmiş: Algoritmalara daha fazla dayanan platformlar, karmaşık davranışları ve anlamı doğru bir şekilde tespit etmek için henüz var olmayan hesaplama yetenekleri üzerinde bankacılık yapıyor. Örneğin, mizah ve suç arasındaki farkı belirlemek için büyük dil modelleri kullanmak, bu ayrımın öznel olması ve sosyal normları değiştirmeye bağlı olması nedeniyle karmaşıktır. Birçok kullanıcı bu riskleri fazlalıklarla birlikte tartmış ve insan tabanlı içerik ılımlılığının değerlenmesi ve sürdürülmesi gerektiği sonucuna varmıştır-bunlar bizi güvende tutan insanlardır.
Bununla birlikte, bu güvenliğin bu görünümüne bağlı teminat hasarı olduğunu sık sık unutuyoruz. Moderatörler, çoğumuzun hayal edebileceği görüntülere ve bilgilere maruz kalıyor. İlgilendikleri “içerik”, hakaretten dilden grafik kafa vuruşlarına ve çocuk cinsel istismarına kadar her şeyi içerebilir. Etiketleme ödevlerinin bir parçası olarak, günümüzde bu gün – genellikle saatlerce – gibi içerik görüyorlar. Biz, kullanıcılar, bu bilgilerden biraz korunuyoruz, ancak ancak genellikle düşük ücretli ve savunmasız işçileri travmatize ettikten sonra.
Bu işler zaten yetersiz ve takdir edilmemiş; Şimdi, Tiktok, Meta ve X gibi sosyal medya platformları işgücüne daha az yatırım yapmayı seçiyor. Bunu yaparken, zamanımızın çoğunu talep eden bu siteler hakkında çok önemli bir şey ortaya koyuyorlar. Kârlılık söz konusu olduğunda, güvenli ve mutlu bir kullanıcı tabanı, veri toplama potansiyeli ile eşleşmez. Kötü içerik ılımlılığının riskleri – hoş olmayan görüntüler ve metin görüyoruz ya da çevrimiçi zorbalık kurbanı olup olmadığımız – sadece kendimizin ne kadarını özgürce açıkladığımızla daha da birleştirir.
Birçok site için, içerik denetimi zaten hem insan hem de algoritmik etiketlemeyi içerir. Modelleme geliştikçe, bu algoritmalar daha karmaşık hale gelecek ve teorik olarak kullanıcı deneyimini geliştirecektir. Ancak, sosyal medya platformlarının arkasında kâr odaklı şirketler olduğunu ve verilerimizi kategorize eden ne olursa olsun, ima aynı kalır: bu firmalar bizim ve etkileşime girdiğimiz insanlar hakkında astronomik miktarda bilgi toplarlar ve bu bilgileri neredeyse her zaman kullanabilirler.
Büyük sosyal medya, günlük yaşamlarımız ve çalışmalarımız için o kadar önemli hale geldi ki, sadece makinenin arkasındaki haklarından mahrum bırakılmış işgücünü görmezden gelmekle kalmadık, aynı zamanda etkilememizi ve sömürüyü de kabul ettik. Algoritmik ılımlılıktaki gelişmeler bizi kurtarmayacak; Sadece kendimizi daha fazla vermemizi sağlayacaklar.
Jess Brough, dil önyargılarının psikolinger ve araştırmacısıdır
