Yetişkinler ve AI modelleri, Gen alfa argo veya memes ile ifade edilen zararlı niyetle mesajları tanıyamaz ve gençlerin çevrimiçi güvenliği ile ilgili endişeleri artırır
Gençlerin dili çevrimiçi zorbalığı tespit etmesini zorlaştırabilir
Nesil Alpha’nın İnternet Lingo, öğretmenlerden, ebeveynlerden ve AI modellerinden daha hızlı mutasyona uğramış-potansiyel olarak gençleri güvenilir yetişkinlerin ve AI tabanlı güvenlik sistemlerinin göremediği zorbalık ve tımarlara maruz bırakıyor.
Cupertino, California’daki Warren E Hyde Ortaokulunda 14 yaşındaki bir öğrenci olan Manisha Mehta ve Trento, İtalya Üniversitesi’nde Fausto Giunchiglia, popüler oyun, sosyal medya ve video platformlarından 2010 ve 2025 yılları arasında doğanlar-2010 ve 2025 arasında doğanlar arasında popüler oldu.
Çift daha sonra Mehta’nın sınıf arkadaşı olan 11 ila 14 yaş arası 24 gönüllüden, bağlama özgü ekran görüntüleri ile birlikte cümleleri analiz etmesini istedi. Gönüllüler, ifadeleri anlayıp anlamadıklarını, hangi bağlamda kullanıldıklarını ve bu kullanımın potansiyel güvenlik endişeleri veya zararlı yorumlar taşıdığını açıkladılar. Ayrıca ebeveynlerden, profesyonel moderatörlerden ve dört AI modelinden-GPT-4, Claude, Gemini ve Llama 3-aynı şeyi yapmasını istediler.
Mehta, “Her zaman Gen Alpha Dili tarafından büyülenmiştim, çünkü bu çok benzersiz, işlerin alakalı olma ve alaka düzeyini çok hızlı kaybetme ve çok hızlı” diyor Mehta.
Nesil alfa gönüllüleri arasında yüzde 98’i terimlerin temel anlamını anladı, yüzde 96’sı kullanıldıkları bağlamı anladı ve yüzde 92’si zarar vermek için konuşlandırıldıklarını tespit edebildi. Ancak AI modelleri, 10 vakada sadece 4 civarında zararlı kullanım tanıdı – Lama için yüzde 32,5 arasında Claude tarafından yüzde 32,5 ila 42,3. Ebeveynler ve profesyonel moderatörler daha iyi değildi, zararlı kullanımların sadece üçte birini tespit etti.
Mehta, “Bulduğumuzdan biraz daha fazla anlama bekliyordum” diyor. “Çoğunlukla sadece ebeveynlerin tarafında tahminlerdi.”
Nesil alfa tarafından yaygın olarak kullanılan ifadeler, bağlamlarına bağlı olarak çift anlamları olan bazılarını içeriyordu. “Yemek pişirsin” bir oyun akışında gerçek bir övgü olabilir – ya da birisinin saçmalıktan bahsettiğini ima eden alaycı bir alaycı olabilir. Bir zamanlar “Kendinizi Tanıyın” için kısaltmalı “Kys”, şimdi bazılarına “Kendinizi Öldür” olarak okuyor. Kötü niyetli niyeti maskeleyebilecek bir başka cümle, birisinin otistik olup olmadığını alaycı bir şekilde sormak için kullanılan “akustik midir”.
Mehta, “Gen Alpha çevrimiçi çok savunmasız” diyor. “Bence LLMS’nin en azından ne söylendiğini anlayabilmesi gerçekten çok önemlidir, çünkü AI içerik denetimi alanında daha yaygın olacak, gelecekte giderek daha fazla.”
Giunchiglia, “LLM’lerin dünyayı değiştirdiği çok açık” diyor. “Bu gerçekten paradigmatik. Bence sorulması gereken temel sorular var.”
Bulgular bu hafta Yunanistan, Atina’da Adalet, Hesap Verebilirlik ve Şeffaflık Bilgi İşlem Derneği’nde sunuldu.
“Ampirik olarak, bu çalışma, özellikle genç insanları analiz etmek ve korumak için içerik denetleme sistemlerinde büyük eksiklikler olabileceğini göstermektedir” diyor Michael Veale. “Şirketlerin ve düzenleyicilerin, gençleri korumayı amaçlayan platform yasalarına sahip artan sayıda yargı alanında yasanın üzerinde kalması için buna yakından dikkat etmeleri ve buna tepki vermesi gerekecek.”
