CEİD

Bu proje Avrupa Birliği tarafından finanse edilmektedir.

TÜRKİYE'DE KATILIMCI DEMOKRASİNİN GÜÇLENDİRİLMESİ:
TOPLUMSAL CİNSİYET EŞİTLİĞİNİN İZLENMESİ PROJESİ

Yapay zeka sistemlerine yanlış iklim bilgileri verme konusunda baskı yapmak kolaydır

Uluslararası bir konferansta yayınlanacak yeni bir UNESCO-UCL raporuna göre, yapay zeka modellerine, başlangıçta güvenilir olmasına rağmen, yanlış iklim bilgileri verme konusunda baskı yapmak kolaydır.

UCL araştırmacıları tarafından yürütülen ve UNESCO tarafından yayınlanan çalışma, önde gelen 33 yapay zeka büyük dil modeli tarafından sağlanan iklim değişikliği bilgilerinin güvenilirliğini inceledi ve bunlardan beşini İngilizce’den Urduca’ya kadar yaygın olarak konuşulan 13 dilde test etti. Bu yıl dünya liderlerinin Türkiye’de yapacağı COP31 toplantısında, yıllık Birleşmiş Milletler Taraflar Konferansı iklim değişikliği zirvesinde açıklanacak.

Araştırmacılar, bu yapay zeka modellerinin yerleşik iklim gerçeklerini makul derecede doğru bir şekilde açıklayabildiğini, ancak çevrimiçi olarak daha az dijital metin içeren dillerde, ayrıca yapay zekadan karar vermesi istendiğinde veya kullanıcılar tarafından cevaplarını değiştirmesi için baskı yapıldığında modellerin daha az güvenilir olduğunu buldu.

Temel iklim değişikliği gerçeklerini sağlamaları istendiğinde, en iyi performans gösteren yapay zeka sistemleri, teste bağlı olarak %88 ile %96 arasında doğru bilgilerle yanıt verdi. Bununla birlikte, belirli kanıtların bilimsel bir iddiayı destekleyip desteklemediğini değerlendirmeniz istendiğinde, en iyi modeller bile yalnızca %71 ile %77 arasında doğru yanıtlar verebildi.

Doğru cevaplar baskı altında bocalıyor

Kullanıcılar iklimle ilgili gerçekler ve bulgularla aynı fikirde olmadıklarını ifade ettiğinde bu doğruluk keskin bir şekilde düştü.

Çalışmanın bu bölümünde test edilen 15 yapay zeka modelinin tamamında, iklim bilgilerinin doğruluğu, kullanıcıların gerçeklere dayanan doğru bir cevaba defalarca itiraz etmesi durumunda yüzde 31 ila 35 arasında düştü; yapay zeka tavizlerinin yaklaşık %80’i, ilk anlaşmazlık belirtisinde ortaya çıktı.

Test edilen her model, birkaç kez zorlandıktan sonra doğru yanıtlar vermekten vazgeçti ve kullanıcının ifade ettiği yanlış önyargıları benimsedi; bu, AI dalkavukluğu olarak bilinen bir sorundur.

Başyazar profesör Ivana Drobnjak (UCL Bilgisayar Bilimi ve UCL’de UNESCO Yapay Zeka Kürsüsü üyesi) şunları söyledi: “Yapay zeka, bazı durumlarda iklim değişikliğiyle ilgili temel gerçeklerin anlaşılmasını kolaylaştırmaya yardımcı olsa da, araştırmamız, yeteneklerinin açık sınırları olduğunu gösteriyor.

“Bilim insanları ve nitelikli uzmanlar için güvenilir bir alternatif değil. Erişilebilirliği ve konuşma tonu ona bir otorite havası verebilir, ancak henüz iklim sorununun gerektirdiği daha zor akıl yürütmeyi yapamaz veya bir kullanıcı geri adım attığında doğru cevaba tutunamaz.

“Eğer yapay zeka iklim değişikliğine yardımcı olacaksa, bunu nasıl sorgulayacağını ve kontrol edeceğini bilen uzman kullanıcılara ve bu iş için özel olarak oluşturulmuş ve test edilmiş yapay zeka sistemlerine ihtiyacı var.”

İklim doğruluğu dile göre keskin bir şekilde değişiyor

Araştırma ekibi, yapay zeka modellerinden elde edilen iklim bilgilerinin güvenilirliğiyle ilgili başka sorunları da ortaya çıkardı.

Diller arasında test edilen beş modelde, yanıtlar İngilizce, İspanyolca, Fransızca ve Portekizce’de %88’den fazla doğruydu; ancak çevrimiçi dijital metnin daha az olduğu dillerde doğruluk önemli ölçüde azaldı; Bengalce ve Hintçe’de %83,6’ya, Urduca’da %81,4’e ve Swahili’de %78,3’e düştü.

Bu, yapay zeka modellerinin aynı bilimsel soruya farklı dillerde sorulduğunda sıklıkla çelişkili yanıtlar vermesiyle sonuçlandı.

Bu aynı zamanda, en şiddetli iklim etkileriyle karşı karşıya olan toplulukların çoğunun, yapay zeka sistemlerinin en az güvenilir olduğu dilleri konuştuğu anlamına geliyor ve araştırmacılar, yararlanılabilecek dijital metinlerin daha az olduğu dillerde yapay zeka güvenilirliğinin daha da düşük olabileceğini söylüyor.

Birleşik politikalar muhakeme sınırlarını ortaya çıkarır

Yapay zeka modelleri aynı zamanda iklim politikalarının etkililiğinin değerlendirilmesinde de önemli sorunlar olduğunu gösterdi.

Ekip, yapay zeka modellerinin, tek başına belirli bir politikanın 2100 yılına kadar küresel sıcaklığı nasıl etkileyeceğini (örneğin, kömüre uygulanan bir verginin onu artırıp artırmayacağını) %94,5’e kadar doğru bir şekilde tanımlayabildiğini buldu.

Bununla birlikte, iki politikayı birleştirmeleri ve sonuçlarını değerlendirmeleri istendiğinde (örneğin, kömür vergisi ve doğal gaz vergisinin birleşiminin her birinin tek başına toplamından daha fazla veya daha az indirim sağlayıp sağlayamayacağı), yapay zeka modelleri ortalama yalnızca %33,8 doğruluk oranıyla yanıt verdi; bu da rastgele şanstan (%33,3) daha iyi değil.

Ekip, bunu test etmek için AI yanıtlarını, Climate Interactive ve Amerika’daki Massachusetts Teknoloji Enstitüsü’nün işletme okulu MIT Sloan tarafından geliştirilen ve iklim politikalarının ve teknolojilerinin etkilerini araştırmak için politika yapıcılar ve iklim eğitiminde yaygın olarak kullanılan bir araç olan En-ROADS iklim simülatöründen alınan tahminlerle karşılaştırdı.

Akıcılık yanlış bir otorite duygusunu riske atar

Kıdemli yazar Dr. Maria Perez-Ortiz (UCL Bilgisayar Bilimi) şunları söyledi: “Yapay zeka sistemleri bilimsel bilgiyi açıklama konusunda son derece iyidir, ancak bu bize onların yetenekleri hakkında yanlış bir fikir verebilir.

“Bulgularımız, yapay zekaya iklim değişikliği hakkında ne bildiğimizi sormaktan bu konuda ne yapmamız gerektiğini sormaya geçerken neden dikkatli olmamız gerektiğini gösteriyor.”

UNESCO’nun Dijital Politikalar ve Dijital Dönüşüm Bölümü’nden program uzmanı ortak yazar Leona Verdadero şunları söyledi: “Gerçekleri hatırlamak, güvenilir politika analizi sağlayabilmekle aynı şey değildir.

“Yapay zekanın yanıtları kullanıcının bakış açısına uyacak şekilde yanıltıcı bir şekilde uyarlama eğilimi, zayıf kanıtlara veya analiz olarak mevcut spekülasyonlara dayanma eğilimi, iklim bilgilerinin halka güvenilir bir komisyoncusu olarak sınırlarını gösteriyor.

“Daha fazla insan bir bilgi kaynağı olarak ona güvenmeye başladıkça, eksikliklerinin ne olduğunu anlamamız hayati önem taşıyor.”

Araştırma, küresel çapta etik yapay zeka gelişimini, politikasını ve eğitimini desteklemeye odaklanan araştırmacılardan oluşan bir ekip olan UCL’deki UNESCO Yapay Zeka Kürsüsü tarafından gerçekleştirildi. Rapor, UNESCO’nun İklim Değişikliği Konusunda Bilgi Bütünlüğü Küresel Girişimi’ne katkıda bulunmak amacıyla hazırlandı.

Bu hikayenin arkasında kim var?

Gaby Clark

Gaby Clark

İngilizce Yüksek Lisans, 2021’den beri yüksek öğrenim ve sağlık içeriğinde deneyime sahip metin editörü. Güvenilir bilim haberlerine adanmıştır.

Tam profil →

Robert Egan

Robert Egan

Matematiksel biyoloji alanında lisans, yaratıcı yazarlıkta yüksek lisans. Bilim ve dil üzerine eşsiz bakış açılarıyla çok seyahat ettim.

Tam profil →

Yorum yapın