Bazı şeyler parayla ölçülemez… Ama 250 bin euroya hayali kaynaklar eklemek? Avustralya resmen şoka girdi! Uluslararası danışmanlık devi Deloitte, ülkenin sosyal yardım sistemi üzerine hazırladığı yapay zeka destekli raporun başına gelenlerle gündemde. Hem de öyle bir gündem ki, ‘yapay zekanın gücüne güvenelim’ derken ortaya çıkan ‘hayal ürünleriyle’ herkesi şaşkına çevirdi. Hadi gelin, bu pahalı fiyasko nasıl yaşanmış, bir göz atalım!
Deloitte’a 251.000 Euro’luk Görev: Yapay Zeka Masasında Neler Olup Bitti?
Avustralya Hükümeti, tam 440.000 Avustralya Doları (şaşırmayın, bugünkü kurdan yaklaşık 251.000 euro ediyor!) gibi dişe dokunur bir meblağı Deloitte’a teslim etti. Görev: Ülkenin Çalışma ve İşyeri İlişkilerinden Sorumlu Bakanlığı (Department of Employment and Workplace Relations) adına sosyal yardımlar sistemindeki cezaların otomasyonu konusunda kapsamlı bir rapor hazırlamak. Cidden önemli, titizce üzerinde çalışılması gereken bir konu… Tabii ki sonuçların bilimsel doğruluğu, güvenilir kaynaklar ve detaylı analizlerle desteklenmesi lazım.
Hayali Kaynaklar ve ‘Hallüsinasyonlu’ Analizler: Skandal Nasıl Ortaya Çıktı?
Raporun yayımlanmasıyla birlikte kısa süre sonra işler sarpa sardı. Sydney Üniversitesi Sağlık Hukuku Bölümü’nün direktörlerinden biri, metinde tüyler ürpertici tuhaflıklar tespit etti. Dahası, yer verilen bazı alıntıların var olmayan yayınlara dayandığı ortaya çıktı! Yani raporda ileri sürülen bazı referanslar, aslında hiç yazılmamış araştırmalara dayanıyor.
Gelin görün ki, bunların arasında gerçek bir profesörün adını taşıyan, fakat külliyen uydurulmuş çalışmalar bile yer alıyordu. Australian Financial Review’un aktardığına göre, bu türden “hayalet kaynaklar” öylesine çoktu ki, raporda sözü edilen bazı bilim insanları bile şaştı kaldı.
ChatGPT’ye Sırtını Yasla, Arkadaşı Unut: Deloitte’un ‘Yapay’ Yöntemi
Deloitte’un yöntemi ise gayet ‘pratik’ (!) olmuş: Raporun büyük bölümü ChatGPT (ya da benzer bir yapay zeka aracı) tarafından hazırlanmış, ama bu metinler neredeyse hiç kontrol edilmemiş. 251 bin euro’luk etiketle böylesi bir yaklaşım… deyim yerindeyse kahvenin dibini sıyırmak!
Skandal patlayınca, Deloitte ve bakanlık 273 sayfalık raporun güncellenmiş bir versiyonunu yayımladı. Düzeltmeler ise “bazı referanslar ve dipnotlar için birkaç küçük düzeltme” olarak açıklandı. Ayrıca raporda, “Azure OpenAI GPT-4o tabanlı üretken dil modeliyle çalışan bir araç zinciri” kullanıldığına da yer verildi.
Olayın ardından yapılan güncellemede:
- Gerçek olmayan, uydurma referanslar tamamen çıkarıldı.
- Sıfırdan yazılmış sahte alıntılar ayıklandı.
Deloitte, sözleşmenin “nihai versiyonunu” geri ödeyeceğini açıkladı. Ancak, geri ödemenin ne kadarlık bir tutara denk geldiği açıklanmadı.
Bakanlık Hâlâ Uyanmadı mı? Tavsiyeler Güncelliğini Koruyor(muş)!
Tüm bu şeffaf olmayan ilişkilere ve yapay zekanın “hayal dünyasındaki” rapora rağmen, Avustralya Çalışma Bakanlığı yoluna tam gaz devam ediyor. Bakanlık, “bağımsız denetimin içeriği korunmuştur” diyerek, sonuçlardan memnun görünüyor. Üstelik, rapordaki öneriler hâlâ geçerliliğini koruyor; tabii, önerilerin bir kısmı kurguya dayansa bile…
Sonuç? Bazen bir raporun içeriğini kontrol etmek isteyenler, rapora ‘yapay zekâ’ etiketi yapıştırınca işlerin yoluna girdiğini düşünüyor olabilir. Ama sonuçta, gerçek araştırmanın yerini hiçbir teknoloji tutmuyor. Rapor gerçekten güncel mi, güvenilir mi? Bakanlık gerçeklerle mi, hayallerle mi yol alıyor? Onu zaman gösterecek!
Önerimiz mi? Paranızla rezil olmayın… Gerçek kaynak kullanmaya, insan emeğine, şeffaflığa ve kontrolün bizzat sizde olmasına dikkat edin.
