Trump yönetiminin sözde uyandırılmış yapay zekaya yönelik saldırılarıyla birlikte kullandığımız teknolojiyi daha adil ve daha çeşitli hale getirmek daha da zorlaşıyor. Önde gelen sesler konuşuyor Catherine de Lange
Soldan sağa: Rachel Coldicutt, David Leslie, Rumman Chowdhury, Noura Al Moubayed ve Wendy Hall
Bugün ikinci gün Kadınlar ve bilimin geleceği Londra’daki Royal Society’deki konferansta konuşuyorum ama konuşmacılara konsantre olmakta giderek zorlanıyorum çünkü hayatımı kolaylaştırması beklenen yapay zeka transkripsiyon yazılımım birinin adını yanlış yazmakta ısrar ediyor. Julie’den her bahsettiğimizde Julian yazıyor. İroni gözümden kaçmadı: Bu, yapay zekayla ve özellikle de kadınların en son yapay zeka teknolojilerinden nasıl silindiğiyle ilgili bir oturum.
Bu, yapay zeka algoritmalarının, üzerinde eğitildikleri veri kümelerinin cinsiyet önyargısı da dahil olmak üzere önyargılarını taşıdığı yönündeki artık tanıdık olan fikirden çok daha büyük.
Bunun yerine, bilgisayar bilimcisi Wendy Hall’un başkanlık ettiği konferans oturumunun odak noktası daha temel bir konuyu ele almaktır: tüm toplum üzerinde dönüştürücü bir etki yaratacak yeni yapay zeka teknolojilerinin neredeyse yalnızca erkekler tarafından tasarlandığı gerçeği.
Teknoloji her zaman ağırlıklı olarak erkeklerin hakim olduğu bir sektör olmuştur. Birleşik Krallık’ta bilgisayar bilimi okuyanların yalnızca yüzde 25’i kadındır. Ancak son yıllarda üretken yapay zekanın gelişmesiyle birlikte Silikon Vadisi kadınlara karşı giderek daha fazla düşman olmaya başladı.
Alan Turing Enstitüsü’nde etik ve sorumlu inovasyon araştırmalarından sorumlu David Leslie, “Son iki yılda bir gerileme yaşandı” diyor. “Trump yönetiminin bilim alanında kadınlara nesiller arası zarar verip vermediği tartışılmaz. Geriye doğru düşünmenin olduğu bir dönemden geçiyoruz.”
Geçen yıl, ABD Başkanı Donald Trump sözde yapay zekayı hedef alan bir idari emir yayınladı ve ABD Ulusal Standartlar ve Teknoloji Enstitüsü’nün yapay zeka risk yönetimi çerçevesini “yanlış bilgilendirme, Çeşitlilik, Eşitlik ve Katılım ile iklim değişikliğine yapılan atıfları ortadan kaldırmak” için revize etmesini tavsiye etti.
Panelistlerden biri, veri bilimcisi ve ABD’nin eski yapay zeka bilim elçisi Rumman Chowdhury, Elon Musk görevi devralıp ekibini kovmadan önce Twitter’da etik ve hesap verebilirlikten sorumluydu. Uyandırılmış yapay zeka kavramının, Trump’ın emri öncesinde Silikon Vadisi’ndeki kadın düşmanı tutumlardan doğduğuna dikkat çekiyor.
Hall’un kadınsız yapay zekayı tanımlaması istenen birçok panelist, zaten bu noktada olduğumuzu öne sürüyor. Chowdhury, “Ben yapay zekanın öncü dünyasındayım ve bu, kadınların olmadığı bir yapay zeka dünyası” diyor. Bu, yeni ve gelişmekte olan teknolojilerin sosyal etkilerini araştıran Rachel Coldicutt tarafından da dile getirilen bir düşüncedir. “Yapay zekada kadınların olmadığı bir dünyanın nasıl göründüğünü düşünürsek, şu anda sahip olduğumuz şeyin bu olduğunu düşünüyorum. Bu kesinlikle bir fantezi değil.”
Söylemeye gerek yok: bu önemli. Çarpışma testi mankenlerinden ofis iklimlendirmesine, astronotların uzay kıyafetlerine ve tıbbi araştırmaların büyük çoğunluğuna kadar, erkeklerin vücutları ve ihtiyaçları için geliştirilen teknolojilerin uzun bir geçmişi var. Bu, cinsiyet veri açığı olarak biliniyor ve etkileri can sıkıcıdan hayati tehlikeye kadar değişebiliyor.
Yapay zeka, yaptığımız işten çocuklarımızı eğitme şeklimize ve tedavi edebileceğimiz hastalıklara kadar her şeyi etkileyecek. Ancak Chowdhury, şu anda risk sermayesi finansmanının yalnızca yüzde 2’sinin kadınlara gittiğini belirtiyor. Bu arada, sağlık hizmetleri araştırmalarının ve yeniliklerinin yüzde 1’den azı kadınların sağlık koşullarına yöneliktir. Coldicutt, “Teknolojinin sekiz milyarder için değil, 8 milyar insan için çalışmasını sağlamamız gerekiyor” diyor.
Ne yapılmalı? Mevcut yapay zeka modellerinde yüzlerce yıllık önyargılı verilerin yer aldığı Coldicutt, bunları düzeltmenin mümkün olacağına inanmıyor. “Alternatif modellere ihtiyacımız var” diyor. Bu aynı zamanda bu modellerin yaptıklarının odağını değiştirmek için de bir şans. “Bu, insanlara ve gezegene önem veren modelleri geliştirmekle ilgili.”
Şirketlerin yapay zeka sistemlerini daha hesap verebilir ve adil hale getirmelerine yardımcı olan, kar amacı gütmeyen Humane Intelligence adlı kuruluşun kurucu ortağı olan Chowdhury, sorunun bir kısmının, mevcut yapay zeka gelişmelerinin çoğunun, yapay zekanın işlere ve hatta insanlığa yönelik oluşturduğu varoluşsal riske odaklanarak yanlış bir aciliyet duygusu etrafında inşa edilmesi olduğunu düşünüyor. Eğer anlatı evinizin yandığıysa, “‘Annemin mücevherlerine ne oldu?’ diye düşünmüyorsunuz” diyor. İnsanlar zamanları olmadığını hissederlerse çeşitlilik de dahil olmak üzere kendilerine yabancı gelen her şeyi bırakacaklarını söylüyor.
Gelecek nesle gelince, eğer gençleri toplumsal fayda için yapay zeka geliştirmeye teşvik edeceksek, yapay zekanın geliştirildiği ekonomik ve politik çerçeveyi ele almamız gerekiyor, diyor Leslie: “Temellerle başlamalıyız, teşvikleri dönüştürmekle başlamalıyız.”
Sonuçta, daha geniş, daha çeşitli düşünme biçimlerini içerecek şekilde zeka tanımımızı yapay zeka bağlamında yeniden düşünmemiz gerekebilir. Yapay zekanın nasıl tanımlanacağı da dahil olmak üzere yapay zeka hakkındaki orijinal düşüncelerin çoğu, 1950’lerde New Hampshire’daki Dartmouth College’da yapılan etkili bir toplantıdan kaynaklandı. Hall, “Zekanın bu tanımı Dartmouth konferansından çıktı” diyor. “Bu arada, hepsi erkekti.”
