Matematikçi Hannah Fry, BBC’nin yeni belgeseli AI Confidential with Hannah Fry’da yapay zekanın ön saflarına seyahat ediyor. Bethan Ackerley ile teknolojinin bize iyisiyle kötüsüyle neler yaptığını anlatıyor
Muhtemelen bugün yapay zeka hakkında beş yıl öncesine göre çok daha fazla düşünüyorsunuz. ChatGPT’nin Kasım 2022’de piyasaya sürülmesinden bu yana, sohbet robotlarından akıllı ev teknolojisine, bankacılık ve sağlık hizmetlerine kadar hayatın çoğu alanında yapay zekalarla etkileşime girmeye alıştık.
Ancak bu kadar hızlı değişim, matematikçi ve yayıncı Hannah Fry’ın da gösterdiği gibi beklenmedik sorunları da beraberinde getiriyor. Hannah Fry ile Yapay Zeka Gizliliğihayatları teknolojiyle değişen insanlarla konuştuğu üç bölümlük yeni bir BBC belgeseli. O konuştu Yeni Bilim Adamı Yapay zekaya nasıl bakmamız gerektiği, modern matematikteki rolü ve neden küresel ekonomiyi altüst edeceği hakkında.
Bethan Ackerley: Dizide yapay zekanın ilişkilerimize ve gerçeklik duygumuza neler yaptığını keşfediyorsunuz. Bunların bir kısmı “Yapay Zeka dalkavukluğundan”, yani bu araçların bize duymamız gerekeni değil duymak istediklerimizi verdiği fikrinden kaynaklanıyor. Bu nasıl oluyor?
Hannah Fry: Önceki modeller son derece dalkavuktu. Yazacağınız her şey şöyle olurdu: “Aman Tanrım, sen çok muhteşemsin, sen şimdiye kadar karşılaştığım en iyi yazarsın”. Şimdi biraz daha iyiler ama temel bir çelişki var. Onların yardımcı olmalarını, teşvik etmelerini ve önemli olduğumuzu hissettirmelerini istiyoruz; bunlar gerçekten iyi bir insan ilişkisinden elde edebileceğiniz şeylerdir.
Aynı zamanda gerçekten iyi bir insan ilişkisi, zor şeyleri yüksek sesle dile getirecektir. Yapay zekaya çok fazla şey katarsanız, yardımcı olmayı bırakır ve tartışmacı olmaya başlar ve etrafta olmak eğlenceli olmaktan çıkar. Ayrıca partnerlerinden ayrılan, bunu terapist olarak kullandıkları ve yapay zekanın “Ondan kurtulun” dediği için ayrılan çok sayıda insan da var.
İşini bırakanlar var. Yapay zekayı para kazanmak için kullanmaya çalışan ve yeteneklerine aşırı inandıkları için servetlerini kaybeden insanlar var. Tüm bu insanları dahil etmeye başladığınızda, bu gerçekten büyük bir gruptur. Sanırım hepimiz sosyal medya balonlarından ve radikalleşmeden etkilenen birini tanıyoruz. Sanırım bu onun yeni versiyonu.
Bu sorunlara tanık olmak yapay zekayı kullanma şeklinizi değiştirdi mi?
Değişen şey, onu yönlendirme şeklim. Şimdi onu düzenli olarak, örneğin bana göremediğim şeyi söylemesi, önyargılarımı bulması için teşvik ediyorum. Dalkavukluk yapmayın, bana zor şeyleri anlatın.
Yapay zekanın böyle olmasını istemiyorsak nasıl olmasını isteriz?
Cevap muhtemelen duruma bağlıdır. Bilimsel alanlarda harika örnekler var; AlphaFold’u (protein yapılarını tahmin eden bir yapay zeka) düşünüyorum. Algoritmaların insanlara benzemeyen bir zekaya sahip olduğu matematikte inanılmaz ilerlemeler kaydediliyor. Ancak insanların dünyayı anladığı şeylerle kavramsal bir örtüşme olmadığı sürece iyi bir akıl yürütme modeline sahip olabileceğinizi düşünmüyorum. Bu yüzden bunun daha insani olması gerektiğini düşünüyorum.
“
Yapay zekanın insanüstü şeyler yapabileceği belirli durumlar vardır, ancak forkliftler de bunu yapabilir
“
Yıllardır çözülemeyen ama artık yapay zeka kullanılarak çözülen bir matematik problemiyle ilgili her gün bir haber çıkıyor gibi görünüyor. Bu seni heyecanlandırıyor mu?
Bunu, sanki matematiğin harika bir haritası varmış ve insan matematikçiler belirli bir bölgede ve onun etrafında dönüyormuş gibi düşünmeyi seviyorum. Yakındaki şeylerle bağlantıları her zaman göremezler. Şaşırtıcı matematikçiler haritanın iki bölgesi arasında köprüler buldular; tıpkı Japon matematikçilerin matematiğin başka türlü bağlantısı olmayan iki alanı arasında bir köprü bulduğu Taniyama-Shimura varsayımı gibi. Sonra buradan bildiğimiz her şey orada da geçerli oldu ve bunun tersi de geçerli oldu.
Yapay zekanın şunu söyleme konusunda gerçekten çok iyi olduğunu düşünüyorum: “Buraya biraz bakın, az keşfedilmiş verimli bir bölgeye benziyor” ve bu gerçekten çok heyecan verici. Yapay zekanın pek iyi olmadığı şey sınırları daha da zorlamak. Ve aslında iyi olmadığı şey, tamamen soyutlama, daha geniş, daha büyük teorilere sahip olmadır. İnsanların her zaman söylediği şey şu; eğer yapay zekaya 1900’e kadar her şeyi verirseniz, genel görelilik ortaya çıkmazdı. Yapay zekanın insan matematiğini daha hızlı, daha verimli, daha heyecanlı hale getireceği bu çok tatlı noktada olduğumuz için hala heyecanlıyım ama yine de bize ihtiyacı var.
Yapay zeka hakkında pek çok yanlış kanı var. İmkanınız olsa hangisini ortadan kaldırırdınız?
İnsanlar onun çok güçlü, neredeyse her şeye kadir olduğunu düşünüyor. “Yapay zeka bunu söyledi; yapay zeka bana bu hisse senetlerini almamı söyledi.” Yapay zekanın insanüstü şeyler yapabileceği belirli durumlar vardır, ancak forkliftler de bunu yapabilir. İnsanların uzun süredir yapamadığı şeyleri yapabilen araçlar geliştirdik. Bu onların tanrı gibi oldukları ya da dokunulmaz bilgiye sahip oldukları anlamına gelmez.
Bir forkliftin banka hesabınıza erişmesine izin vermeyeceksiniz…
HAYIR! Kesinlikle. Bence hepsi bu; bu şeylerin çerçevelenmesi. Dille konuştukları ve bizimle konuştukları için kendilerini yaratık gibi hissediyorlar. Vikipedi’de böyle bir sorunumuz yok. Bu şeyleri bir yaratık yerine gerçekten yetenekli bir Excel tablosu olarak düşünmek daha doğru olur.
Neden yapay zekayı antropomorfize etme eğilimindeyiz?
Vücudumuz bilişsel sosyal ilişkilere göre ayarlanmıştır. Biz akıllı, sosyal türüz. Ve bu görünüşte akıllı, görünüşte sosyal bir varlıktır. Tabii ki üzerine bir karakter koyuyoruz. Geçmişimizde, tasarımımızda bizi başka bir şey yapmaya zorlayacak hiçbir şey yok.
Bu antropomorfik dürtüye karşı korunmanın bir yolu yok mu?
Bunu gerçekten bireylerin eline bırakmanın haksızlık olduğunu düşünüyorum. Bu biraz abur cuburun serbestçe bulunabildiğini ve çok fazla yemediğinizden emin olmanın sizin sorumluluğunuz olduğunu söylemeye benziyor. Bu arayüzlerin tasarlanma şekli, sizinle yapılan konuşmalar, tüm bunların insanların giderek daha fazla bu tuzağa düşmesine yol açtığına dair artık gerçekten iyi kanıtlarımız var. Ve insanların bu tavşan deliklerine düşmesini ancak bu sistemlerin tasarımıyla önleyebileceğinizi düşünüyorum.
İnsanların çok izole ve yalnız olması gibi yapay zekanın vurguladığı birçok sosyal sorun var. Peki yapay zeka bu sorunlara yardımcı olamaz mı?
“Tamam, kendini yalnız hissediyorsan hiçbir chatbotla konuşamazsın, bunu yasaklayalım” diyorsanız hâlâ yalnız insanlar var demektir. Ve tabii ki herkes için bol miktarda insan ilişkisi olsaydı harika olurdu ama bu olmuyor. İçinde bulunduğumuz dünyanın bu olduğu göz önüne alındığında, bir chatbot ile konuşmanın yalnızlıkla ilgili en kötü sorunlardan bazılarını hafifletebileceği bazı durumların olduğunu düşünüyorum. Ama bunlar hassas konular. Gerçekten insani soruları yanıtlamak için teknolojiyi kullanmaya başladığınızda, her şeyde inanılmaz bir kırılganlık ortaya çıkar.
Uzak gelecekten bahsedelim. Sık sık yapay zeka ile ilgili uç senaryoları düşünürüz; mesela ataç yapmak için tasarlanmış süper akıllı bir yapay zekanın hepimizi ataçlara dönüştürmesi gibi. Böyle bir kıyamet senaryosunu düşünmek ne kadar yararlı olur?
Bu çılgın, uzak senaryoların dikkati gerçekten önemli olan şeyden uzaklaştırdığını düşündüğüm bir nokta vardı; o da kararların insanların hayatlarını etkileyen algoritmalar tarafından alınıyor olmasıydı. Son birkaç yılda fikrimi değiştirdim, çünkü bunun olmasını önlemek için teknik güvenlik mekanizmalarını ancak bu tür şeyler hakkında endişelenerek oluşturabileceğinizi düşünüyorum.
Dolayısıyla endişelenmek anlamsız değildir; endişelenmenin gerçekten gücü vardır. Yapay zekanın gerçekten kötü potansiyel sonuçları var ve bu konuda ne kadar dürüst olursak, bunları hafifletme olasılığımız da o kadar artar. Bunun Y2K gibi olmasını istiyorum, anlıyor musun? Endişelendiğimiz ve endişelendiğimiz şeyin bu olmasını istiyorum ve bu yüzden bunun olmasını engellemek için çalıştık.
Sizce yapay genel zekaya bir gün ulaşabilecek miyiz?
AGI’nin ne olduğuna dair net bir tanımımız yok. Ancak YGZ’nin, bilgisayar gerektiren herhangi bir görevde en azından çoğu insan kadar iyi olduğunu varsayarsak, o zaman evet, gerçekten neredeyse o noktaya geldik. Bazı insanlar YGZ’yi mümkün olan her görevde insan yeteneğinin ötesinde bir anlam olarak görüyor. Bunu bilmiyorum. Ancak AGI’nin aslında hiç de uzakta olmadığını düşünüyorum. Gerçekten önümüzdeki beş ila 10 yıl içinde sismik değişiklikler göreceğimizi düşünüyorum.
Ne tür değişiklikler?
Tüm insanlık tarihi boyunca alıştığımız ekonomik modellerde köklü değişiklikler olacağını düşünüyorum. Beni gerçekten heyecanlandıran bilim alanında, tıp tasarımında da çok büyük atılımlar olacağını düşünüyorum. Toplumumuzun tüm yapısı, emeğinizi, bilginizi ve insan zekanızı, daha sonra bir şeyler satın almak için kullanacağınız parayla takas etmeniz fikri üzerine inşa edilmiştir – bence bunda bir miktar kırılganlık var.
Yapay zeka neredeyse kesinlikle işle olan ilişkimizi değiştirecek. Yapay zekanın bazılarımızın tamamen işsiz kalması yerine hepimizin daha az çalışmasına yol açmasını sağlamak için ne yapmamız gerekiyor?
Buna bir cevabım var; bunu yüksek sesle söylersem ne kadar büyük bir belaya gireceğimi görebiliyorum. Tamam, sana bunun bir versiyonunu vereceğim. Bazı inkar edilemez gerçekler var, değil mi? Şu ana kadar toplum, emeğin parayla takas edilmesi üzerine kuruluydu. Vergi sistemimiz servetin değil, gelirin vergilendirilmesine dayanmaktadır. Bu iki şeyin değişmesi gerektiğini düşünüyorum.
