Bu derinlemesine araştırılmış kitapta ABD ordusunun yapay zeka savaşına yönelik yolculuğunu okumak son derece büyüleyici. Ama sonra ne olacak diye soruyor Matthew Sparkes
Maven Projesi, 2017 yılında dronlardan görüntüleri taramak için bir araç olarak başladı
Maven Projesi
Katrina Manson, WW Norton
İsrail ordusu Gazze’deki hedefleri belirlemek için yapay zeka kullanıyor, ABD aynısını İran’da yapıyor ve Ukrayna akıllı dronlarla yoluna devam ediyor. Yapay zeka savaşı çatışmanın geleceği değil, şimdiki zamandır.
Yapay zekanın ordular tarafından kullanımına ilişkin küresel politikaların (potansiyel faydalar, tuzaklar ve karanlık etikler) ayrıntılarıyla anlatılması, önümüzdeki onyılların kitaplarını dolduracak. Ancak Katrina Manson’ın yapmak istediği şey bu değil. Maven Projesi. Bunun yerine, ABD ordusunun yapay zeka savaşına (veya Pentagon’da gizli 800 yapay zeka projesi olduğundan bunlardan birine) olan yolculuğunun öyküsünü anlatmak için 200’den fazla kişiyle yapılan röportajları kullanıyor.
2017 yılında, dronların görüntülerini tarayıp yararlı bilgiler elde edecek bir araç geliştirmek üzere Project Maven başlatıldı; dronlar herhangi bir insanın yorumlayabileceğinden daha fazla veri toplamıştı. Manson, Maven’in zorlu bir başlangıç yaptığını söylüyor. Ordu, projenin başlamasından sekiz ay sonra bunu Somali’deki askerlerle konuşlandırdı ve algoritmalar, analistlere bulutların üzerinde okul otobüslerinin ve ağaçların da insanlar olduğunu söyledi.
Microsoft Office yüklü tozlu bir dizüstü bilgisayardan başka bir şey olmadan misyonları planlamaya ve askerleri yönlendirmeye çalışan Afganistan’da bir istihbarat subayı olarak çalışan bir proje liderini takip ediyoruz: Düşman nerede, güvenli nerede, başarı nasıl görünüyor?
Savaşta insan verimsizdir, yorulur, hata yapar. Manson’la konuşan Project Maven inşaatçıları, savaşın sisinin yapay zeka tarafından temizlenebileceğine inanıyordu. Ancak bunun çok daha ileri gitmesini amaçladılar: Hedefleri seç, onları avla ve sonra öldür. İnsanoğlunun yavaş ve kasıtlı karar verme mekanizması olmadan, katil robotlar düşmanları hızlı bir şekilde alt edebilir.
İçeriden biri, “Her zaman yanlış insanları öldürüyoruz. Bir makine bir insandan daha kötü olamaz” diyor. Ekip, Maven’i bir dizi araca dönüştürdü ve ön saflardaki insanları bunları benimsemeye ikna etmeye çalıştı. Sonuçlar iyileşti ancak hatalar hâlâ devam ediyor.
O zamandan bu yana ABD ve diğer NATO üyeleri çatışmalarda Maven’i kullanmaya başladı. Manson, yaklaşık 32 şirketin bunun üzerinde çalıştığını ve 25.000 ABD askeri kullanıcısının düzenli olarak giriş yaptığını yazıyor. Ancak aynı zamanda sınır geçişlerinde ve Karayipler’de uyuşturucu kaçakçılarının avlanmasında da kullanıldığını anlatıyor. Bu tür araçlara sahip bir devlet, bunları vatandaşları üzerinde kullanmaya direnebilir mi?
Manson, en endişe verici olanı, insanları bu döngüden tamamen çıkarmak için çalışmaların sürüyor olduğunu söylüyor. Kaleci olarak adlandırılan uçan drone’lar ve Whiplash deniz drone’ları kendi hedeflerini bulup yok edebiliyor. Ve insanlar hiçbir zaman bir silah icat etmediler ve kullanmadılar.
1983’te kendi muhakemesini kullanarak ABD’nin füze fırlattığı yönündeki raporların yanlış alarm olduğuna karar veren ve topyekun bir nükleer savaştan kaçınan Sovyet yarbay Stanislav Petrov’u düşünmemek zor. Yapay zeka bu çağrıyı yapar mı?
Maven’e dair büyüleyici içgörülere rağmen kitap bize, yapay zekadan ziyade Pentagon bürokrasisi ve Silikon Vadisi’nin – ne kadar tatsız olursa olsun – para doğruysa herhangi bir projeyi üstlenme istekliliği hakkında daha fazla bilgi veriyor. Manson’un erişimi olağanüstü, ancak askeri gizliliğin doğası, ABD hükümetinin hangi teknolojiyi ürettiğini, nasıl ve ne zaman kullanıldığını muhtemelen önümüzdeki yıllarda tam olarak bilemeyeceğimiz anlamına geliyor.
Savaş her zaman son derece nahoş olmuştur, ancak insanların binlerce kilometre uzaktaki birini insansız hava aracıyla izlediği ve ölümcül bir saldırı gerektirip gerektirmediğine karar verdiği modern çatışmalar, onu kişiliksiz hale getirdi. Bunu yapay zekaya teslim etmek, savaşın sürdürülmesini çok kolay hale getirme ve sonuçlarının göz ardı edilmesinin çok kolay hale gelmesi riskini taşır.
“
Kaleci uçan drone’lar ve Whiplash deniz drone’ları kendi hedeflerini bulup onları yok edebilir
“
Yapay zeka silahlarının sağladığı güce hak ettiği ciddiyetle davranılmasını sağlamamız gerekiyor ancak Manson bize gerçeğin tam tersi olduğunu gösteren tüyler ürpertici bir hikaye anlatıyor. Maven Projesi’ne katılmayı umut eden bir görüşmecinin panele motivasyonlarının “Amerikalı olmayan nüfusu azaltmak” olduğunu söylediği ve ardından işi aldığı bildirildi.
Yapay zeka ve savaş üzerine iki harika okuma daha
Atom Bombasının Yapımı kaydeden Richard Rhodes
Burada askeri yapay zekanın nereye gidebileceği konusunda pek çok ders var. Manhattan Projesi gibi, sadece yeni başlayanlar için küresel gerilimleri kalıcı olarak artırma ve savaşın risklerini artırma tehdidinde bulunuyor.
Katil Robotları Yasaklamalı mıyız?? kaydeden Deane Baker
Bu, hükümetlerin askerlerin işlerini bilgisayarlara devretmesi durumunda ortaya çıkan güvenilirlik, kontrol ve hesap verebilirlik gibi çetrefilli sorunlara bakan bir etik profesörünün tartışmaya derinlemesine dalmasıdır.
