Ülkeler bazı hükümet süreçlerini otomatikleştirmek için yapay zeka kullanmaya heveslidir, ancak bu, vatandaşların güven ve demokratik kontrol duygularını aşındırma riskiyle karşı karşıyadır – çünkü AI hataları hayatlarını mahvedebilir
AI bazı devlet evraklarını otomatikleştirebilir, ancak ciddi risklerle birlikte gelir
Birçok ülke, yapay zekanın vergileri işlemekten refah faydalarını belirlemeye kadar her şeye nasıl yardımcı olabileceğini araştırıyor. Ancak bir anket, vatandaşların hükümetleri kadar hevesli olmadığını ve bu demokrasi için gerçek riskler yaratabileceğini gösteriyor.
Almanya’daki Ludwig Maximilian Münih Üniversitesi’nden Alexander Wuttke, “Sadece kısa vadeli verimlilik kazanımlarına ve parlak teknolojiye odaklanmak, halkın tepkisini tetikleme ve demokratik güven ve meşruiyette uzun vadeli bir düşüşe katkıda bulunma riskini taşıyor” diyor.
Wuttke ve meslektaşları, İngiltere’de yaklaşık 1200 kişiden, bir insanın ya da AI’nın görevi ele aldığı hükümet eylemleri hakkındaki duygularını paylaşmalarını istedi. Bu varsayımsal senaryolar, vergi beyannamelerinin işlenmesi, refah başvurularının onaylanması veya reddedilmesi ve sanıkların kefalet için uygun olup olmadığı konusunda risk değerlendirmeleri yapmayı içermektedir.
Bazı insanlara sadece AI’nın hükümet verimliliğini nasıl artırabileceği hakkında söylendi-ancak diğerleri hem AI ile ilgili faydalar hem de riskler hakkında bilgi edindi. Bu riskler, AI kararlarının nasıl verildiğini anlamada zorluk, hükümetin zaman içinde daha az geri dönüşümlü hale gelen yapay zekaya bağımlılığının artması ve vatandaşların yapay zeka kararlarına itiraz etmeleri ve düzeltmeleri için açık yolların eksikliği içermektedir.
İnsanlar yapay zeka ile ilgili risklerin farkına vardıklarında, hem hükümete olan güvenlerinde önemli bir düşüş hem de kontrolü kaybetme hissi bildirdiler. Örneğin, hükümetlerinde demokratik kontrol kaybı bildiren katılımcıların yüzdesi, hükümetin belirli görevleri yerine getirmesi için giderek daha fazla yapay zekaya bağımlı hale geldiği senaryolarda yüzde 45’ten yüzde 81’e yükseldi.
Katılımcılar riskleri öğrendikten sonra hükümette daha az yapay zeka talep eden insanların oranı da keskin bir şekilde arttı – temel senaryoda yüzde 20’nin altından, Hükümetin yapay zeka kullanarak hem faydaları hem de risklerini öğrendikleri herhangi bir senaryoda yüzde 65’in üzerine çıktı.
Washington DC’deki Demokrasi ve Teknoloji Merkezi’nde Hannah Quay-De La Vallee, bu sonuçlara rağmen Demokratik hükümetler AI’dan vatandaşların güvenini koruyan sorumlu şekillerde kullanabilir. Ancak şimdiye kadar hükümette yapay zekanın birkaç başarı öyküsü olduğunu söylüyor. Bu arada, zaten “oldukça az sayıda başarısızlık vakası” var – ve bu vakaların riskleri inanılmaz derecede yüksek olabilir.
Örneğin, ABD devletin kamu yararlarının işlenmesini otomatikleştirme çabaları, on binlerce insanın sahtekarlık için yanlış bir şekilde suçlanmasına yol açmıştır. Bu insanların bazıları iflas başvurusu yapmak veya evlerini kaybetmek zorunda kaldı. Quay-De La Vallee, “Hükümet hatalarının muazzam, uzun süren etkileri var” diyor.
