İngiltere hükümetinin Redbox AI chatbot binlerce memur tarafından kullanılıyor, ancak tam olarak nasıl kullandıkları konusunda şeffaflık eksikliği, ilgili uzmanlara sahiptir
İngiltere Başbakanı Keir Starmer, ülkeyi yapay zekada dünya lideri yapmak istiyor
Başbakan Keir Starmer’ı desteklemek için doğrudan çalışanlar da dahil olmak üzere İngiltere hükümetinin merkezinde binlerce memur, çalışmalarını gerçekleştirmek için tescilli bir yapay zeka chatbot kullanıyorlar. Yeni bilim adamı ortaya çıkarabilir. Yetkililer, aracın tam olarak nasıl kullanıldığını, Başbakanın AI kullanılarak hazırlanan tavsiyeler alıp almadığını veya memurların yanlış veya önyargılı AI çıktıları risklerini nasıl azalttığını açıklamayı reddetti. Uzmanlar, ifşa eksikliğinin hükümet şeffaflığı ve hükümette kullanılan bilgilerin doğruluğu ile ilgili endişelerini dile getirdiğini söylüyor.
Bilgi Özgürlüğü (FOI) mevzuatı altında chatgpt günlüklerinin dünya birinci yayınlanmasını sağladıktan sonra, Yeni bilim adamı 20 devlet dairesine, evde geliştirilen ve İngiltere hükümet personeli arasında denenen üretken bir AI aracı olan Redbox ile etkileşimlerinin kayıtlarını sordu. Büyük dil modeli ile çalışan büyük chatbot, kullanıcıların gelişiminin arkasındaki insanlardan birine göre hükümet belgelerini sorgulamalarına ve “ilk brifing taslakları üretmelerine” izin veriyor. İlk denemeler, bir memurun 50 belgeyi tam günlük bir çalışma yerine “saniyeler içinde” sentezlediğini iddia etti.
Temas edilen tüm departmanlar ya Redbox’ı kullanmadıklarını veya araçla etkileşim transkriptlerini sağlamayı reddettiklerini söyledi. Yeni bilim adamıTalepler, Bilgi Komiseri Ofisi’nin “orantısız veya haksız bir sıkıntı, bozulma veya tahriş seviyesine neden olma olasılığı” olarak tanımladığı Talepler’e yanıt verirken kullanılan resmi bir terim olan “can sıkıcı” idi.
Ancak, iki departman Redbox kullanımı hakkında bazı bilgiler sağladı. Başbakanı destekleyen kabine ofisi, bölümündeki 3000 kişinin Redbox ile toplam 30.000 sohbete katıldığını söyledi. Bu sohbetleri, FOI altında yayınlamadan önce hassas bilgileri düzeltmek için gözden geçirmenin bir yıldan fazla çalışma gerektireceğini söyledi. İşletme ve Ticaret Bakanlığı da “13.000’den fazla istem ve yanıt” tuttuğunu ve serbest bırakılması için gözden geçirmenin mümkün olmayacağını belirtti.
Redbox’ın kullanımı hakkında takip soruları sorulduğunda, her iki departman da Yeni bilim adamı Aracı denetleyen Bilim, İnovasyon ve Teknoloji Bölümü’ne (DSIT). DSIT, başbakan veya diğer kabineler bakanlarının AI araçları kullanılarak hazırlanmış tavsiyeler alıp almadığı hakkında belirli soruları cevaplamayı reddetti.
Bir DSIT sözcüsü anlattı Yeni bilim adamı: “Kimse AI’nın daha iyi ve daha hızlı yapabileceği bir şey için zaman harcamamalı. Whitehall’da inşa edilen Redbox, AI’nın gücünü güvenli, güvenli ve pratik bir şekilde kullanmamıza yardımcı oluyor – yetkililerin belgeleri, taslak gündemleri ve daha fazlasını özetlemesini kolaylaştırıyor. Bu, sonuçta çalışmalarımızı hızlandırıyor ve hizmetleri iyileştirmeye odaklanıyor – bu ülkeyi geliştirmek – bu ülkeyi geliştirmek – bu ülkenin bu ülkenin ihtiyacı var”.
Ancak üretken AI araçlarının kullanımı bazı uzmanlarla ilgilidir. Büyük dil modelleri, yanlılık ve doğruluk etrafında hafifletilmesi zor olan iyi belgelenmiş sorunlara sahiptir, bu nedenle Redbox’ın kaliteli bilgi sağlayıp sağlamadığını bilmenin hiçbir yolu yoktur. DSIT, Redbox kullanıcılarının yanlışlıklardan veya önyargılardan nasıl kaçınmasıyla ilgili belirli soruları cevaplamayı reddetti.
“Hükümetin halka hizmet etmesi gerektiğidir ve bu hizmetin bir kısmı-vergi mükellefleri olarak seçmenler olarak seçmen olarak-kararların nasıl verildiğini ve süreçlerin karar verme açısından ne olduğunu anlamaya belirli bir erişime sahip olmamızdır” diyor Catherine Flick, İngiltere.
Üretken AI araçları kara kutular olduğundan, Flick, bir belgenin belirli yönlerini başkalarına vurgulamak gibi belirli bir çıktıya nasıl ulaştığını test etmenin veya anlamanın kolay olmadığından endişe duyar. Hükümetin bu bilgileri paylaşma isteksizliğinin şeffaflığı daha da azalttığını söylüyor.
Bu şeffaflık eksikliği, üçüncü bir hükümet departmanı olan Hazine’ye kadar uzanıyor. FOI talebine yanıt olarak, Hazine Yeni bilim adamı Personelinin Redbox’a erişimi olmadığını ve “HM (Majesteleri) Hazinesi’nde dahili olarak mevcut olan GPT araçlarının hızlı bir tarihi korumadığı”. Tam olarak bunun hangi GPT aracı ifade ettiği belirsizdir – ChatGPT en ünlü örnek iken, diğer büyük dil modelleri de GPTS olarak bilinir. Yanıt, Hazine’nin AI araçlarını kullandığını, ancak kullanımlarının kapsamlı kayıtlarını tutmadığını göstermektedir. Hazine cevap vermedi Yeni bilim adamıaçıklama talebi.
Flick, “Kullanılan istemleri korumuyorlarsa, orada karar verme süreçlerinin nasıl çoğaltılacağı konusunda herhangi bir fikir edinmek zor” diyor.
İngiltere hukuk firması Mishcon de Reya’daki Jon Baines, bu bilgileri kaydetmemeyi seçmenin olağandışı olduğunu söyledi. “Hükümetin dahili GPT sistemlerine girilen istemleri alamayacağını söylediğini şaşırtıcı buluyorum.” Mahkemeler, kamu kurumlarının arşivlemeden önce kamu kayıtlarını saklamak zorunda olmadığına karar verse de, “iyi bilgi yönetişimi, özellikle politikayı geliştirmek veya bilgilendirmek için kullanılmış olabilecekleri yerlerde kayıt tutmanın hala çok önemli olabileceğini öne sürecektir” diyor.
Bununla birlikte, veri koruma uzmanı Tim Turner, Hazine’nin FOI yasaları uyarınca AI istemlerini koruma hakkı dahilinde olduğunu söyledi: “Bence verilerin niteliği hakkında belirli bir yasal veya kamu hizmeti kuralı yoksa bunu yapabilirler.”
