Yapay zeka temsilcileri, söz konusu görüşler anlamsız olsa bile, çoğunluğun görüşüne göre davranışı koordine eder

Yeni bir çalışma yayınlandı Bilim Gelişmeleri AI ajanlarının seçimlerinin akranlarından nasıl etkilendiğine daha yakından bakıyor. Ekip, daha gelişmiş modellerin, diğer ajanların seçimleri gösterildiğinde çoğunluğu takip etme eğiliminde olduğunu ve insanlarda görülenlerden çok daha büyük gruplarda istikrarlı bir anlaşmayı koruduğunu buldu.

Yapay zeka ajanları grup olarak nasıl davranıyor?

Büyük dil modellerinin davranışı üzerine yapılan çoğu araştırma, tek bir dil modelinin yeteneklerini veya belirli bir durumda ne yaptığını test etmiştir, ancak birçok bireysel yapay zeka aracısının koordinasyonu üzerine araştırma eksiktir. Ancak temsilci ekiplerinin doğal olarak nasıl işbirliği yaptığını, nasıl parçalandığını veya ortak bir görünümde kilitlendiğini anlamak, büyük yapay zeka ekiplerinin birlikte verimli bir şekilde çalışıp çalışmayacağı veya kötü seçimleri artırarak zarara neden olup olmayacağı konusunda fikir verebilir.

Daha önceki bazı araştırmalar insan topluluklarını, sosyal ağları ve fikir yayılımını simüle etmek için dil modellerini kullanmıştı, ancak bu çalışmalar yapay zeka ajanlarının birbirleriyle nasıl koordine olduğunu anlamaktan çok insan davranışını simüle etmeye odaklandı. Ancak bir çalışma, yapay zeka popülasyonlarının koordinasyon için ödüllendirildiklerinde ortak normlar geliştirebildiklerini buldu. Ancak yeni çalışmaya katılan ekip, temsilci koordinasyonunun ödüller, bir lider veya açık talimatlar olmadan ortaya çıkıp çıkamayacağını bilmek istedi.

Çalışma yazarları şöyle yazıyor: “Çok etmenli yapay zeka sistemlerinin hızlı bir şekilde devreye alınması ve ortaya çıkan, potansiyel olarak zararlı, kolektif davranışların potansiyeli göz önüne alındığında, bu araştırma açığı dikkate değerdir.”

Bir seçim oyunu

Ekip, AI ajanlarının, diğer tüm ajanların mevcut seçimlerini gördükten sonra iki anlamsız seçenek arasında tekrar tekrar seçim yapmalarına izin vererek, çoğunluğu takip etme eğiliminde olup olmadıklarını belirlemek için bir yöntem buldu. Bu yöntemi GPT, Claude ve Llama ailelerinden modeller üzerinde test ettiler. “Doğru” bir seçenek yoktu ve temsilciler birbirleriyle anlaşmaya varmaları için herhangi bir ödül veya açık talimat almadılar. Araştırmacılar daha sonra bir temsilcinin, 1000 temsilciye kadar farklı grup büyüklüklerinde grup çoğunluğuna geçme olasılığını ölçtüler.

Sonuçlar, daha gelişmiş dil modellerinin, yani GPT-4 Turbo ve Claude 3.5 Sonnet’in, benzerlerinin çoğunluğunun halihazırda benimsediği görüşü benimseme eğiliminde olduğunu gösterdi. Bu modeller 1000’e kadar temsilciden oluşan gruplar halinde koordine ediliyordu, bu da hepsinin aynı fikirde olduğu anlamına geliyordu. Ekip, bu modellerdeki koordinasyonun potansiyel olarak 1.000 temsilcinin ötesine geçebileceğini, ancak 1.000’den büyük grupların test edilmediğini belirtiyor.

Bu çoğunluk takibi, daha yetenekli modellerde daha güçlüydü ve test edilen çoğu modelde ortak bir matematiksel modeli takip ediyordu. Ancak grup büyüdükçe çoğunluğu takip etme eğilimi genellikle zayıfladı. Her modelin pratik bir grup büyüklüğü sınırı vardı ve bunun ötesinde tam bir anlaşmaya varmak pek mümkün olmuyordu.

Araştırmacılar bu süreci, bir grup bireyin bir dizi önemli karar almasına benzetiyor; her karar potansiyel olarak grupta bir bölünmeye yol açabilir. Ancak ayrılan gruplar daha fazla istikrar gösteriyor ve tekrar bölünmeme eğiliminde oluyor. Ekip, bunun AI ajanlarının uyumlu sosyal grupları koordine etme ve oluşturma yeteneğini vurguladığını söylüyor.

Araştırmanın yazarları, çoğunluğu takip eden bu eğilimleri insanlarda görülenlerle karşılaştırarak şunları yazıyor: “Özellikle Claude 3.5 Sonnet ve GPT-4 Turbo gibi gelişmiş LLM’ler, 1.000 ajanı aşan kritik grup büyüklükleri sergiliyor. Bu, 150 ila 300 kişiden oluşan tipik gayri resmi insan grup ölçeklerinin büyük ölçüde ötesindedir; bu da güçlü yapay zeka ajanlarının, insan olasılıklarının ötesinde ölçeklerde koordine olabileceğini düşündürmektedir.”

Çoğunluğu takip etmenin sonuçları

Araştırmacılar, insan çoğunluğunu takip etme eğilimlerini karşılaştırsa da, çalışma sonuçlarının yalnızca bir davranış modelini tanımladığını ve yapay zeka ajanlarının insanlar gibi düşündüğüne, sosyalleştiğine veya grup dinamiklerini anladığına dair kanıt olmadığını da belirtiyorlar. Ayrıca, gerçek ağların çoğunun aksine, acentelerin tümü diğer temsilcilerin fikrini biliyordu. Senaryo aynı zamanda kanıtlardan, ödünlerden, hafızadan veya sonuçlardan yoksun olduğu için de basitleştirildi. Yine de ajanlar öngörülebilir bir düzende koordineli hareket ediyorlardı.

Yüksek Lisans’ların neden çoğunluğun görüşünü takip etme eğiliminde olduğu veya modellerin neden birbirinden farklı olduğu açık değil. Araştırmacılar bunun, metinlerdeki kolektif davranış açıklamaları, yönlendirme veya hizalama eğitimi ve eğitim modellerinin “yararlı” olması gibi eğitim verilerinden kaynaklanabileceğini söylüyor. Davranışın nereden geldiğini anlamak için daha fazla araştırmaya ihtiyaç vardır.

Gelecekteki çalışmalar, yapay zeka gruplarını, rol ve cevap çeşitliliğinin fikir birliğinden daha yararlı olduğu durumlar da dahil olmak üzere daha zengin görevlerde test edebilir ve etkili ajanları, inatçı ajanları, yanlış bilgileri ve bir grubu yönlendirmeye yönelik hedefli girişimleri inceleyebilir. Bu tür araştırmalar, büyük çok etmenli sistemler geniş çapta dağıtılmadan önce kolektif yapay zeka davranışını izlemenin ve yönlendirmenin yollarını geliştirmeye yardımcı olabilir.

Çalışmanın yazarları şöyle yazıyor: “Kendiliğinden koordinasyon, binlerce aracının merkezi kontrol olmadan birlikte çalıştığı işbirliğine dayalı yazılım geliştirme gibi değerli uygulamaları mümkün kılabilir. Bununla birlikte, çoğunluğun takip edilmesi aynı zamanda riskler de taşır: Aracılar sırf çoğunluğun tercihini temsil ettikleri için optimal olmayan çözümler üzerinde birleşebilir. Örneğin, işbirlikçi kodlamada aracılar, yalnızca kod tabanında zaten yaygın olarak kullanıldıkları için verimsiz işlevleri veya tasarım modellerini sürdürebilir.

“Aynı dinamik, teknik tercihlerin ötesinde de geçerli; çünkü çoğunluğun takip edilmesiyle ortaya çıkan normların insan değerleriyle uyumlu olması gerekmiyor ve koordineli yapay zeka kolektiflerinin yeniden yönlendirilmesini bağımsız aracılara göre daha zor hale getirebilir.”