Fraktal desenler yapay zekanın öngörülebilirliğinin gizli sınırlarını ortaya koyuyor

Sydney Üniversitesi’ndeki araştırmacılar, yapay zeka sistemlerinin neredeyse aynı koşullar altında eğitildiklerinde bile farklı davranışları öğrenebilmesinin temel bir matematiksel nedenini belirlediler; bu, yapay zeka teknolojilerinin güvenilirliğini ve güvenilirliğini artırmaya yardımcı olabilecek bir keşif.

Fizik Okulu’ndan Profesör Pulin Gong’un çalışması ve doktora derecesi. öğrencisi Andrew Ly yayınlandı Doğa Makine Zekası.

Yapay zeka sistemleri sağlık hizmetleri, iş dünyası, araştırma ve günlük yaşamın giderek daha fazla içine gömülü hale geldikçe, bunların tutarlı ve öngörülebilir şekilde davranmasını sağlamak büyük bir zorluk haline geldi. Yeni araştırma, bazı AI öngörülemezlik biçimlerinin mühendislik kusurlarından veya bilgisayar donanımındaki tutarsızlıklardan kaynaklanmadığını, sinir ağlarının nasıl öğrendiğinin altında yatan matematikten kaynaklandığını öne sürüyor.

Gong, “Araştırmacılar sıklıkla yapay zeka davranışındaki farklılıkları, eğitim verilerinin sunulma sırası veya donanımın getirdiği küçük sayısal değişiklikler gibi harici rastgelelik kaynaklarına bağladılar” dedi.

“Bulgularımız daha derin bir şeye işaret ediyor. Bu faktörler ortadan kaldırılsa bile, bir modelin başlangıç ​​koşullarındaki son derece küçük farklılıklar yine de farklı sonuçlara yol açabilir.”

Günümüzün en gelişmiş yapay zeka sistemlerinin arkasındaki teknoloji olan sinir ağları, eğitim sırasında milyonlarca hatta milyarlarca dahili parametreyi ayarlayarak öğrenir. Sidney ekibi, aynı verileri, eğitim prosedürünü ve deterministik bilgi işlem ortamını kullanmasına rağmen ağların neden bazen farklı çözümlere ulaştığını araştırdı.

Ly şöyle dedi: “Aynı tıbbi görüntüleri ve aynı eğitim prosedürünü kullanarak kanseri tespit etmek üzere eğitilmiş iki yapay zeka sistemi hayal edin. Başlangıç ​​parametrelerindeki küçük farklılıklar, onların farklı davranışları öğrenmesine yol açabilir. Araştırmamız, bu tür farklılıkların nasıl ortaya çıktığını açıklamaya yardımcı olabilir ve bu sistemleri daha tutarlı hale getirecek yöntemlere bilgi verebilir.”

Bu farklılıkların kaynağını anlamak, daha güvenilir sistemlerin tasarımına rehberlik edebilir ve büyük ölçekli modellerin geliştirilmesiyle ilgili maliyet ve belirsizliği azaltabilir.

Yapay zeka eğitim ‘haritası’ bir fraktaldır

Bu olguyu açıklamak için araştırmacılar harita benzetmesini kullanıyorlar. Eğitim için mümkün olan her başlangıç ​​noktasının, sonuçta üreteceği sonuca göre renklendirilmiş bir harita üzerinde bir konum olduğunu hayal edin. Aynı sonuca yol açan bölgeler, matematikçilerin “cazibe havzası” dediği bölgeyi oluşturur.

Ekip, bu havzaların “bilmeceli havzalar” olarak bilinen oldukça karmaşık fraktallar olarak organize edildiğine dair kanıtlar buldu. Böyle bir manzarada her nokta, başka bir yere giden noktalara keyfi olarak yakındır. Ne kadar yakınlaştırırsanız yakınlaştırın, farklı bölgeler iç içe geçmiş halde kalır.

Bunun anlamı çarpıcıdır. Bir ağın başlangıç ​​koşullarının kesinliğini artırmak, eğitimin nereye varacağı konusunda güveni artırma konusunda çok az şey yapabilir. Daha büyük bir görüntü tanıma ağında, başlangıç ​​ayarlarının 10 milyar kat daha hassas hale getirilmesi, tekrarlanabilirlikte ölçülebilir bir gelişme sağlamadı.

Bu ağın başlangıç ​​ayarlarını bir bilgisayarın kaydedebileceği en küçük miktarda, tek bir “bit” kadar değiştirmek, vakaların neredeyse yarısına yakınında (yaklaşık %48) eğitimi farklı bir dahili konfigürasyona gönderdi.

Bu fikri test etmek için araştırmacılar, görüntü tanıma ve metin işleme gibi görevlerde kullanılan sistemleri analiz ederek yaklaşık 500.000 sinir ağını eğitti. Çok çeşitli ağ mimarileri, veri kümeleri ve eğitim yöntemlerinde “bilmeceli havzalar” fraktal yapısıyla tutarlı kanıtlar bulundu.

Daha da önemlisi, etki, tekrarlanan eğitim çalışmalarının aksi takdirde aynı sonuçları üreteceği tamamen deterministik ortamlarda bile devam etti.

Model, farklı yapay zeka sonuçlarını açıklamaya yardımcı olur

Bulgular, bağımsız olarak eğitilmiş modellerin neden sıklıkla farklı davrandığı ve neden hem büyük hem de küçük bozuklukların bazen sonuçlar üzerinde benzer etkilere sahip olabileceği de dahil olmak üzere yapay zeka araştırmalarında uzun süredir devam eden birçok gözlemin açıklanmasına yardımcı olabilir.

Çalışma aynı zamanda performans ve tekrarlanabilirlik arasında şaşırtıcı bir dengeyi de ortaya çıkardı. Ağların en etkili şekilde öğrenmesini sağlayan ayarlar aynı zamanda sonuçlarının tahmin edilmesini ve yeniden üretilmesini de zorlaştırdı. Ancak “öğrenme oranını” (bir ağın kendini her ayarladığında attığı adımın boyutunu) azaltmak, sonuçları tekrarlanabilir hale getirdi, ancak ağlar daha az etkili bir şekilde öğrendi.

Araştırmacılar, öngörülemezliği tamamen ortadan kaldırılabilecek bir sorun olarak görmek yerine, bunun kaç tane sinir ağının çalıştığının temel bir özelliğini temsil edebileceğini öne sürüyorlar. Çalışma, bu duyarlılığı ölçmek için yeni araçlar sunmakta ve istikrarsızlığa yol açan matematiksel koşulları azaltmak için ağ mimarilerinin yeniden tasarlanması gibi gelecekteki yaklaşımlara işaret etmektedir.

Gong, “Yapay zeka toplum genelinde giderek daha önemli hale geliyor” dedi. “Güvenilir sistemler oluşturmak için yalnızca doğru tahminlere değil, aynı zamanda bu tahminlerin yeniden üretilebileceğine dair güvene de ihtiyacımız var. Bu araştırma, yapay zekadaki öngörülebilirliğin sınırlarını ve bunların üstesinden nasıl gelebileceğimizi anlamanın yeni bir yolunu sunuyor.”