Analog devrelerle oluşturulan bilgisayarlar, sıradan bilgisayarlara göre çok büyük hız ve verimlilik kazanımları vaat ediyor, ancak normalde doğruluk pahasına. Artık yapay zeka eğitiminin anahtarı olan hesaplamaları gerçekleştirmek üzere tasarlanmış bir analog bilgisayar bu sorunu çözebilir.
Analog bilgisayarlar dijital olanlardan daha az enerji kullanır
Yapay zeka modellerinin eğitiminde kullanılan önemli bir denklem türünü hızla çözen analog bilgisayarlar, yapay zeka patlamasının neden olduğu veri merkezlerinde artan enerji tüketimine potansiyel bir çözüm sunabilir.
Dizüstü bilgisayarlar, akıllı telefonlar ve diğer tanıdık cihazlar, verileri 0 veya 1 gibi ikili rakamlardan oluşan bir dizi halinde depolayıp işledikleri ve bir dizi sorunu çözecek şekilde programlanabildikleri için dijital bilgisayarlar olarak bilinir. Bunun aksine, analog bilgisayarlar normalde yalnızca belirli bir sorunu çözmek için tasarlanmıştır. Verileri ayrık 0’lar ve 1’ler yerine elektrik direnci gibi sürekli değişebilen miktarları kullanarak saklar ve işlerler.
Analog bilgisayarlar hız ve enerji verimliliği açısından üstün olabilir ancak daha önce dijital muadillerinin doğruluğundan yoksundu. Çin’deki Pekin Üniversitesi’nden Zhong Sun ve meslektaşları, telekom ağları üzerinden veri göndermenin, büyük bilimsel simülasyonları çalıştırmanın veya yapay zeka modellerini eğitmenin temel bir parçası olan matris denklemlerini doğru bir şekilde çözmek için birlikte çalışan bir çift analog çip yarattı.
İlk çip, matris hesaplamalarına yönelik düşük hassasiyetli bir çözümü çok hızlı bir şekilde üretirken, ikincisi, birinci çipin hata oranlarını analiz etmek ve böylece doğruluğu artırmak için yinelemeli bir iyileştirme algoritması çalıştırır. Sun, ilk çipin yaklaşık yüzde 1 hata oranıyla sonuçlar ürettiğini, ancak ikinci çipin üç döngüsünden sonra bu oranın yüzde 0,0000001’e düştüğünü ve bunun da standart dijital hesaplamaların hassasiyetiyle eşleştiğini söylüyor.
Şu ana kadar araştırmacılar, 16’ya 16’lık matrisleri veya 256 değişkenli matrisleri çözebilen, bazı küçük problemlere yönelik uygulamalara sahip çipler ürettiler. Ancak Sun, günümüzün büyük yapay zeka modellerinde kullanılan soruların üstesinden gelmenin çok daha büyük devreler gerektireceğini, belki de milyonda bir milyona ihtiyaç duyacağını kabul ediyor.
Ancak analog çiplerin dijitale göre bir avantajı, daha büyük matrislerin çözülmesinin daha uzun sürmemesi, dijital çiplerin ise matris boyutu arttıkça katlanarak mücadele etmesidir. Bu, 32 x 32 matris çipinin veriminin (saniyede işlenen veri miktarı), bugün yapay zekayı eğitmek için kullanılan en üst düzey çiplerden biri olan Nvidia H100 GPU’nunkini geçeceği anlamına geliyor.
Sun, teorik olarak daha fazla ölçeklendirmenin, GPU gibi dijital çiplere göre 100 kat daha az enerji kullanırken verimin 1000 katına ulaşabileceğini söylüyor. Ancak gerçek dünyadaki görevlerin devrelerin son derece dar yeteneklerinin dışına çıkıp daha küçük kazançlara yol açabileceğini hemen belirtti.
Sun, “Bu yalnızca hız karşılaştırmasıdır ve gerçek uygulamalarda sorun farklı olabilir” diyor. “Çipimiz yalnızca matris hesaplamaları yapabiliyor. Eğer matris hesaplama, hesaplama görevinin çoğunu kaplıyorsa, sorun için çok önemli bir hızlanma anlamına geliyor, değilse de sınırlı bir hızlanma olacak.”
Sun, bu nedenle en olası sonucun, GPU’nun sorunların çok spesifik bölümlerini ele alan bazı analog devrelere sahip olduğu hibrit çiplerin yaratılması olacağını söylüyor; ancak bunun bile muhtemelen birkaç yıl uzakta olduğunu söylüyor.
King’s College London’dan James Millen, matris hesaplamalarının yapay zeka modellerinin eğitiminde önemli bir süreç olduğunu ve analog hesaplamanın potansiyel bir destek sunduğunu söylüyor.
Millen, “Modern dünya dijital bilgisayarlar üzerine inşa edilmiştir. Bu inanılmaz makineler evrensel bilgisayarlardır; bu da onların kesinlikle her şeyi hesaplamak için kullanılabileceği anlamına gelir, ancak her şeyin mutlaka verimli veya hızlı bir şekilde hesaplanamayacağı anlamına gelir” diyor. “Analog bilgisayarlar belirli görevlere göre uyarlanmıştır ve bu şekilde inanılmaz derecede hızlı ve verimli olabilirler. Bu çalışma, belirli yapay zeka modellerinin eğitiminde önemli bir süreç olan matris ters çevirme adı verilen bir süreci hızlandırmak için bir analog bilgi işlem çipi kullanıyor. Bunu daha verimli bir şekilde yapmak, yapay zekaya giderek artan bağımlılığımızdan kaynaklanan devasa enerji taleplerini azaltmaya yardımcı olabilir.”
