Araştırmacılar, kullanıcıların yapay zeka ile gerçekleştirdikleri her görevde en verimli modeli seçmeleri durumunda bunun enerji tüketimini dörtte birinden fazla azaltacağını hesaplıyor.
Yapay zekalar büyük miktarda enerji kullanan veri merkezlerine güveniyor
Görevler için kullandığımız yapay zeka modellerinde daha dikkatli olmak, yalnızca bu yıl potansiyel olarak 31,9 terawatt-saat enerji tasarrufu sağlayabilir; bu da beş nükleer reaktörün üretimine eşdeğerdir.
Fransa’daki Cote d’Azur Üniversitesi’nden Tiago da Silva Barros ve meslektaşları, metin oluşturma, konuşma tanıma ve görüntü sınıflandırmaya kadar insanların üretken yapay zeka araçlarını kullandığı 14 farklı görevi inceledi.
Daha sonra farklı modellerin nasıl performans gösterdiğini öğrenmek için makine öğrenimi merkezi Hugging Face’in barındırdığı sıralamalar da dahil olmak üzere herkese açık skor tablolarını incelediler. Çıkarım sırasında (bir yapay zeka modeli bir cevap ürettiğinde) modellerin enerji verimliliği, CarbonTracker adlı bir araçla ölçüldü ve bu modelin toplam enerji kullanımı, kullanıcı indirmeleri takip edilerek hesaplandı.
Da Silva Barros, “Modelin boyutuna göre enerji tüketimini tahmin ettik ve buna dayanarak tahminlerimizi yapmaya çalışabiliriz” diyor.
Araştırmacılar, 14 görevin tamamında, her bir görev için en iyi performans gösteren modelden enerji açısından en verimli modele geçişin, enerji kullanımını yüzde 65,8 oranında azalttığını, ancak çıktıyı yalnızca yüzde 3,9 daha az kullanışlı hale getirdiğini buldular; bu, halk tarafından kabul edilebilir olabileceğini öne sürdükleri bir değiş-tokuş.
Bazı insanlar zaten en ekonomik modelleri kullandığından, gerçek dünyadaki insanlar yüksek performanslı modellerden enerji açısından en verimli modele geçiş yapsalar, genel enerji tüketiminde yüzde 27,8’lik bir azalma sağlanabilir. Fransa Ulusal Bilimsel Araştırma Merkezi’nden ekip üyesi Frédéric Giroire, “Bu kadar tasarruf edilebildiğine şaşırdık” diyor.
Ancak da Silva Barros, bunun hem kullanıcıların hem de yapay zeka şirketlerinin değişmesini gerektireceğini söylüyor. “Performansın bir kısmını kaybetsek bile küçük modelleri çalıştırma yönünde düşünmeliyiz” diyor. “Ve şirketler, modeller geliştirirken, kullanıcıların modelin çok enerji tüketip tüketmediğini anlamalarına ve değerlendirmelerine olanak tanıyan model hakkında bazı bilgileri paylaşmaları önemlidir.”
Bazı yapay zeka şirketleri, büyük modellerin daha küçük modelleri eğitmek için kullanıldığı model damıtma adı verilen bir süreç aracılığıyla ürünlerinin enerji tüketimini azaltıyor. Birleşik Krallık’taki Bristol Üniversitesi’nden Chris Preist, bunun şimdiden önemli bir etki yarattığını söylüyor. Örneğin, Google geçtiğimiz yıl Gemini’de enerji verimliliğinde 33 kat artış olduğunu iddia etti.
Ancak kullanıcıların en verimli modelleri seçmesini sağlamak, “yazarların önerdiği gibi, en azından mevcut yapay zeka balonunda, veri merkezlerinden gelen enerji artışını sınırlamaya yol açması pek mümkün değil”. Preist diyor. “İstem başına enerjinin azaltılması, daha fazla müşteriye daha karmaşık muhakeme seçenekleriyle daha hızlı hizmet verilmesine olanak tanıyacaktır” diyor.
Hugging Face’ten Sasha Luccioni, “Daha küçük modellerin kullanılması kesinlikle kısa vadede daha az enerji kullanımına yol açabilir, ancak geleceğe yönelik anlamlı tahminler yaparken dikkate alınması gereken pek çok başka faktör var” diyor. Artan kullanım gibi toparlanma etkilerinin yanı sıra toplum ve ekonomi üzerindeki daha geniş etkilerin de dikkate alınması gerektiği konusunda uyarıyor.
Luccioni, bireysel şirketlerin şeffaflık eksikliği nedeniyle bu alandaki herhangi bir araştırmanın dış tahminlere ve analizlere dayandığına dikkat çekiyor. “Bu tür daha karmaşık analizler yapmak için ihtiyacımız olan şey, yapay zeka şirketlerinden, veri merkezi operatörlerinden ve hatta hükümetlerden daha fazla şeffaflıktır” diyor. “Bu, araştırmacıların ve politika yapıcıların bilinçli tahminler ve kararlar almasına olanak tanıyacak.”
