hadicanim
Aktif Üye
Yüksek elektrik fiyatları ve iklim değişikliği zamanlarında, bir cihazın güç tüketimi her zaman ilgi çekicidir. Özellikle de üretken yapay zekanın hem eğitimi hem de uygulaması için ihtiyaç duyulan yüzlerce veya binlerce cihaz, yani enerjiye aç işlemciler söz konusu olduğunda. Yapay zekanın gerçekte ne kadar elektrik tükettiği ve şirketlerin maliyetlerle nasıl başa çıktığı, yapay zeka güncellemesinin son baskısında c’t’nin donanım departmanından Christof Windeck tarafından açıklanıyor.
Reklamcılık
Windeck, “Öncelikle tüm yapay zekalar aynı değildir” diye açıklıyor. “Bu terim, verileri işlemeleri dışında çok az ortak noktası olan çok farklı şeyleri tanımlamak için kullanılıyor. Dolayısıyla aynı zamanda farklı miktarlarda elektrik tüketiyorlar.” Bir arama motorunun sayfa sıralamasını kontrol eden veya cep telefonu kamerasındaki görüntüleri iyileştiren bir yapay zeka algoritması, diğer uygulamalara göre önemli ölçüde daha fazla güç tüketmez.
Yapay zeka aslında ne kadar akıllı? Üretken yapay zekanın işimiz, boş zamanlarımız ve toplumumuz açısından ne gibi sonuçları var? Haberler’nin “Yapay Zeka Güncellemesi”nde The Decoder ile birlikte size hafta içi her gün en önemli yapay zeka gelişmelerine ilişkin güncellemeleri sunuyoruz. Cuma günleri uzmanlarla yapay zeka devriminin farklı yönlerini inceliyoruz.
Üretken yapay zeka ile şu anda enerjiye son derece aç olan şey öncelikle eğitimdir. “Eğitim sırasında model, genellikle devasa test veri kümelerinden, daha sonra kullanım sırasında tam olarak ne yapması gerektiğini öğrenir.” Büyük dil modellerinin hızlı bir şekilde eğitilebilmesi için birkaç yüz sunucu, birkaç bin AI hızlandırıcıya bağlanır. Windeck, “GPT-3 düzeyinde bir şey için gereken elektrikle tek aileli bir evi 30 yıl boyunca ısıtabilirsiniz” diye belirtiyor. Bu nedenle en büyük yapay zeka operatörleri yenilenebilir enerjiye çok fazla yatırım yapıyor.
Windeck’e göre eğitim sırasında elektrikten tasarruf etmenin bir başka yolu da daha küçük modeller kullanmak olabilir: “Eğitim için 1.000 GPU saatinden daha azına ihtiyaç duyduklarından, daha kısa aralıklarla yeni verilerle de eğitilebilirler.” Örneğin destek sunan ve yeni bir ürüne yönelik taleplere yapay zeka algoritmasıyla yanıt vermek isteyen bir şirket için bu cazip bir model olacaktır. “Güncellik kesinlikle ilginç bir argüman.”
Donanım uzmanı, daha sonraki kullanımda, sözde çıkarım sırasında, bunun büyük ölçüde sisteme yapılan isteğin türüne ve bunun için ne kadar hesaplama gücü kullanıldığına bağlı olduğunu açıklıyor. Uzun vadede, yalnızca enerji talebinin insanların vazgeçmeye hazır oldukları miktarla yeniden finanse edildiği iş modelleri geçerli olacaktır – “ister veriyle ister reklamla ödeyin, ya da başka bir şeyle.”
(igr)
Haberin Sonu
Reklamcılık
Windeck, “Öncelikle tüm yapay zekalar aynı değildir” diye açıklıyor. “Bu terim, verileri işlemeleri dışında çok az ortak noktası olan çok farklı şeyleri tanımlamak için kullanılıyor. Dolayısıyla aynı zamanda farklı miktarlarda elektrik tüketiyorlar.” Bir arama motorunun sayfa sıralamasını kontrol eden veya cep telefonu kamerasındaki görüntüleri iyileştiren bir yapay zeka algoritması, diğer uygulamalara göre önemli ölçüde daha fazla güç tüketmez.
Yapay zeka aslında ne kadar akıllı? Üretken yapay zekanın işimiz, boş zamanlarımız ve toplumumuz açısından ne gibi sonuçları var? Haberler’nin “Yapay Zeka Güncellemesi”nde The Decoder ile birlikte size hafta içi her gün en önemli yapay zeka gelişmelerine ilişkin güncellemeleri sunuyoruz. Cuma günleri uzmanlarla yapay zeka devriminin farklı yönlerini inceliyoruz.
Üretken yapay zeka ile şu anda enerjiye son derece aç olan şey öncelikle eğitimdir. “Eğitim sırasında model, genellikle devasa test veri kümelerinden, daha sonra kullanım sırasında tam olarak ne yapması gerektiğini öğrenir.” Büyük dil modellerinin hızlı bir şekilde eğitilebilmesi için birkaç yüz sunucu, birkaç bin AI hızlandırıcıya bağlanır. Windeck, “GPT-3 düzeyinde bir şey için gereken elektrikle tek aileli bir evi 30 yıl boyunca ısıtabilirsiniz” diye belirtiyor. Bu nedenle en büyük yapay zeka operatörleri yenilenebilir enerjiye çok fazla yatırım yapıyor.
Windeck’e göre eğitim sırasında elektrikten tasarruf etmenin bir başka yolu da daha küçük modeller kullanmak olabilir: “Eğitim için 1.000 GPU saatinden daha azına ihtiyaç duyduklarından, daha kısa aralıklarla yeni verilerle de eğitilebilirler.” Örneğin destek sunan ve yeni bir ürüne yönelik taleplere yapay zeka algoritmasıyla yanıt vermek isteyen bir şirket için bu cazip bir model olacaktır. “Güncellik kesinlikle ilginç bir argüman.”
Donanım uzmanı, daha sonraki kullanımda, sözde çıkarım sırasında, bunun büyük ölçüde sisteme yapılan isteğin türüne ve bunun için ne kadar hesaplama gücü kullanıldığına bağlı olduğunu açıklıyor. Uzun vadede, yalnızca enerji talebinin insanların vazgeçmeye hazır oldukları miktarla yeniden finanse edildiği iş modelleri geçerli olacaktır – “ister veriyle ister reklamla ödeyin, ya da başka bir şeyle.”
(igr)
Haberin Sonu