Page 12 - LabMedya - 81
P. 12
12 ÇEVRE VE ENDÜSTRI
Yapay zeka destekli sistemleri, hem eğitilirken hem de
çalışırken büyük miktarda enerji tüketiyor. Son yapılan
çalışmalarda büyük dil modellerinin enerji kullanımı
BÜYÜK ENERJİ KRİZİ ve karbon ayak izi incelendi. Bu modellerden biri olan
ChatGPT'nin geliştirilirken 10 bin NVIDIA GPU üzerinde
çalıştığı ve yılda 1.287 megawatt saat elektrik tükettiği
belirtildi.
Araştırmacılar tarafından yapılan çalışmalar yapay Teknolojik gelişmelerle birlikte yapay zeka alanında
zeka modellerinin yakın dönemde ülkeler kadar enerji yaşanan birçok gelişme oluyor. Son aylarda yapay
tüketebileceğini ortaya çıkardı. zeka sistemleri büyük bir gelişim gösterdi. Ancak bu
gelişim ile birlikte enerji tüketimleri de artmaya başladı.
Enerji tüketimlerinin nasıl dengeleneceği gibi önemli
bir konu üzerinde yapılan çalışmalarda bu oranda
artmaya başladı.
Yapay zeka araçlarına güç sağlamak için gereken ener-
jinin, bazı küçük ülkelerin toplam enerji taleplerini aşabi-
leceğini belirten yazar Alex de Vries'in Joule dergisindeki
bir yazısına göre, Google'ın 2021'deki toplam elektrik
tüketiminin yüzde 10-15'ini yapay zeka oluşturuyordu.
Bu durum, gelecekte yapay zeka sistemlerinin daha
fazla enerji tüketebileceğini işaret ediyor.
Dökülme Saçılma Kitlerimizle
Her Zaman Güvende Olun.
Laboratuvarınızda Interesting Engineering'in haberine göre OpenAI'ın
2022'nin sonlarında tanıttığı ChatGPT ile birlikte yapay
Olușabilecek zeka çiplerine olan talep arttı. Yapay zeka çip üreticisi
NVIDIA, Temmuz 2023'te sona eren çeyrekte 16 milyar
dolarlık rekor bir gelir açıklaması yaparak bu talebin
Tehlikelerin ne kadar büyük olduğunu gösterdi. Ayrıca, Google ve
Amazon gibi şirketler kendi yapay zeka çiplerini geliş-
Farkında mısınız? tirirken, Microsoft'un şirket içi çip donanımını tanıtma
planları da ortaya çıktı.
Bu gelişmeler, yapay zeka endüstrisinin enerji ayak
izinde önemli bir artışa neden olabilir. SemiAnalysis'e
göre, ChatGPT benzeri bir sohbet botunun her Google
aramasına entegre edilmesi için 512.820 adet NVIDIA
A100 HGX sunucusuna, yani 4 milyondan fazla GPU'ya
ihtiyaç duyulacağı tahmin ediliyor. Bu da günlük 80
GWh ve yıllık 29,2 TWh'lik bir elektrik tüketimine eşdeğer.
Yazar, yapay zeka araçlarının eğitim ve çıkarım aşama-
larına dikkat çekiyor. Eğitim aşamasının yoğun enerji
tüketimiyle bilinen yapay zeka modellerinin, çıkarım
aşamasında da yüksek enerji taleplerine ihtiyaç duyabi-
leceğine vurgu yapıyor. Örneğin, OpenAI'nin ChatGPT'yi
desteklemek için toplam 28.936 GPU'ya sahip 3.617
NVIDIA HGX A100 sunucusuna ihtiyaç duyuyor.
Yazar, donanım ve yazılım verimliliğindeki gelişmelerin
yapay zeka ile ilgili elektrik tüketimindeki uzun vadeli
değişiklikleri tamamen telafi etmeye yetmeyeceğini
belirtiyor. Ancak, MIT araştırmacıları tarafından yapılan
info@orlab.com.tr çalışmaların, yapay zeka modellerinin güç tüketimini
yüzde12-15 oranında azaltmayı başardığını söyleyerek
umut vadediyor.