總而言之,盡管短期內(nèi)還不會出現(xiàn)AI缺電的問題,但相關(guān)的討論確實給大力發(fā)展AI的世界提了個醒——隨著AI大模型規(guī)模和數(shù)量的高速增長,未來可能面臨的能源需求激增不容忽視。
一方面,數(shù)據(jù)中心的高效運轉(zhuǎn)離不開大量電力支撐;另一方面,電力系統(tǒng)的平穩(wěn)高效運行也離不開算力支撐。統(tǒng)籌算力電力協(xié)同布局,有助于促進風(fēng)光綠電消納和數(shù)據(jù)中心零碳發(fā)展。
2022年2月,國家發(fā)展改革委等部門聯(lián)合印發(fā)通知,同意在內(nèi)蒙古、貴州、甘肅、寧夏等8地啟動建設(shè)國家算力樞紐節(jié)點,并規(guī)劃了10個國家數(shù)據(jù)中心集群。“東數(shù)西算”工程正式全面啟動。
比如,國際能源署(IEA)對清潔能源能起到的作用就相當(dāng)樂觀,其在一份報告中指出,預(yù)計到2026年底,包括可再生能源和核能在內(nèi)的低碳能源將占全球發(fā)電量的46%,并可滿足所有額外需求增長,其中就包括用電需求將翻番的人工智能。
以GPT-3的訓(xùn)練為例,GPT-3有1750億個參數(shù),據(jù)估計,訓(xùn)練過程使用了大約1287兆瓦時(也就是128.7萬度)的電力。
該如何理解這個耗電量?這相當(dāng)于美國約121個家庭一整年的用電量。也曾有專家打了這么一個比方,大概相當(dāng)于3000輛特斯拉電動汽車共同開跑,每輛車跑20萬英里。
國際能源署(IEA)在今年1月的一份報告中曾表示,ChatGPT響應(yīng)一個請求平均耗電2.9瓦時——相當(dāng)于將一個60瓦的燈泡點亮略少于三分鐘。
但GPT-3的能耗可以作為一個參考,GPT-3模型參數(shù)為1750億,而GPT-4曾被曝包含1.8萬億參數(shù),隨著參數(shù)的翻倍,能耗也會大幅增加。
他表示,目前AI發(fā)展的路線是不斷增加模型參數(shù)、疊加芯片,如果繼續(xù)按照這個路線發(fā)展,將來消耗的電力將更多,從這個角度來講,未來AI的能耗問題可能會越來越突出,尤其是對于電力供應(yīng)本身比較緊張的國家。但就目前而言,能源還沒有成為限制AI發(fā)展的因素。
工信部信息通信經(jīng)濟專家委員會委員劉興亮也表示,科技大佬預(yù)言AI“缺電”,可能是想讓大家重視起這個問題,這只說明,AI確實耗電,電力成本也確實很高,但是目前能源問題還沒有到影響AI發(fā)展的程度。
另外,據(jù)美媒報道,ChatGPT每天響應(yīng)約2億個需求,消耗超過50萬度電力,相當(dāng)于1.7萬個美國家庭平均一天的用電量。
劉興亮同意未來可能面臨的隱憂,如果繼續(xù)無節(jié)制地擴大參數(shù)規(guī)模,并且伴隨著用戶越來越多,而能耗技術(shù)沒有進步,耗電將很快成為一個問題。但與此同時,他也作出了比較樂觀的展望,認為可以通過技術(shù)進一步降低能耗。
近年來,人工智能帶來的能耗問題引發(fā)廣泛討論,而我國早在2021年就開始布局“東數(shù)西算”,這無疑極具前瞻性,也大大助力了我國在此輪算力競賽中占得優(yōu)勢。
一項發(fā)表于《科學(xué)》期刊的研究指出,在2010年至2018年間,全球數(shù)據(jù)中心的運算量增長了550%,存儲空間增長了2400%,但耗電量僅增長6%。
AI當(dāng)然不只ChatGPT,但它的耗能數(shù)據(jù)可以作為一個切口??梢钥闯?,盡管隨著AI算力的迅猛增長,電力需求也持續(xù)增長,但目前其在整體電力消耗中所占比例較小。
當(dāng)下訓(xùn)練AI大模型使用的主流算力芯片英偉達H100芯片,一張最大功耗為700瓦,這意味著運行一小時就要耗電0.7度。而此前有消息稱,OpenAI訓(xùn)練GPT-5,需要數(shù)萬張H100芯片。
然而,人工智能模型訓(xùn)練推理這樣高時延業(yè)務(wù)場景,正好是“東數(shù)西算”的“舒適區(qū)”,“東數(shù)西訓(xùn)”成為“東數(shù)西算”的典型應(yīng)用場景。
當(dāng)下人工智能大模型的競爭,頗像一場“算力軍備競賽”。在規(guī)模效應(yīng)(Scaling Law)的驅(qū)動下,各公司通過不斷增加模型參數(shù)和數(shù)據(jù)量,期待實現(xiàn)“大力出奇跡”,相應(yīng)地,算力需求也成倍增加。
此外,有運營商已經(jīng)面向普通消費者推出了“算力卡”。相關(guān)業(yè)務(wù)負責(zé)人表示,未來,算力服務(wù)也會成為像流量、寬帶一樣的大眾化產(chǎn)品。
根據(jù)公開資料,2023年,美國全口徑凈發(fā)電量為41781.71億千瓦時(1千瓦時=1度),以ChatGPT每天耗電50萬度計算,按一年365天,耗電量約為18250萬度,這也只占全美發(fā)電量的約0.0044%。
我國在電力方面具有優(yōu)勢,已建成全球規(guī)模最大的電力供應(yīng)系統(tǒng)和清潔發(fā)電體系,其中,水電、風(fēng)電、光伏、生物質(zhì)發(fā)電和在建核電規(guī)模多年位居世界第一。
因此,引導(dǎo)數(shù)據(jù)中心向西部資源豐富地區(qū)聚集,既能推動西部地區(qū)數(shù)據(jù)中心低碳、綠色、可持續(xù)發(fā)展,又能滿足東部地區(qū)的算力需求。
AI算力需要消耗大量電力,青海的綠電又用不完,如果把數(shù)據(jù)中心搬到青海,將“綠電”變?yōu)椤熬G算”,將綠色“瓦特”變?yōu)榫G色“比特”,豈不是雙向奔赴?
讓我們做一道簡單的數(shù)學(xué)題,GPT-3訓(xùn)練耗電約128萬度,ChatGPT每天為響應(yīng)需求耗電50萬度,GPT-3在訓(xùn)練階段消耗的電量,甚至無法支撐ChatGPT運行3天。
國家級人工智能訓(xùn)練場落戶貴州貴陽;貴州省與深圳市簽訂算力協(xié)同發(fā)展戰(zhàn)略合作協(xié)議;華為云計算與貴安新區(qū)合作打造全球領(lǐng)先的智算中心;華為云盤古、訊飛星火兩個基礎(chǔ)大模型啟動在貴州產(chǎn)業(yè)化項目;貴州與浙江聯(lián)合打造文旅宣傳虛擬數(shù)字人“杭小憶”……
而在供應(yīng)方面,電力問題涉及能源、基建、政策、技術(shù)等多個方面,難以通過簡單的“有”或“沒有”“充足”或“不充足”來一言以蔽之。更多樣化的能源組合、電力技術(shù)革新、國家調(diào)控等都將有助于應(yīng)對這個問題。
大发经典网页官网他表示,人工智能計算的約束條件是可預(yù)測的,“我在一年多前就預(yù)測過芯片短缺,下一個短缺的將是電力。我認為明年將沒有足夠的電力來運行所有的芯片?!?/p>
我們當(dāng)然要看到,客觀上,由于網(wǎng)絡(luò)時延等限制存在,并非所有算力服務(wù)場景都適用“東數(shù)西算”。比如自動駕駛、證券交易等低時延業(yè)務(wù)場景就需要就近計算。
北京首都在線與甘肅省慶陽市簽訂人工智能產(chǎn)業(yè)合作框架協(xié)議;百度智能云與成都高新區(qū)簽訂戰(zhàn)略合作簽約儀式,打造大模型產(chǎn)業(yè)……
GPT-3是在2020年發(fā)布的,很多人也許會問,更新的模型能耗如何呢?因為近年來不少AI科技公司不再公布訓(xùn)練細節(jié),比如用了什么硬件、耗時多久,這使得能耗計算變得困難。
波士頓咨詢集團曾發(fā)布報告稱,到2030年底,僅美國數(shù)據(jù)中心的用電量預(yù)計就將是2022年的三倍,而這一增幅主要來自AI模型訓(xùn)練和更高頻的AI查詢。
而且,數(shù)據(jù)中心建到青海,不僅能解決電力問題,還能大大降低散熱能耗。青海氣候干燥、冷涼,數(shù)據(jù)中心可實現(xiàn)全年314天自然冷卻,制冷用電比全國平均水平低40%左右。
去年,貴州部署智算芯片達8萬張,總算力規(guī)模增長28.8倍。貴州的目標是,面向東部模型訓(xùn)練,提供低成本、高品質(zhì)、易使用的算力服務(wù)。
在人工智能飛速發(fā)展的背后,能源消耗問題也日益凸顯,成為業(yè)內(nèi)關(guān)注的焦點。甚至有人提出,“AI的盡頭是算力,而算力的盡頭是電力”。
北京、貴州、甘肅慶陽等多地紛紛面向企業(yè)、高校、科研機構(gòu)等發(fā)放“算力券”,降低使用算力的成本,來支持人工智能產(chǎn)業(yè)發(fā)展。
網(wǎng)友評論更多
69額爾古納n
9億元拿下的子公司如今1元甩賣!是誰承接這筆虧損資產(chǎn)?❙❚
2024-09-23 18:05:21 推薦
187****3297 回復(fù) 184****3559:抽簽結(jié)果出爐!2024中國網(wǎng)絡(luò)媒體足球精英賽即將打響❛來自根河
187****5852 回復(fù) 184****3542:“我吃9.9外賣,貓吃滿漢全席”,風(fēng)很大的高端寵物糧掏空年輕人❜來自豐鎮(zhèn)
157****8846:按最下面的歷史版本❝❞來自烏蘭浩特
28阿爾山896
“過氣”男明星,靠講雞湯一晚上“收割”阿姨們百萬元!❟❠
2024-09-24 07:51:58 推薦
永久VIP:爆火的韓國老年戀綜,竟然塌房了❡來自二連浩特
158****2495:日本企業(yè)不傳親兒子,傳贅婿!❢來自錫林浩特
158****2212 回復(fù) 666❣:圍繞大運會舉辦,中央網(wǎng)信辦等集中整治六類網(wǎng)絡(luò)環(huán)境突出問題❤來自烏魯木齊
47克拉瑪依vw
長征十號火箭衍生型可重復(fù)使用原理試驗驗證完成❥❦
2024-09-25 21:41:53 不推薦
吐魯番bz:共建向上向善精神家園——我國積極推進網(wǎng)絡(luò)文明建設(shè)❧
186****9031 回復(fù) 159****2706:最新!成都大運會開幕式有劇透了❨