飞象网 - 通信人每天必上的网站

首頁|必讀|視頻|專訪|運營|制造|監管|大數據|物聯網|量子|元宇宙|博客|特約記者
手機|互聯網|IT|5G|光通信|人工智能|云計算|芯片|報告|智慧城市|移動互聯網|會展
首頁 >> 相關報道 >> 正文

算力狂飆電力承壓 英偉達、英特爾爭相推出節能方案

2024年9月2日 07:08  每日經濟新聞  

當地時間8月26日,OpenAI硬件設施負責人Trevor Cai在Hot Chips 2024上發表了長達一小時的演講,主題為“構建可擴展的AI基礎設施”。他指出,OpenAI的一項重要觀察結果是,擴大規模可以產生更好、更有用的人工智能(AI)。

作為全球芯片行業影響力最大的會議之一,Hot Chips于每年8月份在斯坦福大學舉行。不同于其他行業會議以學術研究為主,Hot Chips是一場產業界的盛會,各大處理器公司會在每年的會上展現他們最新的產品以及在研的產品。

《每日經濟新聞》記者注意到,AI浪潮推動數據中心激增,同時也伴隨著能源需求的激增。在這樣的背景下,此次的Hot Chips大會上,圍繞人工智能的議題比以往任何一屆都更加活躍。Trevor Cai的演講著眼于解決能源和算力之間的問題,英特爾、IBM和英偉達等則是提出了更節能的技術方案。

摩根士丹利在8月份發布的研究中預測稱,生成式AI的電力需求將在未來幾年內每年飆升75%,預計到2026年,其消耗的能源量將與西班牙在2022年的消耗量相當。科技巨頭們該如何應對能源挑戰?

聚焦“節能方案”

當地時間8月26日,一年一度的半導體企業盛會Hot Chips2024在斯坦福大學紀念禮堂舉行,今年是第36屆。

從會議第一天的情況來看,大部分的話題都集中在了更節能、安全且可擴展的大規模AI服務器部署方案上。

OpenAI硬件負責人Trevor Cai發表了“可預測的擴展和基礎設施”主題演講,談到了提升計算能力所帶來的可預測的擴展效益,這也是OpenAI自成立之初就關注的重點。一個重要的觀察結果是,擴大規模可以產生更好、更有用的人工智能。“每次計算量翻倍,都會得到更好的結果。模型的能力和計算資源的消耗是呈指數級別上升的。自2018年以來,行業中前沿模型的計算量每年增長約4倍。”他說道。

最初,GPT-1只需幾周的時間完成訓練。如今,它已經擴展到需要龐大的GPU集群。因此,OpenAI認為AI的基礎建設需要大量投資,因為計算能力的提升已經產生了超過8個數量級的效益。

似乎是為了呼應OpenAI的演講,各大公司的演講也不約而同地提到了大規模部署AI服務器的計劃方案。

IBM在大會上披露了即將推出的IBM Telum II處理器和IBM Spyre加速器的架構細節。新技術旨在顯著擴展下一代IBM Z大型機系統的處理能力,通過一種新的AI集成方法幫助加速傳統AI模型和大型語言 AI模型的協同使用。IBM特別強調這次更新的先進I/O技術旨在降低能耗和數據中心占用空間。

英偉達也在大會上放出了最新的AI集群架構Blackwell的相關消息。英偉達稱,Blackwell擁有6項革命性技術,可支持多達10萬億參數的模型進行AI訓練和實時大語言模型(LLM)推理。值得注意的是,英偉達的Quasar量化系統用于確定可以使用較低精度的內容,從而減少計算和存儲。英偉達表示他們的宗旨就是在提高能源效率的同時為AI和加速計算性能提供新標準。

除此之外,英特爾、博通、海力士等公司的演講中均提到了更節能的技術方案。

能源需求激增

科技巨頭們著眼“更節能的”技術方案的根本原因在于,當前人工智能熱潮正在增加更強大的處理器以及保持數據中心冷卻所需的能源需求。

當前,微軟、Alphabet和Meta等大型科技公司正在投資數十億美元建設數據中心基礎設施,以支持生成式人工智能,但數據中心的激增也伴隨著能源需求的激增。

據彭博社報道,僅去年,大型科技公司就向數據中心設施投入了約1050億美元。谷歌、蘋果和特斯拉等公司不斷通過新產品和服務增強AI能力。每項AI任務都需要巨大的計算能力,這意味著數據中心會消耗大量電力。國際能源署(IEA)預測,到2026年,全球數據中心每年使用的能源量將相當于日本的電力消耗量。

Hugging Face的人工智能和氣候負責人Sasha Luccioni提到,雖然訓練AI模型需要耗費大量能源(例如,訓練 GPT-3模型耗費了大約1300兆瓦時的電力,而GPT-4的訓練消耗是GPT3的50倍),但通常只進行一次。然而,由于查詢量巨大,模型生成響應可能需要更多能源。

例如,當用戶向ChatGPT等AI模型提問時,需要向數據中心發送請求,然后強大的處理器會生成響應。這個過程雖然很快,但消耗的能量也是巨大的。根據艾倫人工智能研究所的數據,對ChatGPT進行一次查詢所消耗的電量相當于為燈泡點亮20分鐘,是簡單Google搜索耗電量的10倍以上。

然而,全球的電力資源有限,而數據中心需要持續穩定的電力供應來運行服務器和其他核心運營設備。如果能源供應不穩定,停機可能會給企業和其他用戶造成重大經濟損失。此外,巨大的能源消耗也引發了人們對環境的擔憂。

為應對這一挑戰,科技公司們開始尋找解決方案。

部分公司選擇更清潔且高效的能源供給,如核能。亞馬遜最近在美國賓夕法尼亞州東北部購買了一個價值6.5億美元的核能數據中心園區設施,該設施將使用核反應堆產生的高達40%的電力,最終使亞馬遜能夠減少對當地電網的依賴。與此同時,微軟聘請了核專家來帶頭尋找這種替代電源。微軟還與核電站運營商簽訂了合同協議,為其位于弗吉尼亞州的一個數據中心提供電力。

除此之外,科技公司們不僅在前文所提到的一系列芯片節能技術進行努力,也在其他硬件設施和技術上下足了功夫。

谷歌正在開發人工智能專用芯片,例如張量處理單元(TPU),這些芯片針對人工智能任務進行了優化,而不是使用為游戲技術創建的圖形處理單元(GPU)。

英偉達針對Blackwell芯片的直接液體冷卻系統還宣布了一項研究,研究表明了如何重新利用從服務器中吸收的熱量并將其回收到數據中心。據英偉達估計,冷卻最多可減少數據中心設施耗電量的28%。

然而,威斯康星大學麥迪遜分校的教授辛克萊提醒,杰文斯悖論在這里依然適用。“提高人工智能的效率,雖然減少了單次能耗,但整體使用率的增加最終會導致總體能耗的上升。”辛克萊解釋道。這個悖論不僅適用于19世紀的火車煤炭使用,同樣適用于當今的人工智能和電力消耗。

(每經記者 文巧 實習記者 岳楚鵬    每經編輯 高涵    )

編 輯:高靖宇
飛象網版權及免責聲明:
1.本網刊載內容,凡注明來源為“飛象網”和“飛象原創”皆屬飛象網版權所有,未經允許禁止轉載、摘編及鏡像,違者必究。對于經過授權可以轉載,請必須保持轉載文章、圖像、音視頻的完整性,并完整標注作者信息和飛象網來源。
2.凡注明“來源:XXXX”的作品,均轉載自其它媒體,在于傳播更多行業信息,并不代表本網贊同其觀點和對其真實性負責。
3.如因作品內容、版權和其它問題,請在相關作品刊發之日起30日內與本網聯系,我們將第一時間予以處理。
本站聯系電話為86-010-87765777,郵件后綴為cctime.com,冒充本站員工以任何其他聯系方式,進行的“內容核實”、“商務聯系”等行為,均不能代表本站。本站擁有對此聲明的最終解釋權。
相關新聞              
 
人物
中國電信邵廣祿:面向AI大模型的智算集群及網絡的實踐和展望
精彩專題
2024年國際信息通信展
中國信科亮相2024年國際信息通信展
第25屆中國國際光電博覽會
2024年上半年運營商業績盤點
CCTIME推薦
關于我們 | 廣告報價 | 聯系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網 CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號-1  電信與信息服務業務經營許可證080234號 京公網安備110105000771號
公司名稱: 北京飛象互動文化傳媒有限公司
未經書面許可,禁止轉載、摘編、復制、鏡像
主站蜘蛛池模板: 空调风机,低噪声离心式通风机,不锈钢防爆风机,前倾皮带传动风机,后倾空调风机-山东捷风风机有限公司 | 复合肥,化肥厂,复合肥批发,化肥代理,复合肥品牌-红四方 | 玻璃钢罐_玻璃钢储罐_盐酸罐厂家-河北华盛节能设备有限公司 | 上海平衡机-单面卧式动平衡机-万向节动平衡机-圈带动平衡机厂家-上海申岢动平衡机制造有限公司 | 自动螺旋上料机厂家价格-斗式提升机定制-螺杆绞龙输送机-杰凯上料机 | 米顿罗计量泵(科普)——韬铭机械| vr安全体验馆|交通安全|工地安全|禁毒|消防|安全教育体验馆|安全体验教室-贝森德(深圳)科技 | 济南拼接屏_山东液晶拼接屏_济南LED显示屏—维康国际官网 | 酶联免疫分析仪-多管旋涡混合仪|混合器-莱普特科学仪器(北京)有限公司 | 硬质合金模具_硬质合金非标定制_硬面加工「生产厂家」-西迪技术股份有限公司 | 山东钢格板|栅格板生产厂家供应商-日照森亿钢格板有限公司 | 焊锡丝|焊锡条|无铅锡条|无铅锡丝|无铅焊锡线|低温锡膏-深圳市川崎锡业科技有限公司 | 别墅图纸超市|别墅设计图纸|农村房屋设计图|农村自建房|别墅设计图纸及效果图大全 | 生物风-销售载体,基因,质粒,ATCC细胞,ATCC菌株等,欢迎购买-百风生物 | 洁净棚-洁净工作棚-无菌室-净化工程公司_北京卫护科技有限公司 | 冷凝锅炉_燃气锅炉_工业燃气锅炉改造厂家-北京科诺锅炉 | 聚丙烯酰胺_阴离子_阳离子「用量少」巩义亿腾厂家直销,售后无忧 聚合甘油__盐城市飞龙油脂有限公司 | 自进式锚杆-自钻式中空注浆锚杆-洛阳恒诺锚固锚杆生产厂家 | 金现代信息产业股份有限公司--数字化解决方案供应商 | 不锈钢/气体/液体玻璃转子流量计(防腐,选型,规格)-常州天晟热工仪表有限公司【官网】 | 细石混凝土泵_厂家_价格-烟台九达机械有限公司 | 铁素体测量仪/检测仪/铁素体含量测试仪-苏州圣光仪器有限公司 | 间苯二酚,间苯二酚厂家-淄博双和化工 | hdpe土工膜-防渗膜-复合土工膜-长丝土工布价格-厂家直销「恒阳新材料」-山东恒阳新材料有限公司 ETFE膜结构_PTFE膜结构_空间钢结构_膜结构_张拉膜_浙江萬豪空间结构集团有限公司 | 户外-组合-幼儿园-不锈钢-儿童-滑滑梯-床-玩具-淘气堡-厂家-价格 | 磁力抛光研磨机_超声波清洗机厂家_去毛刺设备-中锐达数控 | 杰福伦_磁致伸缩位移传感器_线性位移传感器-意大利GEFRAN杰福伦-河南赉威液压科技有限公司 | 气动隔膜泵-电动隔膜泵-循环热水泵-液下排污/螺杆/管道/化工泵「厂家」浙江绿邦 | 上海皓越真空设备有限公司官网-真空炉-真空热压烧结炉-sps放电等离子烧结炉 | 定量包装机,颗粒定量包装机,粉剂定量包装机,背封颗粒包装机,定量灌装机-上海铸衡电子科技有限公司 | 宿松新闻网 宿松网|宿松在线|宿松门户|安徽宿松(直管县)|宿松新闻综合网站|宿松官方新闻发布 | 螺旋压榨机-刮泥机-潜水搅拌机-电动泥斗-潜水推流器-南京格林兰环保设备有限公司 | 短信群发平台_群发短信软件_短信营销-讯鸽科技 | 意大利Frascold/富士豪压缩机_富士豪半封闭压缩机_富士豪活塞压缩机_富士豪螺杆压缩机 | ★济南领跃标识制作公司★济南标识制作,标牌制作,山东标识制作,济南标牌厂 | 安徽控制器-合肥船用空调控制器-合肥家电控制器-合肥迅驰电子厂 安徽净化板_合肥岩棉板厂家_玻镁板厂家_安徽科艺美洁净科技有限公司 | 合肥花魁情感婚姻咨询中心_挽回爱情_修复婚姻_恋爱指南 | 光照全温振荡器(智能型)-恒隆仪器 | 福兰德PVC地板|PVC塑胶地板|PVC运动地板|PVC商用地板-中国弹性地板系统专业解决方案领先供应商! 福建成考网-福建成人高考网 | 安平县鑫川金属丝网制品有限公司,防风抑尘网,单峰防风抑尘,不锈钢防风抑尘网,铝板防风抑尘网,镀铝锌防风抑尘网 | 水上浮桥-游艇码头-浮动码头-游船码头-码瑞纳游艇码头工程 |