生成式AI浪潮下的算力挑戰(zhàn):存儲(chǔ)芯片容量不足、計(jì)算接口待統(tǒng)一

沈怡然2023-08-10 21:31

經(jīng)濟(jì)觀察網(wǎng) 記者 沈怡然 8月10日,第五屆OCP China Day 2023(開放計(jì)算中國(guó)技術(shù)峰會(huì))在京召開。會(huì)上,三星電子、安謀科技、浪潮信息、世紀(jì)互聯(lián)等多家計(jì)算設(shè)施提供商提出,AI大模型對(duì)傳統(tǒng)計(jì)算設(shè)施帶來(lái)新的挑戰(zhàn),企業(yè)作為提供大模型裝備方,需要盡快解決關(guān)鍵芯片容量不足、計(jì)算接口和生態(tài)不統(tǒng)一的問(wèn)題。

OCP(OpenComputeProject開放計(jì)算項(xiàng)目)起源于Facebook為解決自身數(shù)據(jù)中心建設(shè)需求而成立一個(gè)基金組織,發(fā)展至今,吸引眾多重量級(jí)企業(yè)參與其中。

會(huì)上,三星電子副總裁、半導(dǎo)體事業(yè)軟件開發(fā)團(tuán)隊(duì)負(fù)責(zé)人張實(shí)完表示,生成式AI浪潮引爆了企業(yè)對(duì)芯片元器件的需求,其中,對(duì)存儲(chǔ)芯片的容量和性能的需求急劇增加,內(nèi)存芯片正面臨內(nèi)存墻限制的挑戰(zhàn)。

內(nèi)存墻限制指的是在計(jì)算機(jī)系統(tǒng)中,中央處理器(CPU)和主內(nèi)存之間的數(shù)據(jù)傳輸速度不斷提高,而存儲(chǔ)設(shè)備的訪問(wèn)速度卻沒(méi)有同樣的增長(zhǎng)。這種速度不匹配導(dǎo)致了計(jì)算機(jī)性能瓶頸,在某種程度上形成了一道堵塞的“墻”。

三星電子在2023年Q2財(cái)報(bào)會(huì)上表示,隨著大型企業(yè)之間加劇競(jìng)爭(zhēng)生成式AI服務(wù),公司收到了來(lái)自客戶的大量需求,這是發(fā)生在半導(dǎo)體下行周期中的罕見現(xiàn)象。尤其是用戶對(duì) HBM(一種高帶寬存儲(chǔ)芯片)的需求正快速增長(zhǎng),公司考慮對(duì)HBM擴(kuò)產(chǎn),同時(shí)迭代該產(chǎn)品技術(shù)。

張實(shí)完稱,“首要的解決方案是引入主動(dòng)存儲(chǔ)(Active Memory)建立全新內(nèi)存層次結(jié)構(gòu),其次是發(fā)展以數(shù)據(jù)為中心的計(jì)算技術(shù)”。

張實(shí)完表示,實(shí)際上,“內(nèi)存墻”并不是三星面臨的唯一挑戰(zhàn),以更快的速度處理數(shù)據(jù)需要大量的功耗,這將不可避免地導(dǎo)致大量碳排放。為此,三星開發(fā)以及應(yīng)用了生命周期評(píng)估(LCA)流程來(lái)計(jì)算和檢測(cè)所有產(chǎn)品的碳排放量,以減少產(chǎn)品生命周期和半導(dǎo)體供應(yīng)鏈中對(duì)環(huán)境的影響。

會(huì)上,浪潮信息服務(wù)器產(chǎn)品線總經(jīng)理趙帥表示,中國(guó)企業(yè)發(fā)布的大模型數(shù)量超過(guò)110個(gè),引發(fā)了對(duì)人工智能更為劇烈的算力需求。但是,由于各廠商技術(shù)路線不同,芯片的接口互聯(lián)協(xié)議和兼容性也有所不同,從而導(dǎo)致整個(gè)計(jì)算基礎(chǔ)設(shè)施在建設(shè)中不得不面臨著硬件分裂化和生態(tài)離散化的挑戰(zhàn)。

趙帥稱,將專有的硬件系統(tǒng)集成到整機(jī)系統(tǒng)中的“煙囪式”發(fā)展模式,需要花費(fèi)更多的時(shí)間和成本,這會(huì)阻礙了應(yīng)用的創(chuàng)新和算力產(chǎn)業(yè)的普惠發(fā)展。

會(huì)上,浪潮信息發(fā)布了《開放加速規(guī)范AI服務(wù)器設(shè)計(jì)指南》。趙帥稱,這是為了進(jìn)一步發(fā)展和完善規(guī)范AI服務(wù)器的設(shè)計(jì)理論和設(shè)計(jì)方法。通過(guò)開放設(shè)計(jì)指南對(duì)主機(jī)接口、供電方式、散熱方式、管理接口、卡機(jī)的互聯(lián)等進(jìn)行梳理,可以顯著降低AI算力產(chǎn)業(yè)化成本,提速多元算力普惠的進(jìn)程。

版權(quán)聲明:以上內(nèi)容為《經(jīng)濟(jì)觀察報(bào)》社原創(chuàng)作品,版權(quán)歸《經(jīng)濟(jì)觀察報(bào)》社所有。未經(jīng)《經(jīng)濟(jì)觀察報(bào)》社授權(quán),嚴(yán)禁轉(zhuǎn)載或鏡像,否則將依法追究相關(guān)行為主體的法律責(zé)任。版權(quán)合作請(qǐng)致電:【010-60910566-1260】。
大科創(chuàng)新聞部記者
關(guān)注硬科技領(lǐng)域,包括機(jī)器人及人工智能、無(wú)人機(jī)、虛擬現(xiàn)實(shí)(VR/AR)、智能穿戴,以及新材料領(lǐng)域。擅長(zhǎng)企業(yè)深度報(bào)道及上市公司分析報(bào)道。發(fā)現(xiàn)前沿技術(shù)、發(fā)展趨勢(shì)投資價(jià)值。

熱新聞