北電數(shù)智:激活國(guó)產(chǎn)算力

任曉寧 陳奇杰2024-05-25 10:34

經(jīng)濟(jì)觀察報(bào) 記者 任曉寧 陳奇杰 北京朝陽(yáng)區(qū)酒仙橋中路18號(hào)北廣科技園內(nèi),有一片被綠幕圍起來(lái)的施工地,占地1.7萬(wàn)平方米,地上建筑規(guī)模為3.5萬(wàn)平方米。今年底,這里將建成一座能給人工智能(AI)企業(yè)提供公共算力的智算中心。

智算中心在當(dāng)下并不新鮮,自從2022年AI聊天機(jī)器人ChatGPT爆火后,全國(guó)各地?fù)尳ㄖ撬阒行?。研究人員一度對(duì)此感到擔(dān)憂,害怕一窩蜂建設(shè)會(huì)造成爛尾現(xiàn)象。

北京這座智算中心的特殊之處在于,它不是單純地建設(shè)算力倉(cāng)庫(kù),堆疊硬件機(jī)器,而是在軟件、硬件和場(chǎng)域?qū)用娑甲隽瞬季?。同時(shí),負(fù)責(zé)智算中心規(guī)劃設(shè)計(jì)與建設(shè)運(yùn)營(yíng)的北京電子數(shù)智科技有限責(zé)任公司(下稱“北電數(shù)智”),在北京市經(jīng)信局的牽引下,還專心研究混元適配技術(shù),以異構(gòu)算力為基礎(chǔ),把性能各異、規(guī)格不同的國(guó)產(chǎn)芯片統(tǒng)一納管,給用戶提供算力。這項(xiàng)工作的目的,是推動(dòng)當(dāng)前市場(chǎng)占有率較低的國(guó)產(chǎn)芯片被使用起來(lái)。

北京這座智算中心全名北京數(shù)字經(jīng)濟(jì)算力中心(Artificial Inteligence Data Ceter, 下 稱“AIDC”),是北京市級(jí)人工智能算力中心項(xiàng)目,落成達(dá)產(chǎn)后能夠提供2000P(1P約等于每秒1000萬(wàn)億次計(jì)算速度)算力供給。

作為北京電子控股有限責(zé)任公司(下稱“北京電控”)的旗下公司,北電數(shù)智還有專門團(tuán)隊(duì)負(fù)責(zé)設(shè)計(jì)一站式的AI應(yīng)用開發(fā)服務(wù)解決方案,該方案可以讓沒有開發(fā)能力的中小公司簡(jiǎn)單、快速地使用AI服務(wù)。

北電數(shù)智董事長(zhǎng)荊磊給經(jīng)濟(jì)觀察報(bào)打了個(gè)比方,他們其實(shí)就是在打造一座AI工廠,從芯片、模型、數(shù)據(jù)到應(yīng)用,輸出全棧的AI服務(wù)能力。

目前,來(lái)自摩爾線程、寒武紀(jì)等芯片公司的首批產(chǎn)品已在北電數(shù)智完成初期部署,后續(xù)所有國(guó)產(chǎn)主流芯片公司的產(chǎn)品也將陸續(xù)進(jìn)入評(píng)測(cè)適配。荊磊說(shuō),做國(guó)產(chǎn)芯片混元適配具有極高戰(zhàn)略意義,但沒有終極商業(yè)價(jià)值,“它為了解決眼前的現(xiàn)實(shí)問(wèn)題”。如果把它當(dāng)作一個(gè)商業(yè)模式,這個(gè)商業(yè)模式非常窄。但是為了促進(jìn)國(guó)產(chǎn)算力發(fā)展,必須有人去做這件事。

必須做的事

在一個(gè)家具都是二手的破舊房間內(nèi),荊磊、北電數(shù)智總經(jīng)理闞冬以及幾位核心人員開始籌備早期團(tuán)隊(duì)。與此同時(shí),他們與AI行業(yè)內(nèi)最知名的機(jī)構(gòu)、頂級(jí)的科研人員碰撞討論,由此開啟創(chuàng)業(yè)之路。“雖然環(huán)境很破舊,但我們沒有感覺到絲毫寒磣,因?yàn)槲覀冎雷约涸诟墒裁词隆?rdquo;荊磊說(shuō),北電數(shù)智非常有可能成為AI時(shí)代的鏈主企業(yè),以提供算力為源頭,與國(guó)產(chǎn)芯片公司、數(shù)據(jù)庫(kù)公司、大模型公司、AI應(yīng)用公司合作,真正解決國(guó)內(nèi)在AI時(shí)代面臨的發(fā)展困境。

在那間辦公室內(nèi),北電數(shù)智制定了早期策略。今年3月,北電數(shù)智AIDC在酒仙橋正式破土動(dòng)工。此前,創(chuàng)始團(tuán)隊(duì)用了6個(gè)月的時(shí)間確定設(shè)計(jì)方案與運(yùn)營(yíng)方向。他們認(rèn)為,在AI行業(yè)一日千里、瞬息萬(wàn)變的大變局下,雖然邊想邊干、邊調(diào)整邊優(yōu)化是基本打法,但認(rèn)知是第一生產(chǎn)力,在設(shè)計(jì)環(huán)節(jié)需要追求極致,研究清楚后再做事。

北電數(shù)智的運(yùn)營(yíng)方向有三個(gè),包括算力層、模型層與數(shù)據(jù)層,即以AI工廠的理念要求做規(guī)?;撬阒行?,用生態(tài)的辦法做落地的AI解決方案,面向未來(lái)做能支撐高質(zhì)量數(shù)據(jù)運(yùn)營(yíng)的可信數(shù)據(jù)空間。

三個(gè)方向直接指向當(dāng)前國(guó)內(nèi)AI行業(yè)面臨的三個(gè)困境:算力供給不足、應(yīng)用場(chǎng)景落地難、高質(zhì)量數(shù)據(jù)開發(fā)度低。

在算力層,北電數(shù)智的標(biāo)桿項(xiàng)目AIDC和先進(jìn)計(jì)算迭代驗(yàn)證平臺(tái)在今年4月的中關(guān)村論壇上首次亮相,這證明了它的智算中心規(guī)劃設(shè)計(jì)與運(yùn)營(yíng)能力以及多元異構(gòu)算力調(diào)度能力。在模型層,北電數(shù)智利用算力及數(shù)據(jù)優(yōu)勢(shì),廣泛嫁接適配底座大模型。同時(shí),它通過(guò)自研及聯(lián)合多方伙伴共研行業(yè)大模型,鏈接生態(tài)伙伴700多家,覆蓋AI藥物研發(fā)、人形機(jī)器人、無(wú)人駕駛等領(lǐng)域,通過(guò)AI行業(yè)解決方案的合作共創(chuàng),推動(dòng)政務(wù)、醫(yī)療和制造等AI應(yīng)用場(chǎng)景落地。在數(shù)據(jù)層,北電數(shù)智目前正在探索可信數(shù)據(jù)空間,以多種技術(shù)手段打造讓數(shù)據(jù)安全共享、可信流通的基礎(chǔ)設(shè)施。荊磊稱:“我們的肉還沒完全長(zhǎng)出來(lái),但是骨架已經(jīng)出來(lái)了。”

荊磊認(rèn)為,從成立之初到現(xiàn)在的整體發(fā)展來(lái)看,北電數(shù)智期中考試考得不錯(cuò)。到年底AIDC落成之時(shí),北電數(shù)智將迎來(lái)期末考試。如果期末考試通過(guò),后面就將奠定一個(gè)非常好的基礎(chǔ)。

去年9月至今,北電數(shù)智的團(tuán)隊(duì)從幾個(gè)人發(fā)展到幾十人,目前還在繼續(xù)擴(kuò)大。它的新辦公區(qū)能容納300人,現(xiàn)在很多座位還是空的,但會(huì)議室卻總是爆滿狀態(tài)。未來(lái)它將迎來(lái)更多新員工。“AI一日,人間一年。”荊磊這樣形容進(jìn)入AI行業(yè)9個(gè)月的感受。他會(huì)感覺到興奮,因?yàn)檫@是一個(gè)完全沒有過(guò)的體驗(yàn),也會(huì)感受到壓力,因?yàn)锳I的變化太快,此刻認(rèn)知的東西很有可能在一周之后就被顛覆。但荊磊并不焦慮,因?yàn)樗J(rèn)可這件事的終局價(jià)值。“當(dāng)你把一件事想得特別清楚,知道你具體的方向在哪兒的時(shí)候,就不會(huì)那么焦慮了。”

用技術(shù)解困

AI是當(dāng)前大國(guó)博弈的核心主戰(zhàn)場(chǎng),其中的關(guān)鍵是芯片。與國(guó)際先進(jìn)企業(yè)的全能芯片相比,國(guó)產(chǎn)算力芯片更像單項(xiàng)選手,只在專項(xiàng)場(chǎng)景應(yīng)用方面具備不錯(cuò)的性能表現(xiàn)。

因此,北電數(shù)智通過(guò)納管國(guó)產(chǎn)芯片,形成混元算力集群,通過(guò)包括硬件層編譯優(yōu)化、中間層分布式優(yōu)化及模型層優(yōu)化在內(nèi)的三重優(yōu)化,對(duì)相對(duì)落后的芯片進(jìn)行性能調(diào)優(yōu),讓國(guó)產(chǎn)芯片變得可用。

北電數(shù)智的技術(shù)邏輯是,把專項(xiàng)可用的國(guó)產(chǎn)芯片放進(jìn)同一個(gè)“包裹”,并通過(guò)軟件加速、算子庫(kù)補(bǔ)齊、網(wǎng)絡(luò)和通信等方面的工作,實(shí)現(xiàn)國(guó)產(chǎn)芯片的性能加速和調(diào)優(yōu),由此湊成一個(gè)接近全能的選手,對(duì)外提供智能算力。目前,北電數(shù)智能把國(guó)產(chǎn)芯片的性能從30分—80分調(diào)整到70分—90分,即調(diào)整到有用戶愿意買單的程度。

這套異構(gòu)算力技術(shù)難度很大,并不是一項(xiàng)成熟的技術(shù)。等到國(guó)產(chǎn)芯片性能提升到足夠程度時(shí),這套技術(shù)或許就已派不上用場(chǎng)。因此,很多企業(yè)不愿意做這件事。

荊磊也提到,這件事本身具有極高戰(zhàn)略意義,但沒有終極商業(yè)價(jià)值,“它為了解決眼前的現(xiàn)實(shí)問(wèn)題”。如果把它當(dāng)作一個(gè)商業(yè)模式,這個(gè)商業(yè)模式非常窄。

但他認(rèn)為,這是一件必須做的事,對(duì)芯片來(lái)說(shuō),有機(jī)會(huì)被使用最重要。北電數(shù)智當(dāng)下所做的事情,就是先讓國(guó)產(chǎn)芯片被用起來(lái),同時(shí)從場(chǎng)景使用出發(fā),檢驗(yàn)國(guó)產(chǎn)芯片的性能和查找不足,反饋給研發(fā)企業(yè),帶動(dòng)算力技術(shù)迭代升級(jí),推動(dòng)國(guó)產(chǎn)芯片從可用到好用。

北電數(shù)智做這件事,離不開母公司北京電控的支持,這與產(chǎn)業(yè)報(bào)國(guó)及技術(shù)情懷有關(guān)。作為“一五”時(shí)期國(guó)家重點(diǎn)投資、集中建設(shè)的全國(guó)重要電子工業(yè)基地,北京朝陽(yáng)酒仙橋地區(qū)曾創(chuàng)下多個(gè)“第一”,為我國(guó)電子工業(yè)、國(guó)民經(jīng)濟(jì)發(fā)展及國(guó)防建設(shè)事業(yè)作出巨大貢獻(xiàn),被稱為“新中國(guó)電子工業(yè)搖籃”。北京電控所屬部分重點(diǎn)企業(yè),曾在酒仙橋這片土地上研制出了新中國(guó)的第一只真空管、第一塊集成電路、第一部程控交換機(jī)、第一臺(tái)電子計(jì)算機(jī)。

進(jìn)入21世紀(jì),北京電控又培育出顯示領(lǐng)域領(lǐng)軍企業(yè)京東方、集成電路裝備企業(yè)北方華創(chuàng),以及一批具有行業(yè)影響力的產(chǎn)業(yè)企業(yè)。隨著AI時(shí)代全面開啟,北電數(shù)智應(yīng)運(yùn)而生。

北電數(shù)智目前已經(jīng)集聚了一批芯片、網(wǎng)絡(luò)、算法、數(shù)據(jù)等領(lǐng)域的高水平核心技術(shù)人員,也聘請(qǐng)了世界頂級(jí)的AI專家擔(dān)任首席科學(xué)家。

荊磊有一種很強(qiáng)的緊迫感。隨著“百模大戰(zhàn)”在今年退潮,AI行業(yè)對(duì)算力的需求沒有之前那么緊缺了。但AI發(fā)展速度太快,一旦又有了突破,誕生超級(jí)應(yīng)用,或?qū)⑼苿?dòng)AI真正在千行百業(yè)落地,AI算力將會(huì)更緊缺。

他想做很多事,但目前最重要的,還是先把北電數(shù)智AIDC建設(shè)完成。荊磊很確信,未來(lái)AI算力一定仍是短缺的,如果能把國(guó)產(chǎn)芯片都用起來(lái),把供應(yīng)鏈建設(shè)完備,將會(huì)緩解這個(gè)產(chǎn)業(yè)難題。

碗里、鍋里和田里

既然要面向市場(chǎng),北電數(shù)智當(dāng)然不會(huì)只做“不掙錢的生意”。

為此,北電數(shù)智結(jié)合自身的模型和數(shù)據(jù)能力,建立了解決方案團(tuán)隊(duì),為客戶提供從底層算力、模型開發(fā)調(diào)優(yōu)、AI工程化等全棧AI能力。荊磊表示,AI產(chǎn)業(yè)需要通過(guò)這個(gè)環(huán)節(jié)完成整個(gè)產(chǎn)業(yè)鏈跟社會(huì)的價(jià)值交換,才能理順產(chǎn)業(yè)鏈與價(jià)值鏈的關(guān)系,實(shí)現(xiàn)產(chǎn)業(yè)落地和健康發(fā)展。國(guó)內(nèi)發(fā)展AI產(chǎn)業(yè)的優(yōu)勢(shì)是可以做的場(chǎng)景多,且容易集中力量。解決方案做起來(lái)非常難,北電數(shù)智要用生態(tài)的方法來(lái)做。

在他看來(lái),這一輪AI時(shí)代的創(chuàng)業(yè)者大多比較年輕,在管理、商業(yè)經(jīng)營(yíng)和項(xiàng)目獲取方面的能力還有待提高,但這些創(chuàng)業(yè)者就像一塊塊“璞玉”,本身的技術(shù)能力并不弱,和北電數(shù)智進(jìn)行生態(tài)合作可以發(fā)揮各自優(yōu)勢(shì)。此外,由于北電數(shù)智在產(chǎn)業(yè)鏈上的前瞻布局與綜合優(yōu)勢(shì),有不少大模型企業(yè)也向北電數(shù)智表達(dá)了合作的意愿。

截至目前,北電數(shù)智已有AI產(chǎn)業(yè)生態(tài)伙伴700多家,其中芯片合作伙伴12家,服務(wù)器合作伙伴3家,數(shù)據(jù)中心(IDC)合作伙伴2家,AI大模型及工程化合作伙伴33家,政務(wù)及公共服務(wù)合作伙伴86家,先進(jìn)制造合作伙伴108家,大交通合作伙伴112家,大健康合作伙伴140家,教育合作伙伴103家,影視傳媒合作伙伴99家。

除了算力、算法,AI三要素還包括數(shù)據(jù)。隨著數(shù)據(jù)這一新型生產(chǎn)要素越發(fā)受到關(guān)注,北電數(shù)智在構(gòu)建AI工廠的基礎(chǔ)上,還把建設(shè)AI的可信數(shù)據(jù)空間這一數(shù)據(jù)基礎(chǔ)設(shè)施的業(yè)務(wù)也加入到了計(jì)劃中。

荊磊說(shuō),不管是在產(chǎn)業(yè)發(fā)展、國(guó)家安全還是在地方政府良性運(yùn)轉(zhuǎn)方面,數(shù)據(jù)的價(jià)值都非常高,再怎么強(qiáng)調(diào)都不為過(guò)。從AI產(chǎn)業(yè)發(fā)展的角度來(lái)講,數(shù)據(jù)就是這個(gè)產(chǎn)業(yè)的中軸和終局。

難點(diǎn)在于,一些公共數(shù)據(jù)、核心產(chǎn)業(yè)鏈企業(yè)的數(shù)據(jù)和互聯(lián)網(wǎng)企業(yè)的數(shù)據(jù)都難以公開,數(shù)據(jù)流動(dòng)和使用過(guò)程中也涉及數(shù)據(jù)安全隱私、區(qū)塊鏈、數(shù)據(jù)溯源等問(wèn)題。

北電數(shù)智有天然的使命擔(dān)當(dāng)與產(chǎn)業(yè)組織優(yōu)勢(shì),它也在數(shù)據(jù)方面做了完備的人才和項(xiàng)目布局。按照荊磊的比喻,AI工廠、AI場(chǎng)景和AI可信三塊業(yè)務(wù)分別是北電數(shù)智碗里、鍋里和田里的業(yè)務(wù),由此可見他對(duì)未來(lái)業(yè)務(wù)規(guī)模的預(yù)期。

荊磊認(rèn)為,北電數(shù)智作為AI領(lǐng)域創(chuàng)新型國(guó)企,接下來(lái)面臨的最大考驗(yàn)就是節(jié)奏。“今年我們要確保AI工廠按照設(shè)計(jì)方案順利落成,并對(duì)外提供能力。另外,已經(jīng)確定的涉及模型、場(chǎng)景、數(shù)據(jù)的重點(diǎn)項(xiàng)目和人才隊(duì)伍建設(shè)激勵(lì)等重點(diǎn)工作都要落地,在年內(nèi)完成戰(zhàn)略布局,實(shí)現(xiàn)戰(zhàn)術(shù)突破。”

|對(duì)話|

經(jīng)濟(jì)觀察報(bào):你投身AI已有9個(gè)月,身在其中是一種什么樣的感受?

荊磊:這是一種之前完全沒有的體驗(yàn)?,F(xiàn)在有一個(gè)說(shuō)法叫“AI一天,人間一年”,我的感受也的確是這樣。你當(dāng)前認(rèn)知的東西,很有可能因?yàn)橐粋€(gè)禮拜以后別人出了一個(gè)新的東西,就徹底改變了。

不過(guò)我不會(huì)感到焦慮,因?yàn)槲覀兛吹搅私K局。當(dāng)你把一件事想得特別清楚,知道你具體的點(diǎn)落在哪兒的時(shí)候,就不會(huì)那么焦慮了。我們當(dāng)前在發(fā)展方向、工作重點(diǎn)上都比較清晰,面臨的挑戰(zhàn)主要是節(jié)奏控制,這也是業(yè)內(nèi)每一個(gè)人都在焦慮的問(wèn)題。這件事的難點(diǎn)在于,當(dāng)你把資源投下去之后,需求爆發(fā)的時(shí)點(diǎn)能不能匹配上?進(jìn)退之間、騰挪之間要做很多工作,這對(duì)我來(lái)講是一個(gè)很大的壓力。有壓力但并不焦慮,因?yàn)槲抑牢以谧鍪裁?,這一點(diǎn)很重要。

有一句話叫“終局樂(lè)觀、中局謹(jǐn)慎”,大體是這樣。

經(jīng)濟(jì)觀察報(bào):根據(jù)你的實(shí)踐感受,現(xiàn)在中國(guó)與美國(guó)之間AI的差距有多大?

荊磊:我們和領(lǐng)先國(guó)家的差距還是比較大的,但我們也有自己的獨(dú)特發(fā)展優(yōu)勢(shì)。

算力方面,國(guó)內(nèi)是“百花齊放、一強(qiáng)多弱”。與世界領(lǐng)先企業(yè)相比,從單芯片性能、集群能力表現(xiàn)等方面看,國(guó)內(nèi)企業(yè)都有很長(zhǎng)的一段路要走。

模型方面,可以用參數(shù)量做一個(gè)不太嚴(yán)謹(jǐn)?shù)暮?jiǎn)單類比。已經(jīng)發(fā)布的GPT-4(美國(guó)AI研究公司OpenAI旗下的大模型)是1.8萬(wàn)億的參數(shù)量,國(guó)內(nèi)的大模型差一個(gè)數(shù)量級(jí)。

數(shù)據(jù)層面,從可公開的高質(zhì)量數(shù)據(jù)集角度來(lái)講,我們也將近差一個(gè)數(shù)量級(jí)。

但技術(shù)水平再高,最終也要產(chǎn)業(yè)化落地,不能落地就成了空中樓閣。在這個(gè)方面,我們國(guó)家有自己的獨(dú)特優(yōu)勢(shì)。首先是豐富的場(chǎng)景,中國(guó)有全世界最完整的工業(yè)體系,有全世界最大的互聯(lián)網(wǎng)生態(tài)體系,這是一個(gè)了不得的優(yōu)勢(shì)。第二是集中力量辦大事的機(jī)制,通過(guò)政府政策引導(dǎo)和鏈主企業(yè)組織,國(guó)內(nèi)可以很好地協(xié)調(diào)各方面創(chuàng)新資源,加快實(shí)施核心技術(shù)攻關(guān)和重點(diǎn)基礎(chǔ)設(shè)施建設(shè),加快落地進(jìn)程。

經(jīng)濟(jì)觀察報(bào):現(xiàn)在AI行業(yè)算力是否依然短缺?如果北電數(shù)智的智算中心建成使用,是否能徹底解決國(guó)內(nèi)算力短缺的難題?

荊磊:這是一個(gè)很復(fù)雜的問(wèn)題,算力的需求主要來(lái)自大模型的訓(xùn)練和推理,目前的需求主要在訓(xùn)練層面。去年很熱鬧的“百模大戰(zhàn)”熱潮開始降溫,算力的供需緊張情況也有所緩解。

但算力需求有長(zhǎng)期存在的趨勢(shì),還要看后面的變化。當(dāng)AI應(yīng)用場(chǎng)景爆發(fā)后,推理需求會(huì)爆發(fā),因此未來(lái)算力需求一定是短缺的。你可以想象,未來(lái)每個(gè)人都需要AI服務(wù),大量的數(shù)據(jù)都需要算力去計(jì)算,那是一個(gè)海量的需求。我們所做的事,就是在未來(lái)各行各業(yè)缺乏算力的時(shí)候,能盡力填補(bǔ)上算力空白,這件事的核心就是要把國(guó)產(chǎn)算力用起來(lái)。同時(shí),我們也在加快構(gòu)建供應(yīng)鏈能力。

當(dāng)然,這里面還有另一個(gè)深層的產(chǎn)業(yè)問(wèn)題,是先進(jìn)制程問(wèn)題。AI芯片主要是5納米、7納米的制程,當(dāng)這個(gè)問(wèn)題解決時(shí),你擔(dān)心的國(guó)內(nèi)算力短缺問(wèn)題才能徹底地解決。相信這個(gè)問(wèn)題在全社會(huì)的共同關(guān)心和支持下,應(yīng)該不需要太長(zhǎng)的時(shí)間,就會(huì)有一個(gè)比較好的緩解。

版權(quán)聲明:以上內(nèi)容為《經(jīng)濟(jì)觀察報(bào)》社原創(chuàng)作品,版權(quán)歸《經(jīng)濟(jì)觀察報(bào)》社所有。未經(jīng)《經(jīng)濟(jì)觀察報(bào)》社授權(quán),嚴(yán)禁轉(zhuǎn)載或鏡像,否則將依法追究相關(guān)行為主體的法律責(zé)任。版權(quán)合作請(qǐng)致電:【010-60910566-1260】。
TMT新聞部資深記者
關(guān)注并報(bào)道TMT(科技、傳媒、通信)領(lǐng)域重大事件,擅長(zhǎng)行業(yè)分析、深度報(bào)道。
聯(lián)系郵箱:renxiaoning@eeo.com.cn
微信號(hào):tangtangxiaomo

熱新聞