撰文?/ 張霖郁

編輯?/ 黃大路

設(shè)計(jì)?/ 師 超

2022年開(kāi)始由OpenAI推出的ChatGPT3的驚人表現(xiàn)迅速讓人工智能成為全社會(huì)的熱點(diǎn)。

這種熱度不只是表現(xiàn)在輿論場(chǎng)，全球資本市場(chǎng)真金白銀的巨額投入以及英偉達(dá)作為人工智能時(shí)代核心廠商市值的飆升都宣告了一個(gè)新時(shí)代的即將來(lái)臨。

軒轅之學(xué)巨浪4期學(xué)員韓東正處于這一大風(fēng)口，作為NYONIC的創(chuàng)始人，他公司的主營(yíng)業(yè)務(wù)是幫助企業(yè)建模型工廠，訓(xùn)練模型，賦能應(yīng)用，為汽車(chē)行業(yè)鏈條上的企業(yè)賦能。

韓東本人從事人工智能相關(guān)工作約在20年前，當(dāng)時(shí)是作為學(xué)生身份。他2004年至2008年就讀德國(guó)馬克思普朗克研究院計(jì)算機(jī)所，專業(yè)是計(jì)算機(jī)科學(xué)。馬克思普朗克研究院計(jì)算機(jī)所是歐洲排名第一陣營(yíng)的計(jì)算機(jī)科研院所。

“2012年之前深度學(xué)習(xí)是計(jì)算機(jī)領(lǐng)域一個(gè)沒(méi)人愿意碰的東西，堅(jiān)持下來(lái)的人并不多。當(dāng)時(shí)沒(méi)有人需要AI博士，大家其實(shí)都找不到工作?！表n東說(shuō)。

2024年3月17日，軒轅之學(xué)巨浪4期第六模塊“汽車(chē)營(yíng)銷(xiāo)新思維”課程的第二天下午，按既往慣例，學(xué)員進(jìn)行分享，每次大概2-3人。韓東作為第一個(gè)學(xué)員進(jìn)行分享。

“我是AI科班出身的從業(yè)者，二十多年前大學(xué)一年級(jí)就開(kāi)始在德國(guó)人工智能研究中心做NLP的研究助理工作，也做了計(jì)算機(jī)視覺(jué)和機(jī)器學(xué)習(xí)的研究，十多年前就在ICCV上發(fā)表文章。后面經(jīng)過(guò)了德國(guó)創(chuàng)業(yè)孵化器的熏陶叫ROCKET INTERNET，這是一家孵化了眾多獨(dú)角獸公司的孵化器?！?/p>

他說(shuō)2020年之前，深度學(xué)習(xí)訓(xùn)練出來(lái)的Chatbot的水平和1960年的水平基本沒(méi)有本質(zhì)區(qū)別，過(guò)去六七十年一直沒(méi)有什么大的變化。前幾十年很少有人相信這件事能做成，覺(jué)得深度神經(jīng)網(wǎng)絡(luò)是一門(mén)玄學(xué)。但GPT3讓大家第一次看到了所謂的涌現(xiàn)能力，之前沒(méi)有訓(xùn)練模型做這件事情，但模型自己就會(huì)。你會(huì)發(fā)現(xiàn)訓(xùn)練出來(lái)的模型可以做無(wú)數(shù)件它沒(méi)有遇到過(guò)的事情，這一直是大家夢(mèng)寐以求的事情。

此次分享會(huì)，除了韓東，中科創(chuàng)達(dá)智能網(wǎng)聯(lián)產(chǎn)品中心總經(jīng)理馬強(qiáng)也進(jìn)行了分享。

馬強(qiáng)畢業(yè)于人民大學(xué)EMBA，他在智能網(wǎng)聯(lián)汽車(chē)電子軟件行業(yè)超過(guò)15年以上。他曾在東軟集團(tuán)任職，2015年加入中科創(chuàng)達(dá)。

以手機(jī)軟件起家的中科創(chuàng)達(dá)隨著2015年智能座艙概念的興起成功進(jìn)入了座艙領(lǐng)域，公司營(yíng)收也由此進(jìn)一步增長(zhǎng)。但馬強(qiáng)說(shuō)近幾年中科創(chuàng)達(dá)也正經(jīng)歷轉(zhuǎn)型。他說(shuō)目前操作系統(tǒng)廠商和芯片廠商，除了進(jìn)行標(biāo)準(zhǔn)系統(tǒng)的開(kāi)發(fā)外，也同時(shí)進(jìn)入了定制化業(yè)務(wù)，這對(duì)中科創(chuàng)達(dá)的原有業(yè)務(wù)產(chǎn)生了一定影響。這是當(dāng)前他們的挑戰(zhàn)之一。

另外，主機(jī)廠的降本要求與日俱增。他說(shuō)最開(kāi)始做高通8155芯片時(shí)，車(chē)企一個(gè)座艙平臺(tái)的研發(fā)預(yù)算大概在大幾千萬(wàn)元，現(xiàn)在已降到幾百萬(wàn)元。

以下是他們兩位的實(shí)錄摘要。

韓東：全球最領(lǐng)先的汽車(chē)行業(yè)

大模型公司肯定來(lái)自中國(guó)

2012年之前深度學(xué)習(xí)是計(jì)算機(jī)領(lǐng)域沒(méi)人愿意碰的東西，做深度學(xué)習(xí)堅(jiān)持下來(lái)的人并不多。OpenAI GPT2出來(lái)的時(shí)候效果非常糟糕，沒(méi)有人把它當(dāng)學(xué)術(shù)來(lái)對(duì)待，但是GPT3出來(lái)讓所有人都驚呆了，大家覺(jué)得這個(gè)方向真的可以走通。這也導(dǎo)致現(xiàn)在這一領(lǐng)域的人才數(shù)極少，大部分被OpenAI和谷歌兩家公司卷走了，基本上來(lái)講，你很難吸引這些人回到國(guó)內(nèi)的公司。

現(xiàn)在大家的共識(shí)是AI將重構(gòu)每個(gè)國(guó)家的戰(zhàn)略、行業(yè)、應(yīng)用。我們過(guò)去這一年跟美國(guó)、跟歐洲很多這方面的專家打交道時(shí)發(fā)現(xiàn)，很明顯AI在大國(guó)競(jìng)爭(zhēng)當(dāng)中扮演非常重要的角色。

回到具體行業(yè)當(dāng)中，我給大家說(shuō)一下哪些公司真正從當(dāng)中獲益了？

最大的三個(gè)機(jī)會(huì)，第一個(gè)在GPU領(lǐng)域，大家都知道英偉達(dá)過(guò)去一年通過(guò)大模型他們非常的飛速增長(zhǎng)，包括毛利、凈利潤(rùn)，這些都非常的驚人。第二個(gè)大的商業(yè)機(jī)遇在云計(jì)算領(lǐng)域，因?yàn)樗羞@些AI模型對(duì)外提供服務(wù)的時(shí)候，都得在云上對(duì)外提供。第三個(gè)可以從兩個(gè)角度來(lái)說(shuō)，一個(gè)是行業(yè)角度，因?yàn)楦餍懈鳂I(yè)后面都會(huì)被AI賦能。我們?nèi)粘Ｉ町?dāng)中可能用到最多的三個(gè)端側(cè)，一個(gè)是PC電腦筆記本、第二個(gè)是手機(jī)、第三個(gè)是汽車(chē)。

中國(guó)在汽車(chē)這個(gè)場(chǎng)景下是一個(gè)無(wú)法忽略的市場(chǎng)，因?yàn)檎碱I(lǐng)全球三分之一。AI比拼主要還是中國(guó)和美國(guó)之間，車(chē)的大模型這一塊美國(guó)公司很難去做到全球領(lǐng)先，因?yàn)槊绹?guó)可能連相應(yīng)的客戶都沒(méi)有，車(chē)廠也只有特斯拉一家。所以這一塊我有一個(gè)信念，全球最領(lǐng)先的汽車(chē)行業(yè)的大模型公司肯定會(huì)來(lái)自于中國(guó)。

我們說(shuō)行業(yè)大模型到底是什么意思？它不是說(shuō)我們做一個(gè)行業(yè)大模型可以解決汽車(chē)行業(yè)所有的事情，而是去跟通用基礎(chǔ)大模型進(jìn)行區(qū)分。在行業(yè)大模型基礎(chǔ)上，更多去跟汽車(chē)行業(yè)具體場(chǎng)景結(jié)合，在不同的環(huán)節(jié)加入額外的高質(zhì)量數(shù)據(jù)得到額外的能力去解決具體的事情，就好像數(shù)字員工，有些做專業(yè)文檔寫(xiě)作，有些做軟件開(kāi)發(fā)和測(cè)試。

我們自己在這一年主要做了兩件事情：搭建了一個(gè)訓(xùn)練大模型的模型工廠，包括整個(gè)數(shù)據(jù)處理，訓(xùn)練和推理的基礎(chǔ)設(shè)施，同時(shí)有能力去給各個(gè)客戶或者合作伙伴輸出不同的行業(yè)模型或場(chǎng)景模型。

整個(gè)模型訓(xùn)練的工程過(guò)程，一開(kāi)始有非常大量的數(shù)據(jù)，很多是公開(kāi)數(shù)據(jù)，如果說(shuō)訓(xùn)練一些行業(yè)模型，場(chǎng)景模型可能會(huì)有些企業(yè)數(shù)據(jù)。公開(kāi)數(shù)據(jù)會(huì)在模型工廠里有整個(gè)數(shù)據(jù)的預(yù)處理，數(shù)據(jù)混合（data mix），ETL的管道，同時(shí)不斷的有一個(gè)評(píng)估的過(guò)程，再去做訓(xùn)練。但是因?yàn)閿?shù)據(jù)量太大了，深度神經(jīng)網(wǎng)絡(luò)又不是可解釋的東西，所以就造成了大模型特別難訓(xùn)練，因?yàn)槟Ｐ蛥?shù)太多，數(shù)據(jù)量太多，單純訓(xùn)練就很難，把那么多GPU連起來(lái)也很難，高算力的GPU包括A100或者H100包括昇騰等，這些都是半成品，現(xiàn)在還處在不斷的在往前迭代的產(chǎn)品，問(wèn)題非常非常多。

我這邊舉個(gè)核心挑戰(zhàn)的例子。超大規(guī)模的數(shù)據(jù)處理，GPU算力利用率。算力的利用率這邊有一個(gè)對(duì)標(biāo)的數(shù)字就是GPT4大概在2萬(wàn)多個(gè)A100的進(jìn)行了90-100天的訓(xùn)練，算力利用率只有33%，就是說(shuō)這么長(zhǎng)時(shí)間很多機(jī)器并不是真正在做訓(xùn)練的。整體的花費(fèi)，跑一次大概在6千萬(wàn)美金，跑一次是什么概念？這是成功的一次，但在之前至少做的實(shí)驗(yàn)數(shù)目整個(gè)成本可能是10倍-50倍之間。GPT4也比較貴，它本身是萬(wàn)億參數(shù)的模型，本身就非常復(fù)雜難收斂，包括GPU太多時(shí)候要保證它的穩(wěn)定性也更難。

在超大規(guī)模數(shù)據(jù)處理這一塊，我們?cè)诨A(chǔ)設(shè)施上面希望能解決一些問(wèn)題，讓我們后續(xù)訓(xùn)練高效?；Ｐ突A(chǔ)上如果進(jìn)行重新的預(yù)訓(xùn)練或者說(shuō)繼續(xù)訓(xùn)練，我們要保證數(shù)據(jù)加進(jìn)去的時(shí)候不是從頭開(kāi)始，而是可以繼續(xù)收斂我的loss曲線，不同的功能點(diǎn)、不同的指標(biāo)能夠同時(shí)不斷的去收斂，就這件事情非常難做到。

但是做到之后，取得的效果有點(diǎn)像可能訓(xùn)練第一個(gè)模型花了100塊，再訓(xùn)練第二個(gè)模型在處理數(shù)據(jù)的時(shí)候可能只需要花1塊錢(qián)，但是如果沒(méi)有這個(gè)東西，可能第一個(gè)模型花100塊，第二個(gè)模型還是花100塊，再往下整個(gè)從經(jīng)濟(jì)學(xué)上或者跟服務(wù)客戶的時(shí)候這個(gè)賬就算不過(guò)來(lái)了。

第二個(gè)是GPU利用率，包括模型訓(xùn)練中斷怎么再接起來(lái)？一開(kāi)始訓(xùn)練中斷，解決問(wèn)題經(jīng)常要解決一兩天甚至兩三天才能讓它繼續(xù)訓(xùn)練，但現(xiàn)在我們已經(jīng)把這個(gè)時(shí)間從一兩天、兩三天降到一到兩分鐘，這對(duì)于整個(gè)的成本改變非常大。

在整個(gè)GPU的計(jì)算利用率上面，我們剛才也看到包括OpenAI當(dāng)時(shí)做GPT4，整個(gè)計(jì)算利用率30%多，萬(wàn)卡集群上目前為止也沒(méi)有人可以做到更好。我們目前數(shù)百?gòu)埧ǖ募?，?jì)算利用率達(dá)到85%，遠(yuǎn)遠(yuǎn)超過(guò)業(yè)界平均水平，這個(gè)到最后就是非常大的影響成本的指標(biāo)，因?yàn)檫@個(gè)行業(yè)需要不斷的去訓(xùn)練各種參數(shù)規(guī)模的模型。

我們也摸索了和客戶共同創(chuàng)新的方式，一般會(huì)先做可行性研究包括POC，然后具體場(chǎng)景的智能化改造，這個(gè)市場(chǎng)就很大了，各個(gè)公司都有AI賦能的場(chǎng)景。

我們有幾個(gè)具體的客戶，這是幫助一家國(guó)際的Tier1來(lái)解決設(shè)備維修問(wèn)題，它有報(bào)警之后會(huì)自動(dòng)出來(lái)維修的建議。過(guò)去維修的建議它的準(zhǔn)確率是比較低，所以無(wú)法真正讓工人很有效的把它使用起來(lái)，但我們通過(guò)大模型，很快的幫它把故障識(shí)別率做到90%，而過(guò)去只有10%，這個(gè)工具就變得真正切實(shí)可用了。

質(zhì)量標(biāo)準(zhǔn)問(wèn)答也是類似的Q&A系統(tǒng)，在做這件事情的時(shí)候，企業(yè)內(nèi)部有非常大量的數(shù)據(jù)，但這些大量的數(shù)據(jù)很多都是非結(jié)構(gòu)化的、分散的，散落在各個(gè)地方，過(guò)去并沒(méi)有很好的方法能夠把這些文檔、過(guò)去的知識(shí)、數(shù)據(jù)引入到AI模型當(dāng)中來(lái)。但現(xiàn)在大模型的能力，它不需要標(biāo)注這些訓(xùn)練的數(shù)據(jù)，你只要能夠把它一起收集起來(lái)，把它放進(jìn)來(lái)，做一定的預(yù)處理和數(shù)據(jù)混合，我們自己還只是語(yǔ)言模型，所以我們?cè)谧鲆曈X(jué)訓(xùn)練時(shí)，包括流程圖我們用其他多模態(tài)模型的接口，轉(zhuǎn)化為文本來(lái)使用，通過(guò)大模型真正可以把它的知識(shí)很好的聯(lián)系起來(lái)，讓助手從過(guò)去10%的準(zhǔn)確率提高到了80%。

第二個(gè)在汽車(chē)軟件測(cè)試這一塊，我們知道軟件測(cè)試它有很多工具，但中途也會(huì)有很多人類專家介入的環(huán)節(jié)，人類專家介入的是什么？就是在理解人類的語(yǔ)言，然后做邏輯推理、分拆、計(jì)劃下一步應(yīng)該怎么做然后再去執(zhí)行。

牽扯到這些語(yǔ)言的理解都是可以用大模型來(lái)做的，我們這邊是用大模型和Agent把整個(gè)專業(yè)的測(cè)試樣例去做自動(dòng)化的生成，光在這一步大概有三、四倍的提升。整個(gè)這一塊我們會(huì)發(fā)現(xiàn)只要過(guò)去有人類專家介入的工作流，或多或少在未來(lái)都可以用AI+Agent去把它部分取代甚至于完全的取代，它就形成端到端自動(dòng)化，一旦端到端自動(dòng)化就解決了非常多的問(wèn)題，成本也可以大幅度降低。

我們差不多20個(gè)人左右做了這件事情。我們經(jīng)常說(shuō)到一個(gè)觀點(diǎn)，這個(gè)行業(yè)在初期不配招太年輕的工程師，因?yàn)槲覀兠總€(gè)人的成本確實(shí)很高，更貴的是你要給他們配算力，這方面如果你用錯(cuò)一個(gè)人，會(huì)浪費(fèi)很多錢(qián)，浪費(fèi)掉的是算力。

馬強(qiáng)：主機(jī)廠的降本需求與日俱增

我們公司是2008年成立的，公司創(chuàng)業(yè)時(shí)是基于Linux手機(jī)設(shè)備，包括手持導(dǎo)航設(shè)備還有手持特殊的終端設(shè)備。

公司最開(kāi)始成立時(shí)是和中科院計(jì)算機(jī)研究所合作，所以叫中科創(chuàng)達(dá)，最開(kāi)始做Linux操作系統(tǒng)的。

2009年，谷歌發(fā)布了1.0版的安卓操作系統(tǒng)，當(dāng)時(shí)處于功能機(jī)向智能機(jī)轉(zhuǎn)化的時(shí)間節(jié)點(diǎn)，我們公司因之前有操作系統(tǒng)的背景，所以也在安卓系統(tǒng)上做了很多前瞻的預(yù)研。正好那個(gè)時(shí)間點(diǎn)很多手機(jī)廠商想轉(zhuǎn)型，自己沒(méi)有這個(gè)能力，于是就找到了我們。

我們公司是一個(gè)戰(zhàn)略導(dǎo)向型公司，基本上每一步都踩在了時(shí)代變革的機(jī)會(huì)點(diǎn)，也成就了后續(xù)的快速增長(zhǎng)，很大程度都是抓住時(shí)代契機(jī)，不完全是我們?nèi)藶榈囊蛩亍?/p>

2010年之后，移動(dòng)互聯(lián)網(wǎng)興起了，我們內(nèi)部討論，是不是要改做移動(dòng)互聯(lián)網(wǎng)？最后結(jié)論是不做，后來(lái)確實(shí)有很多同樣的友商都在做移動(dòng)互聯(lián)網(wǎng)，之后都死掉了，這證明了要清楚認(rèn)識(shí)自己的核心競(jìng)爭(zhēng)力在哪里的重要性。我們的核心競(jìng)爭(zhēng)力就在嵌入式操作系統(tǒng)技術(shù)，所以所有業(yè)務(wù)的擴(kuò)展都圍繞著這個(gè)點(diǎn)來(lái)做的，專注在自己擅長(zhǎng)的領(lǐng)域才能成功。

后面到2015年就上市了，這個(gè)時(shí)間點(diǎn)又迎來(lái)了一個(gè)浪潮。

汽車(chē)行業(yè)從傳統(tǒng)普通的娛樂(lè)控制器即IVI轉(zhuǎn)成智能座艙的概念，原來(lái)可能只有DA或者叫IVI和儀表是分離的，從2015年開(kāi)始智能座艙的概念就興起了。這個(gè)時(shí)間節(jié)點(diǎn)，因?yàn)榘沧肯到y(tǒng)進(jìn)入汽車(chē)同時(shí)高通在這個(gè)里面逐漸越來(lái)越高的市占率，我們也借著這個(gè)浪潮又帶來(lái)一撥增長(zhǎng)。

后續(xù)成立合資公司，達(dá)成各種合作，這也是順勢(shì)而為。

最后一個(gè)節(jié)點(diǎn)，從Smart to intelligent，我們開(kāi)始裂變，逐漸把自己的業(yè)務(wù)范圍快速的擴(kuò)張以及跟行業(yè)生態(tài)綁定關(guān)系逐漸建立起來(lái)。公司經(jīng)歷了這四個(gè)階段，主要業(yè)務(wù)范圍包括智能終端、智能汽車(chē)、智能物聯(lián)網(wǎng)還有人工智能AI，我所在的是智能汽車(chē)板塊。

汽車(chē)大模型應(yīng)用基本是兩個(gè)方向，一個(gè)方向是傳統(tǒng)語(yǔ)言模型方面的補(bǔ)足，以前我們用的語(yǔ)音模型都無(wú)法100%實(shí)現(xiàn)你的語(yǔ)言指令，始終達(dá)不到100%，你差一個(gè)關(guān)鍵詞它就聽(tīng)不懂，以前是這樣的。另外也沒(méi)有上下文關(guān)聯(lián)的能力，比如我說(shuō)我要去天安門(mén)，你下一步就問(wèn)它旁邊有什么好吃的，它就不會(huì)了。但如果你用大語(yǔ)言模型，它可以幫你把上下文穿起來(lái)，相當(dāng)于跟機(jī)器的交流更加人性化。

第二個(gè)方向是索引，在這里面可以把你以前的知識(shí)庫(kù)，把這些數(shù)據(jù)給它有機(jī)的組成起來(lái)。你可以很容易的通過(guò)大模型去索引它，幾乎它所有在車(chē)?yán)锏膽?yīng)用基本是基于這兩個(gè)維度的擴(kuò)展。

講講我們公司的合資情況。

首先是收購(gòu)的公司，芬蘭的RIGHTWARE，4.6億元人民幣。我們跟高通有兩家合資公司，一家是自動(dòng)駕駛領(lǐng)域的，還有一家做物聯(lián)網(wǎng)相關(guān)領(lǐng)域的；和地平線的合資公司，是前年成立的；我們跟主機(jī)廠跟吉利等都有合資公司。

我們現(xiàn)在遇到什么問(wèn)題？

首先說(shuō)產(chǎn)業(yè)和市場(chǎng)的現(xiàn)狀。座艙行業(yè)或者汽車(chē)軟件研發(fā)的行業(yè)其實(shí)非常卷，主機(jī)廠的降本要求與日俱增，我們最開(kāi)始做8155芯片時(shí)，一個(gè)座艙平臺(tái)能做到大幾千萬(wàn)的研發(fā)費(fèi)用，現(xiàn)在只有幾百萬(wàn)的研發(fā)費(fèi)用，數(shù)量級(jí)都不太一樣了。

主機(jī)廠為了降本，現(xiàn)在逐漸改變了競(jìng)標(biāo)模式，以前經(jīng)常遇到的方式是技術(shù)和采購(gòu)兩方面，技術(shù)先打一個(gè)分，采購(gòu)依據(jù)你的價(jià)格也有個(gè)規(guī)則打一個(gè)分，兩個(gè)分加起來(lái)誰(shuí)最高誰(shuí)就能中標(biāo)。

如果說(shuō)我們對(duì)技術(shù)這一塊比較領(lǐng)先，技術(shù)分就會(huì)比較高，采購(gòu)相關(guān)的，如果你的價(jià)格不是那么有競(jìng)爭(zhēng)力，其實(shí)也是能拿到的?，F(xiàn)在客戶逐漸轉(zhuǎn)變了策略，變?yōu)榧夹g(shù)選三家合格的，最后只看價(jià)格。

第二，因?yàn)橹鳈C(jī)廠很多都自研，今天的安卓也在說(shuō)要自研，很多主機(jī)廠號(hào)稱自己要全棧自研。我們這個(gè)行業(yè)的友商很多也是因?yàn)橛猩鲜行枨螅运杖?，另外有一些生存的壓力，所以基本上都在做破成本價(jià)的競(jìng)標(biāo)，業(yè)務(wù)競(jìng)爭(zhēng)非常的慘烈。

第三由于最近行業(yè)比較火熱，有很多核心人才被挖，為了保留核心人才只能說(shuō)給額外的待遇，類似于股權(quán)之類的，人員成本也逐年上升。

第四是業(yè)務(wù)轉(zhuǎn)型。最開(kāi)始他們的芯片、操作系統(tǒng)，無(wú)論是高通的芯片或者安卓的操作系統(tǒng)，它里面都是標(biāo)準(zhǔn)的系統(tǒng)，你想做定制化開(kāi)發(fā)是需要巨大的開(kāi)發(fā)工作量的，需要很多人力在里面，對(duì)于我們這種公司，在這里是應(yīng)運(yùn)而生的，我們就是做標(biāo)準(zhǔn)操作系統(tǒng)和用戶需求之間的gap，無(wú)論是操作系統(tǒng)廠商還是芯片公司，他們從下面往上逐漸擠壓我們的生存空間，所以這一塊也是一個(gè)很大的風(fēng)險(xiǎn)。