百度升級千帆大模型“工具箱”:讓客戶一天就能跑通一個大模型

沈怡然2023-09-05 20:51

(圖片來源:百度智能云千帆大模型官網(wǎng))

經(jīng)濟觀察網(wǎng) 記者 沈怡然 9月5日,百度在2023云智大會上發(fā)布了千帆大模型平臺2.0版本,升級后內(nèi)置42個國內(nèi)外主流大模型。會上,百度集團執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖表示,過去客戶驗證大模型的效果至少需要一周時間,升級后基于一站式的工具鏈,只需一天就可以跑通一個模型并看到效果。

百度智能云千帆大模型平臺,相當于集成了多個模型及服務的一站式大模型工具箱,企業(yè)可以在平臺上自主選擇模型和數(shù)據(jù)集并與自身業(yè)務數(shù)據(jù)結合,最終快速應用到業(yè)務流中。

沈抖表示,該平臺于今年3月首次上線,目前平臺上的月活企業(yè)數(shù)已近萬家,覆蓋了從金融、教育、制造、能源、交通、政務等等領域的400多個場景。

沈抖用四個關鍵詞形容升級后的千帆大模型平臺,“料多、好用、高效、放心”。他認為,用戶對大模型的關注點在于成本和效能,一直以來,大模型的訓練成本較高,需要企業(yè)在部署、應用、開發(fā)等各環(huán)節(jié)緊密結合。“以前光是調(diào)試接入、驗證評估就需要算法團隊投入一星期的時間,現(xiàn)在基于千帆2.0版本,客戶當天就可以跑通一個模型并且看到效果,快速投入到應用的開發(fā)階段”。

沈抖表示,升級后的千帆大模型平臺,在底層做了大量的適配和驗證工作,兼顧了國內(nèi)外主流的芯片和操作系統(tǒng),不同廠商、不同代際的算力資源可以混合部署在同一個平臺里,高效地配合使用。與此同時,客戶的算法不需要大量改動,只需要少量修改就可以在硬件上運行。

2.0版本內(nèi)置了42個大模型,這些模型以大語言模型為主,有百度自研、有海外廠商Meta、BigScience等研發(fā)并開源、有高校自研并開源的大模型。同時,還預置了41個數(shù)據(jù)集,預裝了知識問答、客服對話、代碼助手等10個應用范式。

大科創(chuàng)新聞部記者
關注硬科技領域,包括機器人及人工智能、無人機、虛擬現(xiàn)實(VR/AR)、智能穿戴,以及新材料領域。擅長企業(yè)深度報道及上市公司分析報道。發(fā)現(xiàn)前沿技術、發(fā)展趨勢投資價值。

熱新聞

電子刊物

點擊進入