紅帽張家駒:大模型出現幻覺怎么辦

陳奇杰2023-10-27 21:46

經濟觀察網 記者 陳奇杰 在生成式AI時代,開源社區(qū)公司都在關注什么?在10月26日舉行的紅帽2023論壇中國站上,開源解決方案供應商紅帽(Red Hat)公司首席架構師張家駒在采訪中向記者表示,在大模型應用場景中,“特別是企業(yè)級應用,很多時候我們要考慮確定性,雖然大多數時候能得到大模型的幫助,但一旦在應用、生產上出現幻覺的話,往往就是災難。”

所謂“大模型幻覺”,指的是人工智能模型生成的內容,不是基于任何現實世界的數據,而是大模型自己“想象”的產物。

張家駒表示,“紅帽跟IBM的結合,我覺得在生成式AI時代是非常重要的,相信會給行業(yè)帶來很大轉變。”他指出,現在引起業(yè)內討論的大模型幻覺、AI治理問題,可能在一些環(huán)境里面,其他模型沒有考慮那么多,但是IBM的模型在這一方面有獨特優(yōu)勢。“另外,OpenShift AI平臺不光可以跑IBM的模型,其他所有的開源大模型都可以跑,是一個開放平臺體系。”張家駒補充稱。

此前,紅帽發(fā)布了生成式AI相關服務OpenShift AI。紅帽首席技術官Chris Wright指出,在充分利用人工智能獲得好處方面,基礎模型可以為企業(yè)提供實實在在的好處,但仍需要在訓練和微調方面進一步投資。紅帽的企業(yè)級AI愿景依托紅帽O(jiān)penShift AI的當前能力而制定,為基礎模型在生產中的訓練、維護、微調和實際使用奠定了靈活而且可擴展的基礎。

不久之后,紅帽母公司IBM又推出由紅帽O(jiān)penShift AI提供支撐的基礎模型watsonx.AI,該產品致力于為AI構建者提供利用開放直觀的用戶界面,以用來訓練、測試、調整和部署由基礎模型提供支持的傳統(tǒng)機器學習和新的生成式AI功能。

版權聲明:以上內容為《經濟觀察報》社原創(chuàng)作品,版權歸《經濟觀察報》社所有。未經《經濟觀察報》社授權,嚴禁轉載或鏡像,否則將依法追究相關行為主體的法律責任。版權合作請致電:【010-60910566-1260】。
TMT新聞部記者
長期關注并報道TMT(科技、游戲等)領域重大事件,擅長人物專訪、行業(yè)分析報道。
郵箱:chenqijie@eeo.com.cn 微信號:Q1191278317