早前，非營利組織AI安全中心（Center for AI Safety）發(fā)布了一份簡短聲明，提醒公眾降低AI風(fēng)險應(yīng)成為全球優(yōu)先事項(xiàng)。為這份聲明背書的，包括了OpenAI首席執(zhí)行官山姆·奧爾特曼（Sam Altman）、DeepMind首席執(zhí)行官戴密斯·哈薩比斯（Demis Hassabis），以及微軟和谷歌高管在內(nèi)的350多位AI領(lǐng)域?qū)＜?。在上周舉行的北京智源大會上，奧爾特曼也倡議全球就AI安全問題進(jìn)行協(xié)作。

ChatGPT的誕生激發(fā)了前所未有的創(chuàng)造浪潮，也讓公眾直觀地感受到生成式AI的力量。但缺少規(guī)范的技術(shù)如同一個尚未辨知善惡的新生兒，在帶給人類極大幫助的同時，也潛藏著新的風(fēng)險。

比如，新加坡《海峽時報》曾報道某科技企業(yè)工程師在借助ChatGPT處理工作時，無意中將產(chǎn)品核心數(shù)據(jù)輸入其中，導(dǎo)致商業(yè)機(jī)密外泄。越來越多ChatGPT用戶也發(fā)現(xiàn)，在與AI對話時會收獲一些細(xì)節(jié)豐滿的故事，甚至言之鑿鑿的文獻(xiàn)介紹，但實(shí)際上這些并非真實(shí)信息，而是生成式AI的“模型幻想”（model hallucination）。

生成式AI風(fēng)險何在？

對企業(yè)而言，生成式AI將改變工作方式、重塑商業(yè)模式。越來越多的企業(yè)已開始積極探索相關(guān)應(yīng)用，以期提升創(chuàng)新效率、實(shí)現(xiàn)高質(zhì)增長。但生成式AI的風(fēng)險同樣需要引起重視。

首當(dāng)其沖的就是合規(guī)風(fēng)險，它貫穿于模型設(shè)計、搭建、使用各個階段，并會產(chǎn)生長遠(yuǎn)的效應(yīng)。比如，生成式AI基于學(xué)習(xí)需要而對用戶數(shù)據(jù)的留存、分析是否侵犯了個人和商業(yè)隱私，以及相關(guān)數(shù)據(jù)保護(hù)法案；它在借鑒創(chuàng)意作品（如畫作）的過程中，是否侵犯了作者版權(quán)和著作權(quán)；由此產(chǎn)出的作品又是否可用于商業(yè)用途；甚至使用生成式AI本身，是否違反了部分國家和地區(qū)的法律法規(guī)。

同樣可能在生成式AI的生命周期中出現(xiàn)的還有數(shù)據(jù)風(fēng)險。生成式AI的運(yùn)作核心是機(jī)器學(xué)習(xí)，其價值與數(shù)據(jù)的質(zhì)量和真實(shí)性密切相關(guān)。如果一臺基礎(chǔ)模型長期浸染在存有偏差的數(shù)據(jù)當(dāng)中，它就會被這些數(shù)據(jù)“誘導(dǎo)”，從而輸出錯誤的信息或執(zhí)行歧視性操作。另一方面，某些群體特質(zhì)也會使生成式AI為其打上固化標(biāo)簽，“一刀切”地去執(zhí)行某些程序，而失去了應(yīng)有的公平性。

此外，用戶風(fēng)險也是需要重點(diǎn)關(guān)注的一環(huán)。事在人為。生成式AI的價值高低，很大程度上取決于使用它的人。我們需要通過一系列的法律法規(guī)、流程規(guī)范來防止人類有意、無意地使用生成式AI造成負(fù)面影響。

價值風(fēng)險也是企業(yè)和使用者應(yīng)該考慮的內(nèi)容，即使用生成式AI是否可能有違社會、企業(yè)和個人的價值文化。比如，《MIT技術(shù)評論》曾指出訓(xùn)練一臺普通AI模型消耗的能源，相當(dāng)于五輛汽車全生命周期排放的碳總量。為此，在部署AI戰(zhàn)略的時候，我們必須思考相關(guān)碳排放是否會減緩乃至抵消企業(yè)的零碳進(jìn)程，繼而有所取舍。

埃森哲認(rèn)為，打造負(fù)責(zé)任的生成式AI，不是一項(xiàng)“見招拆招”、“亡羊補(bǔ)牢”的局部任務(wù)，而是在生成式AI基礎(chǔ)模型的設(shè)計之初就應(yīng)未雨綢繆，并在其全生命周期中持續(xù)領(lǐng)航匡正的系統(tǒng)性工程。

負(fù)責(zé)任的AI，促進(jìn)業(yè)務(wù)增長

令人慶幸的是，大多數(shù)的政府部門和企業(yè)已經(jīng)意識到讓生成式AI更“有責(zé)任感”的重要性并開始采取積極行動。埃森哲最新全球調(diào)研顯示，97%的受訪高管認(rèn)為自身企業(yè)將受到AI相關(guān)監(jiān)管法案的影響，77%將對于AI的監(jiān)管列為優(yōu)先事項(xiàng)。此外，有80%的受訪者表示，他們將投入10%或更多的AI總預(yù)算，以滿足未來的監(jiān)管要求；69%的受訪高管表示所在企業(yè)已經(jīng)開始嘗試負(fù)責(zé)任的AI實(shí)踐，但并未將其作為運(yùn)營基礎(chǔ)。

值得注意的是，不少受訪者認(rèn)為，合規(guī)的AI將為其提供額外的競爭優(yōu)勢——43%的高管認(rèn)為這將提高他們將AI產(chǎn)業(yè)化和規(guī)?；哪芰?，36%認(rèn)為它將為競爭優(yōu)勢和差異化創(chuàng)造機(jī)會，41%認(rèn)為它可以幫助吸引和留住人才。

與之相應(yīng)，在去年發(fā)布的埃森哲《AI成熟之道：從實(shí)踐到實(shí)效》報告中，我們還發(fā)現(xiàn)，有13%的受訪企業(yè)成功使用AI技術(shù)實(shí)現(xiàn)了超過50%的收入增長，同時在客戶體驗(yàn)（CX）和環(huán)境、社會與治理（ESG）方面表現(xiàn)出色。相較于普通企業(yè)，這些“AI領(lǐng)軍者”更加注重從設(shè)計企業(yè)各個環(huán)節(jié)的時候就把負(fù)責(zé)任的AI列為優(yōu)先事項(xiàng)。

新加坡是金融科技的沃土，不少機(jī)構(gòu)都已開始將AI技術(shù)用于信用卡審批、保險理賠等金融服務(wù)領(lǐng)域，在大幅提升工作效率的同時顯著降低運(yùn)營成本。但作為監(jiān)管方，新加坡金融管理局看到了其中隱含的風(fēng)險——如果放任AI自我學(xué)習(xí)，可能造成潛在的群體歧視。

為此，他們組建了一個由25家機(jī)構(gòu)組成的行業(yè)聯(lián)盟，并在2018年發(fā)布了以公平、倫理、問責(zé)、透明為核心的“FEAT原則”，為金融機(jī)構(gòu)采用負(fù)責(zé)任AI提供指導(dǎo)。作為開發(fā)小組成員，埃森哲為其打造了用于評估模型公平性的工具包，以保證FEAT原則的執(zhí)行。

目前，埃森哲與新加坡金融管理局仍保持著密切協(xié)作，在整個行業(yè)深化推進(jìn)負(fù)責(zé)任AI的落地與優(yōu)化，為金融機(jī)構(gòu)提供建議，并致力于培養(yǎng)一批擁有相關(guān)知識和經(jīng)驗(yàn)的專業(yè)人員，鼓勵更多科技企業(yè)創(chuàng)建符合FEAT原則的AI解決方案。

設(shè)計負(fù)責(zé)任的生成式AI

雖然多數(shù)企業(yè)已經(jīng)認(rèn)識到培育負(fù)責(zé)任AI的價值并正致力于此，但只有6%的企業(yè)建立了負(fù)責(zé)任的AI基礎(chǔ)并將該原則付諸實(shí)踐。過于傳統(tǒng)的組織架構(gòu)、風(fēng)險管理框架、生態(tài)伙伴、AI人才和考核標(biāo)準(zhǔn)，都是限制企業(yè)成功的主要原因。

埃森哲建議，企業(yè)可以從原則與治理，風(fēng)險、政策與管控，技術(shù)與支持，文化與培訓(xùn)四個層面入手，通過設(shè)計讓生成式AI變得更負(fù)責(zé)任。

原則與治理：在最高管理層的支持下，定義并闡明負(fù)責(zé)任AI的使命和原則，同時在整個組織中建立清晰的治理結(jié)構(gòu)，以建立對AI技術(shù)的信心和信任。

風(fēng)險、政策與控制：加強(qiáng)對既定原則和現(xiàn)行法律法規(guī)的遵守，同時監(jiān)測未來的法律法規(guī)，制定降低風(fēng)險的政策，并通過定期報告和監(jiān)控的風(fēng)險管理框架實(shí)施這些政策。

技術(shù)與支持：開發(fā)工具和技術(shù)來支持公平性、可解釋性、穩(wěn)健性、問責(zé)制和隱私等原則，并將其構(gòu)建到AI系統(tǒng)和平臺中。

文化與培訓(xùn)：推動領(lǐng)導(dǎo)層將負(fù)責(zé)任AI提升為一項(xiàng)關(guān)鍵的業(yè)務(wù)要務(wù)，并為所有員工提供培訓(xùn)，讓他們清楚地了解負(fù)責(zé)任AI原則以及如何將這些原則轉(zhuǎn)化為行動。

在生成式AI的發(fā)展道路上，價值與風(fēng)險始終并存，關(guān)鍵在于設(shè)計、搭建、使用它的企業(yè)和個人如何作為。打造負(fù)責(zé)任的生成式AI，讓創(chuàng)新科技的成果合規(guī)、安全、平等地惠及每一家企業(yè)、每一個人。