沈建緣/文 在日前舉行的C3安全大會(huì)·2024大會(huì)上，中國(guó)工程院院士、清華大學(xué)智能產(chǎn)業(yè)研究院（AIR）院長(zhǎng)張亞勤表示， “新的人工智能是信息智能、物理智能和生物智能的融合。AI大模型的能力極其強(qiáng)大，未來(lái)可能創(chuàng)造出很多發(fā)展機(jī)遇，但也蘊(yùn)含著不少潛在風(fēng)險(xiǎn)——例如信息智能的風(fēng)險(xiǎn)、AI本身隱含的安全風(fēng)險(xiǎn)以及可控性、可信性、邊界等問題；例如幻覺的問題、深度偽造的問題，或是當(dāng)大模型技術(shù)的應(yīng)用范圍拓展至更廣更深的領(lǐng)域時(shí)的失控和被利用的風(fēng)險(xiǎn)等?！?/p>

隨著越來(lái)越多的企業(yè)將生成式AI整合到自身的業(yè)務(wù)平臺(tái)中，生成式AI將成為基于企業(yè)龐大數(shù)據(jù)架構(gòu)建立的交互接口，成為服務(wù)客戶的新途徑，通過(guò)AI戰(zhàn)略提升競(jìng)爭(zhēng)力已成為大勢(shì)所趨。張亞勤建議，“企業(yè)應(yīng)將投入AI大模型研發(fā)費(fèi)用的10%用于安全投入，設(shè)立相應(yīng)的邊界。在推動(dòng)大模型相關(guān)技術(shù)進(jìn)步的同時(shí)，也應(yīng)未雨綢繆地做好防范工作，在大模型用到金融、軍事等核心系統(tǒng)時(shí)設(shè)立安全邊界?！?/p>

全國(guó)數(shù)據(jù)資源調(diào)查工作組日前發(fā)布的《全國(guó)數(shù)據(jù)資源調(diào)查報(bào)告（2023年）》顯示，2023年，全國(guó)數(shù)據(jù)生產(chǎn)總量達(dá)32.85ZB（澤字節(jié)），同比增長(zhǎng)22.44%。中國(guó)數(shù)據(jù)生產(chǎn)總量高達(dá)32ZB與此同時(shí)，亞信安全監(jiān)測(cè)到，短短一年時(shí)間，針對(duì)大模型的攻擊手段已涌現(xiàn)出數(shù)10種不同的類型。

為此，亞信安全與清華大學(xué)智能產(chǎn)業(yè)研究院提升合作規(guī)模，啟動(dòng)了聯(lián)合研發(fā)行動(dòng)升級(jí)計(jì)劃，實(shí)現(xiàn)科研實(shí)力與人力資源的優(yōu)勢(shì)結(jié)合，持續(xù)開展理論、技術(shù)、政策等方面的創(chuàng)新性研究工作。

亞信聯(lián)合創(chuàng)始人田溯寧指出：“在新的時(shí)代，衛(wèi)星互聯(lián)網(wǎng)和5G網(wǎng)絡(luò)正在成為‘?dāng)?shù)據(jù)生產(chǎn)網(wǎng)絡(luò)’；操作系統(tǒng)、行業(yè)大模型與‘云網(wǎng)安’共同構(gòu)成新時(shí)代數(shù)據(jù)的基礎(chǔ)設(shè)施。”確保技術(shù)向善，不僅需要學(xué)界和政府的推動(dòng)，也需要企業(yè)積極合作。

亞信安全通過(guò)外部合作，打通大模型的技術(shù)及生態(tài)體系。亞信安全與中國(guó)聯(lián)通江蘇分公司、四川省數(shù)字產(chǎn)業(yè)有限責(zé)任公司、人民數(shù)據(jù)管理有限公司聯(lián)合發(fā)起，正式啟動(dòng)獵狐行動(dòng)計(jì)劃，以防范網(wǎng)絡(luò)勒索的持續(xù)惡意攻擊為目標(biāo)，通過(guò)事前、事中、事后三個(gè)階段處理“銀狐”木馬，打擊網(wǎng)絡(luò)勒索行為，建立區(qū)域性和行業(yè)性的網(wǎng)絡(luò)勒索響應(yīng)與治理中心，形成常態(tài)化一體化的網(wǎng)絡(luò)勒索安全運(yùn)營(yíng)。

基于亞信安全的“數(shù)據(jù)驅(qū)動(dòng) AI原生”產(chǎn)品戰(zhàn)略，亞信安全推出“信計(jì)劃”，包括全新研發(fā)的保護(hù)算力云基礎(chǔ)設(shè)施安全、大模型應(yīng)用安全防護(hù)、大模型紅藍(lán)對(duì)抗測(cè)試等服務(wù)；聚焦網(wǎng)絡(luò)安全行業(yè)垂直大模型的研發(fā)及運(yùn)行于其上的智能體和安全應(yīng)用。同時(shí)發(fā)布了網(wǎng)絡(luò)安全行業(yè)領(lǐng)域自研大模型——信立方。

亞信安全高級(jí)副總裁陳奮在采訪中表示，“未來(lái)，AGI技術(shù)可能會(huì)更加智能化和自主化，黑客可能會(huì)利用這些特點(diǎn)進(jìn)行更加隱蔽和復(fù)雜的攻擊。‘信立方’將安全技術(shù)與AI技術(shù)結(jié)合在一起，可用于實(shí)現(xiàn)網(wǎng)絡(luò)安全領(lǐng)域的攻擊面智能檢測(cè)、惡意代碼及威脅情報(bào)智能分析、告警預(yù)判等功能應(yīng)用?！痹撃Ｐ突谄渚W(wǎng)絡(luò)安全行業(yè)數(shù)據(jù)和專業(yè)知識(shí)，將會(huì)全面提升亞信安全系列產(chǎn)品的智能化水平。

據(jù)亞信安全研判，AI技術(shù)顯著降低了勒索軟件開發(fā)的門檻，并加速了復(fù)雜攻擊手段的開發(fā)進(jìn)程，黑客組織借助AI的學(xué)習(xí)與分析能力，持續(xù)深入剖析防御機(jī)制，不斷優(yōu)化和精進(jìn)其攻擊策略，甚至能夠?qū)崿F(xiàn)攻擊策略的自動(dòng)部署與執(zhí)行，從而加劇了網(wǎng)絡(luò)安全領(lǐng)域的挑戰(zhàn)。AGI工具將黑客生成新威脅的時(shí)間由之前的“數(shù)個(gè)月”縮減至幾小時(shí)甚至幾分鐘；同時(shí)，攻擊者開始利用大模型迅速發(fā)現(xiàn)軟件與服務(wù)中存在的漏洞；通過(guò)人臉深度偽造來(lái)實(shí)施網(wǎng)絡(luò)詐騙犯罪的案例也越來(lái)越多。更嚴(yán)重的，攻擊者的目標(biāo)正由傳統(tǒng)的數(shù)字資產(chǎn)轉(zhuǎn)向AI算力基礎(chǔ)設(shè)施和大模型。

作為網(wǎng)絡(luò)安全廠商推出的安全垂域大模型，更多是考慮到網(wǎng)絡(luò)安全產(chǎn)品相對(duì)復(fù)雜，不同產(chǎn)品解決的問題不一樣，未來(lái)落地應(yīng)用場(chǎng)景也各有不同，所以“信立方”具有通用（模型）能力，所有的產(chǎn)品線按照該標(biāo)準(zhǔn)框架、按照?qǐng)鼍皞€(gè)性化的落地，以解決重復(fù)投入、通用化的問題，以及內(nèi)部生態(tài)的問題。大模型的發(fā)布是對(duì)亞信安全所有產(chǎn)線產(chǎn)品的能力的提升。

亞信安全認(rèn)為，智能時(shí)代安全分為AI For Security和Security For AI兩部分，對(duì)于防護(hù)能力一體化的追求，從未來(lái)技術(shù)轉(zhuǎn)型或架構(gòu)轉(zhuǎn)型去談安全領(lǐng)域到底應(yīng)該怎么去做，是亞信安全整個(gè)技術(shù)架構(gòu)的底層邏輯。根據(jù)亞信安全的構(gòu)想，未來(lái)將有可能通過(guò)安全運(yùn)營(yíng)數(shù)字人，為用戶解決每天產(chǎn)生的大量的安全事件。