經(jīng)濟(jì)觀察網(wǎng) 記者 沈怡然 隨著AI技術(shù)的精進(jìn)和產(chǎn)業(yè)落地，業(yè)界開(kāi)始聚焦關(guān)于產(chǎn)業(yè)治理的爭(zhēng)端和問(wèn)題。

8月3日，首屆全球數(shù)字經(jīng)濟(jì)大會(huì)的人工智能產(chǎn)業(yè)治理主題論壇在京舉辦，該論壇由北京市經(jīng)濟(jì)信息化局、海淀區(qū)人民政府共同主辦，由清華大學(xué)人工智能研究院、北京智源人工智能研究院以及北京瑞萊智慧科技有限公司共同承辦。

在論壇上，中國(guó)科學(xué)院院士張鈸首先拋出一個(gè)觀點(diǎn)：當(dāng)前，AI的安全治理是迫在眉睫的，隨著技術(shù)潛入到“深水區(qū)”，研究界發(fā)現(xiàn)，AI的算法存在一些根本性的問(wèn)題，本身就帶有不安全性，容易受到攻擊。

張鈸認(rèn)為，對(duì)人工智能進(jìn)行治理，防止它被誤用、制止它被濫用，需要從技術(shù)創(chuàng)新層面發(fā)力去“治本”，但這條路漫長(zhǎng)且艱難，同時(shí)，也要從法律法規(guī)、倫理規(guī)范、行業(yè)共識(shí)等不同層面去“治標(biāo)”。

爭(zhēng)議和問(wèn)題隨之出現(xiàn)，為何AI的安全漏洞難以修補(bǔ)，AI的發(fā)展方向是否正確，政府、企業(yè)在其中又該承擔(dān)什么責(zé)任？

原理的漏洞

行業(yè)普遍將人工智能的主體分為四類(lèi)，研發(fā)者、設(shè)計(jì)者、部署者、用戶。張鈸表示，信息技術(shù)產(chǎn)業(yè)發(fā)展中有很多安全性問(wèn)題，普遍是由設(shè)計(jì)的缺陷造成的，這個(gè)缺陷被利用后，對(duì)系統(tǒng)進(jìn)行了攻擊，所以只要把漏洞補(bǔ)上就能解決。

但AI技術(shù)所面臨的安全問(wèn)題是非常特殊的，其問(wèn)題不在于設(shè)計(jì)，而是源自算法本身的不安全性。在張鈸看來(lái)，這種算法的不安全性，是由第二代人工智能所引起的。

第一代人工智能指的是用知識(shí)規(guī)則來(lái)解決問(wèn)題，第二代指的是以AlphaGo為標(biāo)志的深度學(xué)習(xí)。張鈸表示，在第二代技術(shù)中，對(duì)圖像、語(yǔ)音、文字的處理都可以利用深度學(xué)習(xí)來(lái)做，這種技術(shù)在數(shù)據(jù)樣本充足的條件下，在人臉識(shí)別、語(yǔ)音識(shí)別等場(chǎng)景下，效率是非常高的。

但是，里面用到的算法非常脆弱。張鈸舉例稱，“兩張一模一樣的雪山圖片，如果對(duì)右圖加入一點(diǎn)噪聲，那么人類(lèi)視覺(jué)看起來(lái)還是雪山，但計(jì)算機(jī)就會(huì)將右圖識(shí)別成一條狗。可以看出人類(lèi)視覺(jué)和計(jì)算機(jī)識(shí)別完全是兩回事”。

張鈸認(rèn)為，這是有可能通過(guò)創(chuàng)新來(lái)解決的，方案之一就是發(fā)展第三代人工智能技術(shù)，但這是一項(xiàng)長(zhǎng)期任務(wù)，技術(shù)的路徑也非常艱難。

法律的治理

針對(duì)不安全性，治理的目標(biāo)也指向兩類(lèi)行為，一類(lèi)是有意識(shí)地濫用AI技術(shù)，一類(lèi)是無(wú)意識(shí)地誤用。前者行為需要通過(guò)法律來(lái)解決，加以制止。

中倫律師事務(wù)所合伙人陳際紅在會(huì)上表示，當(dāng)前，人工智能的立法，已經(jīng)涉及到隱私保護(hù)、數(shù)據(jù)安全、網(wǎng)絡(luò)安全、公平競(jìng)爭(zhēng)、消費(fèi)者權(quán)益保護(hù)等方面。

人工智能產(chǎn)業(yè)離不開(kāi)數(shù)據(jù)處理，一個(gè)重要的立法就是《數(shù)據(jù)安全法》，該法將于今年9月生效。陳際紅表示，該法的監(jiān)管對(duì)象是數(shù)據(jù)處理活動(dòng)，一個(gè)重要的內(nèi)容是，建立分類(lèi)分級(jí)保護(hù)制度。在判斷一種數(shù)據(jù)能否使用、能否公開(kāi)、能否跨境運(yùn)輸方面，這些內(nèi)容提供了很好的標(biāo)準(zhǔn)。如果是關(guān)系到重要民生、國(guó)家安全的核心數(shù)據(jù)，出境則需要強(qiáng)監(jiān)管。

另一項(xiàng)限定關(guān)于數(shù)據(jù)交易。陳際紅表示，當(dāng)前一些數(shù)據(jù)交易機(jī)構(gòu)的運(yùn)作，引起了很多問(wèn)題，比如數(shù)據(jù)的可交易性、對(duì)隱私的侵犯等。該法也針對(duì)數(shù)據(jù)中介做了一系列明確規(guī)定和管控。

同時(shí)，該法也建立起國(guó)家安全審查制度，同時(shí)，對(duì)數(shù)據(jù)處理活動(dòng)也提出了監(jiān)管措施，以及一定的反制措施。隨著AI與社會(huì)的關(guān)系發(fā)展密切，關(guān)于立法、司法解釋會(huì)延伸到技術(shù)的更多角落。

倫理的規(guī)范

若將AI作為客體，則可用法律來(lái)治理。但換個(gè)角度，我們究竟要發(fā)展什么樣的人工智能，過(guò)去的路是否走偏了？厘清它的愿景，對(duì)于當(dāng)前的治理也是非常重要的。

論壇上，中國(guó)科學(xué)院自動(dòng)化研究所研究員、聯(lián)合國(guó)教科文組織人工智能倫理特設(shè)專(zhuān)家組專(zhuān)家曾毅表示，全球發(fā)展AI的一個(gè)共同目標(biāo)是“以人類(lèi)為中心”，這會(huì)讓人忽略技術(shù)對(duì)環(huán)境、生態(tài)的影響，甚至讓人過(guò)于看重短期利益。

在曾毅看來(lái)，愿景應(yīng)該是打造一個(gè)負(fù)責(zé)任的、可持續(xù)的人工智能，這也是最大倫理原則，“如果人工智能的創(chuàng)新的目標(biāo)就是賺錢(qián)，那么大多數(shù)可持續(xù)發(fā)展目標(biāo)無(wú)法通過(guò)人工智能來(lái)實(shí)現(xiàn)”。

國(guó)家新一代人工智能治理專(zhuān)委會(huì)曾對(duì)AI提出一些原則，重點(diǎn)之一是協(xié)調(diào)好發(fā)展與治理的關(guān)系；重點(diǎn)之二是，在安全可靠、可控的背景下，推動(dòng)的不僅僅是經(jīng)濟(jì)發(fā)展，同時(shí)關(guān)注經(jīng)濟(jì)社會(huì)和生態(tài)協(xié)同的可持續(xù)發(fā)展，共建人類(lèi)命運(yùn)體。

這些治理的理念必須落實(shí)到參與者之間。曾毅表示，這和企業(yè)非常相關(guān)，但絕對(duì)不是企業(yè)唯一的問(wèn)題，還涉及到設(shè)計(jì)者、研發(fā)者、供應(yīng)者、部署者、管理者，真正實(shí)現(xiàn)多方共治。

企業(yè)的責(zé)任擔(dān)當(dāng)

在本次大會(huì)上，首個(gè)《人工智能產(chǎn)業(yè)擔(dān)當(dāng)宣言》正式發(fā)布，該宣言由北京智源人工智能研究院和瑞萊智慧共同發(fā)起，百度、華為、螞蟻集團(tuán)、寒武紀(jì)、愛(ài)筆科技、第四范式、出門(mén)問(wèn)問(wèn)等在內(nèi)數(shù)十家研究機(jī)構(gòu)與創(chuàng)新企業(yè)聯(lián)合參與。

宣言包含五項(xiàng)倡議，首先強(qiáng)調(diào)，人工智能系統(tǒng)的設(shè)計(jì)、研發(fā)、實(shí)施和推廣應(yīng)符合可持續(xù)發(fā)展理念，以促進(jìn)社會(huì)安全和福祉為目標(biāo)，以尊重人類(lèi)尊嚴(yán)和權(quán)益為前提。其次在技術(shù)能力方面，提出要最大限度確保人工智能系統(tǒng)安全可信，提高魯棒性及抗干擾性，要增強(qiáng)算法透明性和可解釋性，同時(shí)保障各方權(quán)利和隱私，對(duì)用戶數(shù)據(jù)提供充分的安全保障。

對(duì)于該宣言，北京瑞萊智慧科技有限公司CEO田天表示，讓人工智能更好地服務(wù)于人類(lèi)，是行業(yè)共同的目標(biāo)，當(dāng)整個(gè)社會(huì)重新審視技術(shù)的價(jià)值，科技從業(yè)者更應(yīng)感受到科技治理的緊迫性和使命感，應(yīng)當(dāng)積極主動(dòng)開(kāi)展自治工作，同時(shí)開(kāi)放共享，共舉科技擔(dān)當(dāng)。