經(jīng)濟(jì)觀察網(wǎng) 記者 陳奇杰 馬云、雷軍、周杰倫、特朗普……這些國(guó)內(nèi)外公眾人物的真實(shí)聲音，被一些創(chuàng)作者使用AI音頻應(yīng)用克隆后，制作成語音角色，并發(fā)布在AI音頻分享社區(qū)。用戶只需幾十秒鐘，便可依靠這些語音角色生成一段接近真人講話音質(zhì)的AI音頻。

“十一”假期期間，網(wǎng)友制作了大量小米公司創(chuàng)始人雷軍的AI音頻，并在結(jié)合畫面合成音視頻后，將此類內(nèi)容上傳到抖音、快手和B站等互聯(lián)網(wǎng)平臺(tái)，其中不乏罵人、惡搞小米產(chǎn)品的語音，成為輿論熱點(diǎn)。而在9月底，一名犯罪嫌疑人利用AI音頻應(yīng)用Reecho睿聲（下稱“睿聲”）偽造了三只羊創(chuàng)始人盧文慶的錄音，更是導(dǎo)致警方介入調(diào)查。

雷軍AI音頻事件發(fā)酵后，互聯(lián)網(wǎng)平臺(tái)上的大量相關(guān)音視頻被刪除，但仍有少量剩余。經(jīng)濟(jì)觀察網(wǎng)記者在10月13日發(fā)現(xiàn)，用戶依然能夠使用睿聲AI音頻分享社區(qū)（下稱“睿聲社區(qū)”）里名為“雷軍”的語音角色制作音頻，一個(gè)“雷軍”語音角色已被使用60.3萬次。

睿聲是深圳市言域科技有限公司（下稱“言域科技”）旗下的AI音頻應(yīng)用和分享社區(qū)。言域科技創(chuàng)始人謝偉鐸告訴經(jīng)濟(jì)觀察網(wǎng)，小米法務(wù)方面已與該公司取得聯(lián)系，希望其能對(duì)社區(qū)中涉及雷軍的音頻內(nèi)容進(jìn)行管控。目前，言域科技已通知原作者下架相關(guān)內(nèi)容，如果原作者在7個(gè)工作日內(nèi)沒有下架，該公司會(huì)進(jìn)行強(qiáng)制刪除。

AI音頻制作者、語音角色創(chuàng)作者、AI音頻應(yīng)用和分享社區(qū)、互聯(lián)網(wǎng)平臺(tái)，共同構(gòu)成了制作公眾人物AI音頻的上下游鏈條。當(dāng)此類音頻引發(fā)負(fù)面輿情時(shí)，鏈條上的涉事各方分別需要承擔(dān)什么責(zé)任？被侵權(quán)人能否利用現(xiàn)有技術(shù)精準(zhǔn)追溯到肇事方？

制作者的責(zé)任

目前，AI音頻制作者主要通過兩種形式生成公眾人物的音頻。

第一種方式為，AI音頻制作者直接使用AI技術(shù)提供方的技術(shù)生成音頻。謝偉鐸說，此前，合肥警方通過互聯(lián)網(wǎng)平臺(tái)溯源找到了偽造盧文慶錄音的犯罪嫌疑人，在其電腦上看到了使用睿聲的記錄。言域科技配合警方調(diào)取了該嫌疑人的生成記錄以作證據(jù)。

言域科技方面披露，該嫌疑人截取了盧文慶在直播中大約30秒的情緒較為飽滿的音頻作為素材，并用自己編撰的文本在睿聲的平臺(tái)上進(jìn)行合成。其后，該嫌疑人在一個(gè)較為嘈雜空曠的環(huán)境中，播放合成后的音頻，并用其他錄音設(shè)備分段做翻錄及拼接。這一操作增加了環(huán)境氛圍感，導(dǎo)致眾多網(wǎng)友難以區(qū)分該錄音是真實(shí)還是偽造。

第二種方式為，創(chuàng)作者上傳公眾人物的真實(shí)聲音，克隆出接近其聲音的語音角色，并分享至AI音頻分享社區(qū)上，其他制作者可以直接使用此類語音角色再生成AI音頻。相比前一種，第二種生成AI語音的方式更加便捷。

經(jīng)濟(jì)觀察網(wǎng)記者在睿聲社區(qū)中選擇一個(gè)名為“雷軍”的語音角色，輸入200個(gè)字符的文字，點(diǎn)擊生成音頻。不到一分鐘，一段仿造雷軍講話的AI音頻就被制作出來。

截至10月13日，睿聲社區(qū)的一個(gè)“雷軍”語音角色，被使用次數(shù)為60.3萬次，生成字符數(shù)為3371.8萬個(gè)；在AI音頻應(yīng)用Fish Audio上，一個(gè)“雷軍”語音角色被使用了17.4萬次。

網(wǎng)友在制作公眾人物的AI音頻時(shí)，往往不會(huì)注意此類行為需要得到授權(quán)，一位B站用戶說，他只是看到很多人合成雷軍的AI音頻，于是萌生了制作雷軍AI語音解說游戲視頻的想法。另一位制作了類似視頻的B站用戶稱，“（這種視頻）網(wǎng)上很多，應(yīng)該沒事，有提示違規(guī)我就刪”。

泰和泰律師事務(wù)所律師杜雙告訴經(jīng)濟(jì)觀察網(wǎng)，根據(jù)現(xiàn)有司法判定標(biāo)準(zhǔn)，高度可識(shí)別的AI生成聲音受到法律保護(hù)。AI配音素材提供者、視頻制作者未經(jīng)雷軍本人或小米公司授權(quán)，將其AI生成的聲音用于制作、傳播具有辱罵、誹謗性質(zhì)的音視頻內(nèi)容，本身已構(gòu)成對(duì)雷軍肖像權(quán)、名譽(yù)權(quán)等多項(xiàng)人格權(quán)侵權(quán)，甚至?xí)址感∶坠镜拿u(yù)。

技術(shù)提供方的義務(wù)

在前述兩種AI音頻制作方式中，AI音頻應(yīng)用公司扮演了不同的角色。在第一種方式下，他們僅充當(dāng)AI技術(shù)提供方。在第二種方式下，他們則具備AI技術(shù)提供方和運(yùn)營(yíng)方的雙重屬性。

言域科技創(chuàng)始人謝偉鐸認(rèn)為，AI應(yīng)用只是內(nèi)容轉(zhuǎn)化的工具，在內(nèi)容把控方面，更優(yōu)先的選項(xiàng)是由用戶負(fù)責(zé)。作為用戶生成內(nèi)容（UGC）社區(qū)，在合法合規(guī)的情況下，言域科技并不愿過度干預(yù)用戶生產(chǎn)的內(nèi)容。

因此，言域科技主要通過提示用戶和內(nèi)容溯源的形式，進(jìn)行合規(guī)經(jīng)營(yíng)。

言域科技在官網(wǎng)上提醒用戶，請(qǐng)勿使用其服務(wù)克隆或生成任何侵犯版權(quán)、違反道德倫理或違反中華人民共和國(guó)法律法規(guī)的內(nèi)容。

三只羊偽造錄音事件后，言域科技回應(yīng)稱，其正在部署包括強(qiáng)化的實(shí)名認(rèn)證機(jī)制，強(qiáng)化的敏感詞多維度智能偵測(cè)預(yù)警，以及可溯源音頻水印等多重安全措施。

謝偉鐸說，現(xiàn)在用戶使用睿聲生成的所有內(nèi)容都可以被溯源到，能溯源到的信息包括技術(shù)平臺(tái)以及內(nèi)容制作用戶等。

內(nèi)容可溯源是監(jiān)管方面對(duì)AI技術(shù)提供方和運(yùn)營(yíng)方的要求。全國(guó)信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)秘書處去年8月發(fā)布的《網(wǎng)絡(luò)安全標(biāo)準(zhǔn)實(shí)踐指南—生成式人工智能服務(wù)內(nèi)容標(biāo)識(shí)方法》稱，由人工智能生成圖片、音頻、視頻時(shí)，應(yīng)在生成內(nèi)容中添加顯式水印和隱式水印標(biāo)識(shí)。

杜雙稱，根據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（下稱《管理規(guī)定》），AI技術(shù)提供方還擁有加強(qiáng)訓(xùn)練數(shù)據(jù)管理、保障訓(xùn)練數(shù)據(jù)安全、保護(hù)個(gè)人信息等義務(wù)。同時(shí)，對(duì)提供人臉、人聲等生物識(shí)別信息編輯功能的，應(yīng)當(dāng)提示技術(shù)使用者依法告知被編輯的個(gè)人，并取得其單獨(dú)同意。

經(jīng)濟(jì)觀察網(wǎng)注意到，一些創(chuàng)作者制作的“馬云”“周杰倫”“特朗普”“蔡徐坤”等語音角色，被發(fā)布在睿聲社區(qū)的首頁上，并且可以被未注冊(cè)用戶看到。此時(shí)，這些公眾人物的語音角色成了AI音頻應(yīng)用公司吸引流量的工具。

杜雙說，這種情形下，制作語音角色的創(chuàng)作者已經(jīng)構(gòu)成侵權(quán)。AI音頻分享社區(qū)如果發(fā)現(xiàn)侵權(quán)行為或者權(quán)利人投訴舉報(bào)，需要及時(shí)刪除下架相關(guān)素材。如果不及時(shí)刪除，AI音頻分享社區(qū)需要承擔(dān)一定的侵權(quán)責(zé)任。

謝偉鐸說，目前睿聲正在和一些配音演員合作，考慮推出高質(zhì)量的官方角色。未來可能也會(huì)在驗(yàn)證過版權(quán)的情況下，開展用戶出售聲音版權(quán)的業(yè)務(wù)。

平臺(tái)：寄望于用戶標(biāo)識(shí)

在本次雷軍AI音頻事件中，抖音、快手和B站等互聯(lián)網(wǎng)平臺(tái)是主要傳播渠道。面對(duì)越來越多的AI生成內(nèi)容，互聯(lián)網(wǎng)平臺(tái)有何責(zé)任？

杜雙說，作為傳播渠道的平臺(tái)方，同樣受《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《管理規(guī)定》規(guī)制，針對(duì)可能導(dǎo)致公眾混淆或者誤認(rèn)的深度合成技術(shù)，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，向公眾提示深度合成情況。

目前，主流社交平臺(tái)對(duì)AI內(nèi)容采取的措施，一般是先讓用戶做出聲明，并在AI生成的內(nèi)容旁標(biāo)注類似于“本內(nèi)容為AI生成”標(biāo)識(shí)。

經(jīng)濟(jì)觀察網(wǎng)從快手方面了解到，其在2023年9月上線了AI內(nèi)容作者聲明功能，并要求用戶在發(fā)布人工智能生成內(nèi)容時(shí)，務(wù)必添加作者聲明，避免AI內(nèi)容在傳播過程中帶來誤解。

B站、抖音等視頻內(nèi)容平臺(tái)同樣采取了類似的措施。例如，抖音在用戶服務(wù)協(xié)議中提到，用戶不得利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的新技術(shù)新應(yīng)用制作、發(fā)布、傳播虛假新聞資訊信息。用戶在發(fā)布或傳播利用基于深度學(xué)習(xí)、生成式人工智能等新技術(shù)新應(yīng)用制作的非真實(shí)音視頻信息，或其他可能導(dǎo)致公眾混淆或誤認(rèn)的信息內(nèi)容時(shí)，應(yīng)當(dāng)以顯著方式予以標(biāo)識(shí)。

對(duì)于未以顯著方式標(biāo)識(shí)的AI生成內(nèi)容，B站的用戶協(xié)議還進(jìn)一步提示，B站“有權(quán)對(duì)相關(guān)內(nèi)容和賬戶采取包括但不限于增加標(biāo)識(shí)、限制、封禁等措施”。

但經(jīng)濟(jì)觀察網(wǎng)記者為抖音、B站上傳一段AI音視頻后發(fā)現(xiàn)，在不主動(dòng)選擇對(duì)該音視頻作出標(biāo)注的情況下，兩家平臺(tái)都沒有檢測(cè)出該音視頻為AI生成。

一家AI鑒偽公司的高管曾接觸過互聯(lián)網(wǎng)平臺(tái)。在他看來，出于自身成本及監(jiān)管力度等綜合原因，目前互聯(lián)網(wǎng)平臺(tái)對(duì)AI偽造內(nèi)容的管理意愿還不高。