拼一次富三代，拼命才能不失??！電影《孤注一擲》中，安娜被高薪吸引來到了緬北從事電信網(wǎng)絡(luò)詐騙相關(guān)工作，以為抓住了改變命運的機會，實則苦不堪言：失去自由，被毆打、被拘禁，甚至被當(dāng)作貨物轉(zhuǎn)賣。

電信網(wǎng)絡(luò)詐騙對于公眾而言并不陌生，殺豬盤、冒充公檢法、賭博誘導(dǎo)等。而在AI技術(shù)大熱的今年，電信網(wǎng)絡(luò)詐騙開始利用AI技術(shù)，通過換聲、換臉的形式，冒充普通人身邊親近之人進行詐騙。

對于公眾而言，就像遇到了《西游記》中真假美猴王的選擇難題，傳統(tǒng)的眼見為實、日常認(rèn)知都已失效。究竟誰真誰假？對于AI+電詐，又該如何防范？

出其不意的“AI+電詐”

當(dāng)前，人工智能（AI）發(fā)展如火如荼，借助AI技術(shù)的電信網(wǎng)絡(luò)詐騙也出現(xiàn)了，常見的是通過換臉、換聲完成電信網(wǎng)絡(luò)詐騙。

今年5月，包頭警方通報一起通過AI換臉而被騙走430萬元的案件。在這個案件中，郭先生的好友通過微信視頻聯(lián)系他，稱在外地投標(biāo)，需要430萬元保證金，且需要公對公賬戶過賬，所以想要借用郭先生公司的賬戶走賬?；谝曨l聊天信任的前提下，郭先生沒有核實錢是否到賬便將錢款打到指定賬戶。此后經(jīng)主動和好友微信確認(rèn)，才得知上當(dāng)受騙，原來視頻的對象并非其好友。原來和郭先生視頻的“朋友”或許只是網(wǎng)絡(luò)空間的一串代碼。

利用AI換聲進行詐騙則更為常見。近日，有媒體報道稱，六安市金安區(qū)一位老人遭遇了經(jīng)由AI技術(shù)模仿老人外孫聲音的詐騙電話，冒充其外孫稱“犯事”了，急需匯款6萬元才能解決。幸運的是，老人報警，警察確認(rèn)此為詐騙。

通過AI換聲、AI換臉進行的電信網(wǎng)絡(luò)詐騙離不開人工智能技術(shù)的發(fā)展，尤其是深度合成技術(shù)的進步。深度合成技術(shù)的典型代表如生成式對抗網(wǎng)絡(luò)（GAN）、自動編碼器（Autoencoders）等，可通過深度學(xué)習(xí)、虛擬現(xiàn)實等生成合成類算法制作圖像、音頻、視頻、虛擬場景等信息。相關(guān)技術(shù)已有實踐，如前些年間的大熱軟件Zao。

欺騙和不信任，是這項AI技術(shù)發(fā)展帶來的負(fù)面影響。借助換聲、換臉只是電詐分子利用AI詐騙的一個縮影。

“作為工具的AI，還可在多個方面幫助電詐分子實施電信網(wǎng)絡(luò)詐騙。比如說通過AI精準(zhǔn)識別易受騙的潛在受害群體；又比如針對電信網(wǎng)絡(luò)詐騙的追溯、追查等，通過AI實施設(shè)置各種障礙，逃避法律追究。”北京師范大學(xué)法學(xué)院博士生導(dǎo)師、中國互聯(lián)網(wǎng)協(xié)會研究中心副主任吳沈括說道。

不遠(yuǎn)的未來，AI或許會和電詐產(chǎn)業(yè)鏈更進一步結(jié)合：用虛擬的數(shù)字人代替實施詐騙的人。廈門市美亞柏科首席科學(xué)家江漢祥告訴記者，未來隨著數(shù)字人技術(shù)的不斷成熟，數(shù)字人可以像真人一樣，和用戶正常聊天?？紤]到當(dāng)前電信網(wǎng)絡(luò)詐騙打擊力度增強，電詐集團或許也需要節(jié)約人力成本，或許就會選擇利用虛擬人代替真人。

如2018年浙江省紹興市公安機關(guān)破獲一起利用AI技術(shù)實施的“特大侵犯公民個人信息案”，涉及一個名為“快啊”的打碼平臺。一些平臺為了防范黑客攻擊設(shè)立了安全門檻，采用了驗證碼這一方式。而“快啊”通過深度學(xué)習(xí)自主識別彈出的驗證碼，能夠在毫秒級別迅速響應(yīng)。此前這項工作需要人工承擔(dān)。 

電詐防范需關(guān)切個人信息保護

當(dāng)前電信網(wǎng)絡(luò)詐騙案件的一大特點：精準(zhǔn)，而這離不開伴隨電信網(wǎng)絡(luò)詐騙而生的黑灰產(chǎn)幫助。

黑灰產(chǎn)的上游多是個人信息泄露。上游根據(jù)電詐分子的需要打造相關(guān)信息，提供性別、職業(yè)等精細(xì)化內(nèi)容，隨后出售給電詐公司。另外，電信網(wǎng)絡(luò)詐騙需要不斷尋找目標(biāo)受眾，而上游則可將不少用戶納入微信朋友圈，然后將出售賬號給電詐分子，幫助實現(xiàn)前期引流。

如此一來，電詐分子根據(jù)獲取到的個人信息，定制專屬于受害者的電信網(wǎng)絡(luò)詐騙劇本，降低受害者戒心，從而最終實現(xiàn)詐騙。

即便是泰國總理，也不可避免受到電信網(wǎng)絡(luò)詐騙的精準(zhǔn)騷擾。據(jù)《曼谷郵報》（BangkokPost）11月27日報道，泰國總理斯雷塔·塔維辛 (Srettha Thavisin)本人也遭遇了電信網(wǎng)絡(luò)詐騙?！坝行┤税l(fā)信息給我，另一些人給我打電話，甚至用我的全名向我打招呼，我只是忽略了他們?！睋?jù)報道，泰國總理已經(jīng)指示泰國數(shù)字經(jīng)濟和社會部加大力度打擊電信網(wǎng)絡(luò)詐騙。

通過AI技術(shù)進行電信網(wǎng)絡(luò)詐騙，個人信息泄露是根源之一。以借助換聲、換臉的電信詐騙為例，首先需要一定數(shù)量的數(shù)據(jù)，通過算法進行學(xué)習(xí)才能最終生成詐騙樣本。

個人信息保護成為電信網(wǎng)絡(luò)詐騙治理的關(guān)鍵環(huán)節(jié)。2022年12月1日正式實施的《反電信網(wǎng)絡(luò)詐騙法》同樣關(guān)切個人信息。其第二十五條第一款規(guī)定，任何單位和個人不得為他人實施電信網(wǎng)絡(luò)詐騙活動提供支持或者幫助：（一）出售、提供個人信息；第二十九條規(guī)定，個人信息處理者應(yīng)當(dāng)依照《個人信息保護法》等法律規(guī)定，規(guī)范個人信息處理，加強個人信息保護，建立個人信息被用于電信網(wǎng)絡(luò)詐騙的防范機制。

可以看到的是，當(dāng)前社會數(shù)字化程度進一步加深，社交網(wǎng)絡(luò)分享日常生活也已成為常態(tài)。一方面是分享，一方面則是相關(guān)個人數(shù)據(jù)可能在不知情的情況下用于非法用途。公眾又該如何保障自己的個人信息？

吳沈括建議，一方面，個人需要提高自我保護的意識，減少信息披露范圍。另外，法律需要構(gòu)建各類數(shù)據(jù)良性流轉(zhuǎn)、利用的業(yè)務(wù)規(guī)則，同時對于異常的數(shù)據(jù)收集行為進行及時識別和必要干預(yù)。此外，對于違法乃至犯罪行為要進行及時、高效的法律責(zé)任追究。

“當(dāng)前生活很多時候都需要用到個人信息，每個環(huán)節(jié)都有個人信息泄露的可能。是否可以考慮從國家層面構(gòu)建一個防護網(wǎng)，每個上網(wǎng)的人通過公安機關(guān)認(rèn)證，得到特定網(wǎng)號可用于網(wǎng)絡(luò)活動，日常生活中需要身份信息，一般情況顯示脫敏的信息，只有在非常特定的情況下才能調(diào)用明文信息。這樣通過整體方案有助于解決個人信息泄露問題。”江漢祥說道。

以反制技術(shù)對抗電詐發(fā)展

AI技術(shù)快速發(fā)展，人們期待AI能讓生活變得更好，能夠為世界帶來更大想象力。作為工具的AI，如何使用則取決于人。

江漢祥表示，技術(shù)可以分為兩類，一類是純粹的通用技術(shù)，可用于多個行業(yè)和場景，對于通用技術(shù)引發(fā)的電信網(wǎng)絡(luò)詐騙較難預(yù)防；另一種則是定制化的技術(shù)，適用特定場景，甚至為違法犯罪定制，如軟件類的木馬、病毒等，裝備類的卡池（Simbank，配合GOIP網(wǎng)關(guān)使用）等，這部分技術(shù)則借助管理予以規(guī)制。

針對新技術(shù)的發(fā)展，我國已先后出臺多項法律法規(guī)。如《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，為深度合成服務(wù)劃定了“底線”和“紅線”，強調(diào)不得利用深度合成服務(wù)從事法律、行政法規(guī)禁止的活動，要求深度合成服務(wù)提供者落實信息安全主體責(zé)任。又如《生成式人工智能服務(wù)管理暫行辦法》劃定底線，推動生成式人工智能向上向善，提出不得生成違法內(nèi)容；同時明確提供者的義務(wù)與責(zé)任，降低風(fēng)險。

“對于技術(shù)提供者，一方面應(yīng)承擔(dān)信息網(wǎng)絡(luò)安全管理義務(wù)，當(dāng)技術(shù)被用于違法犯罪活動時，應(yīng)當(dāng)及時識別并做出有效干預(yù)。如果故意或者放任不管，應(yīng)當(dāng)承擔(dān)相應(yīng)的共同違法乃至共同犯罪責(zé)任。”吳沈括說道。

“根據(jù)刑法第二百八十七條規(guī)定，對于為‘AI換臉’實施詐騙行為提供技術(shù)支持、幫助的，可能會以幫助信息網(wǎng)絡(luò)犯罪活動罪追究刑事責(zé)任。此外，還可能涉及侵犯公民個人信息罪，非法侵入、控制計算機信息系統(tǒng)罪等罪名。”北京市盈科律師事務(wù)所合伙人律師袁椿暉說道。

電信網(wǎng)絡(luò)詐騙的發(fā)展離不開技術(shù)，技術(shù)反制或?qū)⒊蔀殡娦啪W(wǎng)絡(luò)詐騙防范的有力武器。也就是“用技術(shù)來對抗技術(shù)”。

“無論是AI換臉還是AI換聲，都需要通過技術(shù)研發(fā)對信息內(nèi)容準(zhǔn)確甄別真?zhèn)?/strong>。這是通過技術(shù)對抗技術(shù)的治理方式，也是目前備受關(guān)注的一種治理手段?！痹谒磥?，結(jié)合信息內(nèi)容傳播規(guī)律，可引入信息標(biāo)簽、信息水印等技術(shù)。同時需要構(gòu)建關(guān)于信息數(shù)據(jù)標(biāo)識、信息數(shù)據(jù)水印的完整生態(tài)，這樣內(nèi)容的真實程度和比例會有一個顯著提高，也能夠進一步壓縮通過AI制造虛假信息、實施電信網(wǎng)絡(luò)詐騙的幾率。

來源：21世紀(jì)經(jīng)濟報道 作者： 鄭雪