算法“兔子洞”引關(guān)注:歐盟正式調(diào)查TikTok 或面臨高額罰款

肖瀟2024-02-25 16:03

當(dāng)?shù)貢r(shí)間2月19日,歐盟委員會(huì)對(duì)TikTok啟動(dòng)了正式調(diào)查程序。本次調(diào)查將評(píng)估 TikTok在未成年人保護(hù)、算法成癮性設(shè)計(jì)、廣??告透明度、研究人員數(shù)據(jù)訪問等領(lǐng)域,是否違反《數(shù)字服務(wù)法案》規(guī)定。

TikTok目前全球每月活躍用戶超過10億,在歐盟擁有1.36億月活用戶,被認(rèn)為是“超大型網(wǎng)絡(luò)平臺(tái)”。歐盟表示本次調(diào)查旨在保護(hù)歐盟市場(chǎng)的消費(fèi)者、用戶和競(jìng)爭(zhēng)者,以及維護(hù)歐盟的數(shù)字主權(quán)和安全。 

程序正式啟動(dòng)后,歐盟委員會(huì)將開始收集證據(jù),例如發(fā)送額外信息請(qǐng)求、進(jìn)行面談或檢查。《數(shù)字服務(wù)法案》沒有設(shè)定結(jié)束調(diào)查程序的法定期限,意味著調(diào)查可以一直持續(xù)。如果委員會(huì)證實(shí)違反相關(guān)條款,TikTok可能面臨最高達(dá)全球營業(yè)額6%的罰款。

重點(diǎn)調(diào)查算法設(shè)計(jì)

根據(jù)歐盟委員會(huì)官網(wǎng)聲明,本次調(diào)查的重點(diǎn)將為TikTok的成癮性設(shè)計(jì)。歐盟委員會(huì)認(rèn)為,TikTok在歐盟使用的算法會(huì)對(duì)用戶產(chǎn)生負(fù)面影響,產(chǎn)生“兔子洞效應(yīng)”。 

兔子洞效應(yīng)指的是童話故事主角愛麗絲,為了追逐兔子,進(jìn)入一個(gè)又一個(gè)無止盡的洞穴。在網(wǎng)絡(luò)環(huán)境下,它比喻的是用戶被平臺(tái)內(nèi)容和算法吸引,無法輕易離開,逐漸脫離現(xiàn)實(shí)生活。

歐盟認(rèn)為平臺(tái)的個(gè)性化算法往往有意識(shí)地讓用戶成癮,甚至有算法操縱的風(fēng)險(xiǎn)。《數(shù)字服務(wù)法案》要求,“超大型網(wǎng)絡(luò)平臺(tái)”需要給予用戶關(guān)閉個(gè)性化推薦的選項(xiàng)。北京高朋律師事務(wù)所數(shù)據(jù)合規(guī)律師張?jiān)脐慌e例解釋,視頻平臺(tái)可以在用戶觀看一個(gè)視頻后,自動(dòng)播放一系列類似的視頻,讓用戶不斷保持觀看,這樣的設(shè)計(jì)選擇可能導(dǎo)致用戶過度使用特定的服務(wù),很難自行設(shè)定停止的界限。

雖然TikTok按照要求設(shè)置了關(guān)閉個(gè)性化推薦的按鈕,但這一入口隱藏在多級(jí)頁面中,需要多次點(diǎn)擊才能找到。目前尚不清楚,歐盟委員會(huì)將如何收集證據(jù)舉證TikTok的違規(guī)。

調(diào)查的另一重點(diǎn)是青少年保護(hù)。歐盟將調(diào)查TikTok是否有效保護(hù)了未成年人權(quán)益。根據(jù)TikTok的要求,目前未成年人每天的使用時(shí)間限制為一個(gè)小時(shí),超過要求后,用戶需要手動(dòng)輸入密碼來決定是否延長使用時(shí)間。而13歲以下的兒童不能使用該平臺(tái)。

引起歐盟擔(dān)心的主要是TikTok的年齡驗(yàn)證工具——年齡信息由用戶自己提供,平臺(tái)不會(huì)核實(shí)真實(shí)性。TikTok 在網(wǎng)站上也承認(rèn),此類信息基本取決于用戶的誠實(shí)程度。不過這個(gè)問題并非TikTok獨(dú)有,還延伸到Meta、X等社交軟件的設(shè)計(jì)。

就在今年1月,TikTok和另外四家社交媒體的負(fù)責(zé)人參加了美國參議院的聽證會(huì),就未成年網(wǎng)絡(luò)成癮、性剝削問題作證。而針對(duì)歐盟委員會(huì)本次調(diào)查,TikTok在官方聲明中表示會(huì)繼續(xù)完善青少年保護(hù)準(zhǔn)則,“與專家和行業(yè)合作,確保青少年在 TikTok 上的安全,期待這次能向委員會(huì)詳細(xì)解釋相關(guān)工作?!?/p>

除了以上兩個(gè)方面,歐盟委員會(huì)還將調(diào)查TikTok的廣告透明度、研究人員訪問權(quán)限。前者指平臺(tái)是否披露了廣告內(nèi)容和來源、廣告的推薦邏輯,以讓用戶能夠區(qū)分廣告和非廣告內(nèi)容;后者則指有沒有為研究人員披露足夠的數(shù)據(jù),方便研究人員的監(jiān)督。

值得補(bǔ)充的是,TikTok此前被歐盟委員會(huì)指定為“看門人”,看門人是有強(qiáng)大社會(huì)影響力、經(jīng)濟(jì)實(shí)力的平臺(tái),需要在數(shù)據(jù)合規(guī)方面遵守更嚴(yán)格的規(guī)定。TikTok母公司字節(jié)跳動(dòng)曾經(jīng)申請(qǐng)暫停歐盟委員會(huì)將TikTok認(rèn)定為“看門人”。而今年2月9日,歐盟法院駁回了這一申請(qǐng)。  

《數(shù)字服務(wù)法案》落地震感明顯

本次歐盟委員會(huì)援引的《數(shù)字服務(wù)法案》剛剛?cè)媛涞?,今?月17日起適用于歐盟范圍內(nèi)的所有互聯(lián)網(wǎng)平臺(tái)。

同濟(jì)大學(xué)法學(xué)院助理教授,上海市人工智能社會(huì)治理協(xié)同創(chuàng)新中心研究員朱悅告訴21記者,《數(shù)字服務(wù)法案》聚焦于平臺(tái)內(nèi)容,包括內(nèi)容審核方式、廣告透明度、侵權(quán)內(nèi)容的處理等,其主要監(jiān)管對(duì)象是大型互聯(lián)網(wǎng)平臺(tái)。去年4月,《數(shù)字服務(wù)法案》指定了17個(gè)超大型網(wǎng)絡(luò)平臺(tái)(VLOP)和2個(gè)超大型在線搜索引擎(VLOSE),這些被指定的互聯(lián)網(wǎng)公司需要承擔(dān)比中小型平臺(tái)更多的義務(wù),比如每年至少進(jìn)行一次獨(dú)立審計(jì),允許歐盟委員會(huì)和研究人員了解活躍用戶數(shù)量、內(nèi)容審核資源等數(shù)據(jù)。

TikTok就在第一批超大型網(wǎng)絡(luò)平臺(tái)的名單中,因此,去年8月起TikTok已經(jīng)開始提前履行《數(shù)字服務(wù)法案》的義務(wù)。本次正式調(diào)查TikTok的起因,正是歐盟委員會(huì)對(duì)TikTok9月發(fā)送的《數(shù)字服務(wù)法案》風(fēng)險(xiǎn)評(píng)估報(bào)告存在疑問。

除了TikTok,第一批超大型網(wǎng)絡(luò)平臺(tái)名單還包括了阿里巴巴的國際版“速買通”,X(前Twitter) 、谷歌旗下的YouTube、地圖、應(yīng)用商店,Meta旗下的Facebook和Instagram等。去年12月,歐盟委員會(huì)已經(jīng)根據(jù)《數(shù)字服務(wù)法案》對(duì)X首先發(fā)起了正式調(diào)查,認(rèn)為X未能打擊巴基斯坦、以色列沖突期間的非法內(nèi)容和虛假信息,還涉嫌違反透明度義務(wù)。有分析認(rèn)為,這是社交媒體崛起以來最嚴(yán)格的監(jiān)管規(guī)定。

相關(guān)的互聯(lián)網(wǎng)科技巨頭已經(jīng)在爭(zhēng)相調(diào)整算法和審核機(jī)制,比如Snapchat讓歐洲用戶可以關(guān)閉個(gè)性化推薦,亞馬遜增加了可疑非法產(chǎn)品的舉報(bào)功能,TikTok也上線了額外非法內(nèi)容舉報(bào)功能。歐洲監(jiān)管中心曾在采訪中表示,社交媒體平臺(tái)擁有全球影響力,《數(shù)字服務(wù)法案》“涉及在全球運(yùn)營的多渠道網(wǎng)絡(luò),因此一旦采取某種抑制措施,就會(huì)產(chǎn)生連鎖反應(yīng)。”

除了監(jiān)管內(nèi)容的《數(shù)字服務(wù)法案》在近期落地,監(jiān)管競(jìng)爭(zhēng)的《數(shù)字市場(chǎng)法》也即將在3月全面生效。這兩部法案均針對(duì)大型互聯(lián)網(wǎng)平臺(tái),而早先的《通用數(shù)據(jù)保護(hù)條例》針對(duì)個(gè)人數(shù)據(jù)保護(hù),《數(shù)據(jù)法案》針對(duì)數(shù)據(jù)要素,即將通過談判的《人工智能法案》針對(duì)人工智能。在朱悅看來,歐盟數(shù)字法體系已經(jīng)建成,可以說整體立法階段已經(jīng)基本結(jié)束,正走向全面落地和執(zhí)行??梢灶A(yù)計(jì),歐盟的監(jiān)管體系將繼續(xù)對(duì)全球產(chǎn)業(yè)施加影響。 

來源:21世紀(jì)經(jīng)濟(jì)報(bào)道 作者:肖瀟

版權(quán)與免責(zé):以上作品(包括文、圖、音視頻)版權(quán)歸發(fā)布者【肖瀟】所有。本App為發(fā)布者提供信息發(fā)布平臺(tái)服務(wù),不代表經(jīng)觀的觀點(diǎn)和構(gòu)成投資等建議

熱新聞