網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)建立健全信息安全管理等制度

　　規(guī)定明確，網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)當(dāng)依法取得法律、行政法規(guī)規(guī)定的相關(guān)資質(zhì)；應(yīng)當(dāng)建立健全用戶注冊(cè)、信息發(fā)布審核、信息安全管理等制度。任何組織和個(gè)人不得利用網(wǎng)絡(luò)音視頻信息服務(wù)以及相關(guān)信息技術(shù)從事法律法規(guī)禁止的活動(dòng)，侵害他人合法權(quán)益。

　　規(guī)定提出，網(wǎng)絡(luò)音視頻信息服務(wù)提供者基于新技術(shù)新應(yīng)用上線具有媒體屬性或者社會(huì)動(dòng)員功能的音視頻信息服務(wù)，或者調(diào)整增設(shè)相關(guān)功能的，應(yīng)當(dāng)按照國家有關(guān)規(guī)定開展安全評(píng)估；網(wǎng)絡(luò)音視頻信息服務(wù)提供者和網(wǎng)絡(luò)音視頻信息服務(wù)使用者利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等新技術(shù)新應(yīng)用制作、發(fā)布、傳播非真實(shí)音視頻信息的，應(yīng)當(dāng)以顯著方式予以標(biāo)識(shí)，不得利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等新技術(shù)新應(yīng)用制作、發(fā)布、傳播虛假新聞信息。

　　網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)建立健全辟謠機(jī)制

　　網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)當(dāng)部署應(yīng)用違法違規(guī)音視頻以及非真實(shí)音視頻鑒別技術(shù)，發(fā)現(xiàn)音視頻信息服務(wù)使用者制作、發(fā)布、傳播法律法規(guī)禁止的信息內(nèi)容的，應(yīng)當(dāng)依法依約停止傳輸該信息，采取消除等處置措施；網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)當(dāng)建立健全辟謠機(jī)制，發(fā)現(xiàn)網(wǎng)絡(luò)音視頻信息服務(wù)使用者利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等虛假圖像、音視頻生成技術(shù)制作、發(fā)布、傳播謠言的，應(yīng)當(dāng)及時(shí)采取相應(yīng)的辟謠措施，并將相關(guān)信息報(bào)網(wǎng)信、文化和旅游、廣播電視等部門備案。

　　規(guī)定明確，網(wǎng)絡(luò)音視頻信息服務(wù)提供者和網(wǎng)絡(luò)音視頻信息服務(wù)使用者違反規(guī)定的，由網(wǎng)信、文化和旅游、廣播電視等部門依照《中華人民共和國網(wǎng)絡(luò)安全法》《互聯(lián)網(wǎng)信息服務(wù)管理辦法》《互聯(lián)網(wǎng)新聞信息服務(wù)管理規(guī)定》《互聯(lián)網(wǎng)文化管理暫行規(guī)定》《互聯(lián)網(wǎng)視聽節(jié)目服務(wù)管理規(guī)定》等相關(guān)法律法規(guī)規(guī)定處理；構(gòu)成違反治安管理行為的，依法給予治安管理處罰；構(gòu)成犯罪的，依法追究刑事責(zé)任。

　　國家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人表示，出臺(tái)規(guī)定，旨在促進(jìn)網(wǎng)絡(luò)音視頻信息服務(wù)健康有序發(fā)展，保護(hù)公民、法人和其他組織的合法權(quán)益，維護(hù)國家安全和公共利益。

　　解讀1 為何出臺(tái)規(guī)定？

　　網(wǎng)絡(luò)音視頻平臺(tái)利用新技術(shù)亟待規(guī)范

　　談及此次出臺(tái)規(guī)定的背景，國家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示，出臺(tái)《規(guī)定》是促進(jìn)網(wǎng)絡(luò)音視頻信息服務(wù)活動(dòng)健康有序發(fā)展的需要。

　　上述負(fù)責(zé)人指出，當(dāng)前，網(wǎng)絡(luò)音視頻信息服務(wù)迅速發(fā)展，用戶規(guī)模不斷壯大。有關(guān)數(shù)據(jù)顯示，國內(nèi)網(wǎng)絡(luò)音視頻行業(yè)正在持續(xù)高速發(fā)展，當(dāng)前，我國網(wǎng)絡(luò)音樂用戶規(guī)模已達(dá)6.08億，網(wǎng)絡(luò)視頻用戶規(guī)模已達(dá)7.59億。

　　但與此同時(shí)，也帶來了傳播違法和不良信息、侵犯人民群眾合法權(quán)益等風(fēng)險(xiǎn)隱患，特別是隨著“深度偽造”等新技術(shù)新應(yīng)用在網(wǎng)絡(luò)音視頻領(lǐng)域的運(yùn)用，這些風(fēng)險(xiǎn)進(jìn)一步集聚、放大，可能被利用從事危害國家安全、破壞社會(huì)穩(wěn)定、擾亂社會(huì)秩序、侵犯他人合法權(quán)益等法律法規(guī)禁止的活動(dòng)，造成政治安全風(fēng)險(xiǎn)和國家安全、公共安全風(fēng)險(xiǎn)，對(duì)社會(huì)穩(wěn)定造成不良影響。

　　因此，亟須出臺(tái)有針對(duì)性的管理規(guī)定，明確網(wǎng)絡(luò)音視頻信息服務(wù)提供者及其技術(shù)支持的主體的信息內(nèi)容安全管理責(zé)任，規(guī)范網(wǎng)絡(luò)音視頻信息服務(wù)提供者關(guān)于利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等新技術(shù)新應(yīng)用的管理要求，為網(wǎng)絡(luò)音視頻信息服務(wù)及其相關(guān)技術(shù)的提供、使用、管理等提供有效的依據(jù)。

　　解讀2 誰來監(jiān)督檢查？

　　各級(jí)網(wǎng)信、廣電等部門應(yīng)建日常監(jiān)督檢查制度

　　針對(duì)現(xiàn)實(shí)中網(wǎng)絡(luò)音視頻平臺(tái)出現(xiàn)違規(guī)行為由誰來監(jiān)管的問題，規(guī)定也給出了答案。

　　國家網(wǎng)信辦負(fù)責(zé)人指出，規(guī)定明確了監(jiān)督檢查要求和執(zhí)法協(xié)助要求。各級(jí)網(wǎng)信、文化和旅游、廣播電視等部門應(yīng)當(dāng)建立日常監(jiān)督檢查和定期檢查相結(jié)合的監(jiān)督管理制度，網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)當(dāng)配合監(jiān)管部門開展執(zhí)法工作。

　　規(guī)定還明確了法律責(zé)任，網(wǎng)絡(luò)音視頻信息服務(wù)提供者和網(wǎng)絡(luò)音視頻信息服務(wù)使用者違反本規(guī)定的，由網(wǎng)信、文化和旅游、廣播電視等部門依照相關(guān)法律法規(guī)規(guī)定處理。

　　此外，規(guī)定還提出，國家鼓勵(lì)和指導(dǎo)互聯(lián)網(wǎng)行業(yè)組織加強(qiáng)行業(yè)自律，建立健全網(wǎng)絡(luò)音視頻信息服務(wù)行業(yè)標(biāo)準(zhǔn)和行業(yè)準(zhǔn)則，推動(dòng)網(wǎng)絡(luò)音視頻信息服務(wù)行業(yè)信用體系建設(shè)，督促網(wǎng)絡(luò)音視頻信息服務(wù)提供者依法提供服務(wù)、接受社會(huì)監(jiān)督，提高網(wǎng)絡(luò)音視頻信息服務(wù)從業(yè)人員職業(yè)素養(yǎng)，促進(jìn)行業(yè)健康有序發(fā)展。

　　■ 案例

　　ZAO軟件AI換臉被疑泄露隱私

　　今年9月，一款名為“ZAO”的手機(jī)軟件突然流行起來，網(wǎng)友只需要上傳一張正面照，就可以用“AI換臉”技術(shù)把照片制作成網(wǎng)絡(luò)熱門表情包，或是替換經(jīng)典電影片段中主角的臉，制作短視頻。

　　然而，很快有網(wǎng)友質(zhì)疑“ZAO”用戶協(xié)議中的“不可撤銷、永久，可轉(zhuǎn)授權(quán)”等內(nèi)容，可能存在隱私安全方面的問題。9月3日，工信部約談該軟件相關(guān)負(fù)責(zé)人，要求其嚴(yán)格按照國家法律法規(guī)以及相關(guān)主管部門要求，進(jìn)行自查整改。

　　還有不少網(wǎng)友擔(dān)心，在“AI換臉”技術(shù)的加持下，如果個(gè)人照片被擅自挪作他用會(huì)帶來風(fēng)險(xiǎn)。

　　這樣的擔(dān)心并非空穴來風(fēng)。據(jù)媒體報(bào)道，2017年12月，一個(gè)名為“深度偽造”（deepfakes）的用戶在美國論壇Reddit上發(fā)布了多段色情視頻，不同的是，他讓電腦學(xué)習(xí)好萊塢女明星的圖像資料，然后把女明星的面部移植到色情片女主角臉上，近乎完美地實(shí)現(xiàn)了動(dòng)態(tài)換臉，這引發(fā)了大量討論和抨擊，最后以賬號(hào)被封告終。

　　國內(nèi)也存在利用AI換臉技術(shù)制作淫穢視頻的產(chǎn)業(yè)鏈。據(jù)新京報(bào)此前報(bào)道，隨著AI技術(shù)走紅以及門檻降低，售賣明星換臉的淫穢視頻已經(jīng)成為一門地下生意。百度貼吧中部分標(biāo)榜“換臉+女明星姓名”的發(fā)帖者，售賣通過AI換臉技術(shù)合成的視頻，閑魚上還有賣家提供“定制換臉”服務(wù)，買家提供明星或私人照片，賣家即可將淫穢視頻中的主角“移花接木”。

　　新京報(bào)記者 許雯

文章轉(zhuǎn)載自新浪新聞