(相關(guān)資料圖)
深度合成技術(shù)即將被戴上緊箍咒。據(jù)了解,《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》(以下簡稱“《規(guī)定》”)將于1月10日起施行,從技術(shù)提供者、服務(wù)使用者以及監(jiān)管等各方面,對深度合成技術(shù)應(yīng)用提出規(guī)范。
所謂“深度合成技術(shù)”,是指利用以深度學(xué)習(xí)、虛擬現(xiàn)實(shí)為代表的生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等信息的技術(shù),包括文本轉(zhuǎn)語音、音樂生成、人臉生成、人臉替換、圖像增強(qiáng)等技術(shù)。目前該技術(shù)已應(yīng)用于傳媒、影視制作、社交娛樂、教育以及電子商務(wù)等行業(yè),如修復(fù)歷史老照片、AI換臉、虛擬主播等。最近火熱的聊天機(jī)器人ChatGPT,“科技與狠活”AIGC(AI-Generated content 即AI生產(chǎn)內(nèi)容)、二級市場熱炒的數(shù)字人等均屬于深度合成技術(shù)領(lǐng)域。
南都灣財(cái)社記者注意到,《規(guī)定》對深度合成服務(wù)提供者、技術(shù)支持者等各方責(zé)任義務(wù)進(jìn)行了系統(tǒng)性制度設(shè)計(jì),包括算法機(jī)制機(jī)理審核、信息內(nèi)容管理、安全評估等。比如,新規(guī)要求深度合成服務(wù)提供者主體不得利用深度合成服務(wù)從事違法活動(dòng),還要建立健全用戶管理制度,制定和公開管理規(guī)側(cè)等,加強(qiáng)深度合成內(nèi)容管理,建立健全辟謠機(jī)制和申訴、投訴、舉報(bào)機(jī)制。
《規(guī)定》要求深度合成服務(wù)提供者落實(shí)信息安全主體責(zé)任,建立健全管理制度和技術(shù)保障措施,制定公開管理規(guī)則、平臺公約,對使用者進(jìn)行真實(shí)身份信息認(rèn)證,明確應(yīng)用程序分發(fā)平臺應(yīng)當(dāng)落實(shí)安全管理責(zé)任,核驗(yàn)深度合成類應(yīng)用程序相關(guān)情況。
此外,《規(guī)定》也提出了明確的數(shù)據(jù)和技術(shù)管理規(guī)范。其中包括,深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識別信息編輯功能的,應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個(gè)人,并取得其單獨(dú)同意;
同時(shí),《規(guī)定》指出,提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的,應(yīng)當(dāng)進(jìn)行顯著標(biāo)識,避免公眾混淆或者誤認(rèn)。要求任何組織和個(gè)人不得采用技術(shù)手段刪除、篡改、隱匿相關(guān)標(biāo)識。
中國政法大學(xué)副校長時(shí)建中認(rèn)為,隨著深度合成技術(shù)的開源開放、深度合成產(chǎn)品和服務(wù)的逐漸增多,深度合成內(nèi)容制作的技術(shù)門檻越來越低,普通人僅需要少量的圖像、音頻、視頻、文本等樣本數(shù)據(jù),利用簡便易用的深度合成工具,就能夠模糊真實(shí)信息和虛假信息的邊界。但深度合成技術(shù)一旦被濫用,會造成巨大風(fēng)險(xiǎn)與實(shí)質(zhì)性危害,可能給個(gè)人、企業(yè)造成肖像、名譽(yù)等人格和財(cái)產(chǎn)權(quán)益損害,也可能給社會秩序、國家政治穩(wěn)定和安全造成巨大威脅。
全國政協(xié)委員、北京金臺律師事務(wù)所主任皮劍龍指出,“《規(guī)定》在此背景下出臺,為劃定深度合成服務(wù)的‘底線’和‘紅線’,維護(hù)網(wǎng)絡(luò)空間良好生態(tài)發(fā)揮了重要作用?!睋?jù)其介紹,對于深度合成技術(shù)的監(jiān)管,此前在《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等法規(guī)中均有提及,而《規(guī)定》則對深度合成內(nèi)容更有針對性地進(jìn)行規(guī)制,標(biāo)志著監(jiān)管部門針對互聯(lián)網(wǎng)信息內(nèi)容監(jiān)管版圖進(jìn)一步細(xì)化。
此外,有業(yè)內(nèi)律師指出,新規(guī)對于提供深度合成服務(wù)的創(chuàng)業(yè)公司來說影響較大,由于深度合成內(nèi)容涵蓋范圍廣,供應(yīng)商需要加大力度進(jìn)行相關(guān)審核,會抬高合規(guī)要求和合規(guī)成本。
熱門