本報訊(記者 陳義)近年來,作為人工智能領域的新應用,深度合成技術已在多個領域大量應用。如:以深度學習、虛擬現(xiàn)實等為代表的生成合成類算法制作的圖像、音頻、視頻等信息。因具備較高的娛樂性與廣泛的傳播性,越來越多的創(chuàng)作者參與其中,深度合成內容在各類社交媒體平臺上呈現(xiàn)出較高的關注度。
然而在互聯(lián)網上,因惡意使用該技術生成的音視頻所造成的負面影響不容小覷。深度合成內容的技術濫用,易對廣大群眾和企業(yè)造成聲譽損害和財產損失,并在社會、國家層面產生一定的不良影響。
當前,深度合成內容的應用場景仍在不斷豐富。從AI換臉、語音合成、影像修復,再到最近大熱的“元宇宙”,深度合成內容正在快速進入大眾視野。隨著技術成熟度的持續(xù)提升,越來越多的企業(yè)機構也開始利用深度合成技術,提供面向公眾的產品和服務。
“元宇宙”等新商業(yè)思維的提出,為深度合成提供了更廣闊的應用場景?!氨热缣摂M人、數(shù)字人即是深度合成的主要應用,也是‘元宇宙’的重要組成部分。”阿里巴巴安全感知與認知智能部負責人薛輝表示。
隨著深度合成行業(yè)持續(xù)發(fā)展,深度合成產品和服務增多,內容制作的技術門檻持續(xù)降低,逐漸實現(xiàn)技術“平民化”,相關內容風險也在持續(xù)加劇。近年來,不法分子通過偽造音頻、視頻,實施誣陷、誹謗、詐騙、勒索等違法案件頻發(fā)。
清華大學新聞與傳播學院常務副院長陳昌鳳表示,虛假內容的高難度甄別影響了事實核查的有效性,在社會重大事件或政治事件節(jié)點上,深度合成技術可能被用于操作輿論意見,借助社交媒體,使虛假信息短時間內引發(fā)產生病毒式擴散,激化社會矛盾。
今年年初,國家網信辦公布《互聯(lián)網信息服務深度合成管理規(guī)定(征求意見稿)》,對深度合成內容的用途、標識、使用范圍以及法律責任等作出具體規(guī)定。業(yè)內認為,管理新規(guī)的即將出臺,意味著深度合成將迎來規(guī)范化發(fā)展關鍵期。
中國工程院院士鄔賀銓認為,深度合成的治理有兩項要點:
第一,要持續(xù)發(fā)展技術,不能“一刀切”地禁止,避免阻礙正向應用與創(chuàng)新。第二,衍生出的安全問題要從源頭上解決,利用技術創(chuàng)新、技術對抗等方式,持續(xù)提升和迭代檢測技術的能力。
熱門