隨著ChatGPT大熱,生成式人工智能引發(fā)了各界人士的廣泛關(guān)注。
有專家學(xué)者認(rèn)為ChatGPT將引爆第四次工業(yè)革命,其具有里程碑意義;也有業(yè)內(nèi)人士表示,這項(xiàng)技術(shù)由此引發(fā)的虛假及侵權(quán)內(nèi)容、技術(shù)濫用也不容忽視。
(相關(guān)資料圖)
而為促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用,4月初,國(guó)家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法(征求意見稿)》,從4月11日到5月10日向社會(huì)公開征求意見。
5月9日,國(guó)內(nèi)首個(gè)針對(duì)人工智能生成內(nèi)容的平臺(tái)規(guī)范也橫空出世,作為內(nèi)容平臺(tái)方的抖音發(fā)布了《抖音關(guān)于人工智能生成內(nèi)容的平臺(tái)規(guī)范暨行業(yè)倡議》(下稱《倡議》)。
對(duì)此,薩摩耶云科技集團(tuán)首席經(jīng)濟(jì)學(xué)家鄭磊對(duì)《》記者表示,發(fā)布這個(gè)倡議是一個(gè)行業(yè)性自律行為,龍頭企業(yè)做出表率,有利于提升整個(gè)內(nèi)容行業(yè)的自律意識(shí),為生成式人工智能發(fā)展搭建了一個(gè)健康的發(fā)展環(huán)境。
天使投資人、知名互聯(lián)網(wǎng)專家郭濤對(duì)《》記者表示,生成式人工智能技術(shù)受到監(jiān)管的背后是當(dāng)前AIGC還處于發(fā)展的早期階段,研發(fā)與應(yīng)用相關(guān)法律法規(guī)、標(biāo)準(zhǔn)體系和倫理規(guī)范等還不健全,存在隱私與數(shù)據(jù)保護(hù)風(fēng)險(xiǎn)、著作權(quán)侵權(quán)風(fēng)險(xiǎn)、深度偽造風(fēng)險(xiǎn)、失業(yè)加劇風(fēng)險(xiǎn)、歧視與偏見風(fēng)險(xiǎn)等潛在問題。
“而這種風(fēng)險(xiǎn)的核心關(guān)鍵是如何判定,如何監(jiān)督,如何發(fā)現(xiàn),因此監(jiān)管可能需要一個(gè)一攬子的解決方案。”盤古智庫(kù)高級(jí)研究員江瀚對(duì)本報(bào)記者表示。
倡議落地難?
《倡議》中提到,“生成式人工智能技術(shù)降低了創(chuàng)作的門檻,豐富了互聯(lián)網(wǎng)內(nèi)容生態(tài)。但與此同時(shí),人工智能生成內(nèi)容存在識(shí)別難的特點(diǎn),也帶來(lái)了虛假信息、侵權(quán)等問題。參照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等法律法規(guī),抖音提出十一條平臺(tái)規(guī)范與行業(yè)倡議?!?/p>
在平臺(tái)規(guī)范方面,對(duì)于創(chuàng)作者、主播、用戶、商家、廣告主等平臺(tái)生態(tài)參與者,抖音要求其在平臺(tái)應(yīng)用生成式人工智能技術(shù)時(shí),發(fā)布者應(yīng)對(duì)人工智能生成內(nèi)容進(jìn)行顯著標(biāo)識(shí),幫助其他用戶區(qū)分虛擬與現(xiàn)實(shí),特別是易混淆場(chǎng)景;發(fā)布者需對(duì)人工智能生成內(nèi)容產(chǎn)生的相應(yīng)后果負(fù)責(zé),無(wú)論內(nèi)容是如何生成的;虛擬人需在平臺(tái)進(jìn)行注冊(cè),虛擬人技術(shù)使用者需實(shí)名認(rèn)證;禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布侵權(quán)內(nèi)容(包括但不限于肖像權(quán)、知識(shí)產(chǎn)權(quán)等)以及違背科學(xué)常識(shí)、弄虛作假、造謠傳謠的內(nèi)容。
對(duì)于人工智能生成內(nèi)容衍生的問題的治理,抖音在《倡議》中表示,平臺(tái)將提供統(tǒng)一的人工智能生成內(nèi)容標(biāo)識(shí)能力,幫助創(chuàng)作者打標(biāo),方便用戶區(qū)分;平臺(tái)將提供虛擬人的注冊(cè)能力,并對(duì)已注冊(cè)的虛擬人形象進(jìn)行保護(hù);平臺(tái)將提供用戶反饋渠道,方便用戶反饋違規(guī)生成內(nèi)容。
抖音表示,新技術(shù)輔助的創(chuàng)作應(yīng)該尊重并充分保障個(gè)人權(quán)益;禁止發(fā)布違規(guī)內(nèi)容,無(wú)論該內(nèi)容是否采用新技術(shù)輔助創(chuàng)作;新技術(shù)輔助的創(chuàng)作應(yīng)該避免虛假信息的生產(chǎn)傳播。
值得注意的是,在《倡議》中,抖音對(duì)互聯(lián)網(wǎng)全行業(yè)提出倡議,“各生成式人工智能技術(shù)的提供者,均應(yīng)對(duì)生成內(nèi)容進(jìn)行顯著標(biāo)識(shí),以便公眾判斷。同時(shí)使用統(tǒng)一的人工智能生成內(nèi)容數(shù)據(jù)標(biāo)準(zhǔn)或元數(shù)據(jù)標(biāo)準(zhǔn),便于其他內(nèi)容平臺(tái)進(jìn)行識(shí)別?!?/p>
對(duì)此,鄭磊表示,發(fā)布這個(gè)倡議是一個(gè)行業(yè)性自律行為,龍頭企業(yè)作出表率,有利于提升整個(gè)內(nèi)容行業(yè)的自律意識(shí),為生成式人工智能發(fā)展搭建一個(gè)健康的發(fā)展環(huán)境。
同時(shí),江瀚也指出,“該行業(yè)倡議代表的是對(duì)原創(chuàng)生態(tài)體系的一種維護(hù),這種維護(hù)對(duì)市場(chǎng)意義很大,特別是對(duì)保護(hù)原創(chuàng)作者的權(quán)益有比較重要的積極性?!?/p>
從倡議落地的難度來(lái)看,江瀚表示,這個(gè)倡議的行業(yè)落地難度并不小,“因?yàn)橐曨l制作內(nèi)容是否‘原創(chuàng)’,現(xiàn)在并沒有一個(gè)真正的評(píng)價(jià)標(biāo)準(zhǔn)。同時(shí),AI在其中扮演何種角色,是視頻創(chuàng)作者、剪輯者?不同角色對(duì)視頻的判斷也是存在不同問題的。此外,就審核而言,AI內(nèi)容包括虛擬數(shù)字人越來(lái)越多,審核難度也越來(lái)越大?!?/p>
同時(shí),財(cái)經(jīng)評(píng)論員張雪峰也對(duì)本報(bào)記者表示,因生成式人工智能技術(shù)的監(jiān)測(cè)和審核難度較高,該行業(yè)倡議的落地難度較大,“其監(jiān)測(cè)難度在于,虛擬內(nèi)容難以與真實(shí)內(nèi)容區(qū)分,需要依靠高級(jí)算法和技術(shù)手段進(jìn)行監(jiān)測(cè);審核難度在于,虛擬內(nèi)容的創(chuàng)作和發(fā)布速度快,需要快速反應(yīng)和處理。”
如何監(jiān)管?
“當(dāng)前,AIGC還處于發(fā)展的早期階段,研發(fā)與應(yīng)用相關(guān)法律法規(guī)、標(biāo)準(zhǔn)體系和倫理規(guī)范等還不健全,存在隱私與數(shù)據(jù)保護(hù)風(fēng)險(xiǎn)、著作權(quán)侵權(quán)風(fēng)險(xiǎn)、深度偽造風(fēng)險(xiǎn)、失業(yè)加劇風(fēng)險(xiǎn)、歧視與偏見風(fēng)險(xiǎn)等潛在問題。”郭濤表示。
就AIGC版權(quán)問題,據(jù)記者梳理,目前國(guó)內(nèi)有兩起相關(guān)案件,但判決結(jié)果卻大相徑庭。2018年,在北京菲林律師事務(wù)所訴百度的案件中,法院認(rèn)為,原告利用法律統(tǒng)計(jì)數(shù)據(jù)分析軟件生成的分析報(bào)告,非自然人創(chuàng)造,不能被認(rèn)定為著作權(quán)法意義上的“作品”。
而在2019年,騰訊訴盈訊科技的案件中,法院又提出,騰訊機(jī)器人Dreamwriter作為創(chuàng)作工具,涉案文章的創(chuàng)作過程體現(xiàn)了原告的創(chuàng)作議題,是原告主持創(chuàng)作的法人作品。
實(shí)際上,這兩起案件的判決結(jié)果正是體現(xiàn)出了AIGC版權(quán)的爭(zhēng)議問題。
除此之外,AIGC引發(fā)的數(shù)據(jù)安全問題也備受關(guān)注。據(jù)了解,3月20日,多名ChatGPT用戶表示看到其他人與ChatGPT的對(duì)話記錄、電子郵件。OpenAI首席執(zhí)行官Sam Altman發(fā)文稱,系開源庫(kù)出現(xiàn)錯(cuò)誤導(dǎo)致部分聊天記錄標(biāo)題泄露,“對(duì)此我們感到很難過”。3月31日,意大利數(shù)據(jù)保護(hù)機(jī)構(gòu)(Garante per la protezione dei dati personali,GPDP)宣布,即日起禁止使用ChatGPT,并開始立案調(diào)查。
針對(duì)上述風(fēng)險(xiǎn),張雪峰表示,生成式人工智能的監(jiān)管難點(diǎn)在于技術(shù)和法律。技術(shù)監(jiān)管需要依靠高級(jí)算法和技術(shù)手段進(jìn)行監(jiān)測(cè)和審核,以及建立完善的風(fēng)險(xiǎn)預(yù)警機(jī)制;法律監(jiān)管需要加強(qiáng)對(duì)虛擬內(nèi)容的知識(shí)產(chǎn)權(quán)保護(hù)和侵權(quán)行為的打擊,完善相關(guān)法律法規(guī)和監(jiān)管機(jī)制。同時(shí),還需要加強(qiáng)行業(yè)自律,促進(jìn)行業(yè)健康發(fā)展。
在郭濤看來(lái),政府有關(guān)部門需要盡快建立健全AIGC研發(fā)與應(yīng)用相關(guān)法律法規(guī)和標(biāo)準(zhǔn)體系,建立或完善倫理審查制度和監(jiān)管體系,加強(qiáng)對(duì)科技企業(yè)、應(yīng)用場(chǎng)景、使用者的監(jiān)管,搭建多方參與協(xié)同治理平臺(tái),推動(dòng)AIGC產(chǎn)業(yè)健康可持續(xù)發(fā)展。
標(biāo)簽:
熱門