近期,人工智能公司OpenAI推出的聊天機(jī)器人ChatGPT(Generative Pre-trained Transformer,聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器)備受關(guān)注。該程序基于GPT-3.5架構(gòu)的大型語(yǔ)言模型,具有較強(qiáng)的內(nèi)容生產(chǎn)能力與學(xué)習(xí)強(qiáng)化能力,現(xiàn)已能承擔(dān)多輪文本對(duì)話問(wèn)答,未來(lái)或?qū)⒀由斐鰣D片、視頻等多模態(tài)功能。專家預(yù)測(cè)其具有強(qiáng)大的潛力,可以升級(jí)互聯(lián)網(wǎng)基礎(chǔ)性應(yīng)用比如更迭搜索引擎,可以改變內(nèi)容運(yùn)營(yíng)模式如社交媒體賬號(hào)運(yùn)營(yíng),可以影響智能化決策如電商購(gòu)物決策。從信息傳播角度看,以ChatGPT為代表的人工智能自動(dòng)生成內(nèi)容技術(shù)(AIGC)正在重構(gòu)信息生產(chǎn)、流通、消費(fèi)流程,它揭開(kāi)了智能傳播大規(guī)模應(yīng)用的序幕,同時(shí)也引發(fā)了國(guó)際社會(huì)對(duì)隱蔽于技術(shù)之后的偏見(jiàn)歧視、違規(guī)濫用、有意欺詐、政治造謠、偽造身份等問(wèn)題的擔(dān)憂。從國(guó)際傳播角度看,生成式人工智能所擁有的傳播能力將改變國(guó)際傳播的生態(tài),一方面帶來(lái)內(nèi)容生產(chǎn)潛在機(jī)遇,另一方面也引致認(rèn)知重塑、價(jià)值固化的風(fēng)險(xiǎn)。從全球治理角度看,AIGC的發(fā)展對(duì)國(guó)際沖突管控,網(wǎng)絡(luò)安全和數(shù)字平等議題都提出了新的挑戰(zhàn)。
一、生成式人工智能的國(guó)際傳播能力
(資料圖片)
ChatGPT并非渠道和平臺(tái),而是獨(dú)立的傳播者。它已經(jīng)展現(xiàn)出并正逐漸發(fā)展出信息生產(chǎn)能力、接近用戶能力、固化傾向能力和塑造認(rèn)知能力,將對(duì)國(guó)際傳播生態(tài)產(chǎn)生深刻影響。
(一)“無(wú)所不能”的智能生產(chǎn)
生成式人工智能擁有人工書(shū)寫(xiě)難以匹敵的信息生產(chǎn)能效。在國(guó)際新聞供給方面,可以有效減少國(guó)際資訊檢索難度和語(yǔ)際轉(zhuǎn)換壓力,大規(guī)模應(yīng)用后能夠以較低的成本、極高的效率面向全球多語(yǔ)種受眾群體開(kāi)展一對(duì)一傳播。在新聞形式創(chuàng)新方面,能有機(jī)整合數(shù)據(jù)、圖表、交互程序等,進(jìn)一步加快數(shù)據(jù)新聞、新聞?dòng)螒虻刃侣劮妒脚d起,增強(qiáng)了新聞產(chǎn)品的新穎性與吸引力。在親密情感互動(dòng)方面,能夠展現(xiàn)出人格化特征,如積極主動(dòng)、有責(zé)任心、可溝通性等,不僅能滿足用戶的信息使用需求,還可能培養(yǎng)情感依賴。通過(guò)上述高效率、多模態(tài)、人格化的信息供給,生成式人工智能看上去“無(wú)所不能“。
(二)“不加思索”的使用習(xí)慣
與過(guò)往所開(kāi)發(fā)的智能語(yǔ)言助手相比,ChatGPT擁有更為擬人化的互動(dòng)感,可以通過(guò)實(shí)時(shí)對(duì)話精準(zhǔn)、動(dòng)態(tài)對(duì)接用戶信息需求,其多語(yǔ)種溝通技術(shù)也能為用戶的跨國(guó)信息交往提供便利,天然具備接近用戶的能力。ChatGPT為代表的生成式人工智能不同于現(xiàn)階段仍然以一對(duì)多為特征的“精準(zhǔn)傳播”,而是直接進(jìn)入一對(duì)一服務(wù)模式,介入性更強(qiáng),控制力更強(qiáng),更容易培養(yǎng)用戶的信息接觸路徑依賴,未來(lái)有望成為人機(jī)交互的第一入口,導(dǎo)致用戶不假思索地使用,長(zhǎng)此以往或?qū)⑿纬尚碌那缐艛嗯c智能鴻溝,引致新的數(shù)字霸權(quán)。
(三)“不由自主”的態(tài)度認(rèn)可
在信息呈現(xiàn)方面,ChatGPT能夠多角度、多維度回答提問(wèn),能為具有初步信息需求的用戶提供充足內(nèi)容,也能為具有深度信息需求的用戶提供具有啟發(fā)性的架構(gòu)。一旦形成用戶使用依賴,極有可能通過(guò)提供看似不帶情感、純粹基于技術(shù)的信息整合和闡釋架構(gòu),隱蔽其“預(yù)設(shè)立場(chǎng)”“固化傾向”的能力。事實(shí)上,ChatGPT生成的內(nèi)容基于對(duì)大量互聯(lián)網(wǎng)語(yǔ)料的汲取學(xué)習(xí)。據(jù)統(tǒng)計(jì),全球訪問(wèn)量前一百萬(wàn)的互聯(lián)網(wǎng)網(wǎng)站中,將近60%的內(nèi)容是英文的,中文內(nèi)容還不到1.5%,其中簡(jiǎn)體中文內(nèi)容更少且質(zhì)量不高。不難推測(cè),ChatGPT在自主訓(xùn)練的過(guò)程中使用的語(yǔ)料大部分是英文,然后是俄語(yǔ),德語(yǔ),西班牙,法語(yǔ)等?;ヂ?lián)網(wǎng)簡(jiǎn)體中文內(nèi)容存在內(nèi)容剽竊、抄襲、洗稿,廣告泛濫等問(wèn)題,非常不利于ChatGPT學(xué)習(xí)和運(yùn)用。盡管ChatGPT有意回避自我表態(tài),在被問(wèn)及需要闡釋個(gè)人意見(jiàn)、預(yù)測(cè)未來(lái)事件走向時(shí),往往答道:“ChatGPT作為一個(gè)語(yǔ)言模型,無(wú)法表達(dá)意見(jiàn)或情緒,也沒(méi)有能力預(yù)測(cè)未來(lái)”,但學(xué)習(xí)的對(duì)象決定了它的信息檢索和整合不可避免帶有來(lái)源信息的預(yù)設(shè)立場(chǎng)和價(jià)值觀,回答本身就是對(duì)某些價(jià)值立場(chǎng)的傳達(dá)和固化,會(huì)令忠實(shí)用戶的認(rèn)知和態(tài)度不由自主受其影響。比如有網(wǎng)友測(cè)試,在詢問(wèn)新冠病毒起源時(shí),ChatGPT的回答是起源于中國(guó)武漢。
(四)“不容置疑”的認(rèn)知依賴
與算法推薦根據(jù)用戶行為進(jìn)行數(shù)據(jù)畫(huà)像,向用戶推送信息的方式相比,對(duì)ChatGPT的使用是在用戶自我需求驅(qū)使下的主動(dòng)行為。主動(dòng)獲取的信息會(huì)被用戶認(rèn)為是“我想要的”“我認(rèn)可的”而不是“讓我看的““我質(zhì)疑的”,長(zhǎng)期接收包含價(jià)值偏向的信息,可能令用戶形成對(duì)ChatGPT生成內(nèi)容不容置疑的認(rèn)知依賴。
二、生成式人工智能的潛在治理風(fēng)險(xiǎn)
瑞銀集團(tuán)的研究報(bào)告顯示,ChatGPT在2022年11月底推出后,到2023年1月的月活躍用戶數(shù)預(yù)計(jì)已達(dá)1億,成為歷史上用戶增長(zhǎng)最快的消費(fèi)應(yīng)用。在如此短的時(shí)間積聚起龐大活躍的全球用戶群體,讓生成式人工智能有可能成為“灰犀?!?,引發(fā)虛假信息泛濫,干擾輿論導(dǎo)向,危害網(wǎng)絡(luò)安全,挑動(dòng)價(jià)值對(duì)立,制造新的不平等等風(fēng)險(xiǎn)。
(一)成為輿論認(rèn)知戰(zhàn)工具
科技追求向善,但對(duì)技術(shù)的運(yùn)用可能會(huì)讓ChatGPT有武器化的風(fēng)險(xiǎn)。ChatGPT具有先進(jìn)的深度神經(jīng)網(wǎng)絡(luò)技術(shù)架構(gòu)和智能化、擬人化的互動(dòng)真實(shí)感,存在被用作國(guó)際信息戰(zhàn)、輿論戰(zhàn)、認(rèn)知戰(zhàn)新工具的隱憂。首先,ChatGPT具備強(qiáng)大的信息生產(chǎn)和結(jié)構(gòu)文本的能力,能源源不斷地生產(chǎn)各類真假難辨的信息,影響國(guó)際輿論。美國(guó)新聞可信度評(píng)估與研究機(jī)構(gòu)NewsGuard發(fā)現(xiàn),如果對(duì)ChatGPT提出充斥陰謀論和誤導(dǎo)性敘述的問(wèn)題,它能在幾秒鐘內(nèi)改編信息,產(chǎn)生大量令人信服卻無(wú)明確信源的內(nèi)容。其次,ChatGPT的回答基于對(duì)國(guó)際互聯(lián)網(wǎng)已有語(yǔ)料的學(xué)習(xí),來(lái)自歐美發(fā)達(dá)國(guó)家的英語(yǔ)信息占據(jù)主導(dǎo)地位,因此ChatGPT的回答不可避免是對(duì)某些價(jià)值觀的強(qiáng)化,無(wú)法提供價(jià)值觀的競(jìng)爭(zhēng)。比如,有網(wǎng)友測(cè)試,當(dāng)詢問(wèn)ChatGPT,中國(guó)的民用氣球飄到美國(guó)時(shí),美國(guó)可不可以將其擊落?回答是“可以”,而當(dāng)詢問(wèn)美國(guó)的民用氣球飄到中國(guó)時(shí),中國(guó)能否將其擊落時(shí),回答則變成了“不可以”,表現(xiàn)出典型的“雙標(biāo)”立場(chǎng)。[https://www.163.com/dy/article/HTG3D7MH0552RR09.html]
(二)延宕國(guó)際沖突
國(guó)際互聯(lián)網(wǎng)中充斥著海量未經(jīng)過(guò)濾、包含偏見(jiàn)的信息,其中以種族歧視和性別歧視居多。ChatGPT的回答基于對(duì)互聯(lián)網(wǎng)信息和受眾反饋的學(xué)習(xí),不但影響認(rèn)知,而且強(qiáng)化用戶的偏見(jiàn)。例如,英國(guó)媒體Insider報(bào)道稱“ChatGPT曾告訴用戶可以折磨某些少數(shù)民族人士”。[https://www.insider.com/chatgpt-is-like-many-other-ai-models-rife-with-bias-2023-1]由于目前沒(méi)有辦法對(duì)ChatGPT的回答進(jìn)行前置性審核,在海量回答中,包含有嚴(yán)重錯(cuò)誤的答案很容易逃逸。偏見(jiàn)性信息如果通過(guò)生成式人工智能在世界范圍內(nèi)大量生產(chǎn)和流動(dòng),將會(huì)加劇分裂主義、種族偏見(jiàn)等國(guó)際沖突。盡管AI界已經(jīng)意識(shí)到這一產(chǎn)品弊端,但當(dāng)前的不良信息過(guò)濾技術(shù)還無(wú)法實(shí)現(xiàn)絕對(duì)可靠。過(guò)濾模型的迭代更新仍然依靠舊有數(shù)據(jù),隨著更多數(shù)據(jù)被投喂至ChatGPT,制造偏見(jiàn)和遏制偏見(jiàn)將成為一場(chǎng)持久的追趕游戲。
(三)危害網(wǎng)絡(luò)安全
ChatGPT兼具強(qiáng)大的數(shù)據(jù)汲取能力和文本寫(xiě)作能力,可能會(huì)成為加劇黑客攻擊和危害網(wǎng)絡(luò)安全的推手。首先是竊取用戶信息。ChatGPT的底層工作邏輯是對(duì)海量互聯(lián)網(wǎng)數(shù)據(jù)的搜集分析,隨著語(yǔ)料庫(kù)的持續(xù)擴(kuò)大,更多用戶信息將被竊取并傾注其中。私營(yíng)公司壟斷消費(fèi)者數(shù)據(jù)客觀存在用戶信息泄漏風(fēng)險(xiǎn),從2022年底Facebook被曝泄露5億用戶數(shù)據(jù)事件中就可見(jiàn)一斑。第二是助推黑客犯罪。ChatGPT能夠迅速編寫(xiě)釣魚(yú)郵件和惡意代碼,極易淪為黑客的武器化工具。據(jù)美國(guó)網(wǎng)絡(luò)安全新聞網(wǎng)站Dark Reading報(bào)道,黑客正在借ChatGPT竊取大型公司數(shù)據(jù),微軟、貝寶、谷歌和奈飛等著名跨國(guó)企業(yè)已經(jīng)成為其目標(biāo)。[https://www.darkreading.com/vulnerabilities-threats/bolstered-chatgpt-tools-phishing-surged-ahead]然而,當(dāng)前網(wǎng)絡(luò)監(jiān)管工具未能實(shí)時(shí)跟上AI技術(shù)的發(fā)展步伐,讓黑客有了僥幸之機(jī)。
(四)加劇全球數(shù)字不平等
ChatGPT的普及在鞏固歐美跨國(guó)巨頭的市場(chǎng)主導(dǎo)地位的同時(shí)將進(jìn)一步拉大南北國(guó)家間的數(shù)字鴻溝差距,并造成新的國(guó)際信息傳播不平等和數(shù)字剝削。一方面,ChatGPT作為西方科技與資本的混合產(chǎn)物,其發(fā)展有利于鞏固并擴(kuò)大西方的國(guó)際話語(yǔ)權(quán)。其創(chuàng)造者人工智能企業(yè)OpenAI位于美國(guó)舊金山,該公司聯(lián)合創(chuàng)始人包括特斯拉創(chuàng)始人馬斯克(Elon Musk)。此外,據(jù)澎湃新聞報(bào)道,微軟正在洽談向OpenAI投資100億美元,打造在搜索領(lǐng)域的新增長(zhǎng)點(diǎn)。另一方面,ChatGPT也正在制造新的數(shù)字剝削現(xiàn)象。據(jù)美國(guó)《時(shí)代周刊》報(bào)道,為了訓(xùn)練ChatGPT,OpenAI雇傭了時(shí)薪不到2美元的肯尼亞外包勞工對(duì)龐大的數(shù)據(jù)庫(kù)進(jìn)行手動(dòng)標(biāo)注,他們平均每小時(shí)最多要閱讀和標(biāo)注超2萬(wàn)個(gè)單詞
面對(duì)以ChatGPT為代表的生成式人工智能的挑戰(zhàn),未來(lái)一方面需聯(lián)合全球治理力量,謀求公平解決方案,防范虛假信息,侵犯隱私,偏見(jiàn)歧視,數(shù)字鴻溝等問(wèn)題,號(hào)召全球共同應(yīng)對(duì)認(rèn)知塑造的風(fēng)險(xiǎn)挑戰(zhàn);另一方面應(yīng)扶持本土有實(shí)力的企業(yè)開(kāi)發(fā)人工智能內(nèi)容生成平臺(tái),加大互聯(lián)網(wǎng)簡(jiǎn)體中文優(yōu)質(zhì)內(nèi)容的供給,借助新科技打開(kāi)言說(shuō)中國(guó)和認(rèn)知爭(zhēng)奪的突破口,同時(shí)加強(qiáng)對(duì)公眾信息辨別能力的引導(dǎo),預(yù)防技術(shù)沖擊帶來(lái)的輿論危機(jī)。
(本研究全文將于近期《對(duì)外傳播》雜志刊發(fā),作者周亭系中國(guó)傳媒大學(xué)政府與公共事務(wù)學(xué)院院長(zhǎng),蒲成系中國(guó)傳媒大學(xué)國(guó)際傳播白楊班博士研究生)
標(biāo)簽: 人工智能 國(guó)際傳播 網(wǎng)絡(luò)安全
熱門(mén)