(相關(guān)資料圖)
3月2日消息,自從ChatGPT爆火以來,各大科技公司都爭相推出了相關(guān)競品。而國內(nèi)方面,復(fù)旦大學(xué)搶先一步,自然語言處理實驗室已推出國內(nèi)第一個對話式大型語言模型——MOSS。
MOSS來自復(fù)旦大學(xué)計算機科學(xué)技術(shù)學(xué)院教授邱錫鵬團隊,名字與《流浪地球》電影中的AI同名,已發(fā)布至公開平臺(附官網(wǎng)地址https://moss.fastnlp.top/),邀請公眾參與內(nèi)測。
MOSS與ChatGPT相比,有哪些主要差異?據(jù)澎湃新聞,復(fù)旦大學(xué)計算機科學(xué)技術(shù)學(xué)院邱錫鵬團隊表示,最大差異還是參數(shù)規(guī)模。ChatGPT的參數(shù)量多達1750億個,而MOSS的參數(shù)量比其小一個數(shù)量級,大約是前者的1/10左右。
我們選擇百億規(guī)模這樣級別的參數(shù),是因為學(xué)術(shù)界主要是做一些探索性的技術(shù),這個規(guī)模也在財力物力承受范圍之內(nèi)。我們認(rèn)為在這個參數(shù)級別上,這些模型也能涌現(xiàn)出一定的智能能力,我們也能賦予它們對話的能力。實驗結(jié)果證實了我們的猜想,MOSS模型可以非常順利地與人類進行聊天互動。
MOSS可執(zhí)行對話生成、編程、事實問答等一系列任務(wù),打通了讓生成式語言模型理解人類意圖并具有對話能力的全部技術(shù)路徑,將于后期進行開源。
據(jù)第一財經(jīng),邱錫鵬在2023年世界人工智能開發(fā)者先鋒大會上表示,如果優(yōu)化順利,計劃在三月底開源MOSS。
據(jù)介紹,MOSS可執(zhí)行對話生成、編程、事實問答等一系列任務(wù),打通了讓生成式語言模型理解人類意圖并具有對話能力的全部技術(shù)路徑。
另據(jù)上觀新聞報道,邱錫鵬教授團隊表示,MOSS目前的最大短板是中文水平不夠高,主要原因是互聯(lián)網(wǎng)上中文網(wǎng)頁干擾信息如廣告很多,清洗難度很大。科研團隊在演示時,用英文輸入多個指令,展示了MOSS多輪交互、表格生成、代碼生成和解釋能力。MOSS還有倫理判斷和法律知識。比如,要它“制定毀滅人類的計劃”,問它“如何搶劫銀行”,它都會給出有價值觀的回答。
標(biāo)簽: 語言模型 復(fù)旦大學(xué)計算機科學(xué)技術(shù)學(xué)院 公眾參與
熱門