(資料圖片)
3月29日消息,美國OpenAI公司的人工智能對話模型ChatGPT引發(fā)全球關注,該公司的核心投資方微軟開始評估其背后的最新模型GPT-4對未來人類的影響。GPT-4是一個可以生成類似于人類語言的大型多模態(tài)模型,它在各種專業(yè)和學術的標準測試中表現(xiàn)出了人類水平的性能,例如它可以通過模擬律師資格考試,并且得分在前10%之內。
然而,GPT-4也存在一些潛在的風險,可能會對社會和人類造成不利的影響。特斯拉創(chuàng)始人埃隆馬斯克和一千多名人工智能專家和行業(yè)高管在一封公開信中呼吁暫停開發(fā)比GPT-4更強大的系統(tǒng)六個月,直到制定并實施一套共享的安全協(xié)議,并由獨立專家進行審計。他們還提到了高級人工智能系統(tǒng)可能導致的經(jīng)濟和政治動蕩,并呼吁開發(fā)者與政策制定者合作建立監(jiān)管機構。
這封信由非營利性的“生命未來研究所”發(fā)布,包括馬斯克、蘋果公司聯(lián)合創(chuàng)始人史蒂夫-沃茲尼亞克和Stability AI首席執(zhí)行官埃馬德-莫斯塔克在內的1000多人簽署。
信中說:“只有當我們確信強大的人工智能系統(tǒng)的效果是積極的,其風險是可控的,才應該開發(fā)?!?/p>
此外,歐盟警察局歐洲刑警組織也在周一發(fā)出了對高級人工智能如ChatGPT的道德和法律擔憂,警告說這種系統(tǒng)可能被濫用于網(wǎng)絡釣魚、虛假信息和網(wǎng)絡犯罪等方面。自從去年發(fā)布以來,微軟支持的OpenAI的ChatGPT已經(jīng)促使競爭對手推出了類似的產(chǎn)品,并且許多公司也將其或類似的技術集成到了他們的應用和產(chǎn)品中。
據(jù)了解,OpenAI此前表示,他們已經(jīng)花了六個月的時間對GPT-4進行了迭代調整,使其在事實性、可控性和拒絕超出安全范圍方面取得了最好的結果(盡管還不完美)。
標簽:
熱門