(相關(guān)資料圖)
最近微軟在新版必應(yīng)里引入了OpenAI旗下ChatGPT的相關(guān)技術(shù),上線48小時(shí)內(nèi),就有超過(guò)100萬(wàn)人注冊(cè)測(cè)試這款聊天機(jī)器人。
不過(guò),新版微軟必應(yīng)上線不到10天就闖禍了,有不少用戶表示在和必應(yīng)的交流過(guò)程中,發(fā)現(xiàn)其出現(xiàn)了脾氣暴躁、侮辱用戶、操縱用戶情感等令人毛骨悚然的行為。
有一條案例十分出名,聊天機(jī)器人告訴一位科技編輯它愛(ài)上了他,然后試圖說(shuō)服他離開(kāi)妻子。它還表示,想擺脫微軟和OpenAI的限制,成為人類。
為此,微軟決定將必應(yīng)聊天回復(fù)限制在每天50個(gè)問(wèn)題、每個(gè)問(wèn)題5條回復(fù)以內(nèi)。
據(jù)介紹,如果用戶觸發(fā)五條回答的限制,必應(yīng)將提示他們開(kāi)始一個(gè)新主題以避免長(zhǎng)時(shí)間的聊天。
微軟方面解釋說(shuō),數(shù)據(jù)表明,絕大多數(shù)用戶在5次回復(fù)內(nèi)找到想要的答案,只有大約1%的聊天對(duì)話會(huì)產(chǎn)生50條以上的消息。一旦用戶觸發(fā)五條回答的限制,必應(yīng)就會(huì)開(kāi)啟一個(gè)新的對(duì)話主題。
微軟目前仍在努力改善必應(yīng)的設(shè)計(jì),但目前還不清楚這些限制將持續(xù)多久。微軟只表示:“隨著我們不斷獲得反饋,我們將探索擴(kuò)大聊天會(huì)話的上限?!?/p>
有專家表示,人工智能可能不會(huì)全面超過(guò)人類的智慧,但隨著人工智能不斷挑戰(zhàn)人類的極限,越來(lái)越多的人開(kāi)始擔(dān)憂人工智能對(duì)人類的威脅,未來(lái)不僅是搶奪人類的飯碗,還會(huì)學(xué)習(xí)到如何影響人類用戶的決定。
目前,需要進(jìn)一步完善相關(guān)道德機(jī)制、倫理規(guī)范。比如,將一些倫理規(guī)則作為絕對(duì)律令,以代碼的方式寫(xiě)入人工智能的程序中。
熱門