2023年初,一款名為“GPTZero”的應(yīng)用悄然上線。這款應(yīng)用由普林斯頓大學一名名為愛德華.田(Edward Tian)的學生開發(fā),他創(chuàng)建這個應(yīng)用是為了回應(yīng)前段時間爆火的ChatGPT,幫助人們辨別文字內(nèi)容是人類書寫還是ChatGPT生成,后者已于本月被紐約教育部禁用。
愛德華.田今年22歲,是計算機科學專業(yè)大四的學生。去年在一次演講中,他的論文導師在全班面前展示了一組文本,并要求學生區(qū)分哪些是人類寫的,哪些是人工智能生成的。許多學生猜錯了。因此,愛德華意識到有個問題需要解決:幫助人們分辨文本的作者是機器還是人類。
【資料圖】
他利用寒假的時間開發(fā)了GPTZero,該應(yīng)用程序的工作原理是查看文本中的兩個變量——困惑度和突發(fā)性——并為每個變量打分。
首先,該應(yīng)用程序會根據(jù)需要測試的文本和其訓練文本的相似度來做出初步判斷:如果需要測試的文本和數(shù)據(jù)庫中已有的文本越不相似,那么它就“更有可能是人類寫的”。
此后,GPTZero會統(tǒng)整文本中的變化程度,例如文本是更平整、統(tǒng)一還是有較多的長短句混用?“一篇由人寫的文章會有很大的變化,”愛德華說?!八?的統(tǒng)一度)會忽上忽下,會突然出現(xiàn)峰值?!?/p>
愛德華仍在致力于改進GPTZero,但他已經(jīng)發(fā)布了一個測試版供公眾使用。1月3日,他發(fā)布了一條推文,演示了這款應(yīng)用如何成功地分辨出《紐約客》雜志發(fā)表的文章和ChatGPT寫的信。
后來愛德華還使用了BBC部分稿件的標題,使用ChatGPT撰寫文章,并在GPTZero中進行了測試。他說,GPTZero成功猜出了文本之間的差異,誤報率不到2%。
自推出以來,GPTZero已經(jīng)被成千上萬的人使用。愛德華表示自己已經(jīng)被世界各地的老師和大學招生官員都聯(lián)系,“他們對這種方法很感興趣?!?/p>
今年年初,由于ChatGPT帶來了越來越多的學術(shù)造假,美國紐約市教育部正式禁用ChatGPT,以保護學術(shù)誠信。該教育部發(fā)言人Jenna Lyle出面解釋:“由于擔心對學生學習的負面影響,以及對內(nèi)容安全性和準確性的擔憂,我們將限制在紐約市公立學校的網(wǎng)絡(luò)和設(shè)備上訪問ChatGPT?!?/p>
此外,紐約市、巴爾的摩縣、弗吉尼亞州的勞登縣和阿拉巴馬州的蒙哥馬利縣也開始限制學生訪問ChatGPT。
勞登縣發(fā)言人丹.亞當斯(Dan Adams)表示,弗吉尼亞州學校的工作人員目前正在禁止學生從網(wǎng)絡(luò)或電子設(shè)備上訪問ChatGPT,以“保持模范教育工作者的地位”,他們“期望學生被呈現(xiàn)的作品達到最高水平的誠實”。
此外,還有人擔心ChatGPT會搶走作家和創(chuàng)意人員的工作,或者被黑客用于更邪惡的目的,編寫惡意軟件。也因此,雖然GPTZero是為了打擊學術(shù)抄襲而創(chuàng)建的,但愛德華表示,他認為它也可以被用來解決人工智能日益普及所帶來的其他問題,比如打擊謠言。
然而,盡管開發(fā)了“反制”ChatGPT的軟件,愛德華并不反對人工智能——事實上,他對人工智能的出現(xiàn)“感到非常興奮”,人工智能也幫助了他編寫計算機代碼和解決其他問題。但他同樣表示,為任何新技術(shù)制定安全保障措施都很重要,這能讓新技術(shù)的推廣有更多的可信度。
綜合/編譯:南都記者胡耕碩
教育部學校大學
標簽: 人工智能 弗吉尼亞州 應(yīng)用程序
熱門