人工智能(AI)聊天機器人模型ChatGPT自去年問世後便掀起熱潮,然而其強大的數據庫和文本處理能力,卻引發部分學校憂慮學生使用AI生成內容代筆和作弊。年僅22歲的工程師研發出一款檢測軟件「GPTZero」,檢測文本是否由ChatGPT生成。
據《南華早報》報道,於美國普林斯頓大學(Princeton University)主修電腦科學、副修新聞的大四學生Edward Tian,一直有留意ChatGPT的動向,認為AI生成內容存有抄襲爭議,「這些東西是AI寫的嗎?我們人類有權利知道!」故研發出GPTZero,以分辨出文章是否屬AI生成內容。
用家可以將檢測文本複製至GPTZero網頁的文本框中,然後點擊「遞交(Submit)」,系統便會評估進行分析並給出評估結果。
評估結果分5類 測AI生成文本可能性
Tian在Twitter上解釋,GPT Zero主要是靠文本的「困惑度(Perplexity)」,即指人類書寫語言的複雜性和隨機性,以及「突發性(Burstiness)」,即人類使用的句子結構變化,這2項指標進行分析。並將評估結果,即由AI生成的可能性,分成5類,分別是「非常不可能」、「不太可能」、「不清楚」、「可能」、「非常可能」。當2項參數得分都較低時,便反映出相關文本很有可能是出自AI之手。
據悉,GPTZero自1月3日推出以來一直是免費試用,至今已有逾8萬人訪問該軟件。另在今年1月推出專為教育工作者打造的版本「GPTZeroX」。
網民滿意軟件表現 惟錯將名作當AI內容
雖然大部分試用過GPT Zero的網民都在Twitter留言,表示滿意軟件的檢測結果。但GPTZero試用版仍設有一些限制,如要求輸入至少1000個字符,即大約150至250個單詞。且在檢測英語以外的其他語言時,其分析表現會變差,甚至無法辨別文本是由人類還是AI創作。
知名AI研究人員Sebastian Raschka亦曾用莎士比亞《麥克白》內容做測試,惟發現GPTZero錯將相關內容判斷為「很可能由AI生成(likely AI-generated)」,反映GPTZero的準確性仍有待加強。