(資料圖片僅供參考)

隨著ChatGPT爆火，AI生成內(nèi)容也引發(fā)了諸如版權(quán)、學(xué)術(shù)倫理等擔(dān)憂。對此，ChatGPT背后的初創(chuàng)公司以彼之矛攻彼之盾，推出AI生成內(nèi)容識別工具，但也坦言稱這款工具“并不可靠”。

周二，ChatGPT開發(fā)公司OpenAI推出了一個分類器（classifier）來區(qū)分人類寫的文本和來自各類AI（不僅僅是ChatGPT）寫的文本。

據(jù)OpenAI，其人工智能分類器在近四分之三的時間里無法檢測到機器人編寫的文本，因此它不應(yīng)被用作主要的決策工具，而應(yīng)作為確定一段文本來源的補充方法。

在對英文文本的識別測試中，這款分類器僅將26%的人工智能生成文本正確地識別為 "可能是人工智能寫的"。人類寫的文本也會被分類器“錯誤但自信地”標(biāo)記為人工智能所寫，將人類寫的文本錯誤地標(biāo)記為人工智能寫的的情況有9%。

據(jù)介紹，該分類器對短文（低于1000個字符）的識別非常不可靠，分類器的可靠性通常隨著輸入文本的長度增加而提高，但更長的文本也會被分類器錯誤地標(biāo)記。

OpenAI建議只對英語文本鑒別使用該分類器，它在其他語言中的表現(xiàn)明顯更差，而且它在代碼識別上也不可靠。

OpenAI表示，分類器雖然不可能可靠地檢測出所有人工智能寫的文本，但該工具補充了教育工作者、雇主和其他人用來確定文本來源的方法，為一些錯誤行為提供參考，例如使用人工智能工具進(jìn)行學(xué)術(shù)不端行為等。

自去年11月推出以來，ChatGPT病毒式地橫掃各行各業(yè)，能夠在幾秒鐘內(nèi)就幾乎任何主題產(chǎn)生聽起來像人類的文章、詩歌、劇本和推銷文案，甚至能夠幫程序員寫代碼，幫學(xué)生寫論文。此外，ChatGPT還存在被濫用來傳播錯誤信息和編寫垃圾郵件的可能。

一些學(xué)校已經(jīng)開始禁止學(xué)生使用ChatGPT，在很多互聯(lián)網(wǎng)大廠，ChatGPT也遭到了封殺。

根據(jù)用戶的反饋，OpenAI希望改進(jìn)這個工具。該公司表示，已與美國教育工作者接觸，討論ChatGPT的功能和局限性。

關(guān)鍵詞： 人工智能 chatgpt