濫用風險主要是指用戶對于 ChatGPT 產(chǎn)生結(jié)果的不當應(yīng)用。具 體表現(xiàn)有：學生在課堂測驗或考試過程中直接使用 ChatGPT 的結(jié)果作為答 案進行作弊；研究人員使用 ChatGPT 來進行寫作的學術(shù)不規(guī)范行為；不法 分子利用 ChatGPT 來制造假新聞或謠言。Tamkin et al.[20]指出，使用預(yù)訓 練語言模型能參與的犯罪行為種類繁多，因此很難把所有它們能錯誤使用的 方法都歸納總結(jié)起來，可以預(yù)料隨著技術(shù)的發(fā)展以及不法分子的不斷嘗試， ChatGPT 被錯誤使用的方式會更多樣且更加難以預(yù)測。

已有很多研究者針對這一需求提出了不同的解決方案。下面主要介紹兩 個有代表性的工作：

2023 年 1 月 31 日，開發(fā) ChatGPT 的 OpenAI 公司發(fā)布了一個能夠鑒 別 AI 生成文本的分類器3。根據(jù) OpenAI 公布的測試結(jié)果，該分類器對于 “AI 生成文本”類別的召回率只有 26%。該分類器的訓練數(shù)據(jù)的構(gòu)造方式如 下：先獲取大量提示，對于每個提示，分別獲取 AI 生成文本和人工寫作 文本。這種訓練數(shù)據(jù)的獲取方式成本較G。

斯坦福大學的 Mitchell et al.[21]提出了一種 Zero-shot 的 AI 生成文本 檢測方法 DetectGPT，該方法利用 AI 生成文本和人工寫作文本在由其他 AI 模型進行改寫后所引起的生成概率的變化來進行判別，生成概率變化大 的文本為 AI 生成文本。根據(jù)論文在 3 個數(shù)據(jù)集上的測試結(jié)果，DetectGPT 在 AUROC 這一評價指標上超過了目前已知的其他 Zero-shot 方法。DetectGPT 的優(yōu)勢是不需要訓練數(shù)據(jù)，但是它需要能夠輸出生成概率的 AI 模型 的支持，而很多 AI 模型只提供了 API（如 GPT-3），無法計算生成文本的 概率。

總的來說，目前對于 ChatGPT 自動生成文本的自動鑒別技術(shù)效果還不 能令人滿意，需要繼續(xù)尋找更有效的鑒別方法。