ChatGPT 通過基于人類反饋的強化學(xué)習(xí)使模型 的生成結(jié)果更符合人類預(yù)期，然而這也導(dǎo)致了模型的行為和偏好一定程度上反映的是標(biāo)注人員的偏好，在標(biāo)注人員分布不均的情況下，可能會引入新的 偏見問題。同樣地，標(biāo)注人員標(biāo)注時會傾向于更長的答案，因為這樣的答案 看起來更加全面，這導(dǎo)致了 ChatGPT 偏好于生成更長的回答，在部分情況 下顯得啰嗦冗長。

此外，作為突圍型產(chǎn)品，ChatGPT 確實表現(xiàn)優(yōu)秀。然而在目前微調(diào)小 模型已經(jīng)達到較好效果的前提下，同時考慮到 ChatGPT 的訓(xùn)練和部署困難 程度，ChatGPT 可能在以下任務(wù)場景下不太適用或者相比于目前的微調(diào)小 模型范式性價比較低：

1. ChatGPT 的通用性很強，對多種自然語言處理任務(wù)都有處理能力。然 而針對特定的序列標(biāo)注等傳統(tǒng)自然語言理解任務(wù)，考慮到部署成本和 特定任務(wù)的準(zhǔn)確性，在 NLU 任務(wù)不需要大規(guī)模語言模型的生成能力， 也不需要更多額外知識的前提下，如果擁有足夠數(shù)據(jù)進行微調(diào)，微調(diào) 小模型可能仍是更佳的方案；

2. 在一些不需要大規(guī)模語言模型中額外知識的任務(wù)上，例如機器閱讀理 解，回答問題所需的知識已經(jīng)都存在于上下文中；

3. 由于除英語之外的其它語言在預(yù)訓(xùn)練語料庫中占比很少，因此翻譯目 標(biāo)非英文的機器翻譯任務(wù)和多語言任務(wù)在追求準(zhǔn)確的前提下可能并不 適用；

4. 大規(guī)模語言模型的現(xiàn)實世界先驗知識太強，很難被提示覆蓋，這導(dǎo)致 我們很難糾正 ChatGPT 的事實性錯誤，使其使用場景受限； 5. 對于常識、符號和邏輯推理問題，ChatGPT 更傾向于生成“不確定” 的回復(fù)，避免直接面對問題正面回答。在追求w性答案的情況下可 能并不適用；

6. ChatGPT 目前還只能處理文本數(shù)據(jù)，在多模態(tài)任務(wù)上還無法處理。