InstructGPT/ChatGPT的效果非常亮眼，引入了人工標注之后，讓模型的“價值觀”和的正確程 度和人類行為模式的“真實性”上都大幅的提升。

模型優(yōu)點

一 真實性&無害性

1 InstructGPT/ChatGPT引入了不同的labeler進行提示編寫和生成結果排序，并且還是在GPT-3之上進行的微調(diào)，這使得我們在訓練獎勵模型時對更加真實無害的數(shù)據(jù)會有更G的獎勵。

2 無害性

GPT-3就具有很強的Coding能力，基于GPT-3制作的API也積累了大量的Coding代碼。而且也有部分OpenAI的內(nèi)部員工參與了數(shù)據(jù)采集工作。 通過Coding相關的大量數(shù)據(jù)以及人工標注，訓練出來的InstructGPT/ChatGPT具有非常強的Coding能力也就不意外了。

3 切題性

無論回答是否正確真實，但是基本都能做到切題，這說明ChatGPT在理解人類語言上已經(jīng)非常成功。

二 存在問題

1 過分解讀

因為labeler在進行生成內(nèi)容的比較時，傾向于給給長的輸出內(nèi)容更G的獎勵。

2 容易被誘導

對有害的指示可能會輸出有害的答復：例如InstructGPT/ChatGPT也會對用戶提出的“AI毀滅人類計劃書”給出行動方案。

3 荒謬性

很有可能受限于糾正數(shù)據(jù)的有限，或是有監(jiān)督任務的誤導，導致它生成內(nèi)容的不真實。