GPT-4 采用了與 InstructGPT同樣的方法進行 RLHF，優(yōu)化 GPT-4 SFT 模型
基于規(guī)則的獎勵模型RBRMs有三個輸入:提示(可選)策略模型的輸出和人類編寫的用于如何評估輸出的規(guī)則,獎勵沒有拒絕對安全和可回答問題的請求

GPT-4 在大多數(shù)語言上的結(jié)果都優(yōu)于 GPT 3.5 和現(xiàn)有語言模型
GPT-4 在大多數(shù)語言上的結(jié)果都優(yōu)于 GPT 3.5 和現(xiàn)有語言模型的英語語言性能,如拉脫維亞語,威爾士語和斯瓦希里語等人數(shù)較低的語言

GPT-4 API 已開放等待列表（waitlist），API 價格提升明顯
GPT-4-8k 定價為每 1k 提示 token 0.03 美元,每 1k 完成 token 0.06 美元;默認(rèn)速率限制 為每分鐘 40k 個 token,每分鐘 200 個請求

OpenAI 搭建了開源 OpenAI Evals 模型評估框架
OpenAI Evals與現(xiàn)有的基準(zhǔn)測試兼容,并可用于跟蹤部署中的 模型性能;未來OpenAI計劃逐步增加測試基準(zhǔn)的多樣性,以代表更廣泛的故障模式和更難的任務(wù)集

ChatGPT的商業(yè)模式-商業(yè)化嘗試 會員制+按次收費為主
免費生成5張圖后,5.5元25張圖,24.9元125張圖,或會員制,99元/月660張圖,299元/月2160張圖,智能寫作會員198元/月,視頻創(chuàng)作會員1698元/月

ChatGPT訓(xùn)練成本測算-總成本持續(xù)提升同級別參數(shù)消耗量將顯著下降
隨著數(shù)據(jù)量快速膨脹,訓(xùn)練數(shù)據(jù)集需求越來越大,數(shù)據(jù)存儲成本也將相應(yīng)提升,單次完整訓(xùn)練價格400-1000萬美元/次,數(shù)據(jù)成本占比20%-25%

AIGC發(fā)展歷程:文本生成技術(shù)較成熟,圖片視頻生成值得期待
早期萌芽階段:受限于科技水平AIGC僅限于小范圍實驗;沉淀積累階段:AIGC從實驗性轉(zhuǎn)向?qū)嵱眯?快速發(fā)展階段: 深度學(xué)習(xí)算法不斷迭代人工智能生成內(nèi)容百花齊放效果逐漸逼真

每一輪人機交互的變革以及帶來產(chǎn)業(yè)級投資機會
手勢追蹤,Insideout,Outside-in,眼球追蹤等,交互方式多元化,沉浸感強;人機共生,文字,音頻,視頻,3D,策略等交互模式融合,智能化程度顯著提升