ChatGPT 的研發(fā)主要分為預(yù)訓(xùn)練（Pre-train）和精調(diào)（Fine-tune）兩個(gè)環(huán)節(jié)。 其中：1）預(yù)訓(xùn)練：使用無(wú)標(biāo)注、大規(guī)模的數(shù)據(jù)集，對(duì)模型進(jìn)行預(yù)訓(xùn)練。2）精調(diào)：讓 模型與專業(yè)的標(biāo)注人員、AI 訓(xùn)練師進(jìn)行交互，推動(dòng)模型逐步學(xué)習(xí)人類通用的表達(dá)方 式和價(jià)值觀，從而終生成符合人類期望的回答。如果將 AI 大模型類比于學(xué)生，那么模型的預(yù)訓(xùn)練就是通過(guò)廣泛的通識(shí)性閱讀，使學(xué)生具備初步 的文字理解能力；模型的精調(diào)就是“教學(xué)”的過(guò)程，其中使用出色教材的效果往往勝 過(guò)大量普通書(shū)籍。

從 ChatGPT 的主要技術(shù)環(huán)節(jié)，分析其核心壁壘所在：

1）算力資源：據(jù) TrendForce 數(shù)據(jù)，以英偉達(dá) A100 口徑計(jì)算，ChatGPT 需要 2 萬(wàn) 塊 GPU 來(lái)處理訓(xùn)練數(shù)據(jù)，隨著 ChatGPT 的商用化，需要的 GPU 數(shù)量可能超過(guò) 3 萬(wàn)塊。 目前國(guó)內(nèi) GPU 集群的存量資源有限，疊加美實(shí)體清單影響G端芯片采購(gòu)受阻，導(dǎo)致對(duì) 于國(guó)內(nèi)大模型廠商而言，模型的推理、部署、應(yīng)用等環(huán)節(jié)的算力資源緊缺。但從長(zhǎng)期 來(lái)看，國(guó)內(nèi) AI 大模型算力緊缺的問(wèn)題有望得到緩解。從市場(chǎng)角度，算力資源本質(zhì)上 是自由流通的商品，相較于模型技術(shù)、工程能力等硬性壁壘更易突破；從技術(shù)層面看， 大模型的研發(fā)、應(yīng)用環(huán)節(jié)所需算力未來(lái)均有優(yōu)化的空間。4 月 13 日微軟推出大模型 訓(xùn)練工具 DeepSpeed-Chat，其中包括開(kāi)源的 RLHF 框架，能基于單個(gè) GPU 訓(xùn)練超過(guò) 130 億參數(shù)的模型，訓(xùn)練速度提升 15 倍以上，垂類企業(yè)應(yīng)用大模型的算力門檻有望大幅降低。

2）參數(shù)量：一般認(rèn)為 1000 億的參數(shù)量J是語(yǔ)言類大模型產(chǎn)生“涌現(xiàn)”現(xiàn)象的門 檻,GPT3 的訓(xùn)練參數(shù)量達(dá) 1750 億，GPT4 參數(shù)量未公布。對(duì)于國(guó)內(nèi)大模型廠商，尤其 是擁有豐富自有數(shù)據(jù)資源的互聯(lián)網(wǎng)大廠而言，1000 億的參數(shù)量J并非難以達(dá)到。目 前百度、華為、阿里等頭部企業(yè)均已推出或發(fā)布千億參數(shù)以上的 AI 大模型，但在性 能上仍和 ChatGPT 有較大差距。

3）數(shù)據(jù)集的質(zhì)量：GPT3 的預(yù)訓(xùn)練數(shù)據(jù)集來(lái)自于 common crawl（網(wǎng)頁(yè)爬蟲(chóng)聚合類 數(shù)據(jù)平臺(tái)）、維基百科等標(biāo)準(zhǔn)化程度較G的公開(kāi)數(shù)據(jù)庫(kù)。目前國(guó)內(nèi) AI 大模型的預(yù)訓(xùn)練 數(shù)據(jù)集也以公開(kāi)網(wǎng)頁(yè)爬取的數(shù)據(jù)為主，再結(jié)合公司自有的行業(yè)數(shù)據(jù)進(jìn)行訓(xùn)練。問(wèn)題在 于，相較于英文，目前互聯(lián)網(wǎng)上中文內(nèi)容的規(guī)模和質(zhì)量均存在較大差距。因此，國(guó)內(nèi) AI 大模型的預(yù)訓(xùn)練數(shù)據(jù)集中也以英文數(shù)據(jù)為主，使得在中文為主的用戶使用環(huán)境中 產(chǎn)生較多的適配性問(wèn)題。

目前來(lái)看解決的方法包括：一是建立標(biāo)準(zhǔn)化、G質(zhì)量的中文 語(yǔ)料庫(kù)；二是加強(qiáng) AI 大模型的翻譯能力，使其生成的結(jié)果更符合中文用戶的使用習(xí) 慣。

4）工程能力：包括預(yù)訓(xùn)練、精調(diào)等訓(xùn)練環(huán)節(jié)的執(zhí)行能力和方法等，需要研發(fā)團(tuán) 隊(duì)通過(guò)長(zhǎng)時(shí)間的經(jīng)驗(yàn)積累、不斷試錯(cuò)，再對(duì)模型結(jié)果進(jìn)行調(diào)優(yōu)，這也是 OpenAI 的 ChatGPT 目前于國(guó)內(nèi)、乃至谷歌 BERT 等其他海外頭部大模型的核心壁壘之一。 例如在精調(diào)過(guò)程中，OpenAI 使用J少量的G質(zhì)量標(biāo)注數(shù)據(jù)，顯著提升了 GPT-3.5 的 應(yīng)答能力。此外，中文和英文數(shù)據(jù)集在規(guī)模、質(zhì)量等方面存在差距，這也需要額外的 工程能力去彌補(bǔ)，使得國(guó)產(chǎn) AI 大模型更適用于中文的使用環(huán)境。