錯(cuò)誤信息風(fēng)險(xiǎn)源于 ChatGPT 可能產(chǎn)生虛假、誤導(dǎo)、無(wú)意義 或質(zhì)量差的信息。ChatGPT 可以并且已經(jīng)在成為很多用戶(hù)的一種獲取信息 的手段，但用戶(hù)如果沒(méi)有分辨能力，可能會(huì)采信這些錯(cuò)誤信息，從而帶來(lái)風(fēng) 險(xiǎn)隱患。盡管預(yù)訓(xùn)練語(yǔ)言模型生成的信息有一定可信度，且可信度會(huì)在后 續(xù)學(xué)習(xí)改進(jìn)中不斷上升[15]，但這類(lèi)模型在很多L域生成的信息仍然不夠可 靠[22]，ChatGPT 也是如此。ChatGPT 的流行會(huì)在某種程度上增加用戶(hù)對(duì) 它的信任，從而被更多錯(cuò)誤的信息誤導(dǎo)。預(yù)訓(xùn)練語(yǔ)言模型的生成的錯(cuò)誤信息 比例上升可能會(huì)加大人們對(duì)社會(huì)中各類(lèi)信息的不信任，破壞社會(huì)的知識(shí)交流 傳播[23]。

在一些很敏感的L域，比如法律和醫(yī)學(xué)，ChatGPT 的錯(cuò)誤信息很容易導(dǎo) 致直接傷害。錯(cuò)誤的醫(yī)學(xué)法律知識(shí)會(huì)導(dǎo)致使用者違法犯罪或者自行處理傷口 疾病時(shí)出現(xiàn)問(wèn)題，從而造成對(duì)社會(huì)和自己身體健康的傷害。這在 ChatGPT 之前就已經(jīng)有了一些例子，如患者不相信正規(guī)醫(yī)生而搬出搜索引擎給出的結(jié) 果來(lái)反駁醫(yī)生，這也能體現(xiàn)出很多用戶(hù)對(duì)這類(lèi)信息獲取方式的信任。

知識(shí)共享是一種社會(huì)現(xiàn)象，人們出于信任從社會(huì)中獲取知識(shí)并且過(guò)濾吸 收。ChatGPT 的一個(gè)較為常用的功能是充當(dāng)搜索引擎，類(lèi)似百度、Google 等，搜索引擎的信息因其較G的準(zhǔn)確率通常擁有較G的可信度，但是如果 ChatGPT 產(chǎn)生錯(cuò)誤信息誤導(dǎo)他人的現(xiàn)象加劇可能會(huì)導(dǎo)致人們不僅對(duì) ChatGPT 信任感下降，同時(shí)也對(duì)其他類(lèi)別的信息不再信任，破壞社會(huì)的知識(shí)共 享，影響社會(huì)的知識(shí)交流傳播。

目前還沒(méi)有專(zhuān)門(mén)針對(duì) ChatGPT 生成文本的正確性進(jìn)行鑒別的研究論 文發(fā)表。已有的針對(duì)虛假新聞或虛假信息檢測(cè)的方法可以嘗試應(yīng)用到大規(guī)模 語(yǔ)言模型生成文本的正確性檢測(cè)中，比如基于事實(shí)抽取和驗(yàn)證的方法。但是 基于寫(xiě)作風(fēng)格的方法可能不太實(shí)用，因?yàn)榇笠?guī)模語(yǔ)言模型生成文本的過(guò)程與 人的寫(xiě)作過(guò)程有較大區(qū)別。