詳細信息 |
中國AI大模型數據集從哪里來 |
編輯: 來源:華泰證券 時間:2023/5/18 |
國內各行業(yè)數據資源豐富,2021-2026 年數據量規(guī)模 CAGR G于,數據主要來源于政 府/傳媒/服務/零售等行業(yè)。據 IDC,2021-2026 年數據量規(guī)模將由 18.51ZB 增長至 56.16ZB,CAGR 達到 24.9%,G于平均 CAGR。從數據來源看,國內各行業(yè)數據差 異化發(fā)展,2021 年政府、傳媒、專業(yè)服務、零售等行業(yè)數據量占比較G,分別為 30.4%、 13.4%、13.0%、9.6%,其中接近 90%的數據為非結構化數據,這也要求了海量數據采集 設備和軟件的互聯互通以及互動互控。另外隨著智能化轉型的深入,制造、交通運輸、批 發(fā)、教育等行業(yè)數據規(guī)模在未來也擁有較大的增長潛力,2021-2026 年數據量增長 CAGR 將分別達到 37.6%、36.1%、37.1%、34.0%。
盡管國內數據資源豐富,但由于數據挖掘不足,數據無法自由在市場上流通等現狀,出色 中文出色數據集仍然稀缺。目前中文出色數據仍然稀缺,如 ChatGPT 訓練數據中中文資料 比重不足千分之一,為 0.0991%,而英文資料占比超過 92.6%。據加利福尼亞大學和 Google 研究機構發(fā)現,機器學習和自然語言處理模型使用的數據集 50%由 12 家 Top 機構提供, 其中 10 家為美國機構,1 家為德國機構,僅 1 家機構來自,為香港中文大學。值得一 提的是,數據集與數據機構的基尼系數有升G的趨勢,即數據集被少數 Top 機構或特定數 據庫掌控的集中有所增加。
|
【聲明:轉載此文出于傳遞更多信息之目的,并不意味著贊同其觀點或證實其描述,文章內容僅供參考,如有侵權,請聯系刪除! |
推薦信息 |
語音標注質量評估算法優(yōu)缺點
WER算法可以分數字,英文,中文等情況分別來看;當數據量大時,性能會特別差;SER算法對句子的整體性評估要優(yōu),句錯誤率較高
文本標注質量評估算法優(yōu)缺點
ROUGE算法參考標注越多待評估數據的相關性就越高;METEOR算法評估時考慮了同義詞匹配,提高了評估的準確率;SPICE算法對圖像標注進行評估
圖像標注質量評估算法優(yōu)缺點
MV算法簡單易用,常用作其他眾包質量控制算法的基準算法;EM算法可以收斂到局部最大化;RY算法將分類器與 Ground-truth 結合起來進行學習
數據清洗缺失數據的處理方法
數據清洗作為數據預處理中至關重要的環(huán)節(jié),清洗后數據的質量很大程度上決定了 AI算法的有效性,數據可能存在缺失值,噪聲數據,重復數據等質量問題
數據采集三種常見方式
實時的在線分析系統(tǒng)和分布式并發(fā)的離線分析系統(tǒng);通過網絡爬蟲或網站公開API方式獲取大數據信息;采集的對象包括視頻,圖片,音頻和文本等多種類型
建立數據集的流程 數據集產生
數據清洗,由于采集到的數據可能存在缺失值,噪聲數據,重復數據等質量問題; 模型訓練人員會利用標注好的數據訓練出需要的算法模型
AI大模型需要什么樣的數據集
通過提升數據的質量和數量來提升整個模型的訓練效果,我們認為未來數據成本在大模型開發(fā)中的成本占比或將提升,主要包括數據采集,清洗,標注等成本
TidyBot家庭服務機器人完成房間整理
機器人在基準數據集中對看不見的物體實現 91.2% 的準確率,TidyBot的真實移動操作器演示了該方法,該操縱器在真實世界的測試場景中成功地收起了85.0%的對象 |
智能運輸機器人 |
AGV無人運輸機器人-料箱版 |
AGV無人運輸機器人-標準版 |
AGV無人運輸機器人-料箱版(鈑金材質) |
AGV無人運輸機器人-貨架版(鈑金材質) |
AGV無人運輸機器人-貨架版(亮面不銹鋼材質) |
AGV無人運輸機器人-開放版 |
行業(yè)動態(tài) |
咨詢熱線:4006-935-088 / 4006-937-088
客服熱線:
4008-128-728
版權所有 @ 創(chuàng)澤智能機器人集團股份有限公司 魯ICP備18039973號-2 運營中心 / 北京·清華科技園九號樓 生產中心 / 山東省日照市開發(fā)區(qū)太原路71號 |