（復(fù)旦大學(xué)教授肖仰華）

肖仰華分享了通過語法復(fù)雜度指標(biāo)和累積分布采樣方法篩選高質(zhì)量語料的實踐，實驗表明，從100億個token的財經(jīng)語料中僅篩選20%的高質(zhì)量數(shù)據(jù)進(jìn)行訓(xùn)練，對模型進(jìn)行持續(xù)預(yù)訓(xùn)練，相比于全量數(shù)據(jù)持續(xù)預(yù)訓(xùn)練，在領(lǐng)域問答任務(wù)上的準(zhǔn)確率提升1.7%。

上海交通大學(xué)特聘教授翟廣濤強(qiáng)調(diào)無論是精煉數(shù)據(jù)還是合成數(shù)據(jù)，都需要質(zhì)量優(yōu)先，而數(shù)據(jù)質(zhì)量分析要從“體驗質(zhì)量”入手，考慮人的體驗，也考慮機(jī)器的體驗，進(jìn)而在數(shù)據(jù)為中心的范式下進(jìn)一步提升大模型性能。

海天瑞聲CEO李科從產(chǎn)業(yè)實踐角度分享了全球AI數(shù)據(jù)行業(yè)的發(fā)展趨勢。他認(rèn)為，數(shù)據(jù)產(chǎn)業(yè)正在經(jīng)歷從勞動密集型向技術(shù)密集型和知識密集型的重大轉(zhuǎn)型。通過動捕數(shù)據(jù)、自動駕駛標(biāo)注、思維鏈數(shù)據(jù)集等多個實際案例，李科展示了高質(zhì)量數(shù)據(jù)如何服務(wù)千行百業(yè)。

上海庫帕思科技有限公司董事長山棟明說，模型之變引領(lǐng)“數(shù)據(jù)質(zhì)變”，他表示高質(zhì)量數(shù)據(jù)集應(yīng)滿足VALID2（鮮活度、真實性、大樣本、完整性、多樣性、高知識密度）要求，并詳細(xì)介紹了語料數(shù)據(jù)在方法論、基礎(chǔ)設(shè)施和行業(yè)生態(tài)三個方面的體系化重構(gòu)探索。

技術(shù)創(chuàng)新推動數(shù)據(jù)價值釋放

作為第二引擎，AI技術(shù)正在深刻改變數(shù)據(jù)處理和利用的方式。

光輪智能總裁楊海波表示，具身智能對數(shù)據(jù)的需求量是大語言模型和自動駕駛的上千倍。合成數(shù)據(jù)是實現(xiàn)具身智能Scaling Law的重要基礎(chǔ)，他強(qiáng)調(diào)，合成數(shù)據(jù)必須滿足四個必備條件：真實的物理交互、人在環(huán)的示范、場景足夠豐富和數(shù)據(jù)閉環(huán)驗證。楊海波認(rèn)為，“站在岸上學(xué)不會游泳”，機(jī)器人需要進(jìn)入物理可交互的環(huán)境去獲取物理世界反饋來優(yōu)化模型。

螞蟻技術(shù)研究院數(shù)據(jù)智能實驗室負(fù)責(zé)人趙俊博認(rèn)為，下一代RL訓(xùn)練法則應(yīng)該從“對與錯”轉(zhuǎn)向“好與更好”。他探索的Rubric即Reward新機(jī)制，只需使用5k數(shù)據(jù)和1萬條評分標(biāo)準(zhǔn)構(gòu)建高效RL回路，就能擺脫對海量SFT數(shù)據(jù)的依賴，實現(xiàn)品味對齊。他說，這種方法可以在人文、創(chuàng)意、情感等領(lǐng)域?qū)崿F(xiàn)風(fēng)格化生成，去除機(jī)器味道。

LanceDB CTO徐磊分享了開源多模態(tài)數(shù)據(jù)湖的創(chuàng)新實踐。他介紹，與傳統(tǒng)的Parquet、ORC等格式不同，新設(shè)計的Lance格式既是文件格式又是表格式，具備零拷貝數(shù)據(jù)演化和高效點查兩大核心特性。徐磊舉了Runway ML的案例，該公司將PB級視頻數(shù)據(jù)導(dǎo)入Lance后，能夠像使用SQL一樣簡單管理，實現(xiàn)30多位AI工程師在同一個主表上并行進(jìn)行特征工程迭代。

NVIDIA互聯(lián)網(wǎng)解決方案架構(gòu)高級總監(jiān)陳川介紹了驅(qū)動生成式AI的高效數(shù)據(jù)處理創(chuàng)新，分享了從文本到多模態(tài)的GPU加速解決方案。

在圓桌討論環(huán)節(jié)，專家圍繞展開Data Infra的重構(gòu)與機(jī)遇深入討論。專家一致認(rèn)為，隨著計算范式的變化，數(shù)據(jù)處理技術(shù)無論主動還是被動，都需要重構(gòu)與再定義。重構(gòu)是為了解決已經(jīng)面臨的問題，再定義則是著眼于未來，解決可能面臨的問題。

本次論壇展示了數(shù)據(jù)與AI雙引擎協(xié)同發(fā)展的最新成果，為智能時代數(shù)據(jù)基礎(chǔ)設(shè)施建設(shè)提供了參考和實踐路徑。與會專家表示，只有實現(xiàn)數(shù)據(jù)與AI的深度融合，建立完善的數(shù)據(jù)標(biāo)準(zhǔn)體系和質(zhì)量評估框架，才能真正釋放智能技術(shù)的巨大潛力，推動智能時代向更高層次發(fā)展。

xiesc