圖1：大數(shù)據(jù)、快速數(shù)據(jù)和RISC-V機會

在圖中，云數(shù)據(jù)中心服務器利用在大型大數(shù)據(jù)集上訓練的深度學習神經(jīng)網(wǎng)絡來執(zhí)行機器學習的功能。在圖1b中，邊緣設備中的安全攝像機采用經(jīng)過大數(shù)據(jù)訓練的推理引擎來實時識別圖像（快速數(shù)據(jù)）。在圖1c中，智能固態(tài)硬盤設備采用推理引擎進行數(shù)據(jù)識別和分類，從而有效地利用了此設備的帶寬。圖1展示了RISC-V內(nèi)核的潛在機會，它可以自由地添加專有的及未來標準化的矢量指令，這些指令對于處理深度學習和推理技術(shù)相當有效。

另一個類似且重要的趨勢是大數(shù)據(jù)端和云端上數(shù)據(jù)的移動及訪問方式（圖2）。傳統(tǒng)的計算機體系結(jié)構(gòu)（圖2a）采用慢速外圍總線，該總線連接到許多其他設備（例如，專用機器學習加速器、圖形卡、高速固態(tài)硬盤、智能網(wǎng)絡控制器，等等）。低速總線會影響設備的利用率，因為它限制了總線本身、主CPU以及主要的潛在持久內(nèi)存之間的通信能力。這些新型計算設備也不可能在它們之間或與主CPU共享內(nèi)存，從而導致在慢速總線上進行徒勞且受限制的數(shù)據(jù)移動。

關(guān)于如何改善不同計算設備（例如CPU和計算機及網(wǎng)絡加速器）之間的數(shù)據(jù)移動，以及如何在內(nèi)存或快速存儲中訪問數(shù)據(jù)，出現(xiàn)了幾個重要的行業(yè)趨勢。這些新趨勢集中在開放標準化工作上，能夠提供更快、更低延遲的串行結(jié)構(gòu)以及更智能的邏輯協(xié)議，從而實現(xiàn)對共享內(nèi)存的一致訪問。

新一代以數(shù)據(jù)為中心的計算

未來的架構(gòu)將需要部署開放接口，以連接到持久性內(nèi)存以及接入計算加速器并支持高速緩存一致性的快速總線（例如TileLink、RapidIO?、OpenCAPI?和Gen-Z），以期大幅度提高性能，而且使所有設備共享內(nèi)存并減少不必要的數(shù)據(jù)移動。

圖2：計算體系結(jié)構(gòu)中的數(shù)據(jù)移動和訪問

在圖2a中，傳統(tǒng)的計算體系結(jié)構(gòu)由于把一條慢速外設總線用于快速存儲器及計算加速設備，其能力已達到其極限。在圖2b中，未來的計算體系結(jié)構(gòu)采用了開放接口，能夠為平臺上所有的計算資源提供統(tǒng)一并支持高速緩存一致性的訪問方式來訪問共享持久內(nèi)存，（這稱為以數(shù)據(jù)為中心的體系結(jié)構(gòu)）。在圖2c中，所部署的設備能夠使用相同的共享內(nèi)存，從而減少了不必要的數(shù)據(jù)復制。

CPU 外圍核心及網(wǎng)絡接口控制器的作用將成為支持數(shù)據(jù)移動的關(guān)鍵因素。CPU外圍核心組件必須支持密鑰內(nèi)存和永久內(nèi)存接口（例如NVDIMM-P），也必須支持駐留在CPU附近的內(nèi)存。還需要實施面向計算加速器、智能網(wǎng)絡和遠程持久內(nèi)存的智能快速總線。這種總線上的任何設備（例如CPU、通用或?qū)Ｓ糜嬎慵铀倨?、網(wǎng)絡適配器、存儲器或內(nèi)存）都可以包含其自己的計算資源并具有訪問共享內(nèi)存的能力（圖2b和圖2c）。

RISC-V技術(shù)正是優(yōu)化數(shù)據(jù)移動的關(guān)鍵推動因素，因為它能夠在所有的計算加速器設備上針對新的機器學習工作負載來執(zhí)行矢量指令。它實現(xiàn)了多種開源CPU技術(shù)，能夠支持開放內(nèi)存和智能總線接口；且實現(xiàn)了以數(shù)據(jù)為中心具有一致性共享內(nèi)存的體系結(jié)構(gòu)。

利用RISC-V解決挑戰(zhàn)

大數(shù)據(jù)和快速數(shù)據(jù)為未來的數(shù)據(jù)移動帶來了挑戰(zhàn)，也為RISC-V指令集架構(gòu)（ISA）鋪平了道路。這種架構(gòu)開放的、模塊化的方法非常適合用作以數(shù)據(jù)為中心的計算體系結(jié)構(gòu)的基礎(chǔ)。它提供了以下功能：

• 擴展邊緣計算設備的計算資源
• 添加新的指令，例如用于機器學習工作負載的矢量指令
• 尋找非常接近于存儲器和內(nèi)存介質(zhì)的小型計算內(nèi)核
• 支持新型計算范式以及模塊化芯片設計方法
• 支持新型以數(shù)據(jù)為中心的體系結(jié)構(gòu)，其中所有的處理單元都可以透過一致的方式訪問共享的持久內(nèi)存，從而優(yōu)化數(shù)據(jù)移動

RISC-V由超過100個組織機構(gòu)的眾多成員共同開發(fā)，這其中包含一個由軟件和硬件創(chuàng)新者組成的協(xié)作性社區(qū)。這些創(chuàng)新者能夠?qū)SA進行改編，使其適應特定的目的或項目。任何加入該組織的人都可以根據(jù)一份“Berkeley Software Distribution”（BSD軟件發(fā)布）許可證來設計、制造和/或銷售RISC-V芯片和軟件。

結(jié)語

為了實現(xiàn)其價值和可能性，數(shù)據(jù)需要捕獲、保存、訪問并轉(zhuǎn)換，以發(fā)揮其全部潛力。含有大數(shù)據(jù)和快速數(shù)據(jù)應用的環(huán)境已經(jīng)使通用計算體系結(jié)構(gòu)的處理能力相形見絀。未來以數(shù)據(jù)為中心的極端應用將需要針對特定用途設計的處理能力，以便以開放的方式支持數(shù)據(jù)資源的獨立擴展。

擁有一套以在持久內(nèi)存中存儲的數(shù)據(jù)為中心的通用開放計算機體系結(jié)構(gòu)，同時又能夠讓所有的設備發(fā)揮一定的計算作用，這是由新類型機器學習計算工作負載所推動的這些新型可擴展體系結(jié)構(gòu)得以出現(xiàn)的關(guān)鍵因素?？缭皆贫思斑吘壴O備各個部分的下一代應用都需要這種新型的低能耗處理方式，因為專門的計算加速處理器將能夠?qū)Ｗ⒂谔幚砥涫诌叺娜蝿?，從而能夠減少來回移動數(shù)據(jù)所浪費的時間，或者能夠執(zhí)行與數(shù)據(jù)無關(guān)的額外計算。通過發(fā)揮數(shù)據(jù)的力量、潛力和可能性，人類、社會以及我們的星球都能夠蓬勃發(fā)展。

本文作者：西部數(shù)據(jù)公司, 研發(fā)工程部 新一代平臺技術(shù)高級總監(jiān)Zvonimir Bandic博士

songjy