
NUMA服務(wù)器的基本特征是:具有多個CPU模塊(或稱為Building Block、節(jié)點);每個CPU模塊由多個CPU(如4個)組成,并且具有獨立的本地內(nèi)存、I/O槽口等;節(jié)點之間通過互連模塊進行連接和信息交互;每個CPU可以訪問整個系統(tǒng)的內(nèi)存,顯然,訪問本地內(nèi)存的速度將遠遠高于訪問遠地內(nèi)存(系統(tǒng)內(nèi)其他節(jié)點的內(nèi)存)的速度,這也是非一致存儲訪問NUMA的由來。由于這個特點,為了更好地發(fā)揮系統(tǒng)性能,開發(fā)應(yīng)用程序時需要盡量減少不同CPU模塊之間的信息交互。
利用NUMA技術(shù),可以較好地解決原來SMP系統(tǒng)的擴展問題,在一個物理服務(wù)器內(nèi)可以支持上百個CPU。
NUMA技術(shù)的主要問題是,由于訪問遠地內(nèi)存的延時遠遠超過本地內(nèi)存,因此當(dāng)CPU數(shù)量增加時,系統(tǒng)性能無法線性增加。
和NUMA不同,MPP提供了另外一種進行系統(tǒng)擴展的方式,它由多個SMP服務(wù)器通過一定的節(jié)點互聯(lián)網(wǎng)絡(luò)進行連接,協(xié)同工作,完成相同的任務(wù),從用戶的角度來看是一個服務(wù)器系統(tǒng)。其基本特征如下:由多個SMP服務(wù)器(每個SMP服務(wù)器稱節(jié)點)通過節(jié)點互連網(wǎng)絡(luò)連接而成,每個節(jié)點只訪問自己的本地資源(內(nèi)存、存儲等),是一種完全無共享結(jié)構(gòu);擴展能力最好,理論上其擴展無限制,目前的技術(shù)可實現(xiàn)512個節(jié)點互連。
在MPP系統(tǒng)中,每個SMP節(jié)點也可以運行自己的操作系統(tǒng)、數(shù)據(jù)庫等,但和NUMA不同的是,它不存在異地內(nèi)存訪問的問題。換言之,每個節(jié)點內(nèi)的CPU不能訪問另一個節(jié)點的內(nèi)存。節(jié)點之間的信息交互是通過節(jié)點互聯(lián)網(wǎng)絡(luò)實現(xiàn)的,這個過程一般稱為數(shù)據(jù)重分配(Data Redistribution)。
MPP服務(wù)器的主要問題是:需要一種復(fù)雜的機制來調(diào)度和平衡各個節(jié)點的負載和并行處理過程。目前一些基于MPP技術(shù)的服務(wù)器往往通過系統(tǒng)級軟件(如數(shù)據(jù)庫)來屏蔽這種復(fù)雜性?;诖祟悢?shù)據(jù)庫來開發(fā)應(yīng)用時,不管后臺服務(wù)器由多少個節(jié)點組成,開發(fā)人員所面對的都是同一個數(shù)據(jù)庫系統(tǒng),而不需要考慮如何調(diào)度其中某幾個節(jié)點的負載。
NUMA與MPP的區(qū)別
通過分析NUMA和MPP服務(wù)器的內(nèi)部架構(gòu)和工作原理不難發(fā)現(xiàn)其差異所在。
節(jié)點互聯(lián)機制不同。NUMA的節(jié)點互聯(lián)機制是在同一個物理服務(wù)器內(nèi)部實現(xiàn),當(dāng)某個CPU需要進行遠地內(nèi)存訪問時,它必須等待,這也是NUMA服務(wù)器無法實現(xiàn)CPU增加時性能線性擴展的主要原因。而MPP的節(jié)點互聯(lián)機制是在不同的SMP服務(wù)器外部通過I/O實現(xiàn)的,每個節(jié)點只訪問本地內(nèi)存和存儲,節(jié)點之間的信息交互與節(jié)點本身的處理是并行進行的。因此,MPP在增加節(jié)點時性能基本上可以實現(xiàn)線性擴展。
內(nèi)存訪問機制不同。在NUMA服務(wù)器內(nèi)部,任何一個CPU可以訪問整個系統(tǒng)的內(nèi)存,但遠地訪問的性能遠遠低于本地內(nèi)存訪問,因此在開發(fā)應(yīng)用程序時應(yīng)該盡量避免遠地內(nèi)存訪問。在MPP服務(wù)器中,每個節(jié)點只訪問本地內(nèi)存,不存在遠地內(nèi)存訪問的問題。

哪種服務(wù)器技術(shù)更適合于數(shù)據(jù)倉庫環(huán)境?
回答這個問題,需要從數(shù)據(jù)倉庫環(huán)境本身的負載特征入手。典型的數(shù)據(jù)倉庫環(huán)境具有大量復(fù)雜的數(shù)據(jù)處理和綜合分析,要求系統(tǒng)具有很高的I/O處理能力,并且存儲系統(tǒng)需要提供足夠的I/O帶寬與之匹配。
從NUMA架構(gòu)來看,它可以在一個物理服務(wù)器內(nèi)集成許多CPU,使系統(tǒng)具有較高的事務(wù)處理能力,由于遠地內(nèi)存訪問時延遠長于本地內(nèi)存訪問,因此需要盡量減少不同CPU模塊之間的數(shù)據(jù)交互。顯然,NUMA架構(gòu)當(dāng)用于數(shù)據(jù)倉庫環(huán)境時,由于大量復(fù)雜的數(shù)據(jù)處理必然導(dǎo)致大量的數(shù)據(jù)交互,將使CPU的利用率大大降低。
相對而言,MPP服務(wù)器架構(gòu)的并行處理能力更優(yōu)越,更適合于復(fù)雜的數(shù)據(jù)綜合分析與處理環(huán)境。當(dāng)然,它需要借助于支持MPP技術(shù)的關(guān)系數(shù)據(jù)庫系統(tǒng)來屏蔽節(jié)點之間負載平衡與調(diào)度的復(fù)雜性。另外,這種并行處理能力也與節(jié)點互聯(lián)網(wǎng)絡(luò)有很大的關(guān)系。顯然,適應(yīng)于數(shù)據(jù)倉庫環(huán)境的MPP服務(wù)器,其節(jié)點互聯(lián)網(wǎng)絡(luò)的I/O性能應(yīng)該非常突出,才能充分發(fā)揮整個系統(tǒng)的性能。(本文作者為NCR中國存儲事業(yè)部產(chǎn)品經(jīng)理。