華為云新一代全場(chǎng)景智能數(shù)據(jù)湖
相較于傳統(tǒng)的數(shù)據(jù)庫分析系統(tǒng)及業(yè)界普遍宣傳的以對(duì)象存儲(chǔ)為底座的數(shù)據(jù)湖產(chǎn)品,華為云新一代全場(chǎng)景智能數(shù)據(jù)湖,具有高性價(jià)比、敏捷智能應(yīng)用以及全場(chǎng)景等優(yōu)勢(shì):
極速:基于華為云多元新架構(gòu)和多樣算力的新一代智能數(shù)據(jù)湖,具有超高算力,并通過對(duì)存儲(chǔ)層、大數(shù)據(jù)引擎的優(yōu)化,實(shí)現(xiàn)30%的系統(tǒng)性能提升。
敏捷智能:華為云大數(shù)據(jù)處理引擎具備智能、自學(xué)習(xí)及自調(diào)優(yōu)的特點(diǎn)。智能數(shù)據(jù)運(yùn)營(yíng)平臺(tái)DAYU能夠?qū)崿F(xiàn)全流程、可視、支持行業(yè)化模板,幫助客戶把大數(shù)據(jù)治理的時(shí)間從原來的“周”縮短到“分鐘”,實(shí)現(xiàn)分鐘級(jí)敏捷創(chuàng)新。
全場(chǎng)景:新一代的智能數(shù)據(jù)湖能夠讓企業(yè)的數(shù)據(jù)工程師、數(shù)據(jù)分析師以及數(shù)據(jù)科學(xué)家等多角色在同一個(gè)平臺(tái)上工作,解決了多團(tuán)隊(duì)各自為政,多個(gè)數(shù)據(jù)散落在各個(gè)團(tuán)隊(duì)中,數(shù)據(jù)需要不斷導(dǎo)入導(dǎo)出,無法有效管理的問題。全場(chǎng)景智能數(shù)據(jù)湖支持統(tǒng)一的索引機(jī)制、統(tǒng)一的存儲(chǔ)機(jī)制、統(tǒng)一的大數(shù)據(jù)引擎,可以幫助企業(yè)多角色在同一平臺(tái)上工作,無需多次搬運(yùn)數(shù)據(jù),無需處理多種索引,一個(gè)平臺(tái)支持多類業(yè)務(wù)應(yīng)用,給企業(yè)應(yīng)用帶來極大的敏捷性和便利性。
全棧高性價(jià)比:華為鯤鵬芯片在大數(shù)據(jù)場(chǎng)景下具有天然的優(yōu)勢(shì):多核帶來的更強(qiáng)算力,高集成度以及更大的網(wǎng)絡(luò)帶寬,并內(nèi)置了壓縮、加解密等很多常用算法。華為云新一代智能數(shù)據(jù)湖服務(wù)基于鯤鵬芯片進(jìn)行了全棧架構(gòu)優(yōu)化,通過向量化處理加速,讓數(shù)據(jù)掃描得飛快。通過分級(jí)鎖架構(gòu),揚(yáng)長(zhǎng)避短,減少多線程對(duì)于臨界資源的隨機(jī)競(jìng)爭(zhēng),更好地發(fā)揮了鯤鵬的多核優(yōu)勢(shì),在計(jì)算、I/O密集的場(chǎng)景下,可以幫助數(shù)據(jù)湖服務(wù)達(dá)到最高性價(jià)比。
華為云新一代全場(chǎng)景智能數(shù)據(jù)湖背后,包括了三個(gè)核心的創(chuàng)新技術(shù)點(diǎn)。
?統(tǒng)一數(shù)據(jù)存儲(chǔ)、高效計(jì)算、智能加速
華為云智能數(shù)據(jù)湖實(shí)現(xiàn)一個(gè)平臺(tái)一份數(shù)據(jù)支撐企業(yè)多角色協(xié)同工作,通過將CarbonData和對(duì)象存儲(chǔ)服務(wù)OBS的技術(shù)結(jié)合,實(shí)現(xiàn)一份數(shù)據(jù)存儲(chǔ)多場(chǎng)景應(yīng)用。通過創(chuàng)新的多級(jí)別多維度的索引技術(shù),能夠讓索引自適應(yīng)調(diào)整,能夠一份數(shù)據(jù)多個(gè)索引滿足不同的場(chǎng)景,提升了10倍以上的數(shù)據(jù)存儲(chǔ)IO性能。通過CarbonData數(shù)據(jù)引擎,加速數(shù)據(jù)的訪問和一致性,在業(yè)界領(lǐng)先的計(jì)算和存儲(chǔ)分離架構(gòu)下,通過支持彈性伸縮,分級(jí)存儲(chǔ),競(jìng)價(jià)實(shí)例等,成本可降低高達(dá)80%,同時(shí)在存儲(chǔ)加速,緩存加速,計(jì)算引擎加速等多級(jí)加速技術(shù)支持下,性能高于自建100%。
業(yè)界領(lǐng)先的某視頻直播廠商,對(duì)于性能和穩(wěn)定性要求極高,遷移到華為云后,相比自建的IDC,性能提升218%。
?數(shù)據(jù)+AI協(xié)同,自動(dòng)學(xué)習(xí),自動(dòng)調(diào)優(yōu)
通過將AI技術(shù)引入大數(shù)據(jù)引擎,實(shí)現(xiàn)自學(xué)習(xí)大數(shù)據(jù)引擎。在數(shù)據(jù)處理過程中,自動(dòng)感知數(shù)據(jù)的特點(diǎn),自動(dòng)學(xué)習(xí),并對(duì)大數(shù)據(jù)處理進(jìn)行自動(dòng)調(diào)優(yōu),進(jìn)一步提升了大數(shù)據(jù)性能。
?智能數(shù)據(jù)運(yùn)營(yíng)平臺(tái)DAYU,加速企業(yè)敏捷創(chuàng)新
華為云智能數(shù)據(jù)運(yùn)營(yíng)平臺(tái)DAYU
華為云DAYU是一站式的數(shù)據(jù)運(yùn)營(yíng)平臺(tái),希望為企業(yè)提供數(shù)據(jù)治理的敏捷可視、自助分析、快速開發(fā)、全局治理,并能對(duì)數(shù)據(jù)湖中的數(shù)據(jù)具備高效探索的能力,幫助企業(yè)實(shí)現(xiàn)數(shù)據(jù)“找得到,管得住,用得好”。某跨境電商遷移到華為云后,性能上提升100%,成本上降低60%。
截至目前,華為云智能數(shù)據(jù)湖已廣泛應(yīng)用于金融、醫(yī)學(xué)、物流、互聯(lián)網(wǎng)、汽車、政府等行業(yè)。