深思考人工智能，是一家專注類腦人工智能與多模態(tài)大模型的高新科技公司，有著長期的技術(shù)積累。深思考人工智能在多模態(tài)深度語義理解、人機(jī)交互等技術(shù)方面具有領(lǐng)先優(yōu)勢，已將大模型深度應(yīng)用于智慧醫(yī)療、智能終端等場景中。

深思考人工智能表示，此次合作標(biāo)志著國產(chǎn)端側(cè)AI技術(shù)在低功耗、高性能領(lǐng)域?qū)崿F(xiàn)重大突破，打破“國產(chǎn)算力性能不足”的固有認(rèn)知?！澳Ｐ?硬件+生態(tài)”的三位一體方案，也為智能終端廠商提供便捷的端側(cè)AI能力，加速賦能各行業(yè)。

推出超小端側(cè)多模態(tài)大模型與算力模組

AI向終端普及的前提是擁有足夠輕量化的端側(cè)大模型。傳統(tǒng)大模型能耗大、對存儲空間需求大。只有通過參數(shù)壓縮實(shí)現(xiàn)輕量化的模型，才能降低成本，部署到終端設(shè)備中。

深思考人工智能創(chuàng)始人兼CEO楊志明博士認(rèn)為，在降低大模型參數(shù)的同時，要保持性能穩(wěn)定，避免“盆景式壓縮”，導(dǎo)致參數(shù)減少，效果驟降。

本次發(fā)布的TinyDongni和DeepSeek系列端側(cè)多模態(tài)大模型，都在減少參數(shù)的同時，保證了良好的應(yīng)用效果。

例如，TinyDongni端側(cè)多模態(tài)大模型采用了創(chuàng)新量化方法，將參數(shù)規(guī)模壓縮至1.5B。在極簡參數(shù)規(guī)模中，TinyDongni實(shí)現(xiàn)了高效運(yùn)算，還能顯著降低首Token延遲，支持32K超長上下文理解。此外，TinyDongni通過多芯片協(xié)同處理與內(nèi)存優(yōu)化技術(shù)，兼顧了低功耗與高響應(yīng)速度。

而DeepSeek系列則聚焦多模態(tài)能力，1B模型通過2048隱藏層維度與32注意力頭設(shè)計(jì)，強(qiáng)化復(fù)雜場景下的語義理解。模型聚焦高頻詞與專用詞，內(nèi)存占用降低了30%，適配智能硬件與邊緣計(jì)算場景。

為便捷各行業(yè)使用，深思考人工智能還聯(lián)合深開鴻、廣和通，推出了兩大解決方案，打造“即插即用”的端側(cè)AI標(biāo)準(zhǔn)化產(chǎn)品。

深思考人工智能與深開鴻深度合作，基于深開鴻智能硬件設(shè)備，深思考人工智能發(fā)布全自研、基于開源鴻蒙操作系統(tǒng)的端側(cè)多模態(tài)大模型，以及基于DeepSeek低比特量化模型的模組。

深開鴻模組配置了瑞芯微RK3588 芯片和OpenHarmony系統(tǒng)，具有較強(qiáng)的影像處理能力，支持8K解碼與多屏交互，將賦能工業(yè)檢測、AI攝像頭等高精度場景。

廣和通模組配置了高通QCS8550芯片，集成了高性能圖形引擎和綜合算力達(dá)48TOPS的AI引擎。依托深思考人工智能的算法優(yōu)化，該模組可為車載、機(jī)器人等場景提供實(shí)時AI處理能力。此外，深思考人工智能與鴻蒙系統(tǒng)已調(diào)通，并匹配了廣和通模組。

模組方案的推出，一方面降低了AI智能硬件的技術(shù)門檻，將AI智能硬件的開發(fā)周期縮短了50%。另一方面，在國產(chǎn)算力硬件上跑通大模型，也證明了深思考人工智能技術(shù)的輕量化與高效能，其大模型無需依賴高算力硬件，即可處理復(fù)雜任務(wù)。

目前，端側(cè)多模態(tài)大模型和兩大算力模組可兼容OpenHarmony、Windows、Android、linux等主流操作系統(tǒng)，滿足跨平臺部署需求。

其中，鴻蒙生態(tài)終端可無縫接入深思考人工智能的AI能力。華為OpenHarmony使能部AI技術(shù)專家劉小飛表示，“OpenHarmony一直在積極探索大模型在各個領(lǐng)域的應(yīng)用，雙方合作將加速AI PC、AI手機(jī)等智能終端的全場景應(yīng)用，推動端側(cè)AI技術(shù)普及?！?/p>

TinyDongni交互的幾大優(yōu)勢

深思考人工智能在AI領(lǐng)域積累深厚。核心團(tuán)隊(duì)來自于中科院、清華、耶魯大學(xué)，由一線的AI科學(xué)家及業(yè)務(wù)專家組成。在多模態(tài)深度語義理解與人機(jī)交互技術(shù)方面，深思考人工智能具有突出優(yōu)勢。

2018年，深思考人工智能就發(fā)布了世界首個醫(yī)學(xué)影像專用AI處理器，將AI技術(shù)成功應(yīng)用于智慧醫(yī)療大健康領(lǐng)域中。2020年，深思考人工智能還開發(fā)了國內(nèi)第一代生成式語言大模型，經(jīng)過迭代后，該模型成為深思考人工智能的核心產(chǎn)品Dongni.ai。

作為深思考人工智能自主研發(fā)的類腦多模態(tài)、跨模態(tài)大模型，Dongni.ai具有多模態(tài)、可解釋性、實(shí)時性、可溯源性、輸出結(jié)果可控性、情感能力等優(yōu)勢。目前，Dongni.ai已運(yùn)用于智能終端人機(jī)交互和智慧醫(yī)療兩大產(chǎn)品線。

基于強(qiáng)大的AI研發(fā)能力、以及對AI落地應(yīng)用的深入理解，深思考人工智能的TinyDongni端側(cè)多模態(tài)大模型，在搜索引擎方面有以下特點(diǎn)。

首先是端側(cè)多模態(tài)交互，能提供文件、圖像、視頻搜索。其詞匯表達(dá)18.3萬，覆蓋了法律、醫(yī)療、教育等場景。同時TinyDongni具備深度語義理解模糊搜索能力，大幅提高搜索效率。深思考人工智能推出的“Her”模式，還能與用戶進(jìn)行深度的情感交流與對話，在手機(jī)、電腦、機(jī)器人等終端打造個性化陪伴體驗(yàn)。

其次，TinyDongni支持海外13個國家和地區(qū)搜索。在使用中，TinyDongni可根據(jù)所選國家，搜索海外當(dāng)?shù)卣Z言信息，并提供中文及當(dāng)?shù)卣Z言兩種語言搜索結(jié)果，大幅提高工作效率。

最后，TinyDongni學(xué)習(xí)了1687萬篇全球權(quán)威醫(yī)學(xué)論文，深度賦能醫(yī)學(xué)場景。

醫(yī)學(xué)領(lǐng)域是深思考人工智能長期深耕的優(yōu)勢賽道，基于“重疾早篩”這一垂直場景，深思考人工智能完成了超10萬例臨床回顧性分析和驗(yàn)證，擁有百萬級高質(zhì)量數(shù)據(jù)。截至2024年，深思考人工智能僅宮頸癌篩查量就超過了3000萬人份。

在深思考人工智能醫(yī)學(xué)專業(yè)知識的賦能下，TinyDongni能幫助醫(yī)學(xué)用戶提升工作效率，還為普通用戶提供專家咨詢、健康報(bào)告單解讀等服務(wù)。

推動AI普惠，賦能各行業(yè)

事實(shí)上，深思考人工智能端側(cè)多模態(tài)大模型已在多個領(lǐng)域落地。

例如，在存儲領(lǐng)域，利用深思考的輕量化大模型技術(shù)，可對存儲設(shè)備的數(shù)據(jù)進(jìn)行多模態(tài)搜索，通過自然語言來實(shí)現(xiàn)對存儲中的信息，進(jìn)行語義級別地搜索圖片、視頻、文件。

在醫(yī)療領(lǐng)域，深思考人工智能聯(lián)合打造的醫(yī)學(xué)顯微鏡，在本地離線運(yùn)行，能確保數(shù)據(jù)安全。該醫(yī)學(xué)顯微鏡還能加載可拓展AI分析模塊，通過加密分析與擴(kuò)展模塊，提升病理檢測穩(wěn)定性與效率。

此外，在AI PC Suite上，提供本地文件模糊搜索、PPT自動生成及同聲翻譯，保障數(shù)據(jù)安全。在智能汽車中，TinyDongni融合手勢、語音、圖像多模態(tài)交互，實(shí)時解析車內(nèi)外環(huán)境。在人形和萌寵機(jī)器人中，TinyDongni的“Her”模式，也能進(jìn)行良好的人機(jī)互動。

華為OpenHarmony使能部AI技術(shù)專家劉小飛舉例，2024年4月，OpenHarmony的Laval社區(qū)和深思考人工智能，合作推出了OpenHarmony專屬智能問答助手“小瓦AI答”。上線至今，小瓦AI答已經(jīng)服務(wù)了9000多名開發(fā)者，回答了3萬多個問題。

“正是靠著深思考人工智能Dongni多模態(tài)大模型技術(shù)，Laval社區(qū)才能服務(wù)更多開發(fā)者，實(shí)時解答問題，社區(qū)和用戶互動反饋的體驗(yàn)也更好了。”他說道。

據(jù)QYResearch預(yù)測，全球端側(cè)AI市場規(guī)模將以超20%的年復(fù)合增長率擴(kuò)張，2025年達(dá)數(shù)百億美元。相關(guān)分析也指出，到2028年端側(cè)推理和微調(diào)卡銷售額將超過云側(cè)訓(xùn)練卡，標(biāo)志端側(cè)商業(yè)模式的重大轉(zhuǎn)變。

端側(cè)AI將成為AI普惠化的重要支柱，重塑產(chǎn)業(yè)鏈格局。在端側(cè)AI的發(fā)展浪潮中，深思考人工智能創(chuàng)始人兼CEO楊志明認(rèn)為：“深思考鴻蒙系統(tǒng)TinyDongni&DeepSeek超小端側(cè)多模態(tài)大模型及硬件模組的發(fā)布，不僅是技術(shù)突破，更是端側(cè)AI普惠化的里程碑。未來，深思考人工智能將持續(xù)優(yōu)化多模態(tài)交互能力，推動AI在醫(yī)療、工業(yè)、消費(fèi)等領(lǐng)域的深度應(yīng)用?！?/p>

分享到

崔歡歡

相關(guān)推薦