Oracle 不僅提供集成且無(wú)縫的 AI 體驗(yàn),還可以在您需要的任何地方提供 AI 產(chǎn)品。您可以在 Oracle Cloud 中使用 Oracle 云基礎(chǔ)設(shè)施遠(yuǎn)程軟件服務(wù)(Oracle Cloud Infrastructure, OCI) Generative AI 利用公有云的優(yōu)勢(shì),按需擴(kuò)展解決方案、定制模型并為企業(yè)創(chuàng)建專用模型端點(diǎn)。借助 OCI Dedicated Region,Oracle 還可以在您的數(shù)據(jù)中心內(nèi)提供生成式 AI 服務(wù),讓您可以將生成式 AI 功能與本地?cái)?shù)據(jù)和應(yīng)用相結(jié)合。
Wikibon 首席研究官 Dave Vellante 表示:“Oracle 在企業(yè)生成式 AI 方面采用了全棧方法。Oracle 的價(jià)值始于堆棧的頂端,而不是硅。通過(guò)在 Oracle Fusion SaaS 應(yīng)用中提供集成的生成式 AI,Oracle 將與客戶業(yè)務(wù)價(jià)值建立直接關(guān)聯(lián)。這些應(yīng)用由自帶向量嵌入的自治數(shù)據(jù)庫(kù)提供支持,并在 OCI 中的高性能基礎(chǔ)設(shè)施上運(yùn)行,或者通過(guò) Dedicated Region 在本地運(yùn)行。這些產(chǎn)品構(gòu)成了高度差異化的企業(yè) AI 策略,涵蓋了從開(kāi)箱即用的 RAG,各種微調(diào)模型,再到整個(gè)集成堆棧中的 AI 技術(shù)。據(jù) Oracle 研究表明,2023 年是 AI 實(shí)驗(yàn)?zāi)?。有了這些優(yōu)勢(shì),我們希望 2024 年能夠成為 AI 領(lǐng)域投資的豐收年?!?/p>
Oracle 如何提供這些功能?
今天,我們很高興地宣布推出一系列創(chuàng)新成果,包括新服務(wù)和新功能,為您的生成式 AI 之旅保駕護(hù)航。
全新:OCI Generative AI 服務(wù)正式發(fā)行版
隨著 AI 策略的進(jìn)展,Oracle 宣布正式推出 OCI Generative AI 服務(wù),這是一個(gè)能夠?qū)?LLM 無(wú)縫集成到各種企業(yè)用例中的托管服務(wù)。
OCI Generative AI 服務(wù)現(xiàn)在支持 Meta 的 Llama 2 和 Cohere 的模型,并包含了 100 多種語(yǔ)言的多語(yǔ)言嵌入功能。Oracle 還做出了一些改進(jìn),讓您能夠更輕松地結(jié)合使用 LLM 與 LangChain 集成、端點(diǎn)管理和內(nèi)容審核等功能。
OCI Generative AI 也包含了經(jīng)過(guò)優(yōu)化的 GPU 集群管理體驗(yàn),包括為主機(jī)集群提供多端點(diǎn)支持,支持通過(guò)擴(kuò)展集群處理更多模型請(qǐng)求,以及提供端點(diǎn)分析。
OCI Generative AI 服務(wù)現(xiàn)在還支持企業(yè)對(duì) Cohere 的 Command 52/6B 模型進(jìn)行靈活微調(diào),讓企業(yè)可以有信心地確保他們的 AI 適應(yīng)了特定業(yè)務(wù)環(huán)境。
借助 OCI Generative AI 服務(wù),客戶可以處理各種用例,包括:
· 客戶運(yùn)營(yíng):根據(jù)客戶的產(chǎn)品套件、體驗(yàn)和語(yǔ)言實(shí)現(xiàn)自動(dòng)化客戶服務(wù)。
· 市場(chǎng)營(yíng)銷:基于買家檔案和使用歷史記錄,大規(guī)模進(jìn)行個(gè)性化搜索、推廣和客戶培養(yǎng)。
· 銷售:構(gòu)建虛擬銷售代表,引導(dǎo)潛在客戶認(rèn)識(shí)產(chǎn)品和下單。
· 風(fēng)險(xiǎn)和法務(wù):在多語(yǔ)言支持下基于現(xiàn)有優(yōu)秀實(shí)踐,加快合同編寫和起草流程。
· 策略和財(cái)務(wù):通過(guò)公共和私有信息來(lái)源,大規(guī)模監(jiān)視競(jìng)爭(zhēng)對(duì)手和客戶動(dòng)態(tài)。
全新:OCI Generative AI Agents(測(cè)試版)
我們推出了 OCI Generative AI Agents 服務(wù)的測(cè)試版。Agent 主要負(fù)責(zé)將用戶查詢轉(zhuǎn)換為任務(wù),由 Generative AI 組件(搜索工具、文檔語(yǔ)料庫(kù)、LLM、響應(yīng)生成等)執(zhí)行并響應(yīng)。OCI Generative AI Agents 系列中首個(gè)亮相的是檢索增強(qiáng)生成 (RAG) Agent。RAG Agent 可通過(guò) OCI OpenSearch 查詢內(nèi)部數(shù)據(jù),彌補(bǔ) LLM 通用知識(shí)的不足,進(jìn)而提供符合情境的答案?,F(xiàn)在,用戶可以使用自然語(yǔ)言透明地訪問(wèn)各種企業(yè)數(shù)據(jù)集,無(wú)需掌握專業(yè)知識(shí),也無(wú)需知道數(shù)據(jù)的格式或存儲(chǔ)位置。
舉個(gè)例子,當(dāng)終端用戶要求 AI Agent 匯總與請(qǐng)病假相關(guān)的人力資源政策時(shí),查詢會(huì)向模型發(fā)出指令,以便在內(nèi)部文檔庫(kù)中搜索相關(guān)政策。然后,該模型使用 RAG 功能提取相關(guān)段落,基于這些信息生成人類語(yǔ)言響應(yīng),并附上相關(guān)源文檔的超鏈接。然后,AI Agent 將以自然語(yǔ)言向最終用戶提供響應(yīng)結(jié)果。用戶可以針對(duì)相關(guān)政策繼續(xù)進(jìn)行提問(wèn),AI Agent 也會(huì)繼續(xù)根據(jù)對(duì)話情境回答問(wèn)題,提供準(zhǔn)確且類人的體驗(yàn)。在該服務(wù)的未來(lái)迭代中,終端用戶將能夠提示 AI Agent 采取進(jìn)一步操作,例如編輯原始文檔或進(jìn)行 HR 系統(tǒng)更新。
OCI Generative AI Agents 的初始測(cè)試版支持 OpenSearch 訪問(wèn)內(nèi)部企業(yè)數(shù)據(jù),未來(lái)即將推出的其它版本將支持更多 LLM,并支持通過(guò) AI Vector Search 訪問(wèn) Oracle Database 23c 以及通過(guò) Vector Store 訪問(wèn) MySQL HeatWave。如此一來(lái),用戶可以構(gòu)建能夠自動(dòng)與 Oracle 和第三方應(yīng)用交互的 Agent,并指導(dǎo) Agent 根據(jù)查詢結(jié)果采取行動(dòng)。
全新:OCI Data Science AI Quick Actions 特性
OCI Data Science AI Quick Actions 是 OCI Data Science 服務(wù)的一個(gè)無(wú)代碼功能,支持用戶訪問(wèn)各種開(kāi)源 LLM,包括 Meta、Mistral AI 等。在正式發(fā)行版中,這個(gè)功能以預(yù)計(jì)將提供更廣泛的開(kāi)源 LLM 選項(xiàng)以供訪問(wèn)。
OCI Data Science Quick Actions 讓用戶可以訪問(wèn)一系列的精選模型,并使用自己的數(shù)據(jù)進(jìn)行微調(diào)、評(píng)估和部署。同時(shí),該功能還包含了一個(gè)完整的生態(tài)系統(tǒng),其中包括用戶友好的工作流、集成的遙測(cè)和可視化功能以及簡(jiǎn)化的執(zhí)行流程。
在正式發(fā)行版中,AI Quick Actions 將為您提供:
· 驗(yàn)證和環(huán)境預(yù)檢查
· 精選預(yù)測(cè)試模型列表,包括 LLM
· 多個(gè)精選部署方案
· 模型搜索和篩選功能,可靈活選擇符合客戶需求的模型
· 只需點(diǎn)擊幾下即可執(zhí)行微調(diào)任務(wù)的界面,提供指導(dǎo)步驟
· 可以直接從控制臺(tái)執(zhí)行的微調(diào)監(jiān)視任務(wù)
· 用于快速測(cè)試已部署模型的練習(xí)區(qū)功能
OCI Generative AI 已集成到 Oracle 數(shù)據(jù)庫(kù)和 Oracle Cloud Apps 等技術(shù)堆棧中
Oracle Fusion Cloud Applications、Oracle NetSuite 和 Oracle Health 及其他行業(yè)應(yīng)用將新增生成式 AI 功能,該功能由 OCI Generative AI 中的模型提供支持。初始用例將側(cè)重于匯總和輔助創(chuàng)作,例如匯總績(jī)效復(fù)核結(jié)果、輔助編寫職務(wù)說(shuō)明、輔助創(chuàng)建目標(biāo)、撰寫知識(shí)文章以及生成相關(guān)的客戶服務(wù)電子郵件。員工可以在日常辦公的軟件環(huán)境中獲得這些 AI 功能,進(jìn)而提高他們?cè)诤诵娜蝿?wù)和工作流方面的生產(chǎn)力和效率。
當(dāng)然,Oracle 還將生成式 AI 功能嵌入到數(shù)據(jù)庫(kù)組合中。帶有 AI Vector Search 的 Oracle Database 23c 和帶有 Vector Store 的 MySQL HeatWave 雙雙提供了 RAG 功能,讓用戶可以將內(nèi)部數(shù)據(jù)與 LLM 相結(jié)合,從而根據(jù)提示生成更準(zhǔn)確、更符合情境的答案。
此外,通過(guò) Autonomous Database Select AI,客戶可以在與 Oracle 自治數(shù)據(jù)庫(kù)交互時(shí)使用自然語(yǔ)言進(jìn)行 LLM 查詢,再也無(wú)須編寫 SQL 腳本。有鑒于此,客戶能夠在應(yīng)用開(kāi)發(fā)中更快地采用 AI。企業(yè)及其客戶可以使用與 Oracle Database AI Vector Search 相結(jié)合的 Select AI 自然語(yǔ)言界面,更快、更直觀地從自己的數(shù)據(jù)獲取洞察。例如,零售商可以按需獲得自定義庫(kù)存洞察,受監(jiān)管組織的員工則可以快速查詢大量的法規(guī)來(lái)檢查合規(guī)性。
Oracle AI:即將推出的增強(qiáng)功能
除了發(fā)展生成式 AI 之外,Oracle 也將繼續(xù)改進(jìn)現(xiàn)有的 AI 產(chǎn)品。Oracle 的策略是為企業(yè)提供多種選擇,確保您取得成功。因此,我們將為您提供多個(gè)增強(qiáng)功能,其中包括:
· Oracle Digital Assistant:現(xiàn)在,您可以將 LLM 中的數(shù)據(jù)以及企業(yè)數(shù)據(jù)融入聊天體驗(yàn)中。Oracle Digital Assistant 將數(shù)據(jù)庫(kù)信息、企業(yè)知識(shí)文檔和生成式 AI 相結(jié)合,盡可能減輕實(shí)現(xiàn)自然語(yǔ)言對(duì)話所需的工作量。開(kāi)發(fā)人員可以使用生成式 AI 功能,更快速、更高效地構(gòu)建數(shù)字助手。
· OCI Language:通過(guò)自然語(yǔ)言處理,增加醫(yī)療信息洞察力。這個(gè) OCI Language 服務(wù)的新功能可幫助客戶更好地處理醫(yī)療領(lǐng)域的語(yǔ)言。新模型有助于識(shí)別各種記錄中的醫(yī)學(xué)術(shù)語(yǔ)、關(guān)系和實(shí)體,例如臨床試驗(yàn)記錄、患者進(jìn)度記錄和電子健康記錄。
· Document Translation Experience:新增基于文件的文檔翻譯功能支持各種格式(Word、PPT、HTML、JSON 和 Excel),可翻譯各種類型的文件并確保內(nèi)容的一致性和完整性。
· OCI Vision:新增 Facial Detection 功能,可識(shí)別圖像中的人臉和面部特征,并擴(kuò)展 OCI Vision 用例的數(shù)量。此外,OCI Vision 也將支持基于文件的視頻處理。
· OCI Speech:新增聲紋分割聚類功能,可將說(shuō)話人信息嵌入到音頻轉(zhuǎn)錄內(nèi)容中。該功能使 OCI Speech 成為一款寶藏工具,可以組織和分析人生對(duì)話,并從中提取有意義的信息。此外,OCI Speech 還將支持 Whisper 等開(kāi)源模型的實(shí)時(shí)轉(zhuǎn)錄和使用。
· OCI Document Understanding:新增 300 多種語(yǔ)言支持和模型改進(jìn)。
· OCI Data Science:新增 Feature Store,一個(gè)用于管理數(shù)據(jù)科學(xué)團(tuán)隊(duì)開(kāi)發(fā)功能的中央存儲(chǔ)庫(kù)。Feature Store 提供了一個(gè)統(tǒng)一框架,其中的功能以簡(jiǎn)化的方式記錄、共享、存儲(chǔ)和提供。新增 Forecasting 運(yùn)算符,讓客戶可以使用無(wú)代碼運(yùn)算符,通過(guò) OCI Data Science 服務(wù)利用 Oracle 專有的深度學(xué)習(xí)模型。
Oracle Generative AI 的差異化優(yōu)勢(shì)
我之前提到過(guò),Oracle 先搞清楚企業(yè)成功實(shí)施生成式 AI 真正需要的是什么,再?zèng)Q定在生成式 AI 業(yè)務(wù)采用全面的方法。但除此之外,我們也遵循一些核心原則,以幫助我們確保新產(chǎn)品能夠?yàn)槟鷰?lái)更多價(jià)值:
高效、可自定義的模型,專為企業(yè)用例而設(shè)計(jì)
我們提供以企業(yè)為中心的高性能和成本效益模型,支持多種用例和高效的微調(diào)。我們也越來(lái)越多地根據(jù)實(shí)際企業(yè)場(chǎng)景調(diào)整模型,并使用 Oracle 專有的知識(shí)和洞察,對(duì)大型語(yǔ)言模型進(jìn)行專業(yè)化訓(xùn)練,使其更適合企業(yè)使用 — 這些都是基于出色的 GPU 和高性能集群網(wǎng)絡(luò)來(lái)完成的。
在技術(shù)堆棧的每一層,嵌入生成式 AI 功能和服務(wù)
Oracle 在基礎(chǔ)設(shè)施層、平臺(tái)服務(wù)和業(yè)務(wù)應(yīng)用中融入了各種嵌入式和托管服務(wù)功能,可隨時(shí)助您順利完成生成式 AI 之旅。與 AI 協(xié)同工作看起來(lái)可能很有挑戰(zhàn)性,但如果您與一家創(chuàng)建了從數(shù)據(jù)到應(yīng)用的整個(gè)集成服務(wù)的云技術(shù)公司合作,那這件事就容易得多了。
優(yōu)先著重?cái)?shù)據(jù)管理、安全性和治理的服務(wù) — 對(duì)企業(yè) AI 用例至關(guān)重要
借助 Oracle,您可以將 AI 模型實(shí)時(shí)連接到相關(guān)數(shù)據(jù),并檢索情境化響應(yīng)。此外,Oracle 還會(huì)繼續(xù)幫助您保障客戶數(shù)據(jù)的隱私和安全。我們不會(huì)與任何第三方模型提供商共享數(shù)據(jù)。為了加強(qiáng)數(shù)據(jù)隱私和安全保護(hù),我們可以選擇在不與其他客戶共享的托管 GPU 基礎(chǔ)設(shè)施上執(zhí)行 LLM 專用部署,并為您的數(shù)據(jù)中心提供生成式 AI 服務(wù)。
Oracle AI 平臺(tái)提供一整套高性能基礎(chǔ)設(shè)施、內(nèi)置 AI 和 ML 技術(shù)的數(shù)據(jù)庫(kù)和分析產(chǎn)品以及 AI 服務(wù),當(dāng)然還少不了面向應(yīng)用開(kāi)發(fā)的生成式 AI 服務(wù)。而這僅僅是個(gè)開(kāi)始。