在同級別智能模型中,Amazon Nova Premier與業(yè)界極佳的非推理型模型表現相當,并在約半數基準測試中達到或超越同類模型。具體評估信息見技術報告。

Amazon Nova Premier同時也是Amazon Bedrock中同智能級別里速度最快、最具成本效益的模型。更多定價詳情與對比,請參閱Amazon Bedrock定價頁面。

Amazon Nova Premier還可作為蒸餾的教師模型使用,這意味著客戶能將其針對特定用例的高級功能遷移至更小巧、更快速、更高效的模型,如生產部署用的Nova Pro、Lite和Micro 模型。

Amazon Nova Premier助力處理復雜工作流

Amazon Nova Premier能夠為復雜技術問題提供詳細解釋,但其的真正優(yōu)勢在于其處理復雜工作流的能力。以股票研究流程為例,該流程通常包含多個階段:為特定投資標的識別相關數據來源、從這些來源中檢索所需信息,整合數據形成具有可操作性的建議。當涉及股票指數、個股和貨幣等不同類型的金融工具時,這一過程會變得尤為復雜。

客戶可以在Amazon Bedrock中使用多Agents協作來構建此類應用程序,由Amazon Nova Premier 為協調整個工作流的管理者Agent提供支持。管理者Agent會分析初始查詢(如“可再生能源投資有哪些新興趨勢?”),將其分解為邏輯步驟,確定要使用的專用子 Agent,然后整合形成最終響應。將Amazon Nova Premier用于管理者角色的關鍵優(yōu)勢,在于它可以準確地協調復雜的工作流,按照最佳順序查詢正確的數據來源,并且確保每個子Agent獲得工作所需的準確輸入信息,從而產生更高質量的洞察。

Amazon Nova Premier通過模型蒸餾進行多Agents協作

盡管Amazon Nova Premier提供了其模型系列中最高準確度,但客戶可能需要在生產環(huán)境中優(yōu)化延遲和成本。這正是Amazon Nova Premier作為蒸餾的教師模型的優(yōu)勢所在。通過Amazon Bedrock模型蒸餾功能,客戶可以針對這個特定投資研究用例,基于Amazon Nova Premier的結果定制例如Amazon Nova Micro模型。

與傳統需要人工反饋和標注樣本的微調不同,模型蒸餾通過教師模型生成預期輸出來創(chuàng)建高質量訓練數據,從而簡化數據獲取流程。

模型蒸餾流程包括:

  1. 通過捕獲 Amazon Nova Premier處理多種金融工具時的輸入輸出,生成合成訓練數據。
  2. 使用這些數據作為參考,通過自定義微調工具訓練Amazon Nova Micro的自定義版本。
  3. 評估自定義Amazon Nova Micro模型的延遲和性能差異。
  4. 在生產環(huán)境中將自定義的微型模型部署為管理者Agent。

Amazon Bedrock可以進一步簡化流程,并使用調用日志進行數據準備。

Amazon Nova Premier是蒸餾Nova Pro、Lite和Micro自定義變體的最佳教師模型,這意味著可以在更小、更快的模型中繼承Premier的功能,以進行生產部署。Amazon Nova Premier具有內置安全控制措施,可促進負責任AI,其內容審核功能有助于在各種應用程序中保持適當的輸出。

使用Amazon Bedrock,客戶只需為實際使用的資源付費。Amazon Nova Premier現已在美國東部(弗吉尼亞州北部)、美國東部(俄亥俄州)和美國西部(俄勒岡州)區(qū)域的Amazon Bedrock中推出。

客戶反饋

Slack平臺匯集了對話、應用和客戶,其高級工程師Curtis Allen 表示:”Amazon Nova Premier 在執(zhí)行交互式分析工作流方面表現卓越,在我們的測試中不僅速度更快,成本也比其他領先模型低近一半?!?/p>

Robinhood Markets是一家致力于金融普惠化的公司,其人工智能與數據負責人Dev Tagare表示:“基于Amazon Nova構建的新解決方案,有力地支持了我們’金融普惠化’的使命。我們特別看好Amazon Nova Premier探索復雜多Agent協作等能力,不但性能出色,還具有成本效益和速度優(yōu)勢。Amazon Nova Premier的智能及其向Nova Micro、Nova Lite和Nova Pro等模型的遷移能力,將以更優(yōu)性能、價格和速度實現多Agent協作的大眾化應用。”

Snorkel AI幫助數據科學家和開發(fā)人員快速將數據轉化為精準、適應性強的AI應用程序。Snorkel AI聯合創(chuàng)始人Henry Ehrenberg指出:“加速真實世界 AI 部署(不僅是原型)需要能為實際應用程序獨特需求定制模型的能力。我們很高興看到亞馬遜云科技通過 Amazon Bedrock模型蒸餾功能和Amazon Nova Premier推動高效模型定制。這些新模型功能將助力企業(yè)客戶加速構建生產級AI應用程序,包括包含多模態(tài)數據的問答應用程序等?!?/p>

分享到

zhupb

相關推薦