產品介紹

Product introduction

DataExa-Serving推理平臺是一款支撐模型自動發布與管理的推理平臺,在充分結合機器學習模型發揮GPU 等計算資源的強大功能方面發揮著關鍵作用,可最大限度地降低延遲與推理模型部署復雜度。使用Serving推理平臺,您可以從任何框架入手,并在生產環境中快速優化、驗證和部署經過訓練的神經網絡模型

核心技術

Product technology

  • 覆蓋全環節的AIops支撐技術

  • 跨計算框架支持的模型交換協議技術

  • 智能應用快速構建的服務編排技術

  • 面向高并發事件的自動化擴容技術

  • 服務部署資源自動分配與優化技術

產品優勢

Product advantage

  • AIops能力

    與訓練平臺結合提供覆蓋全環節的AIops能力,支持訓練態與運行態數據處理環節的自動化切換
  • 服務編排能力

    基于模型資產庫進行領域應用的服務編排,并完成一鍵服務發布
  • 自動化擴容能力

    自動尋找高并發應用服務,進行服務能力的擴展,并自動化完成應用服務的負載均衡
  • 領域學習能力

    提供面向多種任務的向導式領域學習能力,可快速訓練領域應用模型
  • 部署資源優化能力

    可以根據不同的領域應用模型及服務特點,進行部署資源的實時調度與分配,最大化發揮計算資源價值
  • 模型應用市場

    為不同領域提供了豐富的智能應用體驗范例,用戶可直接試用平臺應用效果,并直接調用該服務

客戶案例

Customer case

AI中臺賦能金融機構客服問答業務
  • 客戶名稱:

    AI中臺賦能金融機構客服問答業務

  • 所屬行業:

    銀行

  • 客戶痛點:

    現有積累AI能力主要服務于行內,需要構建一個用于模型推理和AI能力輸出,賦能于外部金融機構的平臺。

  • 應用成效:

    構建了一個集資源管理、模型資產庫管理、模型遷移訓練、服務發布與監控等功能為一體的智能模型推理平臺。實現快速響應業務需求,最簡化構建智能應用,充分調動行內數據模型資產價值對外賦能。

合作

文檔

辽宁体彩11选五玩法技巧