範式智能聯同睿思智聯推出開源一站式生產級AI部署平台「模域」(ModelSphere)
- Written by Media Outreach
- 模域簡化企業大模型部署與運維,系統極限吞吐效率提升約285%(近基準的4倍)
- 打造更開放、兼容多元芯片的規模化AI基礎設施
- 面向企業用戶免費開源,現已於GitHub上線
- 簡化部署,保障模型服務穩定運行: 模域提供圖形化操作介面及預置部署能力,減少環境配置程式碼的編寫,協助開發者快速搭建大模型推理服務,並簡化於不同芯片集群上的部署。平台內置自動彈性擴縮容、PD分離部署、三級KV緩存、高可用負載均衡及服務斷流自動續寫等企業級能力,支援模型服務在生產環境中穩定運行。
- 持續自動化效能優化,提升模型運行效率: 平台內置AutoTune智能模型排程策略,以及結合硬件加速能力的自適應負載均衡調度,優化模型處理請求的能力及首次回應速度,同時降低每Token推理成本。系統極限吞吐效率較基準大幅提升約285%,性能躍升至原來近4倍,充分釋放算力潛能。
- 統一管理多種芯片,減少重複適配: 平台融合EngineX推理引擎,支援並針對多種算力芯片進行深度調優,可統一及混合調度華為昇騰、天數智芯、摩爾線程、海光DCU等算力資源,用戶無需為不同芯片重寫底層邏輯程式碼。
- 持續優化適配主流模型,加快部署應用: 模域團隊持續緊貼開源社區的迭代,已完成DeepSeek-V4/V4-Flash、Qwen、Kimi、MiniMax、GLM等主流模型的適配優化,支援模型發佈後快速部署,並將性能調優至生產環境水平,協助企業將新模型應用於實際業務。
發佈者對本公告的內容承擔全部責任
關於範式
範式智能(6682.HK)是領先的全棧AI雲服務平台,提供包括HAMi、信創模盒、先知AIOS等高效AI基礎設施,具備由底層異構算力統一管理及優化,以至智能體模型調用的全棧式服務能力,協助各行各業推動智能化轉型,並致力於在AI 2.0時代打造高效且具規模的「Token工廠」。 範式以「AI for Everyone」為使命,作為「駕馭AI的領航者」,成為全球領先的通用人工智能科技公司。
Source https://www.media-outreach.com/news/china/2026/10/16/494461/

