了解金山云最新資訊
2025-07-02 16:04:00
金山云瀚海平臺全面接入文心4.5開源模型，為文心大模型開源后首批接入的平臺之一。
作為綜合性的企業(yè)AI解決方案，金山云瀚海平臺（以下簡稱“瀚海平臺”）可為企業(yè)提供從模型訓練、評估、推理到應用開發(fā)的全流程能力。隨著更多優(yōu)質(zhì)模型的接入，瀚海平臺能在更加多樣化的業(yè)務場景中助力企業(yè)提升業(yè)務效率，加速其數(shù)智化轉(zhuǎn)型。
金山云瀚海平臺部署文心4.5系列開源模型流程：
進入模型管理頁面，找到文心4.5系列開源模型，點擊部署；
填寫推理服務名稱，設置推理資源組和副本數(shù)，點擊啟動，等待服務上線即可。
調(diào)用模型服務：
支持內(nèi)網(wǎng)直接調(diào)用模型；
支持接入瀚海應用平臺后，根據(jù)應用場景需要來使用模型。
據(jù)悉，文心4.5系列開源模型共10款，涵蓋了激活參數(shù)規(guī)模分別為47B和3B的混合專家（MoE）模型（最大的模型總參數(shù)量為424B），以及0.3B的稠密參數(shù)模型。文心4.5系列模型針對MoE架構(gòu)提出了多模態(tài)異構(gòu)模型結(jié)構(gòu)，通過跨模態(tài)參數(shù)共享機制實現(xiàn)模態(tài)間知識融合，同時為各單一模態(tài)保留專用參數(shù)空間。
文心4.5系列模型均使用飛槳深度學習框架進行高效訓練、推理和部署。在大語言模型的預訓練中，模型FLOPs利用率（MFU）達到47%。實驗結(jié)果顯示，該系列模型在多個文本和多模態(tài)基準測試中達到SOTA水平，在指令遵循、世界知識記憶、視覺理解和多模態(tài)推理任務上效果尤為突出。
文心4.5系列開源模型的接入，不僅拓寬了金山云在平臺模型服務領域的廣度，也為公司助力企業(yè)構(gòu)建自主智能體與行業(yè)應用奠定了堅實的基礎。未來，金山云瀚海平臺將持續(xù)接入更多優(yōu)質(zhì)模型，為金融、政企、醫(yī)療等領域的客戶提供更優(yōu)服務，助推產(chǎn)業(yè)智能化升級。