新聞資訊
了解金山云最新資訊
2025-03-10 16:05:00
近日，金山云完成基于國(guó)產(chǎn)芯片的DeepSeek滿血版適配。同時(shí)，金山云星流訓(xùn)推平臺(tái)也已完成DeepSeek滿血版的部署，且支持多機(jī)部署實(shí)現(xiàn)分布式推理。
通過(guò)提供穩(wěn)定且強(qiáng)大的算力支持，金山云能助力模型充分發(fā)揮其性能優(yōu)勢(shì)，使得其在自然語(yǔ)言處理、智能問(wèn)答、文本生成等多個(gè)領(lǐng)域表現(xiàn)優(yōu)異，這將為用戶帶來(lái)更強(qiáng)大、更高效的人工智能體驗(yàn)。
裸金屬服務(wù)器部署步驟
金山云在搭載國(guó)產(chǎn)GPU的裸金屬機(jī)型上進(jìn)行了適配，公司提供已預(yù)裝好包含DeepSeek滿血版和所有依賴(lài)環(huán)境的自定義鏡像，用戶只需在金山云裸金屬服務(wù)器控制臺(tái)選擇地域與機(jī)型、選定內(nèi)置DeepSeek滿血版的自定義鏡像、配置網(wǎng)絡(luò)與安全、設(shè)置基本信息并確認(rèn)配置后，即可輕松完成部署。
1.金山云裸金屬服務(wù)器控制臺(tái)創(chuàng)建入口
2.金山云裸金屬服務(wù)器控制臺(tái)創(chuàng)建流程，選擇內(nèi)置DeepSeek滿血版的自定義鏡像創(chuàng)建
創(chuàng)建完成后，開(kāi)發(fā)者和企業(yè)一鍵啟動(dòng)模型就能立即投入使用，大大降低了模型的使用門(mén)檻。這不僅能讓更多開(kāi)發(fā)者和企業(yè)快速享用DeepSeek滿血版的強(qiáng)大功能，還將加速人工智能項(xiàng)目的落地與應(yīng)用。
經(jīng)過(guò)測(cè)試和驗(yàn)證，DeepSeek滿血版在搭載國(guó)產(chǎn)GPU的裸金屬機(jī)型上于多個(gè)領(lǐng)域都展現(xiàn)出了不凡的性能。在智能客服場(chǎng)景中，能夠快速理解用戶的復(fù)雜問(wèn)題，并給出準(zhǔn)確且人性化的回答。與其他同類(lèi)模型相比，在語(yǔ)義理解的準(zhǔn)確性和文本生成的流暢性方面都具有明顯優(yōu)勢(shì)，為各行業(yè)的智能化升級(jí)提供了有力支持。
金山云星流訓(xùn)推平臺(tái)多機(jī)部署步驟
為加速企業(yè)AI規(guī)?；涞?，金山云推出了模型在線服務(wù)功能，提供從模型部署到調(diào)用的服務(wù)能力。聚焦高效部署與分布式推理協(xié)同，該平臺(tái)可通過(guò)智能任務(wù)調(diào)度與跨節(jié)點(diǎn)并行計(jì)算，實(shí)現(xiàn)模型的高效推理。無(wú)需復(fù)雜配置，用戶即可在公有云環(huán)境構(gòu)建穩(wěn)定、高性價(jià)比的模型服務(wù)。
此前金山云星流訓(xùn)推平臺(tái)已支持DeepSeek蒸餾版的部署，現(xiàn)支持多機(jī)部署DeepSeek滿血版，可實(shí)現(xiàn)分布式推理。
多機(jī)部署步驟詳情如下：
1.進(jìn)入算力平臺(tái)控制臺(tái)并創(chuàng)建資源池
2.進(jìn)入模型在線服務(wù)導(dǎo)航頁(yè)
3.點(diǎn)擊新建，創(chuàng)建模型在線服務(wù)
a.選擇R1或V3模型，平臺(tái)默認(rèn)勾選多機(jī)部署，用戶可自主配置服務(wù)副本數(shù)以及多機(jī)部署的節(jié)點(diǎn)數(shù)量
b.填寫(xiě)基本信息、資源、網(wǎng)絡(luò)等配置
c.點(diǎn)擊確認(rèn)，模型開(kāi)始部署
*R1、V3模型部署所需時(shí)間較長(zhǎng)，請(qǐng)耐心等待
4.調(diào)用模型服務(wù)。模型部署成功后，即可對(duì)模型進(jìn)行調(diào)用，金山云當(dāng)前支持接口和WebUI兩種調(diào)用方式，相應(yīng)的調(diào)用操作流程如下：
a.接口調(diào)用，詳細(xì)步驟見(jiàn)
https://mp.weixin.qq.com/s/K8tt3b7DB30r0yz7Pq9vmA
b.WebUI調(diào)用，模型部署成功后點(diǎn)擊模型名稱(chēng)進(jìn)入模型概覽頁(yè)，點(diǎn)擊訪問(wèn)WebUI即可通過(guò)WebUI形式實(shí)現(xiàn)模型調(diào)用
首次進(jìn)入WebUI頁(yè)面需注冊(cè)用戶賬號(hào)，注冊(cè)完成后登錄即可使用界面實(shí)現(xiàn)調(diào)用。