新聞資訊
了解金山云最新資訊
2023-09-11 00:00:00
隨著生成式人工智能技術(shù)的不斷成熟，人們的創(chuàng)作方式得到了不斷的革新，通過(guò)輸入一段文字就能創(chuàng)作一幅高質(zhì)量的畫作、一段代碼或一首古詩(shī)。在垂直專業(yè)領(lǐng)域，通過(guò)對(duì)生成式人工智能大模型進(jìn)行微調(diào)也能賦能專業(yè)領(lǐng)域的生產(chǎn)力。
因此，各行各業(yè)都在積極探索生成式人工智能大模型的落地應(yīng)用，這推動(dòng)生成式人工智能大模型所對(duì)應(yīng)計(jì)算資源的需求日益增長(zhǎng)。隨著需求的井噴，如何快速高效地獲取和部署生成式人工智能大模型成為諸多企業(yè)與開(kāi)發(fā)者的重要訴求。
為了有效滿足客戶對(duì)生成式人工智能大模型的算力與快速部署需求，金山云近期發(fā)布了ChatGLM-6B、Stable Diffusion及Alpaca-Lora三款生成式人工智能大模型鏡像。當(dāng)前所有大模型均免費(fèi)提供，客戶只需要為選擇的GPU云服務(wù)器付費(fèi)，通過(guò)幾個(gè)簡(jiǎn)單的步驟，可分鐘級(jí)完成生成式人工智能大模型微調(diào)或推理環(huán)境的搭建，賦能各領(lǐng)域的生產(chǎn)力需求。
生成式人工智能大模型部署步驟
1.登錄金山云「云服務(wù)器KEC控制臺(tái)」
2.單擊「新建實(shí)例」，按需完成相關(guān) GPU 云服務(wù)器配置
GPU云服務(wù)器選型參考：
https://docs.ksyun.com/documents/6526
3.鏡像類型選擇鏡像市場(chǎng)-工具軟件，選擇需要部署的大模型所對(duì)應(yīng)的市場(chǎng)鏡像，如ChatGLM-6B
4.完成網(wǎng)絡(luò)與系統(tǒng)配置并提交訂單以創(chuàng)建GPU云服務(wù)器
5.連接登錄GPU云服務(wù)器，按照選擇的市場(chǎng)鏡像對(duì)應(yīng)的使用指南，執(zhí)行進(jìn)程啟動(dòng)命令
使用指南獲取方法：
進(jìn)入云市場(chǎng)https://market.ksyun.com/list，搜索對(duì)應(yīng)的市場(chǎng)鏡像名稱，點(diǎn)擊進(jìn)入后下載使用指南
鏡像市場(chǎng)生成式人工智能模型介紹
ChatGLM-6B
ChatGLM-6B是由清華大學(xué)開(kāi)源發(fā)布的具有62億參數(shù)的入門級(jí)中英雙語(yǔ)開(kāi)源模型。通過(guò)對(duì)大量數(shù)據(jù)進(jìn)行訓(xùn)練，ChatGLM具備中英文問(wèn)答和對(duì)話能力。ChatGLM-6B在1:1比例的中英語(yǔ)料上訓(xùn)練了1T的token量，與國(guó)外模型相比，具有更加出色的中文對(duì)話能力，更加適合國(guó)內(nèi)企業(yè)與開(kāi)發(fā)者探索落地應(yīng)用方向。
同時(shí)，ChatGLM-6B優(yōu)化了模型的參數(shù)和大小，結(jié)合金山云提供的ChatGLM-6B鏡像和對(duì)應(yīng)GPU云服務(wù)提供的快速部署能力，各企業(yè)及開(kāi)發(fā)者微調(diào)和部署ChatGLM-6B的門檻大大降低。
ChatGLM-6B在金山云云服務(wù)器上的實(shí)機(jī)部署后推理演示示例：
例如輸入「請(qǐng)創(chuàng)作一首古詩(shī)」，輸出：
Stable Diffusion
Stable Diffusion是由Stability人工智能公司開(kāi)源發(fā)布的生成式人工智能模型，能夠根據(jù)文本或已有圖片生成高分辨率的圖像。Stable Diffusion模型經(jīng)過(guò)大量高質(zhì)量圖像訓(xùn)練且高度靈活，能夠生成各種類型（如人物、風(fēng)景等）的圖像，生成的圖像具有較高的逼真度和細(xì)節(jié)表現(xiàn)力，為開(kāi)發(fā)者提供了廣泛的應(yīng)用場(chǎng)景。
通過(guò)金山云提供的Stable Diffusion鏡像和GPU云服務(wù)，開(kāi)發(fā)者可以快速部署該開(kāi)源預(yù)訓(xùn)練模型的環(huán)境并進(jìn)行對(duì)應(yīng)的微調(diào)和推理，降低了學(xué)習(xí)和使用門檻。
Stable Diffusion在金山云云服務(wù)器上的實(shí)機(jī)部署后推理演示示例：
例如輸入
「masterpiece,best quality 1squirrel,cute,hat,tree」輸出：
Alpaca-Lora
Alpaca-Lora是使用Lora(Low-rank Adaptation)技術(shù)在Meta的LLaMA 7B模型上微調(diào)而生成的輕量級(jí)開(kāi)源模型。其優(yōu)勢(shì)是速度更快、使用的顯存更少，結(jié)合金山云提供的Alpaca-Lora鏡像和GPU云服務(wù)大大降低了企業(yè)和開(kāi)發(fā)者部署類ChatGPT模型微調(diào)和推理環(huán)境的使用門檻。
Alpaca-Lora在金山云云服務(wù)器上的實(shí)機(jī)部署后推理演示示例：
例如輸入「make a poem」，輸出：