DeepSeek AI最新發(fā)布的多模態(tài)大模型Janus-Pro，以及之前發(fā)布的大型語言模型DeepSeek-R1、DeepSeek-V3及DeepSeek-V2，一經(jīng)發(fā)布，就在AI領域引起了熱烈反響，多項創(chuàng)新技術顯著提升了模型的性能與效率。DeepSeek系列模型首發(fā)即支持昇騰平臺，讓用戶能夠在昇騰硬件和MindIE推理引擎上實現(xiàn)高效推理。

2025年2月4日，DeepSeek-R1、DeepSeek-V3、DeepSeek-V2、Janus-Pro正式上線昇騰社區(qū)，支持一鍵獲取DeepSeek系列模型，支持昇騰硬件平臺上開箱即用，推理快速部署，帶來更快、更高效、更便捷的AI開發(fā)和應用體驗，歡迎廣大開發(fā)者體驗使用。

下面以Deepseek-V3為例，演示在昇騰社區(qū)如何高效獲取模型及使用

硬件要求：

部署DeepSeek-V3模型需配置4臺Atlas 800I A2（8*64G）服務器資源

模型調用實踐：

一、權重轉換

GPU：

NPU：

二、加載鏡像

在昇騰社區(qū)/開發(fā)資源下載適配DeepSeek-V3的鏡像包：

mindie:1.0.T71-800I-A2-py311-ubuntu22.04-arm64

完成之后，請使用docker images命令確認查找具體鏡像名稱與標簽。

三、容器啟動

提供的MindIE鏡像預置了DeepSeek-V3模型推理腳本，從您信任的來源自行獲取權重后，放置在從上述下載的模型代碼的主目錄下，修改模型文件夾屬組為1001，執(zhí)行權限為750，啟動容器。

四、服務化測試

配置服務化環(huán)境變量，expandable_segments-使能內存池擴展段功能，即虛擬內存特性

修改服務化參數(shù)

拉起服務化

出現(xiàn)“Daemon start success!”，則認為服務成功啟動。

更深入了解DeepSeek系列模型在昇騰上的使用方法及指導文檔，可登錄昇騰社區(qū)模型庫專區(qū)學習了解！

更多DeepSeek模型獲取鏈接可參考：

DeepSeek-R1

https://www.hiascend.com/software/modelzoo/models/detail/68457b8a51324310aad9a0f55c3e56e3

DeepSeek-V3

https://www.hiascend.com/software/modelzoo/models/detail/678bdeb4e1a64c9dae51d353d84ddd15

Janus-Pro

https://www.hiascend.com/software/modelzoo/models/detail/ffe1a0f4e8ba43aeb989251a3f0308e9

繼續(xù)閱讀：

星空人工智能技術網(wǎng) 倡導尊重與保護知識產權。如發(fā)現(xiàn)本站文章存在版權等問題，煩請30天內提供版權疑問、身份證明、版權證明、聯(lián)系方式等發(fā)郵件至1851688011@qq.com我們將及時溝通與處理。！：首頁 > 星空人工智能產業(yè) > AI大模型 » DeepSeek系列新模型正式上線昇騰社區(qū)