华为昇腾社区发布全新DeepSeek系列模型:一键获取,即刻体验!
深度探索AI世界,尽在DeepSeek系列模型
2月5日消息,据华为官方公众号透露,2月4日,DeepSeek-R1、DeepSeek-V3、DeepSeek-V2、Janus-Pro正式在昇腾社区上线,为用户提供了便捷的一键获取DeepSeek系列模型的功能。这些模型不仅支持昇腾硬件平台上的开箱即用,还实现了快速的推理部署。 这一举措无疑将进一步推动人工智能技术的发展与应用。通过提供更加便捷的获取途径和高效的部署方式,华为不仅简化了开发者的工作流程,也大大降低了使用门槛,有助于更多企业和个人能够轻松地利用这些先进的AI模型进行创新实践。这不仅是华为技术实力的体现,也是其致力于构建开放生态系统的又一有力证明。
附模型调用方式如下:
GPU:
NPU:
在昇腾社区 / 开发资源下载适配 DeepSeek-V3 的镜像包:
mindie:1.0.T71-800I-A2-py311-ubuntu22.04-arm64
完成之后,请运用docker images命令来核实并查找特定的镜像名称及其标签。
提供的MindIE镜像已内置DeepSeek-V3模型的推理脚本。请从可信赖的渠道自行下载权重文件,并将其放置于模型代码的主目录中。随后,需将模型文件夹的所有者更改为1001,并设置其执行权限为750。最后,启动容器以运行该模型。
配置服务化环境变量,启用内存池扩展段功能,即虚拟内存特性。
修改服务化参数
拉起服务化
出现“Daemon start success!”,则认为服务成功启动。