本代码仓为基于昇思MindSpore+香橙派开发板案例仓,内包含带框架(Online,推荐)开发和离线(Offline)推理案例。
- 开发友好:动态图易用性提升,类huggingface风格降低开发调试门槛
- 性能提升:mindspore.jit编译成图,一行代码实现推理性能提升一倍
- 全流程支持:在香橙派上支持模型训推全流程
《昇思+昇腾开发板:软硬结合玩转DeepSeek开发实战》课程已上线,以DeepSeek蒸馏模型为例,讲解如何基于昇思MindSpore,在香橙派开发板上完成该模型的开发、微调、推理、性能提升,以及分享一些在开发板上实践的经验供大家参考。
欢迎开发者访问学习交流,如对课程有任何建议,或希望新增哪些内容的讲解,欢迎在课程评论区留下你宝贵的评论,或在本代码仓中提交issue
。
branch | Online/Offline | CANN toolkit/kernel | MindSpore |
---|---|---|---|
r0.1 | Online | 8.0.0beta1 | 2.5.0 |
r0.1 | Online | 8.0.RC3.alpha002 | 2.4.10 |
r0.1 | Offline | 8.0.RC3.alpha002 | 2.2.14 |
模型 | 训练/推理 | CANN版本 | Mindspore版本 | 香橙派开发板型号 |
---|---|---|---|---|
ResNet50 | 推理 | 8.0.RC3.alpha002 | 2.4.10 | 8T16G |
ViT | 推理 | 8.0.RC3.alpha002 | 2.4.10 | 8T16G |
FCN | 推理 | 8.0.RC3.alpha002 | 2.4.10 | 8T16G |
ShuffleNet | 推理 | 8.0.RC3.alpha002 | 2.4.10 | 8T16G |
SSD | 推理 | 8.0.RC3.alpha002 | 2.4.10 | 8T16G |
RNN | 推理 | 8.0.RC3.alpha002 | 2.4.10 | 8T16G |
LSTM+CRF | 推理 | 8.0.RC3.alpha002 | 2.4.10 | 8T16G |
GAN | 推理 | 8.0.RC3.alpha002 | 2.4.10 | 8T16G |
DCGAN | 推理 | 8.0.RC3.alpha002 | 2.4.10 | 8T16G |
Pix2Pix | 推理 | 8.0.RC3.alpha002 | 2.4.10 | 8T16G |
Diffusion | 推理 | 8.0.RC3.alpha002 | 2.4.10 | 8T16G |
ResNet50_transfer | 推理 | 8.0.RC3.alpha002 | 2.4.10 | 8T16G |
Qwen1.5-0.5b | 推理 | 8.0.RC3.alpha002 | 2.4.10 | 8T16G |
TinyLlama-1.1B | 推理 | 8.0.RC3.alpha002 | 2.4.10 | 8T16G |
DctNet | 推理 | 8.0.RC3.alpha002 | 2.4.10 | 8T16G |
DeepSeek-R1-Distill-Qwen-1.5B | 推理 | 8.0.RC3.alpha002 | 2.4.10/2.5.0 | 20T24G |
DeepSeek-R1-Distill-Qwen-1.5B | 训练 | 8.0.0.beta1 | 2.5.0 | 20T24G |
DeepSeek-Janus-Pro-1B | 推理 | 8.0.RC3.alpha002/8.0.0beta1 | 2.4.10/2.5.0 | 20T24G |
MiniCPM3-4B | 推理 | 8.0.0beta1 | 2.5.0 | 20T24G |
注:在线推理案例指导请参考Online文件夹中的README文档
模型名 | 支持CANN版本 | 支持Mindspore版本 | 支持的香橙派开发板型号 |
---|---|---|---|
CNNCTC | 8.0.RC2.alpha003 | 2.2.14 | 8T16G |
ResNet50 | 8.0.RC2.alpha003 | 2.2.14 | 8T16G |
HDR | 8.0.RC2.alpha003 | 2.2.14 | 8T16G |
CycleGAN | 8.0.RC2.alpha003 | 2.2.14 | 8T16G |
Shufflenet | 8.0.RC2.alpha003 | 2.2.14 | 8T16G |
FCN | 8.0.RC2.alpha003 | 2.2.14 | 8T16G |
Pix2Pix | 8.0.RC2.alpha003 | 2.2.14 | 8T16G |
注:离线推理案例指导请参考Offline文件夹中的README文档
阶段 | 描述 | 链接 |
---|---|---|
镜像获取 | 香橙派官网-官方镜像 | 8T 20T |
环境搭建 | 昇思官网香橙派开发教程 | 香橙派开发 |
精品课程 | 《昇思+昇腾开发板: 软硬结合玩转DeepSeek开发实战》课程 |
课程链接 |
案例分享 | 昇腾开发板专区-案例分享 | 昇腾开发板专区 |
欢迎各位开发者贡献基于昇思MindSpore+香橙派开发板的应用案例!开发者可通过向Online/community
路径下提交pull request
进行贡献,由工程师进行校验和合入。
案例贡献要求:
- 保证应用案例在指定MindSpore版本要求下的香橙派环境中跑通,且输出达到预期。
- 贡献需包含
- 在
Online
和Online/community
路径下README文档中的模型案例清单和版本兼容-第三方应用案例
中,新增案例信息 - 对代码、README的详细要求,请见
Online
路径下README文档中贡献指南
如在基于昇思MindSpore+香橙派开发板开发过程中遇到任何问题,欢迎在本代码仓中提交issue
,定期会有工程师进行答疑。