external-cannbot-model-model-infer-parallel-impl
SKILL.md
模型并行切分实施
前置条件:
- parallel_config 已由
/model-infer-parallel-analysis 确定并经用户确认
- 目标模型已有完整的单卡框架适配代码(modeling + Runner + infer.py + infer.sh + YAML),本 skill 在此基础上做并行化改造
适用范围
- 模型代码的并行层替换
- 通信组创建和管理
- YAML 配置文件生成
- 权重转换脚本编写
实施流程
external-cannbot-model-model-infer-parallel-impl — ascend-ai-coding/awesome-ascend-skills