external-cannbot-ops-ascendc-precision-debug
Installation
SKILL.md
Ascend C 算子精度调试
核心理念
精度调试 = 理解 + 分析 + 定位 + 修复
- 理解数据类型限制:FP16 约 3-4 位有效数字,FP32 约 6-7 位。
- 识别数值稳定性问题:大数吃小数、灾难性抵消。
- 掌握科学调试方法:从最小复现到根因分析。
使用时机
适用:精度验证失败(rtol/atol 不达标)、输出全为0或随机值、FP16差于FP32、特定数值范围误差大、流水线同步问题、DataCopy对齐问题。
调试前置要求 ⭐⭐⭐
进入调试前必须完成以下三步