external-cannbot-ops-ascendc-precision-debug

Installation
SKILL.md

Ascend C 算子精度调试

核心理念

精度调试 = 理解 + 分析 + 定位 + 修复

  1. 理解数据类型限制:FP16 约 3-4 位有效数字,FP32 约 6-7 位。
  2. 识别数值稳定性问题:大数吃小数、灾难性抵消。
  3. 掌握科学调试方法:从最小复现到根因分析。

使用时机

适用:精度验证失败(rtol/atol 不达标)、输出全为0或随机值、FP16差于FP32、特定数值范围误差大、流水线同步问题、DataCopy对齐问题。


调试前置要求 ⭐⭐⭐

进入调试前必须完成以下三步

Installs
5
GitHub Stars
168
First Seen
May 19, 2026
external-cannbot-ops-ascendc-precision-debug — ascend-ai-coding/awesome-ascend-skills