国产加速卡上跑通 35B 级大模型要验证'不靠进口卡也能跑大模型'这条路线能不能真落地，拿一个 FP8 量化的 35B MoE 模型上璧仞 BW 双卡试。先按常规加载→失败（平台 torch 2.4.1 不满足官方 FP8 加载链）→改路线：离线把 FP8 反量化成 bf16 再加载。国家超算互联网容器 + DTK(HIP 兼容层) + transformers 直推（平台推理引擎无对口版本，放弃自建引擎）推理跑通，输出正确；同时抓到两个平台级坑（冷启动死锁特征、首次 forward 编译超 110s）并沉淀诊断法。国产卡模型适配 SOP：加速卡家族先探测(nvidia-smi/birensmi/dcu-smi)→vendor env.sh→架构名对注册表→反量化三验(mean/std 校验点)。