quant_per_token_cast_e5m6] feat: 新增 E5M6 逐 Token 正向量化算子（Op/Kernel/Test/Bench）

参与者与课题信息 课题名称：quant_per_token_cast_e5m6 —— E5M6 逐 Token 正向量化算子迁移

课题完整简介：将 MetaX-MACA/TileKernels-Metax 的 per_token_cast_to_e5m6_kernel 上游实现迁移到 TileOPs-Metax，完成 E5M6（1 符号 + 5 指数 + 6 尾数，共 12 bit）逐 Token 正向 encode 的 Op/Kernel/测试/Benchmark 全套产出。核心优化方向为「E5M6 位打包的位级并行与向量化编码」，预期在 C500 上达到接近 HBM 带宽上限的吞吐，并与参考实现逐字节一致。

PR 简要描述 算子名称：quant_per_token_cast_e5m6

算子认领 Issue：#151624（纯线上个人，并行认领）；同上游文件历史认领 Issue #52、#141 均已关闭且无实现 PR；相关 Manifest PR #174（spec-only）

复用的 Manifest PR / 提交 SHA：#174 [Manifest] quant_per_token_cast_e5m6 (spec-only)（作者 xinxiong），本 PR 将对应条目 status 更新为 implemented，不重复提交 PR A

任务类型：

新算子开发 已有算子二次优化 现有基线 PR、原贡献者及冻结提交 SHA：不适用

参与方式：纯线上个人

小组 / 个人：线上个人

成员 / 姓名：Y2745

改动类型：

feat：新增算子或功能 optimize：优化已有实现

1. 本次 PR 优化方案 优化前的主要问题：目标分支 summer-camp-2026 无 quant 子包及对应 Op/Kernel；上游实现依赖 tile_kernels.quant.common 基础设施与 CUDA intrinsic __float2half_rz，直接迁移到 MACA 会产生舍入偏差。

采用的优化方案：

位级并行 E5M6 编码：每 8 值打包为 3 个 uint32（96 bit），支持码跨 uint32 边界，整数位操作完成符号/指数/尾数拆分与 round-to-nearest-even tie 处理。 精确 RZ 自实现：实测 MACA 3.7.1.5 的 __float2half_rz 行为为 RNE，改为纯位操作模拟 round-toward-zero，消除舍入偏差。 f32 精度 amax 归约：T.reduce_absmax 在 f32 精度下进行，避免 bf16 输入带来的精度损失。 关键代码或配置变更：

tileops/kernels/quant/quant_per_token_cast_e5m6.py（+204）：QuantPerTokenCastE5M6Kernel tileops/ops/quant/quant_per_token_cast_e5m6.py（+61）：QuantPerTokenCastE5M6Op tests/ops/test_quant_per_token_cast_e5m6.py（+106） benchmarks/ops/bench_quant_per_token_cast_e5m6.py（+61） workloads/quant_per_token_cast_e5m6.py（+18） tileops/manifest/quantization.yaml（+85）：QuantPerTokenCastE5M6Op -> implemented tileops/perf/formulas.py（+12）：per_token_cast_e5m6_roofline 与已有认领任务的区别及独立技术增量：与 PR #199 quant_cast_back_e5m6（E5M6 反向 decode）方向正交，本 PR 补齐正向 encode；Issue #52 / #141 历史认领均已关闭且无实现 PR，本 PR 为当前唯一活跃实现。独立增量为 E5M6 位打包的位级并行编码与 RZ 位操作实现。

2. 精度验证 对比基准实现：上游 per_token_cast_to_e5m6 语义的独立 PyTorch 位操作参考实现

测试命令： ython -m pytest tests/ops/test_quant_per_token_cast_e5m6.py -v

code

测试 shape/dtype：

[4096, 7168] bf16, round_sf=True [8192, 5120] bf16, round_sf=False [16384, 4096] bf16, round_sf=True [128, 1536] bf16, round_sf=False [1, 640] fp32, round_sf=False [1024, 4096] fp32, round_sf=True 误差范围（atol/rtol）：packed 输出要求 torch.equal 逐字节完全相等；SF 对比 atol=1e-8, rtol=1e-5

验证结果：6/6 通过，packed 输出与参考逐字节一致，SF 完全一致。

性能数据【必填】 测试环境：MetaX C500；Kernel Mode Driver 3.8.30；MACA 3.7.1.5；PyTorch 2.8.0+metax3.7.1.3；TileLang 0.1.10 性能复现命令：

code

python -m pytest benchmarks/ops/bench_quant_per_token_cast_e5m6.py -v 任务基线：上游源实现 tile_kernels/quant/per_token_cast_to_e5m6_kernel.py @ 0266ab740980de7dc03a828b8259cd73d100c2eb（MetaX-MACA/TileKernels-Metax dev 分支）

优化后 TileOps：

shape latency_ms bandwidth_tbs t4096-h7168-bf16-round 0.0967 1.0629 t8192-h5120-bf16 0.1363 1.0773 t16384-h4096-bf16-round 0.2141 1.0971 t128-h1536-bf16 0.0078 0.0879 t1-h640-fp32 0.0070 0.0005 t1024-h4096-fp32-round 0.0210 1.0986 Torch 参考基线：

shape latency_ms t4096-h7168-bf16-round 13.0505 t8192-h5120-bf16 18.5327 t16384-h4096-bf16-round 29.5751 t128-h1536-bf16 0.2946 t1-h640-fp32 0.2378 t1024-h4096-fp32-round 2.0408 本次优化加速比（任务基线 / 优化后 TileOps）：待补测。当前 C500 环境未保留上游 kernel，无法按同一 Benchmark 口径复测上游源实现；复现命令见上，关联认领 Issue #151624。

相对 Torch 加速比（Torch / 优化后 TileOps）：34x ~ 138x（大 shape 135x138x，小 shape 34x38x，fp32 97x）

瓶颈分析：大 shape 带宽 1.06~1.10 TB/s，接近 HBM 上限，瓶颈为访存而非 ALU；小 shape（t128-h1536、t1-h640）受 kernel launch 与固定开销主导，有效带宽低属预期。mcProfiler duty 明细待补充。

提交自检清单 全部测试用例运行通过，精度达标 [x GPU 测试用例已按仓库要求使用 smoke / full 等分层标记 已删除临时调试打印、冗余测试代码 性能指标可本地复现，数据真实有效 二次优化已注明现有基线、原贡献人和本轮独立技术增量（新算子不适用） 已按参与方式完成提交前自查（纯线上 Issue #22） 多人并行认领时，已关联同算子已有 Issue / PR，并说明本轮独立技术增量及与已有任务的区别