目录

echelon-mx — 算子生成 / 迁移工厂(沐曦 Gitee.AI)

面向沐曦 GPUAI 赛道「AIGC 与智能体」的作品:一个把算子在语言 / 硬件 / 并行架构之间生成与迁移的多角色智能体流水线,底座是智慧集群 Echelon 的分工范式。作品的 LLM 调用全部走沐曦 Gitee.AI(模力方舟),不接外部云。

它做什么

给定一份算子规格(目标语言、硬件、架构,迁移时再加源实现),流水线按三个角色依次协作:

  1. 分析(analyst) — 拆并行维度、内存布局,给出到目标架构的映射策略。
  2. 生成 / 迁移(generator / migrator) — 按要点写出目标语言实现,或把源实现语义等价地迁移过去。
  3. 评审(reviewer) — 查正确性、边界、访存效率与架构契合度,给改进建议。

覆盖维度:

  • 语言:tilelang / cuda / ninetooth(九齿)
  • 硬件:gpu / tpu / kpu / ipu / npu
  • 架构:thread / wave / lane

每个角色是一次带专用系统提示的 Gitee.AI 调用,上一角色产出喂给下一角色;每次调用都记录延迟与用量,落成 JSONL,满足竞赛要求的真实调用日志与性能数据。

沐曦 Gitee.AI 接入(硬约束)

作品的模型调用必须走沐曦 Gitee.AI,OpenAI 兼容:

  • Base URL:https://ai.gitee.com/v1,端点 /chat/completions
  • 鉴权:Authorization: Bearer <访问令牌>

访问令牌只从环境变量读取,绝不写入仓库

cp .env.example .env      # 领算力券后在 Gitee.AI 控制台建令牌填入
source .env               # 设 GITEE_AI_API_KEY / GITEE_AI_MODEL

未设 GITEE_AI_API_KEY 时自动退回离线演示(dry-run)客户端,让流水线端到端可跑、可测;配好令牌即切换为真实沐曦调用,无需改代码。

运行

export PYTHONPATH=src

# 生成:ReLU / CUDA / thread
python3 -m echelon_mx generate --spec examples/relu_cuda.json --logs calls.jsonl

# 迁移:softmax,TileLang -> CUDA / wave
python3 -m echelon_mx migrate --spec examples/softmax_tilelang_to_cuda.json

# 一键演示
bash run_demo.sh

# 测试(stdlib,无第三方依赖)
python3 -m unittest discover -s tests -q

输出为 JSON:spec / plan / code / review / logs(含每次调用的 rolemodellatency_ms、字符与 token 用量)。

结构

src/echelon_mx/
  giteeai.py   沐曦 Gitee.AI OpenAI 兼容客户端 + 离线演示客户端 + 调用日志
  spec.py      算子规格(语言/硬件/架构,含校验)
  factory.py   分析->生成/迁移->评审 多角色流水线
  cli.py       命令行入口(generate / migrate)
examples/      算子规格样例
tests/         流水线单元测试(dry-run)

依赖:Python 3.8+,仅标准库。

设计文档

阶段一创意与设计见 docs/设计文档.md。本目录是阶段二可运行 Demo 的骨架:拿到算力券配好令牌即产出真实沐曦调用日志与算子代码。

关于

智慧集群-Echelon,的沐曦算子迁移版本

51.0 KB
邀请码
    Gitlink(确实开源)
  • 加入我们
  • 官网邮箱:gitlink@ccf.org.cn
  • QQ群
  • QQ群
  • 公众号
  • 公众号

版权所有:中国计算机学会技术支持:开源发展技术委员会
京ICP备13000930号-9 京公网安备 11010802047560号