目录
master
分支1
标签0
+ 疑修
Web IDE
能工智人
docs: .env.example 明确默认走 Gitee.AI+GLM-5.2，internlm 仅备选
1天前24次提交
README.md

🖥️ 沐曦算力运维助手

第八届 CCF 开源创新大赛 · 沐曦「国产开源 GPU AI 创新生态赛」参赛作品 任务二 + 任务三 · 任务二（AI Skill / MCP 应用开发）+ 任务三（AIGC 与智能体开发） 战队：能工智人 · 2026-07-05

一、项目简介

面向 沐曦（MetaX）国产 GPU 算力平台 的运维智能体：通过 MCP（Model Context Protocol）开放协议 把国产 GPU 监控、实例管控、作业调度、算力券查询等能力暴露给 LLM，用户用自然语言即可完成端到端运维。

核心价值：解决国产 GPU 运维工具链断层——监控与管控割裂、AI 运维能力缺失。用开放协议 + 国产 LLM + 国产 GPU 构建全栈自主可控的运维智能体。

任务覆盖：

  • 任务二：mcp_server/ 7 个 MCP 工具 + Claude/Cursor 接入示例
  • 任务三：agents/ Agent 多轮编排 + CLI + 深色科技风 Web UI

二、功能说明

2.1 七个 MCP 工具

工具 功能 数据源
get_gpu_status GPU 实时利用率/显存/温度/功耗 本机 mx-smi 真实数据
list_containers 列出算力实例 模力方舟 OpenAPI 真实实例
submit_job 提交训练/推理作业 OpenAPI 创建实例 / 本机 nohup
get_job 查询作业状态 退出码 + 日志关键词三重判定
get_job_logs 查询作业日志 真实日志文件
get_quota 算力券余额与配额 OpenAPI 任务并发 + 手填余额
diagnose_gpu 异常诊断 启发式规则跑在真实数据上

2.2 Agent 能力

  • 多轮对话与上下文管理：最多 5 轮工具调用循环，防死循环
  • 工具调用能力：LLM 自主决策串联多个 MCP 工具
  • 任务执行状态跟踪：作业状态精确判定（running/succeeded/failed）
  • 自然语言驱动：CLI + Web UI 双端入口

2.3 核心特性

能力 说明
🇨🇳 全栈国产 沐曦 C500 GPU + Gitee.AI 国产大模型 + MCP 开放协议 + 模力方舟算力平台
🔌 双通道算力 本机 mx-smi 真实 GPU 监控 + 模力方舟 OpenAPI 实例管控
🤖 Agent 编排 LLM ↔ MCP 多轮编排，默认通过 Gitee.AI 调用 GLM-5.2 等国产模型，兼容 OpenAI/DeepSeek
🖥️ 双端入口 CLI（Rich 美化）+ Web UI（深色科技风运维控制台）
🐳 一键部署 Dockerfile + docker-compose
🧪 可复现 8 单元测试 + 冒烟测试 + e2e 测试，无凭据自动 mock

三、使用的模型与算力环境

3.1 大模型

模型 用途 接入方式
GLM-5.2（通过 Gitee.AI 沐曦资源包） Agent 对话与工具调用决策 OpenAI 兼容接口 https://ai.gitee.com/v1

说明：本项目默认通过 Gitee.AI 平台调用沐曦资源包提供的国产大模型（如 GLM-5.2），符合赛题”必须使用 Gitee.AI 平台提供的沐曦资源包 API”的要求。GLM 等其他国产模型仅作为可选项，需通过 Gitee.AI 接入。

3.2 算力环境

算力 用途 接入方式
沐曦曦云 C500（32GB） 本机 GPU 监控 mx-smi -j JSON 解析
模力方舟 Gitee.AI 沐曦资源包 实例管控 + 算力券 OpenAPI https://ai.gitee.com/api/v1/

3.3 依赖开源组件

组件 协议 用途
MCP Python SDK MIT MCP 协议实现
Gradio Apache-2.0 Web UI
FastAPI MIT 后端框架
asyncssh EPL-2.0 SSH 远程连接
httpx BSD-3-Clause HTTP 客户端
openai SDK Apache-2.0 LLM 调用
Rich MIT 终端美化

四、运行与部署方法

4.1 环境要求

  • Python ≥ 3.10
  • 本机有 mx-smi（沐曦 GPU 管理接口）→ 自动启用真实 GPU 监控
  • 无 mx-smi 时自动 mock 回退，零依赖可跑通

4.2 快速启动

git clone https://www.gitlink.org.cn/muluzhe/metax-gpu-ops-agent.git
cd metax-gpu-ops-agent
bash scripts/run.sh          # 自动建 venv、装依赖、冒烟测试、起 Web UI

或手动：

python -m venv .venv && source .venv/bin/activate
pip install -e ".[dev]"
cp .env.example .env         # 填入凭据
python3 -m agents.web        # 浏览器打开 http://localhost:7860

4.3 配置说明

编辑 .env 填入凭据（无凭据可跑 mock 模式）：

MOARK_TOKEN=<模力方舟访问令牌>           # 算力实例管控
LLM_API_KEY=<Gitee.AI 访问令牌>        # Agent 对话
METAX_COUPON_BALANCE=<算力券余额>       # 算力券展示

4.4 Docker 部署

docker compose up            # Web UI（先 cp .env.example .env 填入凭据）

4.5 测试验证

python3 scripts/smoke_test.py      # 冒烟测试（7 工具）
python3 scripts/e2e_test.py        # 端到端 Agent 闭环
python3 -m pytest tests/ -q        # 8 单元测试

五、示例输入输出

示例 1：查询 GPU 状态

输入（自然语言）：

看看现在 GPU 状态怎么样

输出（Agent 调用 get_gpu_status）：

共 1 张 GPU：
- MetaX MX C500#0: 利用率 0.0% | 显存 0.81/64.0 GB | 温度 39°C | 功耗 58.6 W

示例 2：全面体检（Agent 串联 4 工具）

输入：

全面体检一下当前算力环境，出份报告

输出（Agent 自主调用 get_gpu_status + list_containers + get_quota + diagnose_gpu）：

## 算力环境体检报告

### GPU 状态
| GPU | 利用率 | 显存 | 温度 | 功耗 |
|---|---|---|---|---|
| MX C500 #0 | 0% | 0.8/64 GB | 39°C | 58.6 W |

### 算力实例（模力方舟 OpenAPI）
- [running] 曦云 C500 ×1 (DMICVOPBH2CJOC5H)
- [stopped] 曦云 C500 ×1 (CSUYPB59PCYHPD1D)

### 算力券
余额 ¥1,850.00，已用 42.5h / 200h

### 告警
GPU 闲置，建议排查是否有作业待调度

示例 3：提交作业

输入：

提交作业：名字 demo，镜像 maca-pytorch:3.2.1，命令 sleep 30 && echo hello，1 卡

输出：

✅ 作业已提交
  job_id: demo-1783157378
  状态: succeeded
  GPU: MetaX MX C500
  作业已完成，日志: /data/metax_jobs/demo-1783157378.log

完整演示视频见 docs/video/演示视频.mp4，或在线观看（百度网盘：CCF_demo.mp4，提取码 igdj）。

运行截图

mx-smi 原始输出 vs Web UI 解析对比（数据 100% 真实，来自沐曦 MX C500）： mx-smi 输出 vs Web UI 对比

Agent 工具调用时序（LLM ↔ MCP 多轮编排，function calling 决策链）： 工具调用时序图

作业提交效果（CLI 提交作业 → 容器启动 → 日志返回）： 作业提交图

六、参考来源说明

本作品基于以下开源项目与协议开发，已在原有基础上进行功能扩展与场景改造：

参考来源 用途 改造内容
MCP Protocol 协议规范 实现 7 个面向国产 GPU 的运维工具
Gitee.AI 沐曦资源包 国产大模型算力 通过 OpenAI 兼容接口调 GLM-5.2 等国产模型
沐曦 MACA GPU 运行时 解析 mx-smi -j JSON 获取真实 GPU 数据
模力方舟 Gitee.AI 算力平台 对接 OpenAPI 实现实例管控
Gradio Web UI 深色科技风运维控制台定制
openai Python SDK LLM 客户端 适配 Gitee.AI 接口

原创声明：MCP 工具定义、Agent 编排逻辑、双通道算力接入、mx-smi 解析、深色 UI 均为团队原创开发，未直接复制已有项目。

七、架构设计

┌──────────────┐    自然语言     ┌──────────────┐    function call    ┌──────────────┐
│  用户        │ ────────────▶ │  Agent 层    │ ──────────────────▶ │  LLM         │
│  CLI / Web   │ ◀──────────── │  (编排+对话) │ ◀────────────────── │(Gitee.AI GLM-5.2)│
└──────────────┘    回复       └──────┬───────┘    工具调用决策      └──────────────┘
                                        │ tools/call (stdio)
                                        ▼
                              ┌──────────────────┐
                              │  MCP Server      │  7 个工具
                              │  能工智人   │
                              └────────┬─────────┘
                                        │
                    ┌───────────────────┴───────────────────┐
                    ▼                                       ▼
          ┌──────────────────┐                    ┌──────────────────┐
          │ 本机 mx-smi      │  GPU 监控          │ 模力方舟 OpenAPI │  实例管控
          │ (沐曦 C500)      │  利用率/显存/温度  │ ai.gitee.com     │  列实例/创建
          └──────────────────┘                    └──────────────────┘

详细架构说明见 docs/architecture.md。

八、项目结构

metax-gpu-ops-agent/
├── mcp_server/             MCP Server（任务二核心交付）
│   ├── metax_client.py     双通道算力客户端（本机mx-smi + 模力方舟OpenAPI）
│   └── server.py           7个MCP工具定义 + 人类可读输出
├── agents/                 Agent 层（任务三核心交付）
│   ├── config.py           LLM配置 + 系统提示词
│   ├── llm.py              OpenAI兼容LLM客户端
│   ├── agent.py            LLM↔MCP 多轮编排
│   ├── cli.py              CLI入口
│   └── web.py              深色科技风Web UI
├── tests/                  8单元测试
├── scripts/                冒烟/e2e/自检脚本
├── docs/                   架构文档 + 开发记录 + 演示视频 + PPT + 真实调用日志与性能报告
│   ├── video/演示视频.mp4  演示视频（3分06秒）
│   └── screenshots/        运行截图（mx-smi vs Web UI、作业提交、工具调用时序图）
├── examples/               MCP客户端配置示例
├── Dockerfile / docker-compose.yml
├── pyproject.toml / .env.example
└── README.md

九、演示材料

  • 演示视频：docs/video/演示视频.mp4（3 分 06 秒，6 场景完整演示），在线观看（百度网盘：CCF_demo.mp4，提取码 igdj）
  • 运行截图：docs/screenshots/（mx-smi 输出 vs Web UI 对比、作业提交、工具调用时序图）
  • 架构文档：docs/architecture.md
  • 创意规划 PPT：docs/沐曦算力运维助手_演示PPT.pptx（任务三阶段一交付物）
  • 真实调用日志与性能报告：docs/真实调用日志与性能报告.md（任务二/三要求的调用日志与性能数据）
  • 开发记录：docs/开发记录.md（Issue 记录功能设计、技术难点、系统优化）

📄 License

本作品以 Apache-2.0 协议开源发布（见 LICENSE 文件与 pyproject.toml 声明），允许赛事组织方及社区按该许可使用。赛题参考仓库 ccf-ai-infra/GPUApps 使用 MulanPSL-2.0，本作品按通用规则采用主流的 Apache-2.0，如赛题后续明确要求 MulanPSL-2.0 将同步调整。

🙏 致谢

  • 出题方：沐曦股份（MetaX）
  • 算力平台：模力方舟 Gitee.AI
  • 大模型：Gitee.AI 国产大模型（GLM-5.2 等）
  • 赛事平台：GitLink、CCF 开源发展技术委员会
关于

沐曦算力运维助手 - 基于MCP协议的国产GPU运维智能体

ccfpythongitlink
README.md
287.3 MB
Apache-2.0
邀请码
    Gitlink（确实开源）
  • 加入我们
  • 官网邮箱：gitlink@ccf.org.cn
    • QQ群
  • QQ群
    • 公众号
  • 公众号

版权所有：中国计算机学会技术支持：开源发展技术委员会
京ICP备13000930号-9 京公网安备 11010802047560号