目录

<<<<<<< HEAD 项目简介

本项目基于强化学习优化任务调度策略,对比 greedy、random、RL(pairwise/baseline) 多类调度算法,以 mean_ratio 为核心评测指标(指标小于1代表性能优于经典HEFT调度算法)。 项目包含数据生成、流水线冒烟测试、模型训练、多策略评测、消融实验、结果可视化绘图全套流程。

一、环境前置要求

  1. 基础环境

• Python 3.14(3.10及以上版本兼容)

• Windows / MacOS / Linux 全平台支持

• 训练RL模型推荐NVIDIA显卡(CUDA加速,无GPU仅可运行基线评测、绘图、冒烟测试)

  1. 依赖一键安装
  2. 解压项目压缩包,CMD/终端进入项目根目录(包含requirements.txt的文件夹)
  3. 执行安装命令: pip install -r requirements.txt

二、快速启动

无需显卡即可验证代码无报错、产出基线评测数据

  1. 自动生成实验数据集,输出至 data/ 文件夹 python -m src.prepare_data
  2. 冒烟测试:验证流水线代码无语法/逻辑报错,不消耗算力 python tests/test_pipeline.py
  3. 运行greedy贪心基线策略评测,结果保存 runs/greedy_val.json python -m src.evaluate –dataset data/val.json –policy greedy –out runs/greedy_val.json
  4. 运行random随机基线策略评测,结果保存 runs/random_val.json python -m src.evaluate –dataset data/val.json –policy random –out runs/random_val.json
  5. 绘制基础策略对比图,图片输出 docs/figures/mean_ratio.png python scripts/plot.py

三、完整RL强化学习训练流程(需要GPU)

依赖补充说明

RL训练依赖深度学习库,requirements.txt已内置,若安装失败手动补充: pip install torch stable-baselines3 sb3-contrib

  1. 主模型训练

训练30万时间步RL调度模型,模型权重保存 runs/model_pairwise.zip python -m src.train –arch pairwise –timesteps 300000 –out runs/model_pairwise.zip

在标准验证集val.json评测RL主模型 python -m src.evaluate –dataset data/val.json –policy rl –model runs/model_pairwise.zip –out runs/rl_val.json

在大规模泛化集val_large.json评测

python -m src.evaluate –dataset data/val_large.json –policy rl –model runs/model_pairwise.zip –out runs/rl_val_large.json 2. 消融实验训练

消融实验:移除成对打分头图编码器的对照模型,用于对比验证创新模块有效性 训练消融对照组模型 python -m src.train –arch baseline –timesteps 300000 –out runs/model_baseline.zip

消融模型标准集评测 python -m src.evaluate –dataset data/val.json –policy rl –model runs/model_baseline.zip –out runs/rl_baseline_val.json 3. 一键全流程脚本(Linux/Mac专属,Windows不可直接运行sh) bash scripts/run_all.sh Windows用户提示:该脚本自动整合数据生成、训练、评测全流程,Windows系统请分段手动执行上方python命令。 四、可视化绘图

  1. 基础图 python scripts/plot.py 读取文件:greedy_val.json、random_val.json、rl_val.json、rl_val_large.json 输出路径:docs/figures/mean_ratio.png
  2. 完整消融对比图 python scripts/plot.py –inputs runs/greedy_val.json runs/random_val.json runs/rl_baseline_val.json runs/rl_val.json runs/rl_val_large.json –out docs/figures/mean_ratio_full.png

五、核心评测指标说明

mean_ratio:核心调度性能指标,数值越低算法性能越好

判定标准:mean_ratio < 1.0 代表当前调度策略性能优于经典HEFT基准算法

报告输出规范:所有实验结果必须同时记录「均值 ± 标准差」、标准集/大规模泛化集两组结果

六、Windows系统常见报错解决方案

  1. 黄色警告Scripts不在PATH 解决:不影响训练、评测、绘图,直接忽略;若想消除警告,安装依赖时增加参数: pip install -r requirements.txt –no-warn-script-location
  2. 找不到data/xxx.json文件 解决:先执行python -m src.prepare_data生成数据集,再运行评测命令
  3. 绘图无图片输出 解决:确认已完整跑完对应evaluate评测命令,runs文件夹存在对应json结果文件

=======

赛题题目:基于深度强化学习的云-边-端异构计算资源管理调度方法(高校赛题)

赛题说明:

本赛题聚焦云-边-端异构计算环境中的资源管理与调度问题。给定任务 DAG 及多类型计算资源(云/边/端),任务之间存在依赖约束;在资源速度与跨节点通信带宽不一致的情况下,调度器需要在每一步选择一个就绪任务并将其分配到合适的计算节点,从而尽量降低整体完成时间(makespan)。赛题强调的不仅是“训练一个DRL模型”,更要求参赛者提供一个可复用的训练与评测框架:参赛方法应当能够抽象并封装环境状态、动作空间与合法性约束,支持场景(任务图与资源参数)的生成/加载,提供统一的策略接口以便评测脚本批量调用,并能与外部调度方法(如启发式基线、行为克隆等)进行公平对比。参赛者需要设计清晰的模块边界,使得环境与资源配置可替换、算法可插拔、实验流程可复现。最终,参赛者应输出在验证集上的标准化指标与模型/配置说明,展示其框架的可训练性、可扩展性与工程可用性。

赛题要求:

  • 基于 openEuler、openKylin、OpenHarmony 等至少一个国内主流开源操作系统开发,鼓励在更多Linux发行版上编译、运行和测试。

  • 参赛者需提交一个可训练的 DRL 调度框架,用于云-边-端异构计算资源管理调度。

  • 框架必须支持将环境与资源参数抽象为可配置组件,便于更换任务规模、资源类型与异构参数。

  • 框架必须提供统一的调度策略接口,使评测脚本能够在同一组验证场景上对不同策略进行公平比较。

    评分细则(明确评审角度、标准和分值范围):

  • 功能完整性(40 分) (1)代码可运行:一键完成“训练 + 验证评测 + 产出结果文件”(如 summary.json/表格),且不依赖手工修改关键代码(10 分) (2)模块化/抽象能力:环境、资源配置、场景来源、策略接口(Policy/Scheduler)解耦清晰,能通过配置替换资源规模/异构参数(10 分) (3)插拔接口:参赛者框架支持接入至少一种外部调度方法(如 HEFT、BC 或用户自定义策略),评测脚本可统一调用并输出同一指标(10 分) (4)合法动作处理:对 ready/task mask 等约束有明确实现(如 action masking、非法动作惩罚/过滤),训练与推理阶段行为一致(10 分)

  • 性能优化(35 分) (1)指标表现:在给定验证集上达到更优 mean_ratio = mean(RL_makespan / HEFT_makespan),并给出均值与方差或样本规模说明(15 分) (2)泛化能力:在未参与训练的场景(或不同划分)上性能保持稳定,避免仅对少量场景过拟合(10 分) (3)训练策略有效性:合理设计采样/更新/早停/超参,并能解释选择原因(5 分) (4)工程效率:在合理时间/算力预算下达到性能(5 分)

  • 文档质量(25 分) (1)赛题对齐说明:文档清楚描述“问题建模—环境—动作定义—奖励设计—训练流程—评估指标”的对应关系,且与代码一致(10 分) (2)复现实验说明:给出运行命令/配置文件示例、关键超参、数据划分方式、输出路径、依赖版本(如 PyTorch 版本)(10 分) (3)可读性与结构:目录组织合理、接口原型/类职责明确、图示或伪代码帮助理解框架(5 分)

    赛题联系人:

    汪老师 wlp@nwpu.edu.cn

    参考资料:

  • Grapheonrl,AasishKumarSharma/grapheonrl-benchmark

    origin/master

关于
155.2 MB
邀请码
    Gitlink(确实开源)
  • 加入我们
  • 官网邮箱:gitlink@ccf.org.cn
  • QQ群
  • QQ群
  • 公众号
  • 公众号

版权所有:中国计算机学会技术支持:开源发展技术委员会
京ICP备13000930号-9 京公网安备 11010802047560号