目录

LLM PD-Separation Containerized Inference System

本目录按决赛作品提交要求整理,原始项目文件夹未被移动、删除或覆盖。建议先阅读项目说明书和架构说明,再按下表查阅源代码、验证材料及演示文件。

材料索引

目录 内容
src/ Router、Prefill/Decode 服务、Guardian/eBPF、监控、配置、容器镜像和部署脚本。详见 src/README.md、src/deploy/README.md。
docs/ 项目说明书、创新说明、AI/第三方工具使用说明、原创承诺书及架构说明。可编辑原稿和扫描原件保存在 docs/可编辑源文件/。
tests/ 测试源码、A–G SLO 调度测试报告、生产基准报告和 Guardian 集成测试材料。
demo/ 可复现交付物入口说明;演示视频和现场讲解材料位于 presentation/。
presentation/ 合并后的决赛答辩 PPT 与决赛演示视频。

建议阅读顺序

  1. docs/项目说明书.pdf:系统设计、实现与测试说明。
  2. docs/项目创新说明.pdf:主要创新、已有方案对比、实现边界和验证依据。
  3. docs/ARCHITECTURE.md:各组件与代码目录映射。
  4. tests/测试报告/:查看 A–G 配对测试和生产基准报告;tests/guardian_integration/ 包含 Guardian 测试说明及报告。
  5. presentation/决赛现场演示PPT_整合完整版.pptx 与 presentation/决赛演示视频.mp4。

运行与验证

项目部署面向 Linux 容器环境;eBPF/Guardian 验证还依赖内核 BPF 能力、权限与项目指定的构建依赖。当前目录是材料归档与结构整理,不代表已在此目录重新构建或复跑全部测试。运行前请遵照 src/deploy/README.md 及各测试目录中的说明,按目标 Linux 主机环境准备依赖。

主要测试证据:

  • tests/测试报告/A_G_FOUR_RUN_TEST_REPORT_20261003.md:SLO Router A–G 四轮测试报告。
  • tests/测试报告/PRODUCTION_BENCHMARK_COMPARISON.md、PRODUCTION_BENCHMARK_FULL_REPORT_20260930.md:生产基准对比材料。
  • tests/guardian_integration/TEST_REPORT.md:Guardian 集成验证报告;报告中的 mock/fake 依赖与真实 GPU 验收需区分阅读。

tests/benchmark/datasets/ShareGPT_V3_unfiltered_cleaned_split.json 是基准数据集(约 642 MB),运行对应数据集测试前请确认磁盘空间和脚本参数。

正式提交前请补齐/确认

  • 当前原始材料中未找到“成员分工及主要贡献说明”,也没有可核实的成员姓名与分工信息,因此本整理包不生成或猜写该文件。请提供官方表格/成员信息后补入 docs/成员分工及主要贡献说明.pdf。
  • 项目说明书封面仍有团队名称占位文字;AI/第三方工具声明及原创承诺书中的部分团队/指导教师字段为空。请由团队核实、填写并签署后再正式提交。
  • 创新说明依据项目现有设计材料整理;其中明确区分了代码/测试可支持的能力与仍需真实多 GPU 环境验证的能力。请最终对照提交时的源码版本复核。
  • 按赛事要求确认作品原创承诺书原件和其他声明是否需重新签字或使用官方最新模板。

整理约定

  • 采用复制和归类方式组织材料,保留源目录和 docs/可编辑源文件/ 中的原始或可编辑材料。
  • 对同类演示材料采用最新整合版;原有测试报告和测试代码保留在 tests/ 下。
  • tests/benchmark/datasets/ 中的大型数据集随项目材料一并保留;若提交平台有体积限制,可按赛事规则另行提交或提供可获取方式。
关于
549.6 MB
邀请码
    Gitlink(确实开源)
  • 加入我们
  • 官网邮箱:gitlink@ccf.org.cn
  • QQ群
  • QQ群
  • 公众号
  • 公众号

版权所有:中国计算机学会技术支持:开源发展技术委员会
京ICP备13000930号-9 京公网安备 11010802047560号