目录

ccf-vllm-ascend

本仓库用于提交 vLLM Ascend 适配赛参赛材料。

目录说明

  • .codex/skills/vllm-ascend-setup

    • 使用 AI 工具完成适配任务的 skill
    • 包含 SKILL.mdreferences/scripts/
  • source_adaptations/01-feat-mm-encoder-only

    • 适配项 1:--mm-encoder-only
    • mm-encoder-only.patch:可直接应用的 patch
    • changed_files/:对应修改文件
    • validation/:真实 CLI 验证记录
  • source_adaptations/02-add-load-format-and-kv-cache-dtype-params

    • 适配项 2:load_format / kv_cache_dtype 兼容性
    • 0001-*.patch:原 PR patch
    • load-format-follow-up.patch:后续补充 patch
    • changed_files/:对应修改文件
    • validation/:真实权重验证记录

说明

02-add-load-format-and-kv-cache-dtype-params 目录中保留了两层内容:

  1. 原始 PR patch
  2. 本地补充的 follow-up patch

这样可以区分:

  • 原始分支提交内容
  • 基于真实 NPU/真实权重验证后补充的兼容修正
关于
162.0 KB
邀请码
    Gitlink(确实开源)
  • 加入我们
  • 官网邮箱:gitlink@ccf.org.cn
  • QQ群
  • QQ群
  • 公众号
  • 公众号

版权所有:中国计算机学会技术支持:开源发展技术委员会
京ICP备13000930号-9 京公网安备 11010802032778号