目录

大模型全链路开发:基于书生开源体系的项目实战

Full-Link Development of Large Models: Hands-on Projects Based on the InternLM Open-Source Ecosystem

人工智能正在从”能用的模型”走向”可交付的系统”。本仓库是《大模型全链路开发》一书的配套开源项目,以书生(InternLM)开源体系的”模型—训练—评测—部署—应用”协同架构为主线,帮助读者从零散技术点进入完整的工程流程。

✨ 项目特色

  • 全链路覆盖:从开源生态认知 → 前置技能 → 模型解析 → 部署评测 → 多模态应用 → 微调优化 → 进阶开发 → 综合交付
  • 真实工具链:InternLM3、InternVL、LMDeploy、OpenCompass、XTuner 等书生生态核心工具
  • 项目实战驱动:每章配套可复现的实验代码与交付文档
  • 面向教学与工程:既可作为高校课程教材,也可作为开发者入门大模型工程的实践手册

📚 章节目录

章节 主题 核心工具/技术 代码目录
第 1 章 大模型时代与开源生态导论 开源协议、GitLink、社区协作 ch01-intro
第 2 章 前置技能与开源协作实践 Git、Markdown、虚拟环境、Docker ch02-prereq
第 3 章 书生大模型体系全解析 InternLM3、InternVL、Intern-S ch03-internlm
第 4 章 大模型部署实战:LMDeploy 推理 LMDeploy、量化、推理服务化 ch04-lmdeploy
第 5 章 大模型评测实战:OpenCompass OpenCompass、评测基准、报告生成 ch05-opencompass
第 6 章 基于 InternVL 大模型多模态应用开发 InternVL、多模态推理、视觉问答 ch06-internvl
第 7 章 大模型微调实战:XTuner XTuner、LoRA/QLoRA、增量训练 ch07-xtuner
第 8 章 大模型进阶开发应用 RAG、Agent、智能体编排、知识库 ch08-advanced
第 9 章 综合项目:从模型到可交付应用 全流程整合、项目验收、文档交付 ch09-project

🛠 环境要求

  • 硬件:NVIDIA GPU(建议 ≥ 16GB 显存),或适配国产算力平台
  • 软件:Python 3.10+、CUDA 11.8+、Git
  • 操作系统:Linux / Windows(WSL2 推荐)/ macOS

🚀 快速开始

# 1. 克隆仓库
git clone https://www.gitlink.org.cn/zhuxinrong/Full-Link-Development-of-Large-Models.git
cd Full-Link-Development-of-Large-Models

# 2. 创建虚拟环境
conda create -n llm-fullstack python=3.10 -y
conda activate llm-fullstack

# 3. 安装依赖
pip install -r requirements.txt

# 4. 进入对应章节开始学习
cd ch04-lmdeploy

📂 目录结构

Full-Link-Development-of-Large-Models/
├── ch01-intro/           # 第1章 大模型时代与开源生态导论
├── ch02-prereq/          # 第2章 前置技能与开源协作实践
├── ch03-internlm/        # 第3章 书生大模型体系全解析
├── ch04-lmdeploy/        # 第4章 大模型部署实战:LMDeploy 推理
├── ch05-opencompass/     # 第5章 大模型评测实战:OpenCompass
├── ch06-internvl/        # 第6章 基于 InternVL 大模型多模态应用开发
├── ch07-xtuner/          # 第7章 大模型微调实战:XTuner
├── ch08-advanced/        # 第8章 大模型进阶开发应用
├── ch09-project/         # 第9章 综合项目:从模型到可交付应用
├── requirements.txt      # 全局依赖
├── LICENSE               # 开源协议
└── README.md             # 项目说明

🤝 适合人群

  • 人工智能、软件工程、计算机应用等方向的高校学生
  • 希望系统进入大模型工程实践的开发者、教师和企业技术人员
  • 开源软件实践、智能体应用实训等课程的教学参考

📝 学习建议

学习过程中建议始终保留实验记录:模型来源、许可证、运行环境、命令参数、评测结果、失败样例和改进思路。大模型工程能力不只来自一次成功运行,更来自对每一次报错、延迟、幻觉、成本和安全边界的分析。

🤝 贡献指南

欢迎提交 Issue 和 Pull Request!请在提交前阅读各章的实验规范,确保代码可复现、文档完整。

📄 开源协议

本项目基于 Apache License 2.0 开源。

📮 联系方式

  • 维护者:zhuxinrong
  • 社区:ODTC AI Infra / GitLink
关于

本书以当前书生开源体系为主线,围绕 InternLM3 通用语言模型、InternVL 多模态模型、Intern-S 科学智能能力,以及 LMDeploy、OpenCompass、XTuner 等工程工具链,把模型认知、部署推理、能力评测、多模态数据处理、微调训练、RAG、Agent 与综合交付串联起来,形成了一条清晰的大模型工程学习路径。

39.1 MB
邀请码
    Gitlink(确实开源)
  • 加入我们
  • 官网邮箱:gitlink@ccf.org.cn
  • QQ群
  • QQ群
  • 公众号
  • 公众号

版权所有:中国计算机学会技术支持:开源发展技术委员会
京ICP备13000930号-9 京公网安备 11010802047560号