模型管理平台 (Model Manager)

项目简介

模型管理平台是一个用于管理和部署AI模型的系统，支持模型的生命周期管理、Kubernetes集群管理、镜像管理和指标监控等功能。

功能特点

• 模型管理：支持模型的上传、部署、监控和管理
• Kubernetes集成：提供节点、Pod、服务等Kubernetes资源的管理
• 镜像管理：与Harbor镜像仓库集成，支持镜像的拉取和管理
• 指标监控：监控模型运行状态和资源使用情况
• 数据库管理：使用MySQL存储模型和部署信息，支持数据库迁移

技术栈

• 后端：Python
• 数据库：MySQL
• 容器化：Docker
• 编排：Kubernetes
• 镜像仓库：Harbor

项目结构

├── app/             # 应用核心代码
│   ├── api/         # API接口
│   ├── core/        # 核心业务逻辑
│   ├── model/       # 数据模型和仓库
│   ├── service/     # 服务层
│   └── utils/       # 工具类
├── config/          # 配置文件
├── docs/            # 文档
├── migrations/      # 数据库迁移文件
├── script/          # 部署脚本
├── tests/           # 测试文件
├── .env             # 环境变量配置
├── Dockerfile       # Docker构建文件
├── main.py          # 应用入口
└── requirements.txt # 依赖包

快速开始

环境要求

• Python 3.12.9
• Docker
• Kubernetes集群
• MySQL
• Harbor镜像仓库

本地开发

1. 克隆项目

git clone http://192.168.1.142:9980/model/modelmanger.git
cd modelmanager

2. 安装依赖

pip install -r requirements.txt

3. 配置环境变量

复制 .env 文件并根据实际情况修改配置：

cp .env.example .env
# 编辑 .env 文件

4. 配置Kubernetes访问

本地开发时，需要获取Kubernetes集群的配置文件（kubeconfig）：

# 从Kubernetes集群获取配置文件
kubectl config view --raw > ~/.kube/config

# 确保配置文件权限正确
chmod 600 ~/.kube/config

5. 初始化数据库

python migrate.py

6. 启动应用

python main.py

Docker部署

1. 构建镜像

docker build -t 192.168.1.142:8088/model/manager:v0.0.2 .

2. 推送镜像

docker push 192.168.1.142:8088/model/manager:v0.0.2

Kubernetes部署

使用提供的部署脚本：

kubectl apply -f script/k8s_start.yaml

注意：当在Kubernetes集群内部署时，不需要获取kubeconfig文件，因为应用会自动使用集群内的服务账户进行认证。

API文档

主要接口

• 模型管理：/images - 镜像管理
• 部署管理：/deployments - 部署管理
• 节点管理：/nodes - 节点管理
• Pod管理：/pods - Pod管理
• 服务管理：/services - 服务管理

贡献指南

许可证

本项目采用 MIT 许可证。