[MetaXGPU][FFI] Using tvm-ffi interface for MACA target (#15)
English | 中文版
Apache TVM是发展最早和最成功的AI编译器之一,支持从主流的深度学习框架比如pytorch导入模型,在优化编译到多种硬件后端,有着非常活跃的社区讨论和完善的文档支持。
本项目(mcTVM)在 TVM v0.18.0 release 的基础上,增加了对沐曦(MetaX)GPU的支持。
依赖:
git clone https://github.com/MetaX-MACA/mcTVM.git mcTVM cd mcTVM git submodule update --init --recursive rm -rf build && mkdir build && cd build cp ../cmake/config.cmake ./ # USE_MACA 已经默认打开 cmake ../ && make -j $(nproc) export TVM_HOME=/path-to-mcTVM export PYTHONPATH=$TVM_HOME/python:$PYTHONPATH
import tvm # define maca target by kind name target = tvm.target.Target("maca") # or specific target by tag name target = tvm.target.Target("metax/mxc-c500") # define maca device dev = tvm.maca() # or dev = tvm.device("maca")
参见 CONTRIBUTING_ZH.md
mcTVM是MetaX-MACA生态下的开源深度学习编译框架项目,基于Apache TVM v0.18.0版本进行扩展开发,新增对沐曦(MetaX)GPU的专属支持,打通沐曦GPU与TVM框架的适配通道,实现深度学习模型在沐曦GPU上的高效编译、优化与部署。mcTVM助力完善沐曦GPU的软件生态,为开发者提供便捷、高效的深度学习模型部署解决方案,适用于人工智能、异构计算等相关领域的研发与应用场景。
MetaX TVM: Open Deep Learning Compiler Stack
English | 中文版
简介
Apache TVM是发展最早和最成功的AI编译器之一,支持从主流的深度学习框架比如pytorch导入模型,在优化编译到多种硬件后端,有着非常活跃的社区讨论和完善的文档支持。
本项目(mcTVM)在 TVM v0.18.0 release 的基础上,增加了对沐曦(MetaX)GPU的支持。
快速开始
源码编译
依赖:
使用MACA后端
贡献
参见 CONTRIBUTING_ZH.md