代码自动转换工具

PaddlePaddle Code Convert Toolkits（**PaConvert Github**）

🤗 公告 🤗

• ✅ 本工具由 Paddle 官方维护与建设，高效自动化迁移 Pytorch 代码到 PaddlePaddle，欢迎使用

• ✅ 本工具基于 PyTorch 最新 release 与 Paddle develop API 映射表 实现，文档经过详细验证分析，欢迎查阅

• ✅ 具备强大的转换能力，当前支持高达 1600+个torch API、200个torchvision API 的一键转换，基本实现Pytorch全覆盖

• ✅ 通过 100+个Pytorch代码库（超25万行代码）测试，代码行数**平均转换率约为95+%**（剩余<5%需要您手动修改），转换速度极快（不低于2000+行/秒）

概述

本工具能自动将其它深度学习框架训练或推理的代码，转换为 PaddlePaddle 的代码，方便快速自动地 模型代码迁移。目前仅支持自动转换 Pytorch 代码，其它深度学习框架的支持后续新增中。

使用 -i 指定输入目录，转换过程不会改动原目录，会将原目录中的文件一一转换到 -o 指定的输出目录中（如不指定，则默认为./paddle_project），转换时会尽量保持原代码的风格与结构不变。

安装使用

通过终端命令行的方式使用：

pip install -U paconvert
paconvert -i torch_code_dir [-o paddle_code_dir] [-e exclude.py] [--log_dir log_dir] [--log_level "INFO"] [--show_all_api] [--show_unsupport_api] [--run_check] [--no_format]

• 命令行参数介绍 ```
• i, –in_dir 输入 torch 代码，可以为文件或目录。
• o, –out_dir 可选，输出 paddle 代码，可以为文件或目录。默认在当前路径下创建paddle_project目录来保存代码。
• e, –exclude 可选，正则表达式，匹配到的文件或目录将不会被转换，多个表达式请使用逗号分隔。默认不会排除。
• -log_dir 可选，打印日志的路径，默认会直接在终端上打印日志。
• -log_level 可选，打印 log 等级，支持”WARNING”、”INFO”、”DEBUG”。默认等级”INFO”。
• -show_all_api 可选，展示所有需转换的API（包括支持转换的、不支持转换的）。默认不展示。
• -show_unsupport_api 可选，展示当前不支持转换的API，这些API需要您自行转换。默认不展示。
• -run_check 可选，工具进行安装与运行自检。
• -no_format 可选，转换后的代码不进行代码风格优化。默认会优化代码风格。
• -exclude_packages 可选，可以配置无需识别转换的torch包名，多个包名请使用逗号分隔。默认不配置。 ```

转换示例

以下面一个简单的 Pytorch Demo 代码为例：

转换前

import torch
import torch.nn as nn
import torch.optim as optim
import torch.nn.functional as F
from torch.nn import Linear
import mmcv

class MyNet(nn.Module):
    test = "str"

    def __init__(self, num_classes=10):
        super(MyNet, self).__init__()
        self._conv = mmcv.cnn.ConvModule(4, 6, (3, 3))
        self._pool = nn.MaxPool2d(kernel_size=2, stride=1)

        self._fc1 = torch.nn.Linear(6 * 25 * 25, 120)  # 假设输入图像为 28x28，通过卷积和池化后尺寸变为 25x25
        self._fc2 = nn.Linear(120, out_features=84)
        self._fc3 = Linear(in_features=84, out_features=num_classes)

    def forward(self, x):
        x = self._conv(x)
        x = self._pool(x)

        x = self._fc1(torch.flatten(x, 1))
        x = self._fc2(x)
        x = self._fc3(x)
        y = torch.add(x, x)
        return y

net = MyNet()
sgd = optim.SGD(net.parameters(), lr=0.01)
lr = optim.lr_scheduler.MultiStepLR(sgd, milestones=[2, 4, 6], gamma=0.8)

for i in range(10):
    x = torch.rand(8, 4, 28, 28)
    out = net(x).sum()

    sgd.zero_grad()
    out.backward()
    sgd.step()

转换后

import paddle


class MyNet(paddle.nn.Module):
    test = "str"

    def __init__(self, num_classes=10):
        super(MyNet, self).__init__()
>>>>>>        self._conv = mmcv.cnn.ConvModule(4, 6, (3, 3))
        self._pool = paddle.nn.MaxPool2D(kernel_size=2, stride=1)
        self._fc1 = paddle.compat.nn.Linear(6 * 25 * 25, 120)
        self._fc2 = paddle.compat.nn.Linear(120, out_features=84)
        self._fc3 = paddle.compat.nn.Linear(in_features=84, out_features=num_classes)

    def forward(self, x):
        x = self._conv(x)
        x = self._pool(x)
        x = self._fc1(paddle.flatten(x=x, start_axis=1))
        x = self._fc2(x)
        x = self._fc3(x)
        y = paddle.add(x=x, y=paddle.to_tensor(x))
        return y


net = MyNet()
sgd = paddle.optimizer.SGD(
    parameters=net.parameters(), learning_rate=0.01, weight_decay=0.0
)
tmp_lr = paddle.optimizer.lr.MultiStepDecay(
    milestones=[2, 4, 6], gamma=0.8, learning_rate=sgd.get_lr()
)
sgd.set_lr_scheduler(tmp_lr)
lr = tmp_lr
for i in range(10):
    x = paddle.rand(shape=[8, 4, 28, 28])
    out = net(x).sum()
    sgd.clear_gradients(set_to_zero=False)
    out.backward()
    sgd.step()

日志打印

在转换过程中，终端打印信息如下：

===========================================
PyTorch to Paddle Convert Start ------>:
===========================================
Start convert file: /workspace/PaConvert/test.py --> /workspace/PaConvert/paddle_project/test.py
[test.py:1] remove 'import torch'
[test.py:2] remove 'import torch.nn as nn'
[test.py:3] remove 'import torch.optim as optim'
[test.py:4] remove 'import torch.nn.functional as F'
[test.py:5] remove 'from torch.nn import Linear'
[test.py:6] remove 'import mmcv'
[test.py] add 'import paddle' in line 1
[test.py:1] [Success] Convert torch.nn.Module to Paddle
[test.py:13] [Not Support] convert mmcv.cnn.ConvModule to Paddle is not supported currently
[test.py:14] [Success] Convert torch.nn.MaxPool2d to Paddle
[test.py:16] [Success] Convert torch.nn.Linear to Paddle
[test.py:17] [Success] Convert torch.nn.Linear to Paddle
[test.py:18] [Success] Convert torch.nn.Linear to Paddle
[test.py:24] [Success] Convert torch.flatten to Paddle
[test.py:27] [Success] Convert torch.add to Paddle
[test.py:31] [Success] Convert Class Method: torch.nn.Module.parameters to Paddle
[test.py:31] [Success] Convert torch.optim.SGD to Paddle
[test.py:32] [Success] Convert torch.optim.lr_scheduler.MultiStepLR to Paddle
[test.py:35] [Success] Convert torch.rand to Paddle
[test.py:36] [Success] Convert Class Method: torch.Tensor.sum to Paddle
[test.py:38] [Success] Convert Class Method: torch.nn.Module.zero_grad to Paddle
[test.py:39] [Success] Convert Class Method: torch.Tensor.backward to Paddle
[test.py:40] [Success] Convert Class Method: torch.optim.Optimizer.step to Paddle, just remain the same
Finish convert /workspace/PaConvert/test.py --> /workspace/PaConvert/paddle_project/test.py


===========================================
Convert Summary
===========================================
There are 16 Pytorch APIs in this Project:
 15  Pytorch APIs have been converted to Paddle successfully!
 1  Pytorch APIs are not supported to convert to Paddle currently!
 Convert Rate is: 93.75%

For these 1 Pytorch APIs that currently do not support to convert, which have been marked by >>> before the line,
please refer to [https://www.paddlepaddle.org.cn/documentation/docs/zh/develop/guides/model_convert/convert_from_pytorch/pytorch_api_mapping_cn.html]
and convert it by yourself manually. In addition, these APIs will be supported in future.

Thank you to use Paddle Code Convert Tool. You can make any suggestions
to us by submitting issues to [https://github.com/PaddlePaddle/PaConvert].

****************************************************************
______      _____                          _
| ___ \    / ____|                        | |
| |_/ /_ _| |     ___  _ ____   _____ _ __| |_
|  __/ _  | |    / _ \| \_ \ \ / / _ \ \__| __|
| | | (_| | |___| (_) | | | \ V /  __/ |  | |_
\_|  \__,_|\_____\___/|_| |_|\_/ \___|_|   \__|

***************************************************************

转换完成后，会打印 转换总结 ，包含 总 API 数、成功转换 API 数、不支持转换 API 数、转换率 。例如，上述代码里一共有 16 个 Pytorch API（含基于 Pytorch 的第三方库 API 例如 mmcv），其中 15 个被成功转换，仅 1 个不支持转换，因此转换率为 93.75% 。

• 对于成功转换的 API：代码风格会略有变化，会 补全 API 全名、补全参数关键字、移除注释 。因为代码在扫描识别的过程中，注释 无法识别，会被移除。

• 对于不支持转换的 API：将 补全为 Pytorch API 全名，同时在行前通过 >>>>>> 的形式加以标记，用户需要对该 API 进行人工手动转换，然后删除 >>>>>> 标记，否则代码无法运行。

经典案例

以下大语言模型代码库已经支持一键 100%转换率，欢迎学习与交流：

贡献代码

代码自动转换工具（PaConvert）为开源贡献形式，欢迎向我们贡献代码，详细开发步骤请参考 贡献代码教程。