PCT — Point Cloud Transformer for ModelNet40

Jittor 实现的 Point Cloud Transformer，用于 ModelNet40 三维点云分类。

运行

pixi run python3 pct.py \
  --epochs 200 --lr 1e-4 --warmup_epochs 0 \
  --batch_size 16 --sync_every 1 \
  --use_edgeconv 1 --use_dual_pool 1 --use_rpe 1 \
  --optimizer adamw --norm bn --val_split 0.1

恢复训练：

pixi run python3 pct.py --resume runs/<run_name> [同上参数]

架构

组件	说明
Input Embedding	2× Conv1d (3→128→128) + BatchNorm + ReLU
EdgeConvLite	1×1 Conv 差分残差，模拟局部几何偏置（无 KNN）
Offset-Attention ×4	标准 SA + Laplacian 残差 (x - x_r)
Position Embedding	坐标投影后加至特征（官方 PCT 2021.3.31 方案）
Global Pooling	Max + Avg 双池化
Classifier	FC(2048→512→256→40) + BatchNorm + Dropout(0.5)

最佳结果

• 验证集准确率: 90.35%（Epoch 22）
• 参数量: 1.92M
• 优化器: AdamW (lr=1e-4, wd=0.05)
• 归一化: BatchNorm
• 学习率策略: Cosine annealing（无 warmup）

关键参数

参数	值
--norm	bn（BatchNorm，非 GroupNorm）
--lr	1e-4
--warmup_epochs	0
--batch_size	16
--sync_every	1

依赖

• Python 3.8+
• Jittor ≥ 1.3.11
• ROCm 7.2（GPU 训练）

文件说明

文件	说明
pct.py	主训练脚本
scripts/run_experiments.py	消融实验运行器

参考

• Guo et al. “PCT: Point Cloud Transformer.” CVM 2021.
• Jittor 官方 PCT 实现: MenghaoGuo/PCT