一种改进的点云Transformer深度学习模型

摘要

针对点云Transformer中注意力计算单一与局部特征嵌入损失的问题,本文提出了一种改进的点云Transformer编码结构.首先,在自注意力权重矩阵的计算中进行多头分拆分并独立计算注意力得分,以实现从多个方面的自注意力计算.然后,在邻域编码时增加了多空间尺度邻域特征嵌入,以融合多个尺度上的邻域特征.最后,为特征增加了自适应的空间位置编码嵌入,以增强绝对空间位置特征.基于改进的Transformer编码结构,构建了形状分类、零件分割和法向量估计三种常见点云分析任务的深度学习模型,并在ModelNet与ShapeNet数据集上验证了模型的有效性.实验结果表明,与点云Transformer相比,本文方法的分类准确率与分割平均重叠度分别提高了0.3%和0.2%,这充分验证了改进方法的有效性.