结合注意力机制与时空特征融合的长时程行为识别方法

摘要

为了建立基于视频行为识别的长时程图像序列的时空信息模型,文章提出了一种嵌入注意力的时空特征融合网络(attention-embedded spatial-temporal feature fusion network,ASTFFN)的深度神经网络模型.AST FFN将一个包含动作的长时程图像序列分割成多个重叠的片段,并使用一个注意力嵌入特征提取网络(attention-embedded feature extraction network,AFEN)从每个片段中的RGB图像或光流图像中提取经过注意力加权的时空特征,进而融合每个片段的时空加权特征,生成行为识别的视频级预测.基于U C F101和H M DB51行为识别数据库进行了大量的实验,验证了方法的有效性.与目前主流的行为识别算法相比,该文方法在识别精度上取得了较好的效果.