一种水声信号种类识别方法、系统及设备

摘要

本申请公开了一种水声信号种类识别方法、系统及设备，基于深度密集连接神经网络，所述方法包括：将水下通信传输的多种调至信号进行数据预处理，获得输入信号种类原始数据集；确定对所述输入信号种类原始数据集进行处理的深度密集连接神经网络；通过所述深度密集连接神经网络识别输出水声信号的种类。深度密集连接神经网络克服了跨层连接方法更容易拟合更深模型的问题，在通信过程中，以物理层信号形式进行的分析简单，使用更深层次的模型时较少涉及。通过跨层连接，可以防止过度拟合现象，提高模型的泛化能力，加深模型提高分类精度。

说明书

技术领域

本申请涉及信号识别技术领域，具体涉及一种水声信号种类识别方法、系统及设备。

背景技术

近年来，作为非合作通信系统核心的调制识别技术得到了深入的研究。作为现代通信系统不可或缺的一部分，调制识别在军事和民用领域均显示出提高系统效率，实现电子对抗以及无线信号破解等诸多实用价值。尤其是在软件无线电(包括认知无线电)中，调制识别已成为实现无线电系统智能的关键部分。在军事领域，它主要涉及电子战中对敌方信号捕获后的进一步地识别及处理。为了有效地使用干扰敌方信号来阻止敌方通信，必须发送更高功率的信号，以超过相同频带中的敌方信号功率。显然，最重要的是，所发送的干扰信号应具有与调制分类器检测到的干扰信号相同的调制方案。在民用领域，灵活的LA(Link-Adaptation，链路自适应)系统可以根据通过测量获得的信道条件，来自适应地选择高效的调制方案来提升通信系统传输效率。但是，自动信号调制种类识别的研究尚未在水下通信领域中并未广泛开展使用。

从通信的角度来看，水下信息传输的载体是水自身，它相当于陆地无线通信的空气。水下信道比陆地无线信道复杂得多，因为水下电磁波的吸收特性使电磁波无法在水下环境中长距离传播，因此许多经典的陆地无线电通信技术不能直接用于水下通信过程。水下通道是一种不均匀和随机的介质通道，具有时间分散和慢衰落的特性。能量损耗不仅随距离增加，而且随频率增加，因此可用带宽很窄(只有几千赫兹)，信道容量很小，并且在传播过程中随时空变化，多径干扰影响很大。当信道带宽受限且容量较小时，有效的调制方案对于提高通信效率尤为重要。调制和解调是数字通信系统的基础，它是最基本，最重要的环节之一。在水下通信系统中，应用了PSK(Phase Shift Keying，移移键控)和QAM(Quadrature Amplitude Modulation，正交幅度调制)。由于在水下环境中的干扰更为严重，并且信号比陆地无线通信受到的影响更大，这使得调制星座图变得模糊并且相移现象变得明显。

自1990年代人工神经网络，尤其是CNN(Convolutional Neural Networks，卷积神经网络)一直在蓬勃发展。在通信领域，调制识别和信号识别主要通过使用浅层人工神经网络来完成。直到2012年，AlexNet开始在图像识别方面取得突破，从ZFNet到VGGNet，GoogLeNet，再到ResNet。如图1所示，典型的网络结构是VGGNet，其中Conv是卷积层，3×3是内核大小，64～512是图像过滤器数。pool是池化层，使用1到5来区分不同的池化层。fc是全连接层，4096是隐藏的单元数。但是，这些深层神经网络也会生成难以搜索的高维非线性超参数空间，从而导致过度拟合现象和较差的泛化能力。在这种情况下，网络越来越深，架构也越来越复杂。为了提高深度网络模型的泛化能力，采用了许多巧妙的解决方案来减少反向传播中的过度拟合出现和梯度消失的问题，例如Dropout，批处理归一化(BatchNormalization，BN)和ReLU非线性函数等。在计算机视觉领域，CNN已成为最主流的方法。同样，通信领域已开始使用深度学习方法，例如用于处理各种无线网络问题的基于ANN的机器学习算法。许多研究涉及基于深度学习的算法，例如物理层通信过程分析，通过CNN和BP(Belief Propagation，信念传播)的组合进行信道解码以及使用RNN(Recurrent NeuralNetwork，递归神经网络)来识别和检测通信系统中的数据序列。但是，可以看出，更深更广的网络可以了解有关数据集分布的更多功能，但是它们也导致过拟合的问题，使模型无法使用。

发明内容

本申请为了解决上述技术问题，提出了如下技术方案：

第一方面，本申请实施例提供了一种水声信号种类识别方法，基于深度密集连接神经网络，所述方法包括：将水下通信传输的多种调至信号进行数据预处理，获得输入信号种类原始数据集；确定对所述输入信号种类原始数据集进行处理的深度密集连接神经网络；通过所述深度密集连接神经网络识别输出水声信号的种类。

采用上述实现方式，深度密集连接神经网络克服了跨层连接方法更容易拟合更深模型的问题，在通信过程中，以物理层信号形式进行的分析简单，使用更深层次的模型时较少涉及。通过跨层连接，可以防止过度拟合现象，提高模型的泛化能力，加深模型，提高分类精度。

结合第一方面，在第一方面第一种可能的实现方式中，所述确定对所述输入信号种类原始数据集进行处理的深度密集连接神经网络，包括：确定所述深度密集连接神经网络的层数和每层的顺序；确定每层神经网路中包含的网络结构。

结合第一方面第一种可能的实现方式，在第一方面第二种可能的实现方式中，所述深度密集连接神经网络从网络输入端到网络输出端包括：输入层、预处理层、中间密集连接层和输出层。

结合第一方面第二种可能的实现方式，在第一方面第三种可能的实现方式中，所述输入层通过预设的数据调整，将所述输入信号种类原始数据集转换为输入网络进行进一步学习的输入数据集。

结合第一方面第二种可能的实现方式，在第一方面第四种可能的实现方式中，所述预处理层包括第一Conv层和第一BN层，所述第一Conv层用于提取输入数据集的数据特征，所述第一BN层用于在每次正向传播期间标准化数据集分布。

结合第一方面第二种可能的实现方式，在第一方面第五种可能的实现方式中，所述中间密集连接层包括第二BN层、ReLU层和第二Conv层，所述ReLU层为非线性激活函数层，ReLU函数形式为：

ReLU层被非线性激活后，越接近x，则与特征越相关；越接近0，则相关性越小；在特征提取中，不相关的数据被直接丢弃以减少数据量。

结合第一方面第二种可能的实现方式，在第一方面第六种可能的实现方式中，所述输出层为softmax激活功能层：

其中i代表各种类别之一，Q代表所有类别的总数。

结合第一方面，在第一方面第七种可能的实现方式中，所述深度密集连接神经网络在训练过程中，网络中的每一层仅提取部分数据特征，随机丢弃部分网络层不会影响网络的收敛。

第二方面，本申请实施例提供了一种水声信号种类识别系统，基于深度密集连接神经网络，所述系统包括：预处理模块，用于将水下通信传输的多种调至信号进行数据预处理，获得输入信号种类原始数据集；训练模块，用于确定对所述输入信号种类原始数据集进行处理的深度密集连接神经网络；识别输出模块，用于通过所述深度密集连接神经网络识别输出水声信号的种类。

第三方面，本申请实施例提供了一种设备，包括：处理器；存储器，用于存储计算机可执行指令；当所述处理器执行所述计算机可执行指令时，所述处理器执行第一方面或第一方面任一可能实现方式所述的水声信号种类识别方法，对水声信号进行种类识别。

附图说明

图1为本申请实施例提供的VGGNet结构示意图；

图2为本申请实施例提供的一种水声信号种类识别方法的流程示意图；

图3为本申请实施例提供的ResNet结构示意图；

图4为本申请实施例提供的短连接快捷残差网络基本单元结构示意图；

图5为本申请实施例提供的密集连接网络结构示意图；

图6为本申请实施例提供的水下通信过程模型示意图；

图7为本申请实施例提供的密集连接网络在不同损失函数下的识别效果示意图；

图8为本申请实施例提供的密集连接网络在不同优化器下的识别效果示意图；

图9为本申请实施例提供的密集连接网络在不同层数下的识别效果示意图；

图10为本申请实施例提供的一种水声信号种类识别系统的示意图；

图11为本申请实施例提供的一种设备的示意图。

具体实施方式

下面结合附图与具体实施方式对本方案进行阐述。

图2为本申请实施例提供的一种水声信号种类识别方法的流程示意图，参见图2，所述方法包括：

S101，将水下通信传输的多种调至信号进行数据预处理，获得输入信号种类原始数据集。

S102，确定对所述输入信号种类原始数据集进行处理的深度密集连接神经网络。

深度学习网络可以有效地学习接收信号数据集的调制分布特性。考虑到更深层的网络容易发生过度拟合问题，网络学习到的特征参数可以通过使用的跨层连接共享的方式来减轻这种现象。此外，跨层连接可以提高网络中参数的传输效率，从而降低了计算复杂度。设计的网络可以充分学习信号数据集的更多特征，从而对多普勒频移和多途干扰具有更好的鲁棒性。

深度学习网络架构可以通过深化网络结构来有效地提高分类效果。但是，深度网络体系结构很容易导致模型退化和梯度消失。在更深的网络中，这两种情况更有可能发生，并变得更加严重。随着网络层数的增加，输入信息和在每一层之后生成的梯度信息将逐渐减少，最终可能被洗掉。为了解决由深化网络体系结构引起的退化和梯度消失问题，解决方案是最小化前层和后层之间的连接。这有效地在层之间传递学习到的梯度信息。

为了缓解这两个问题带来的深度学习网络训练问题，设计了ResNet网络结构形式。典型的ResNet网络结构如图3所示。这些网络体系结构都有一个共同点：在每一层和后续层之间建立捷径。随着ResNet模型的出现，通过这种方式可以训练更深的CNN模型，以实现更高的精度。随着网络架构的加深，可以更充分地学习数据集的概率分布，从而可以实现更高的识别准确性。实际使用深度网络的前提是要克服过度拟合的问题。ResNet模型的核心是在前后层之间建立短连接的捷径，这有助于在训练过程中向后传播梯度信息，以训练更深的CNN网络。更深的网络结构可以学习更多的数据集表征，从而获得更有效的训练效果和更高的识别准确度。

典型的短连接快捷连接的网络单元基本结构如图4所示。将网络中的输入和输出关系视为：

通过梯度法，直接求出

其中z＝m等于网络单位假设中的观测值。

这种类型的网络形式主要是后一层可以直接使用原始输入信息，也可以使用前一层处理输入信息的结果。这使网络中各层之间的信息流最大化。在反向传播过程中，输入的梯度信息包含直接导出输入信息的损失函数的结果。这更有利于网络层次之间的梯度传播，从而有效地解决了模型退化问题。

具体的短连接残差快捷连接结构为：

其中n

z＝vn+η (5)

其中n是输入，v是网络的权重，η是偏差。等式(4)可写成

通过增加从输入到输出的直接连接，可以解决网络性能下降的问题，并且还可以实现网络的高效训练。假设从j层到j-1层，根据全连接层，常规为

引用(6)，短连接残差快捷方式结构传递了反向导数。反向转换过程为

通过公式(8)可以提高训练速度并有效抑制网络性能下降。当网络变得很深时，在网络的训练会变得很慢。随着加权值的正规化，此时的权重变得非常小。加上多级层叠，层中的梯度很小。如果在这个过程中加上1，则模型可以增加梯度并使网络更易于训练。因此，这种形式避免了模型的退化，并且可以在正确的梯度方向上找到最佳匹配尺寸。

有鉴于此，本申请使用了如图5所示的确定对所述输入信号种类原始数据集进行处理的深度密集连接神经网络。具体地，确定所述深度密集连接神经网络的层数和每层的顺序和每层神经网路中包含的网络结构。

本实施例中，所述深度密集连接神经网络从网络输入端到网络输出端包括：输入层、预处理层、中间密集连接层和输出层。

输入层表示包括各种调制形式的水下通信数据。通过基本的数据调整后，变换成可以输入网络进行进一步学习的数据格式。

预处理层由第一Conv层和第一BN层组成。第一Conv层和第一BN层表示该图层同时具有这两个功能。第一Conv层用于提取输入数据集的数据特征，第一BN层的主要目的是在每次正向传播期间标准化数据集分布。训练数据中的值都在同一顺序上，这使得获得的值更稳定。

中间密集连接层包括第二BN层、ReLU层和第二Conv层。虽然更深的网络带来更好的分类结果，但它也导致了大量的网络参数。大量的网络参数会消耗更多的硬件资源，并且网络的实际利用率较低。有些层无法有效学习数据集的特征，因此可以有选择地删除。在随机深度网络中，发现训练过程中的每一层都随机丢弃了一些层，这可以显着提高ResNet的表达能力。这表明网络不必是渐进式的层次结构。也就是说，网络中的某个层不必通过紧邻的上层获得数据集的特征，并且还可以根据上层提供的特征来学习数据集的特征。在训练过程中，随机丢弃的许多层不会影响网络的收敛。这表明ResNet仍然具有明显的冗余性，说明网络中的每一层仅提取部分数据特征。训练好的ResNet随机丢弃了几层，对预测结果的影响不大。这说明每层学习的特征太小，可以通过减少冗余来提高网络效率。

中间密集连接层中的各单元模块层具体解释如下：

ReLU(整流线性单位)表示非线性激活函数层，ReLU函数形式为

ReLU层被非线性激活后。越接近x，则与特征越相关。越接近0，则相关性越小。在特征提取中，不相关的数据被直接丢弃以减少数据量。

输出层输出最终分类，该分类由softmax激活功能层实现。它代表结果的最终判断输出。

其中i代表各种类别之一，Q代表所有类别的总数。

每一层都将上一层的输出作为输入，假设网络总共有D连接。对于所设计的网络，存在一个D×3+4(D≥2)层。后面层可以直接使用原始输入信息，这样可以最大化网络中各层之间的信息流。同时，在反向传播的过程中，这种情况更有利于梯度传播。此外，多个短连接快捷残差方式连接具有正则化效果，对过度拟合具有良好的抑制作用。而且，网络宽度更窄，参数量能够控制在合理范围，可以更容易地嵌入到水声通信系统中。

S103，通过所述深度密集连接神经网络识别输出水声信号的种类。

通用水下通信系统如图6所示。接收器接收调制信号形式为

其中g(t)是要发送的原始信号，由(0，1)组成，而s(t)是调制信号。通过水下信道发送信号后，传输的信号不仅受到水下传输介质本身的影响，而且还受到外部附加噪声的干扰。可以表示信道特性{·}与外部噪声n(t)之和。在这里，符号{·}表示一种变换，输入信号通过通道特性δ(ε，R，t，B)对输出调制信号s′(t)作出反应。信道δ(ε，R，t，B)是脉冲响应函数，ε是脉冲持续时间，R是数据速率，t是时间，B是有限带宽。在接收水听器进行解调后，在接收器接收到的最后一个信号是g′(t)。

在仿真实验中使用了浅海航道模型参数，因为浅海环境更加复杂并且可以更好地反映模型中的识别性能。仿真使用由实际环境生成的通道参数。同时，基于软件定义的无线电平台的仿真可以更好地反映真实的水下声通信环境。发射端和接收端的深度为10m，它们之间的距离为5000m，载波为10kHz，风速为20节。SNR范围为-20dB至20dB。假定该噪声为具有标准偏差和零均值的加性高斯白噪声。

第一步，为了获得更好的模型性能，需要选择适合于水下通信数据集的模型参数。

这些参数主要包括损失函数，优化器和模型层数。图7至图9显示了在不同损失函数，优化器，模型深度和滤波器下的模型训练效果。

图7使用不同的损失函数(lossfunction)对网络模型训练的影响。交叉熵(crossentropy)具有比mse有明显的优势。在较高的SNR(SNR＞0)时，差异较小。这主要是因为高SNR时干扰很小，信号调制的星座可以更好地被区分了。当损耗函数在低SNR(SNR＜0)时，使用交叉熵优势更加明显。主要源于在低SNR下干扰严重，选择适当的损失函数，可以更好地评估模型的判断标准，并在一定程度上提高识别率。

图8还通过选择不同的优化器(optimizer)来说明它们对训练性能的影响。优化器主要包括Adam，RMSProp和SGD(设置了SGD＝0.001)。非凸信号数据集中有更多的局部最小值。与其他两个优化器相比，Adam可以更有效地跳出局部最小值，找到全局最小值，最终可以获得更好的调制识别的结果。

图9通过设置不同层数(layers)可以得到不同的识别效果。在SNR＞0时，各层的识别效果基本相同。尽管越多的层可以更好地学习数据集的分布特征，但可以看出，当层数达到一定数量时，效果没有持续提升。比较166层和199层，增加的层数不会带来显着的识别效果改善，过多的层数复杂度更高还导致了训练速度的下降。在SNR＜0时，layer＝166可以获得更好的识别效果。

第二步，在水下通信过程中，多普勒效应和多径效应是影响通信效果的主要问题。因此，可以在这两种不同条件下验证所设计网络的有效性。

在两种典型水声通信多普勒效应(doppler)参数的识别效应。可以看出，所设计的网络对多普勒效应具有良好的适应性。在水声通信两种典型多普勒效应下，识别率差异不大，证明了网络对多普勒效应具有较好的鲁棒性。

在SNR＞-10dB的情况下，在各种多径干扰的情况下，网络的识别性能几乎相同。在低SNR(SNR＜-10dB)的情况下，18条路径的识别效果略好于其他两条路径，但相差不大。结果表明，所设计的网络在水下通信调制识别中具有较强的抵抗多径干扰的能力。

第三步，对比常见的神经网络方法可以证明本申请的创新网络架构的合理性。主要对比网络包括深度神经网络(Deep Neural Network，DNN)，多层感知器(Multi-LayerPerceptron，MLP)，人工神经网络(Artificial Neural Network，ANN)，长期短期记忆(LongShort-Term Memory，LSTM)，通过本文设计的网络用MuCoModel表示。在SNR＜-18dB时，各种神经网络方法差别不大。从SNR＞-15dB开始，MuCoModel与其他神经网络方法相比具有明显的识别优势。

由上述实施例可知，本实施例提供了一种水声信号种类识别方法基于深度密集连接神经网络，深度密集连接神经网络克服了跨层连接方法更容易拟合更深模型的问题，在通信过程中，以物理层信号形式进行的分析简单，使用更深层次的模型时较少涉及。通过跨层连接，可以防止过度拟合现象，提高模型的泛化能力，加深模型，提高分类精度。

与上述实施例提供的一种水声信号种类识别方法相对应，本申请还提供例如一种水声信号种类识别系统的实施例，参见图10，水声信号种类识别系统20包括：预处理模块201、训练模块202和识别输出模块203。

所述预处理模块201，用于将水下通信传输的多种调至信号进行数据预处理，获得输入信号种类原始数据集。

所述训练模块202，用于确定对所述输入信号种类原始数据集进行处理的深度密集连接神经网络。具体地，确定所述深度密集连接神经网络的层数和每层的顺序和每层神经网路中包含的网络结构。

所述深度密集连接神经网络从网络输入端到网络输出端包括：输入层、预处理层、中间密集连接层和输出层。所述输入层通过预设的数据调整，将所述输入信号种类原始数据集转换为输入网络进行进一步学习的输入数据集。所述预处理层包括第一Conv层和第一BN层，所述第一Conv层用于提取输入数据集的数据特征，所述第一BN层用于在每次正向传播期间标准化数据集分布。所述中间密集连接层包括第二BN层、ReLU层和第二Conv层，所述ReLU层为非线性激活函数层，ReLU函数形式为：

ReLU层被非线性激活后，越接近x，则与特征越相关；越接近0，则相关性越小；在特征提取中，不相关的数据被直接丢弃以减少数据量。所述输出层为softmax激活功能层：

其中i代表各种类别之一，Q代表所有类别的总数。

本实施例中，所述深度密集连接神经网络在训练过程中，网络中的每一层仅提取部分数据特征，随机丢弃部分网络层不会影响网络的收敛。

所述识别输出模块203，用于通过所述深度密集连接神经网络识别输出水声信号的种类。

本申请还提供了一种设备，参见图11，设备30包括：处理器301、存储器302和通信接口303。

在图11中，处理器301、存储器302和通信接口303可以通过总线相互连接；总线可以分为地址总线、数据总线、控制总线等。为便于表示，图11中仅用一条粗线表示，但并不表示仅有一根总线或一种类型的总线。

处理器301通常是控制设备30的整体功能，例如设备30的启动、以及设备启动后将水下通信传输的多种调至信号进行数据预处理，获得输入信号种类原始数据集；确定对所述输入信号种类原始数据集进行处理的深度密集连接神经网络；通过所述深度密集连接神经网络识别输出水声信号的种类。

此外，处理器301可以是通用处理器，例如，中央处理器(英文：centralprocessing unit，缩写：CPU)，网络处理器(英文：network processor，缩写：NP)或者CPU和NP的组合。处理器也可以是微处理器(MCU)。处理器还可以包括硬件芯片。上述硬件芯片可以是专用集成电路(ASIC)，可编程逻辑器件(PLD)或其组合。上述PLD可以是复杂可编程逻辑器件(CPLD)，现场可编程逻辑门阵列(FPGA)等。

存储器302被配置为存储计算机可执行指令以支持设备30数据的操作。存储器301可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(SRAM)，电可擦除可编程只读存储器(EEPROM)，可擦除可编程只读存储器(EPROM)，可编程只读存储器(PROM)，只读存储器(ROM)，磁存储器，快闪存储器，磁盘或光盘。

启动设备30后，处理器301和存储器302上电，处理器301读取并执行存储在存储器302内的计算机可执行指令，以完成上述基于深度密集连接神经网络的水声信号种类识别方法实施例中的全部或部分步骤。

通信接口303用于设备30传输数据，例如实现与用户之间的数据通信。通信接口303包括有线通信接口，还可以包括无线通信接口。其中，有线通信接口包括USB接口、MicroUSB接口，还可以包括以太网接口。无线通信接口可以为WLAN接口，蜂窝网络通信接口或其组合等。

在一个示意性实施例中，本申请实施例提供的设备30还包括电源组件，电源组件为设备30的各种组件提供电力。电源组件可以包括电源管理系统，一个或多个电源，及其他与为设备30生成、管理和分配电力相关联的组件。

通信组件，通信组件被配置为便于设备30和其他设备之间有线或无线方式的通信。设备30可以接入基于通信标准的无线网络，如WiFi，2G或3G，或它们的组合。通信组件经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。通信组件还包括近场通信(NFC)模块，以促进短程通信。例如，在NFC模块可基于射频识别(RFID)技术，红外数据协会(IrDA)技术，超宽带(UWB)技术，蓝牙(BT)技术和其他技术来实现。

本申请说明书中各个实施例之间相同相似的部分互相参见即可。尤其，对于系统及设备实施例而言，由于其中的方法基本相似于方法的实施例，所以描述的比较简单，相关之处参见方法实施例中的说明即可。

需要说明的是，在本文中，诸如“第一”和“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

当然，上述说明也并不仅限于上述举例，本申请未经描述的技术特征可以通过或采用现有技术实现，在此不再赘述；以上实施例及附图仅用于说明本申请的技术方案并非是对本申请的限制，如来替代，本申请仅结合并参照优选的实施方式进行了详细说明，本领域的普通技术人员应当理解，本技术领域的普通技术人员在本申请的实质范围内所做出的变化、改型、添加或替换都不脱离本申请的宗旨，也应属于本申请的权利要求保护范围。