一种基于遗传算法与神经网络的硬判决译码方法

摘要

本发明涉及通信中信号处理领域，特别涉及一种基于遗传算法与神经网络混合智能算法的硬判决译码方法，即遗传神经网络译码(Genetic Neural-network Decoding，GND)方法。该方法充分利用遗传算法的自优化能力和神经网络的模式分类功能对接收匹配滤波器的硬判决量化输出进行优化处理，以弥补因信道传输误差和硬判决量化给译码带来的可靠性损失，从而恢复出一个与传输序列更似然的码字作为硬判决译码器的输入以得到一个更好的译码结果。从理论分析和计算机模拟仿真可看出，该GND译码方法纠错性能接近传统软判决译码，又由于译码过程不需要利用信道统计软信息，其复杂度相对传统软判决译码大幅度降低。

说明书

技术领域

本发明涉及通信中信号处理领域，特别涉及硬判决译码方法，该 方法是基于遗传算法(Genetic Algorithm，GA)与神经网络(Neural  Network，NN)实现。

背景技术

目前，纠错码技术已经成为了实现及时可靠通信的不可或缺的手 段和方法。然而，纠错码的软判决译码技术却一直存在适用范围小、 计算复杂度高等问题，难以在现有的技术条件下、在比较合理的有限 时间内得到良好的解决。除此之外，一般的译码算法都是串行处理， 仅适合于低、中速的数字通信系统。目前数字通信和信息存储系统正 朝着高速度、高带宽、高可靠性方向发展，对纠错码提出了新的要求， 译码问题俨然已成为纠错码发展的一大瓶颈。

Berlekamp等人已证明了一般纠错码的译码问题是一类NP (Non-deterministic Polynomial)复杂问题，可等价为组合优化问题处理。 智能算法(Intelligent Algorithm,IA)作为一种通过模仿自然世界的内在 自适应优化机制获取解决复杂组合优化问题的信息处理技术被引入 到了纠错码技术中。利用智能算法的自适应优化以及快速并行处理等 机理解决纠错码译码技术所面临的困难具有重要理论意义与实用价 值。

查阅相关文献可知，目前把GA译码算法和神经网络算法各自单 独应用在纠错码中进行硬判决译码的研究比较多，但总体来说，其译 码综合性能不佳，要么复杂度高，要么纠错性能不佳。这是因为对于 复杂优化问题，单一机制的智能算法很难实现全局优化，且效率低。 通过混合不同的智能算法来扬长避短，能有效地解决科技和工程领域 中的NP难解问题。就遗传算法而言，其全局搜索能力好，但在单独 使用时，很难做到收敛速度和收敛性能之间好的折衷，而智能算法中 的另一种热门算法—神经网络算法收敛速度却很快，但对参数选择的 苛刻。因此，若将二者有机结合应用到译码算法中，将可以扬长弊端， 取得较好求解结果。

发明内容

为了降低传统软判决译码的复杂性，同时提高了译码速度，本发 明提供一种基于遗传算法与神经网络的硬判决译码方法，以弥补因信 道传输误差和硬判决量化给译码带来的可靠性损失，从而恢复出一个 与传输序列更似然的码字作为硬判决译码器的输入以得到一个更好 的译码结果，提高其纠错性。

本发明是一种混合智能译码方法，可以称为遗传神经网络译码 (Genetic Neural-network Decoding，GND)方法，其方法包括以下步 骤：

(1)训练神经网络：

(1.1)接收实数符号序列r(r₁,r₂,r₃,…)经过解调器匹配滤波器量 化后得到硬判决序列R；

(1.2)由解调器匹配滤波器量化后得到的硬判决序列R分别与随 机生成d_h/2个n维二进制序列T经过模2加之后产生d_h/2个候选序 列A；

(1.3)训练神经网络：神经网络作为一个分类器由三层网络构成， 即输入层，隐含层和输出层，输入层由个n-k神经元组成，输出层有 1个神经元，隐含层包括(2/3)(n-k+t+1)个神经元，其中k为码的信息位个 数，t为该码的最大纠错个数；训练过程为：将校正子序列作为输入 训练模式，将与其对应的错误模式的重量w作为目标输出，使之输 入一个校正子便能得到与之对应的错误图样的重量w(w＝1,2,3...,n), 校正子S根据遗传算法个体所代表的码字B和码的校验矩阵H得到， 即

S＝B·H′   式(1)；

(2)使用遗传算法优化得到一个与传输序列更似然的码字：

(2.1)种群初始化：生成2t个n位的二进制向量作为初始种群

(2.1.1)种群的第一个个体成员P1：将匹配滤波器输出的硬判 决序列R(r₁,r₂,...,r_n)设置为种群的第一个个体成员P1：

$P_1=R(r_1,r_2,...,r_n),r_i=\left(\begin{array}{cc}1,& q_i>0\\ 0,& q_i\le 0\end{array}\right)0<i<n$

其中，Q(q₁,q₂,...,q_n)为接收到的未经匹配滤波器硬判决量化的实 数序列；

(2.1.2)种群的其他2t-1个个体成员Pi:将由随机产生的均匀 二进制修正序列T(t₁,t₂,...,t_2t-1)和硬判决序列R相加得到，即：

P_i＝mod(R+T,2),2≤i≤2^t， T＝rand[0,1]；

(2.2)个体适应度评价：

根据下式对遗传算法个体的适应度进行评价

其中，λ(P,Q)为相关函数，用来计算遗传体Pi和接收实数序列 Q之间的欧氏距离，个体与接收的实属序列越相似，则λ的值越大，

$\lambda (P,Q)=\underset{i=1}{\overset{n}{\Sigma }}{p}_i·q_i$

Weight(Error class(Indiv.))为神经网络的输出结果，要得到 penalty，需要先计算待评估遗传个体的校正子序列S，再将S输入神 经网络；

(2.3)自然选择：基于轮盘赌选择法或其他选择方法从初始种群 中选择优秀的个体参与遗传，第i个个体被选中的概率为：

$p\left(P_i\right)=\frac{a\left(P_i\right)}{\underset{j=0}{\overset{N-1}{\Sigma }}a\left(P_j\right)}$

(2.4)配对交叉：选中的个体将会随机进行配对，通过将自身部 分元素(码元)与对方交叉产生新个体；

(2.5)遗传变异：随机选择过程(2.4)中产生的新个体，对其进行 变异处理，处理方法为，将个体的某位元素(码元)翻转，即由0→1 或1→0；

(2.6)遗传终止：遗传将在遗传世代数达到预设值时终止，此时 种群中适应度最高的个体将被输出，若世代数未达到则跳转步骤(2.3) 继续遗传过程。

(3)将遗传算法输出的最佳序列输入硬判决纠错译码器进行译 码，得到最终译码结果。

从以上方法可知，本发明将神经网络作为对遗传算法优化性能 的补充加入到遗传算法的个体适应度评估机制中，在适应度评估机制 中，神经网络充当一个模式分类器的角色，它根据遗传算法个体所代 表的码字与最近可用码字之间的汉明距离对遗传个体进行分类，与最 近码字之间汉明距离相同的遗传个体被分为一类。这一操作利用译码 标准阵中码字校正子与陪集首之间的一一对应关系，通过神经网络将 输入的遗传个体的校正子序列映射为与之对应的陪集首的重量(陪集 首的重量)来实现。神经网络得到的结果将作为补偿因子加入到遗传 算法的评价机制中，以进一步加强遗传算法的优化性能。

因此，本发明充分利用遗传算法的自优化能力和神经网络的模式 分类功能对接收匹配滤波器的硬判决量化输出进行优化处理，以弥补 因信道传输误差和硬判决量化给译码带来的可靠性损失，从而恢复出 一个与传输序列更似然的码字作为硬判决译码器的输入以得到一个 更好的译码结果。从理论分析和计算机模拟仿真可看出，其纠错性能 接近传统软判决译码；并且其译码过程不需要利用信道统计软信息， 其复杂度相对传统软判决译码大幅度降低。

附图说明

图1是本发明GND算法流程图；

图2是本发明神经网络分类器示意图；

图3是本发明GND译码算法性能仿真结果示意图；

图4是与表2对应的GND算法与Chase2、GPD算法复杂度的

图形对比分析图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合 附图及实施例，对本发明作进一步详细说明。

本发明是一种基于遗传算法与神经网络的硬判决译码方法，以分 组码(n,k)为例，其实现流程如图1所示，包括：

1、训练神经网络：

1)接收实数符号序列r(r₁,r₂,r₃,…)经过解调器匹配滤波器量化后 得到硬判决序列R；

2)由解调器匹配滤波器量化后得到的硬判决序列R分别与随机 生成d_h/2个n维二进制序列T经过模2加之后产生d_h/2个候选序列 A；

3)训练神经网络：GND译码中所需要用到的神经网络如图2所 示，它作为一个分类器由三层网络构成，即输入层，隐含层和输出层。 输入层由个n-k神经元组成，输出层有1个神经元，隐含层包括 (2/3)(n-k+t+1)个神经元，其中k为码的信息位个数，t为该码的最大纠错 个数。这一操作按照以下步骤实现：将校正子序列作为输入训练模式， 将与其对应的错误模式的重量w作为目标输出，使之输入一个校正 子便能得到与之对应的错误图样的重量w(w＝1,2,3...,n),校正子S可 以根据遗传算法个体所代表的码字B和码的校验矩阵H得到，即

S＝B·H′   式(1)

根据最小距离译码准则和标准阵理论可知，码字与最近可用码字 之间的汉明距离越大，则标准阵中其所对应的的陪首集重量越大，即 其可能含有的错误比特数越多，则将其对应校正子作为输入的神经网 络的输出值也越大。

2、使用遗传算法优化得到一个与传输序列更似然的码字：

1)种群初始化：生成2^t个n位的二进制向量作为初始种群

a.种群的第一个个体成员P₁：将匹配滤波器输出的硬判决序列 R(r₁,r₂,...,r_n)设置为种群的第一个个体：

$P_1=R(r_1,r_2,...,r_n),r_i=\left(\begin{array}{cc}1,& q_i>0\\ 0,& q_i\le 0\end{array}\right)0<i<n$式(2)

其中，Q(q₁,q₂,...,q_n)为接收到的未经匹配滤波器硬判决量化的实 数序列。

b.种群的其他2^t-1个个体成员P_i:将由随机产生的均匀二进制 修正序列T(t₁,t₂,...,t_2t-1)和硬判决序列R相加得到，即：

P_i＝mod(R+T,2),2≤i≤2t，T＝rand[0,1]   式(3)

2)个体适应度评价：

根据式4.11对遗传算法个体的适应度进行评价

   式(4)

a.λ(P,Q)为相关函数，用来计算遗传体Pi和接收实数序列Q之 间的欧氏距离。个体与接收的实属序列越相似，则λ的值越大。

$\lambda (P,Q)=\underset{i=1}{\overset{n}{\Sigma }}{p}_i·q_i$   式(5)

b.Weight(Error class(Indiv.))为神经网络的输出结果，它作为一 个补偿因子，代表了遗传个体所对应码字的最可能的错误图样的重量， 当遗传个体所含错误比特数越少，Weight(Error class(Indiv.))的值就越 小，最终fitness的值就会越大。要得到penalty，需要先利用式(1) 计算待评估遗传个体的校正子序列S，再将S输入神经网络。

3)自然选择：基于轮盘赌选择法或其他选择方法从初始种群中选 择优秀的个体参与遗传，个体被选择参与遗传的概率由其适应度决定， 适应度越高，其被选中的概率越大。一般，第i个个体被选中的概率 为：

$p\left(P_i\right)=\frac{a\left(P_i\right)}{\underset{j=0}{\overset{N-1}{\Sigma }}a\left(P_j\right)}$   式(6)

4)配对交叉：选中的个体将会随机进行配对，通过将自身部分元 素(码元)与对方交叉产生新个体，配对交叉的方法多种，最常见的 有单点交叉和多点交叉，本研究中选择单点交叉，交叉概率设为0.9；

5)遗传变异：随机选择过程4)中产生的新个体，对其进行变异处 理，具体按如下操作实现：将个体的某位元素(码元)翻转，即由0→1 或1→0，本研究中的变异概率设置为0.025；

6)遗传终止：遗传将在遗传世代数达到预设值时终止，此时种群 中适应度最高的个体将被输出，若世代数未达到则跳转步骤3)继续遗 传过程，本研究中遗传世代数设置为20。

3、将遗传算法输出的最佳序列输入硬判决纠错译码器进行译码， 得到最终译码结果。

以下从复杂度分析和误比特性能进行分析，来进一步说明本发明 的优点：

1、复杂度分析：

GND算法的计算开销主要包括遗传算法模块的优化，神经网络 的分类和硬判决译码器的纠错，其中遗传算法模块所占比例最大，就 神经网络部分而言，只要网络被训练好，在其使用模式时，只有简单 的几步加乘法和权累加运算，计算开销非常小。本分析按照整个译码 过程中所需的加法和乘法计算量对译码算法的复杂度进行评估。以线 性分组码BCH(n,k,d_h,t)为例，其中d_h为分组码的最小汉明距离，t为 分组码的最大纠错个数。

1)遗传算法优化模块：遗传算法需要进行gen代遗传，每代中 有2(dh/2-1)个个体需要被处理，每次处理将执行(n-1)次加法和n次乘 法，因此最终共需要执行次加法操作和 次乘法操作；

2)神经网络分类模块:本研究中的神经网络分类器共有 (2/3)(n-k+t+1)个隐单元。对一个已经训练好的神经网络在使用模式时， 每个隐单元需执行(n-k-1)次加法和(n-k)次乘法，输出单元执行 (2/3)(n-k+t+1)-1次加法和(2/3)(n-k+t+1)次乘法。因此，对于一个输入，在整个 译码过正中，神经网模块所需进行的加法运算次数为 {(2/3)(n-k+t+1)+n-k-2}·gen·2^t以及{(2/3)(n-k+t+1)+n-k}·gen·2^t次 的乘法运算。

3)硬判决译码器模块：以BCH的BM译码算法为例，其每次硬 判决译码需要执行(2nt+2t2-t)次加法运算和(2nt+2t2)次乘法运算。

若将硬判决量化视为加法运算，则本发明GND算法与Chase2、 GPD算法复杂度对比情况见表1:

以BCH(31,16,7,3)码为例，采用GND算法与Chase2、GPD算法 复杂度的对比分析数据见表2:

为了对比，图4中还给出了传统软判决译码Chase2和相关文献 中给出的一种基于遗传算法的GPD译码算法的复杂度对比情况。

仔细分析表2数据可知，三种译码中GND译码的计算开销量最 小，其次是GPD译码，而软判决CHASE2的计算量最大。这是由于 在译码过程中，CHASE2和GPD算法利用了额外的软信息产生候选 序列，而GND直接对解调器的滤波器输出进行处理，不借用软信息 生成候选空间。由此可看出GND算法是一种复杂度相对较低，可操 作性强的译码方法。

2、误比特性能分析：

本发明仿真模拟时，使用了BCH(31,16)作为译码对象，参数设 置值如表3，

为进行性能对比,申请人同时模拟了MLD最佳译码算法，GPD 译码(参见文献“袁建国,王琳，黄胜,王永.基于遗传算法的概率 译码算法[J].北京邮电大学报.2012,35(5):98～101”)，CHASE2软判 决译码以及BM硬判决译码的误比特性能,如图3所示。图中，R代 表接收调制器的匹配滤波器输出,BER表示误码率，SNR(dB)表示信 噪比。

通过对图3仔细分析可得到，各种译码算法通过对解调器的匹配 滤波器输出结果R采取不同的处理方法都能不同程度地降低接收序 列的误码率。例如图中所示，误码率为10^-4时，BM硬判决译码在匹 配滤波器的输出结果基础上可多获得约1.5dB的增益，GND算法约 为2dB,chase2约为2.4GPD译码约为2.6dB，MLD译码可获得约为 3.8dB。由此可看出，GND译码拥有较好的纠错性能，且接近传统的 软判决译码。虽然GND译码不如chase2和GPD算法获得的增益大， 但正如前文分析，由不需要利用信道统计概率软信息生成搜索空间， GND算法复杂度相对chase2软译码和GPD译码降低很多，其实用性 更强。从以上分析可得出，GND算法在译码复杂度和译码纠错性能 之间取得了一个较好的折衷，是一种优越的新型译码方法。

本领域技术人员显然清楚并且理解，本发明方法所举的实施例仅 用于说明本发明，而并不用于限制本发明。虽然通过实施例有效描述 了本发明，本领域技术人员知道，本发明存在许多变化而不脱离本发 明的精神。在不背离本发明精神及其实质情况下，本领域技术人员当 根据本发明做出相应的改变或变形，但这些相应的改变或变形均属于 本发明的权利要求保护范围。