双层异构网络中基于协作毫微微蜂窝的干扰抑制预编码方法

摘要

本发明公开了一种双层异构网络中基于协作毫微微蜂窝的干扰抑制预编码方法：首先采用QR分解方法消除多个宏小区用户之间，以及多个毫微微蜂窝用户之间的同层干扰，得到预编码矩阵的第一部分，将该部分与已知信道信息结合成为等效信道；利用等效信道信息，宏小区基站采用信漏噪比最大化准则抑制宏小区用户产生的跨层干扰，得到宏小区用户预编码矩阵的第二部分，毫微微蜂窝基站采用最小均方误差准则并加入跨层干扰限制条件以抑制毫微微蜂窝用户产生的跨层干扰，得到毫微微蜂窝用户预编码矩阵的第二部分；最后将两部分预编码矩阵结合，得到所需要的预编码矩阵。本发明有效抑制了同层和跨层干扰，提高了宏小区用户和毫微微蜂窝用户的传输速率。

说明书

技术领域

本发明属于无线通信领域，具体涉及一种双层异构网络中基于协作毫微微蜂窝的 干扰抑制预编码方法。

背景技术

目前，日益增多的室内无线通信用户以及这些无线通信用户日渐提高的服务 需求成为了制约通信发展的主要因素。而传统的宏小区基站服务能力有限，加之 室内用户普遍距离宏小区基站较远而产生了较严重的传输信号的功率衰落，这样 就导致了宏小区基站无法满足室内用户的需求。因此，需要在室内布置毫微微蜂 窝基站来拉近室内用户和基站间的距离，从而提高基站的覆盖范围，降低信号传 输的衰落影响，提高室内用户的服务质量。

然而，当在宏小区内布置毫微微蜂窝基站后，原始的宏小区网络即变成了宏 小区-毫微微蜂窝共存的异构网络。在这样的网络中，会存在两种干扰，即宏小区 用户之间或毫微微蜂窝用户之间的同层干扰，以及宏小区用户与毫微微蜂窝用户 之间的跨层干扰。这两种干扰都会影响系统性能，因此需要加以抑制。由于时间 和频率资源的有限性，传统的基于时分或频分的干扰抑制方法会降低资源利用效 率，因此需要利用空间资源来设计预编码方法以对这两种干扰进行抑制。

传统的预编码设计方法主要采用单一的准则对干扰进行处理，比如迫零准 则，块对角化准则，信干噪比最大化准则以及干扰对齐准则等。但是，在异构网 中，不论是宏小区基站还是毫微微蜂窝基站，都需要同时处理宏小区用户和毫微 微蜂窝用户，由于这两种用户总体的天线数较多，这就导致了采用单一准则进行 干扰抑制时，空间资源没有得到有效利用，从而降低了干扰抑制效果。此外对于 许多室内场景，如中小型企业，机场，学校，商场等，可能存在多个毫微微蜂窝 覆盖区域出现交叠的情况，此时可以考虑将邻近的若干个毫微微蜂窝划归到一个 协作簇中，在该协作簇中利用联合传输技术对毫微微蜂窝用户进行服务。

综上所述，如何设计一种在双层异构网络中基于协作毫微微蜂窝的预编码方 法，将同层干扰和跨层干扰分别处理，从而更有效地利用系统的空间资源是目前 亟待解决的问题。

发明内容

本发明的目的在于提供一种双层异构网络中基于协作毫微微蜂窝的干扰抑制预编 码方法，可以分别处理宏小区用户和毫微微蜂窝用户的同层和跨层干扰，有效利用系统 的空间资源，可以提升系统中用户的传输速率。

为达到上述目的，本发明采用了以下技术方案：

1)通过对维度压缩后的原始信道进行基于QR分解的同层干扰消除处理，得到宏 小区用户以及毫微微蜂窝用户各自预编码矩阵的第一部分，将所述预编码矩阵的第一部 分与已知信道信息结合成为等效信道；

2)在同层干扰消除的基础上利用等效信道，宏小区基站采用信漏噪比最大化准则 得到宏小区用户预编码矩阵的第二部分，毫微微蜂窝基站采用最小均方误差准则并加入 跨层干扰限制条件得到毫微微蜂窝用户预编码矩阵的第二部分；

3)将宏小区用户以及毫微微蜂窝用户各自预编码矩阵的第一部分以及第二部分对 应结合后，得到宏小区用户以及毫微微蜂窝用户各自的预编码矩阵。

所述双层异构网络的场景为：在一个单独的宏小区内存在一个宏小区基站和由N个 毫微微蜂窝组成的一个协作簇，每个毫微微蜂窝内含有一个毫微微蜂窝基站，宏小区基 站配置M_m根天线，每个毫微微蜂窝基站配置N_f根天线，宏小区服务R个宏小区用户， 宏小区用户r配置根天线，r∈{1,…,R}，并且该宏小区用户接收的数据流数为毫微微蜂窝组成的协作簇以联合传输的方式服务K个毫微微蜂窝用户，毫微微蜂窝用户 k配置根天线，k∈{1,…,K}，并且该毫微微蜂窝用户接收的数据流数为

所述步骤1)具体包括以下步骤：

(a)首先对原始信道进行维度压缩

对宏小区用户来说，宏小区基站到宏小区用户r的原始信道表示为为行数，M_m为列数，并且满足r∈{1,…,R}，对该原始信道进行奇异值分解：

$H_r^m=U_r^m{\Sigma }_r^m{V}_r^{\mathrm{mH}}$

其中和是酉矩阵，H表示共轭转置，为对角矩阵且的元素为奇异值， 这些奇异值按照从大到小排列，在此基础上对进行维度压缩，得到：

${\hat{H}}_r^m=U_{r\left(L_r^m\right)}^{\mathrm{mH}}{H}_r^m$

其中表示的左侧个列向量，表示宏小区基站到宏小区用户r的维 度压缩信道，为行数，M_m为列数，并且满足r∈{1,…,R}；

对毫微微蜂窝用户来说，协作簇中的毫微微蜂窝基站n到毫微微蜂窝用户k的原始 信道表示为为行数，N_f为列数，并且满足n∈{1,…,N}和k∈{1,…,K}， 定义矩阵为联合传输的方式下的综合矩阵，对这一矩阵进 行奇异值分解：

$G_k^f=U_k^f{\Sigma }_k^f{V}_k^{\mathrm{fH}}$

其中和是酉矩阵，为对角矩阵且的元素为的奇异值，这些奇异值按照 从大到小排列，在此基础上对进行维度压缩，得到：

${\hat{G}}_k^f=U_{k\left(L_k^f\right)}^{\mathrm{fH}}{G}_k^f$

其中表示的左侧个列向量，表示毫微微蜂窝基站到毫微微蜂窝 用户k的维度压缩信道，为行数，NN_f为列数，并且满足k∈{1,…,K}；

(b)对维度压缩信道进行QR分解

对宏小区用户来说，定义宏小区用户r的干扰矩阵 ${\stackrel{=}{H}}_r^m={[{\stackrel{=}{H}}_1^{\mathrm{mH}},...,{\hat{H}}_{r-1}^{\mathrm{mH}},{\hat{H}}_r^{\mathrm{mH}},...,{\hat{H}}_R^{\mathrm{mH}}]}^H,$在此基础上进行以下QR分解：

其中为酉矩阵，为上三角矩阵；

对于毫微微蜂窝来说，定义毫微微蜂窝用户k的干扰矩阵 ${\stackrel{=}{G}}_k^{\mathrm{fH}}={[{\hat{G}}_1^{\mathrm{fH}},...,{\hat{G}}_{k-1}^{\mathrm{fH}},{\hat{G}}_{k+1}^{\mathrm{fH}},...,{\hat{G}}_K^{\mathrm{fH}}]}^H,$在此基础上进行以下的QR分解：

其中为酉矩阵，为上三角矩阵；

(c)抑制同层干扰，获得预编码矩阵的第一部分

对宏小区用户来说，从提取矩阵其中该矩阵表示 的前列，包含了矩阵所张成的空间，宏小区用户的预编码矩阵的第一 部分表示为：

$T_{r\left(1\right)}^m=I-{\stackrel{=}{Q}}_{r(1:{\mathrm{col}}_r^m)}^m{\stackrel{=}{Q}}_{r(1:{\mathrm{col}}_r^m)}^{\mathrm{mH}}$

其中表示宏小区用户r的预编码矩阵的第一部分，I表示单位矩阵；

对毫微微蜂窝用户来说，从提取矩阵其中该矩阵 表示的前列，包含了矩阵所张成的空间，毫微微蜂窝用户的预编码矩 阵的第一部分表示为：

$T_{k\left(1\right)}^f=I-{\stackrel{=}{Q}}_{k(1:{\mathrm{col}}_k^f)}^f{\stackrel{=}{Q}}_{k(1:{\mathrm{col}}_k^f)}^{\mathrm{fH}}$

其中表示毫微微蜂窝用户k的预编码矩阵的第一部分；

(d)得到等效信道

在得到每个宏小区用户和毫微微蜂窝用户的预编码矩阵的第一部分后生成如下的 等效矩阵：

表示毫微微蜂窝基站n到宏小区用户r的原始信道，而表示毫微微蜂窝基站到宏小区用户r的综合信道，对此综合信道进行维度压缩，得到维 度压缩信道表示宏小区基站到毫微微蜂窝用户k的原始信道，对此原 始信道进行维度压缩，得到维度压缩信道表示宏小区基站到宏小区用户r的等 效信道；表示宏小区基站到毫微微蜂窝用户k的等效信道；表示毫微微蜂窝基站 到宏小区用户r的等效综合信道；表示毫微微蜂窝基站到毫微微蜂窝用户k的等效综 合信道。

所述步骤2)具体包括以下步骤：

(a)对宏小区用户来说，信漏噪比最大化准则的优化目标为：

$T_{r\left(2\right)}^m=\arg \underset{T_{r\left(2\right)}^m}{\max }{\mathrm{SLNR}}_r^m,r\in \{1,...,R\}$

其中表示宏小区基站到宏小区用户r的信漏噪比值，求解上述优化目标时首先进 行如下的奇异值分解：

${[{\tilde{G}}_{r1}^{\mathrm{mH}},...{\tilde{G}}_{\mathrm{rK}}^{\mathrm{mH}},\sqrt{N_0{L}_r^m{R}_r^m}I]}^H={\tilde{U}}_{\mathrm{rk}}^m{\tilde{\Sigma }}_{\mathrm{rk}}^m{\tilde{V}}_{\mathrm{rk}}^{\mathrm{mH}}$

其中N₀表示噪声功率谱密度，和为酉矩阵，为对角矩阵并且中的元素为 的奇异值，将中的奇异值按照从小到大的顺序依次排列， 并且把的列向量对应于奇异值顺序重新进行排列；

然后再进行如下的奇异值分解：

${\tilde{H}}_r^m{\tilde{V}}_{\mathrm{rk}}^m={\tilde{U}}_r^m{\tilde{\Sigma }}_r^m{\tilde{V}}_r^{\mathrm{mH}}$

其中和为酉矩阵，为对角矩阵并且中元素为的奇异值，将中的 奇异值按照从大到小的顺序排列，并把的列向量对应于奇异值顺序重新进行排列。

最后得到宏小区用户r的预编码矩阵的第二部分：

$T_{r\left(2\right)}^m={\left({\tilde{V}}_{\mathrm{rk}}^m{\tilde{V}}_r^m\right)}^{\left(L_r^m\right)}$

其中表示提取矩阵的前列；

(b)对毫微微蜂窝用户来说，最小均方误差准则的优化目标为：

$T_{k\left(2\right)}^f=\arg \underset{T_{k\left(2\right)}^f}{\max }{\mathrm{MSE}}_k^f,k\in \{1,...,K\}$

$s.t.\mathrm{tr}\left(\underset{r=1}{\overset{R}{\Sigma }}{T}_{k\left(2\right)}^{\mathrm{fH}}{C}_{\mathrm{kr}}^f{T}_{k\left(2\right)}^f\right)\le \underset{r=1}{\overset{R}{\Sigma }}{\gamma }_{\mathrm{kr}}^f\mathrm{tr}\left(T_{k\left(2\right)}^{\mathrm{fH}}{\tilde{G}}_k^{\mathrm{fH}}{\tilde{G}}_k^f{T}_{k\left(2\right)}^f\right)$

其中表示毫微微蜂窝基站到毫微微蜂窝用户k的均方误差值，tr()表示对括号中 的矩阵求迹运算，表示毫微微蜂窝用户k泄漏到宏小区用户r的跨层干扰的比例系 数，上述优化目标用拉格朗日乘数法求解，所得到的毫微微蜂窝用户预 编码矩阵的第二部分表示为：

$T_{k\left(2\right)}^f={\{(1-\underset{r=1}{\overset{R}{\Sigma }}{\lambda }_{\mathrm{kr}}^f{\gamma }_{\mathrm{kr}}^f){\tilde{G}}_k^{\mathrm{fH}}{\tilde{G}}_k^f+\underset{r=1}{\overset{R}{\Sigma }}{\lambda }_{\mathrm{kr}}^f{C}_{\mathrm{kr}}^{\mathrm{fH}}\}}^{-1}{\tilde{L}}_k^f$

其中表示毫微微蜂窝用户k泄漏到宏小区用户r的跨层干扰所对应的拉格朗日乘子， 表示设计需要逼近的目标，该目标由经过奇异值分解后的前个 右奇异向量组成，而符号“-1”表示求逆运算，当上述大括号中相应式子的逆不存在的 时候，进行如下的特征值分解：

$(1-\underset{r=1}{\overset{R}{\Sigma }}{\lambda }_{\mathrm{kr}}^f{\gamma }_{\mathrm{kr}}^f){\tilde{G}}_k^{\mathrm{fH}}{\tilde{G}}_k^f+\underset{r=1}{\overset{R}{\Sigma }}{\lambda }_{\mathrm{kr}}^f{C}_{\mathrm{kr}}^{\mathrm{fH}}=E_k^f{L}_k^f{E}_k^{\mathrm{fH}}$

其中是酉矩阵，为对角矩阵并且中的元素为的 特征值，将中的特征值按照从小到大排列，而中的列向量则按照特征值从大到小 的对应关系进行排列，此时所得到的毫微微蜂窝用户k的预编码矩阵的第二部分表示 为：

$T_{k\left(2\right)}^f=E_k^f{L}_k^f{E}_k^{\mathrm{fH}}{\tilde{L}}_k^f$

满足：

${\gamma }_{\mathrm{kr}}^f={\alpha }_{\mathrm{kr}}^f\mathrm{tr}\left(C_{\mathrm{kr}}^f\right)/\mathrm{tr}\left({\tilde{G}}_k^{\mathrm{fH}}{\tilde{G}}_k^f\right)$

其中表示毫微微蜂窝用户k泄漏到宏小区用户r的跨层干扰所对应的调节参数。

所述步骤3)具体包括以下步骤：

对宏小区用户r来说，预编码矩阵表示为：

$T_r^m=T_{r\left(1\right)}^m{T}_{r\left(2\right)}^m$

对毫微微蜂窝用户k来说，预编码矩阵表示为：

$T_k^f=T_{k\left(1\right)}^f{T}_{k\left(2\right)}^f.$

与现有技术相比，本发明具有以下有益的效果：

本发明所述双层异构网络中基于协作毫微微蜂窝的干扰抑制预编码方法，首先采用 QR分解方法消除多个宏小区用户之间，以及多个毫微微蜂窝用户之间的同层干扰，在 此基础上得到预编码矩阵的第一部分，并将该部分与已知信道信息结合成为等效信道； 然后利用等效信道信息，宏小区基站采用SLNR最大化准则抑制宏小区用户产生的跨层 干扰并得到宏小区用户预编码矩阵的第二部分，毫微微蜂窝基站采用MMSE准则并加 入跨层干扰限制条件以抑制毫微微蜂窝用户产生的跨层干扰并得到毫微微蜂窝用户预 编码矩阵的第二部分；最后将两部分预编码矩阵结合，得到系统中各个用户所需要的预 编码矩阵。

本发明将双层异构网中的同层干扰和跨层干扰分别处理，有效利用了系统的空间资 源。本发明不需要特别限定系统天线配置、用户数量及数据流的分配方式等系统参数。 本发明显著提高了用户的传输速率。

由于本发明所提方法对干扰进行了有效处理，在系统天线配置及可利用空间资源受 限的场景中，其传输速率高于宏小区用户只采用SLNR最大化准则和毫微微蜂窝用户只 采用MMSE准则的预编码方法，以及同层干扰抑制+块对角化的预编码方法。

附图说明

图1是系统结构示意图。

图2是毫微微蜂窝用户在采用不同预编码方法时的SLNR值与信噪比柱状图。

图3是宏小区用户和毫微微蜂窝用户采用不同预编码方法时的平均传输速率与信噪 比曲线图。

具体实施方式

下面结合附图和实施例对本发明进行详细说明，所述是对本发明的解释而不是限 定。

本发明提出的预编码方法中，首先采用QR分解方法消除多个宏小区用户之间，以 及多个毫微微蜂窝用户之间的同层干扰，在此基础上得到预编码矩阵的第一部分，并将 该部分与已知信道信息结合成为等效信道；然后利用等效信道信息，宏小区基站采用 SLNR最大化准则抑制宏小区用户产生的跨层干扰并得到宏小区用户预编码矩阵的第二 部分，毫微微蜂窝基站采用MMSE准则并加入跨层干扰限制条件以抑制毫微微蜂窝用 户产生的跨层干扰并得到毫微微蜂窝用户预编码矩阵的第二部分；最后将两部分预编码 矩阵结合，得到系统中各个用户所需要的预编码矩阵。

考虑双层异构网络场景为一个单独的宏小区内，存在一个宏小区基站和由N个毫微 微蜂窝组成的一个协作簇，每个毫微微蜂窝内含有一个毫微微蜂窝基站。宏小区基站配 置M_m根天线，每个毫微微蜂窝基站配置N_f根天线。宏小区服务R个宏小区用户，第r 个宏小区用户配置根天线，r∈{1,…,R}，并且该宏小区用户接收的数据流数为毫微微蜂窝组成的协作簇以联合传输的方式服务K个毫微微蜂窝用户，第k个毫微微蜂 窝用户配置根天线，k∈{1,…,K}，并且该毫微微蜂窝用户接收的数据流数为

信道模型可以表示为：

$H_r^m=\sqrt{A_{\mathrm{mr}}^{-1}{d}_{\mathrm{mr}}^{-{\alpha }_m}}{\bar{H}}_r^m$

$G_k^m=\sqrt{A_{\mathrm{mk}}^{-1}{d}_{\mathrm{mk}}^{-{\alpha }_{\mathrm{fm}}}}{\bar{G}}_k^m$

$H_r^{\mathrm{fn}}=\sqrt{A_{\mathrm{fnr}}^{-1}{d}_{\mathrm{fnr}}^{-{\alpha }_{\mathrm{fm}}}}{\bar{H}}_r^{\mathrm{fn}}$

$G_k^{\mathrm{fn}}=\sqrt{A_{\mathrm{fnk}}^{-1}{d}_{\mathrm{fnk}}^{-{\alpha }_f}}{\bar{G}}_k^{\mathrm{fn}}$

其中和是为了与相关的原始信道相对应而定义的符号，它们之中的 每一个元素都满足均值为0，方差为1的循环对称复高斯分布，并且这些元素相互独立。 分别表示宏小区基站到宏小区用户r，宏小区基站到毫微微蜂窝 用户k，毫微微蜂窝基站n到宏小区用户r，毫微微蜂窝基站n到毫微微蜂窝用户k的固 定的传输损耗值的倒数，这些传输损耗值与载波频率有关系。此外d_mr，d_mk，d_fnr，d_fnk分别表示宏小区基站到宏小区用户r，宏小区基站到毫微微蜂窝用户k，毫微微蜂窝基 站n到宏小区用户r，毫微微蜂窝基站n到毫微微蜂窝用户k的距离，而α_m，α_f，α_fm分 别表示室外，室内和室外到室内的路径损耗指数。

在上述系统配置和信道模型条件下，所提出的预编码方法的技术手段为：

1)通过基于QR分解的同层干扰消除处理，使得宏小区用户之间以及毫微微蜂窝 用户之间的同层干扰被有效地消除，并且得到了最终预编码矩阵的第一部分，并将该部 分与已知信道信息结合成为等效信道，使得基站可以有效利用空间资源进行下一步处 理；

2)在同层干扰消除的基础上，宏小区基站采用信漏噪比(signal-to-leakage-plus-noise  ratio，SLNR)最大化准则得到宏小区用户预编码矩阵的第二部分，毫微微蜂窝基站采 用最小均方误差(minimum mean square error，MMSE)准则并加入跨层干扰限制条件 得到毫微微蜂窝用户预编码矩阵的第二部分，以上处理分别有效地抑制了宏小区用户和 毫微微蜂窝用户产生的跨层干扰并提升了传输速率。

3)将宏小区用户以及毫微微蜂窝用户各自预编码矩阵的第一部分以及第二部分对 应结合后，得到宏小区用户以及毫微微蜂窝用户各自的预编码矩阵。

1.所述步骤1)的执行过程如下：

(a)首先对原始信道进行维度压缩。对宏小区用户来说，表示宏小区 基站到宏小区用户r的原始信道，其行数为列数为M_m，并且满足r∈{1,…,R}。对 该信道进行奇异值分解(singular value decomposition，SVD)

$H_r^m=U_r^m{\Sigma }_r^m{V}_r^{\mathrm{mH}}$

其中和是酉矩阵，符号“H”表示共轭转置，为对角矩阵且的元素为奇 异值，这些奇异值按照从大到小排列。在此基础上对进行维度压缩，得到：

${\hat{H}}_r^m=U_{r\left(L_r^m\right)}^{\mathrm{mH}}{H}_r^m$

其中表示的左侧个列向量。

对毫微微蜂窝用户来说，表示协作簇中的毫微微蜂窝基站n到毫微微 蜂窝用户k的原始信道，其行数为列数为N_f，并且满足n∈{1,…,N}和k∈{1,…,K}。 定义矩阵为联合传输服务方式下的综合矩阵。对这一矩阵 进行SVD：

$G_k^f=U_k^f{\Sigma }_k^f{V}_k^{\mathrm{fH}}$

其中和是酉矩阵，为对角矩阵且的元素为的奇异值，这些奇异值按照 从大到小排列。在此基础上对进行维度压缩，得到：

${\hat{G}}_k^f=U_{k\left(L_k^f\right)}^{\mathrm{fH}}{G}_k^f$

其中表示的左侧个列向量。

(b)然后对维度压缩信道进行QR分解。对宏小区用户来说，表示宏 小区基站到宏小区用户r的维度压缩信道，其行数为列数为M_m，并且满足 r∈{1,…,R}。定义宏小区用户r的干扰矩阵${\stackrel{=}{H}}_r^m={[{\stackrel{=}{H}}_1^{\mathrm{mH}},...,{\hat{H}}_{r-1}^{\mathrm{mH}},{\hat{H}}_r^{\mathrm{mH}},...,{\hat{H}}_R^{\mathrm{mH}}]}^H.$在此基 础上进行以下QR分解：

其中为酉矩阵，为上三角矩阵。

对于毫微微蜂窝来说，表示毫微微蜂窝基站到毫微微蜂窝用户k的维 度压缩信道，其行数为列数为NN_f，并且满足k∈{1,…,K}。定义毫微微蜂窝用户 k的干扰矩阵${\stackrel{=}{G}}_k^{\mathrm{fH}}={[{\hat{G}}_1^{\mathrm{fH}},...,{\hat{G}}_{k-1}^{\mathrm{fH}},{\hat{G}}_{k+1}^{\mathrm{fH}},...,{\hat{G}}_K^{\mathrm{fH}}]}^H.$在此基础上进行以下的QR分解：

其中为酉矩阵，为上三角矩阵；

(c)抑制同层干扰，获得预编码矩阵的第一部分。对宏小区用户来说，从中 提取矩阵其中该矩阵表示的前列，包含了矩 阵所张成的空间。在此基础上，定义宏小区用户的预编码矩阵的第一部分，可以表 示为：

$T_{r\left(1\right)}^m=I-{\stackrel{=}{Q}}_{r(1:{\mathrm{col}}_r^m)}^m{\stackrel{=}{Q}}_{r(1:{\mathrm{col}}_r^m)}^{\mathrm{mH}}$

其中表示宏小区用户r的预编码矩阵的第一部分，I表示单位矩阵。根据所得的结果， 有：

${\stackrel{=}{H}}_r^m(I-{\stackrel{=}{Q}}_{r\left(1{:\mathrm{col}}_r^m\right)}^m{\stackrel{=}{Q}}_{r(1:{\mathrm{col}}_r^m)}^{\mathrm{mH}})=0$

其中0表示元素为全零的矩阵。因此，每个宏小区用户的同层干扰都可以被有效地消除。

对毫微微蜂窝用户来说，从中提取矩阵其中该矩 阵表示的前列，包含了矩阵所张成的空间。在此基础上，定义毫微微 蜂窝用户的预编码矩阵的第一部分，可以表示为：

$T_{k\left(1\right)}^f=I-{\stackrel{=}{Q}}_{k(1:{\mathrm{col}}_k^f)}^f{\stackrel{=}{Q}}_{k(1:{\mathrm{col}}_k^f)}^{\mathrm{fH}}$

其中表示毫微微蜂窝用户k的预编码矩阵的第一部分。根据所得的结果，有

${\stackrel{=}{G}}_k^f(I-{\stackrel{=}{Q}}_{k\left(1{:\mathrm{col}}_k^f\right)}^f{\stackrel{=}{Q}}_{k(1:{\mathrm{col}}_k^f)}^{\mathrm{fH}})=0$

因此，每个毫微微蜂窝用户的同层干扰都可以被有效地消除。

(d)得到等效信道。在得到每个宏小区用户和毫微微蜂窝用户的预编码矩阵的第 一部分后，可以生成如下的等效矩阵：

表示毫微微蜂窝基站n到宏小区用户r的原始信道，而表示毫微微蜂窝基站到宏小区用户r的综合信道，对此综合信道进行维度压缩(具体方 法与的维度压缩相同，即左乘)，得到维度压缩信道表示宏 小区基站到毫微微蜂窝用户k的原始信道，对此原始信道进行维度压缩(具体方法与的维度压缩相同，即左乘)，得到维度压缩信道表示宏小区基站到宏小区 用户r的等效信道；表示宏小区基站到毫微微蜂窝用户k的等效信道；表示毫微 微蜂窝基站到宏小区用户r的等效综合信道；表示毫微微蜂窝基站到毫微微蜂窝用户 k的等效综合信道。这些等效信道的行数和列数和那些对应的维度压缩信道的行数和列 数相同，这表示等效信道没有使得维度压缩信道包含的空间资源发生明显的变化，因此 有利于下一步处理。

2.在步骤1)执行的基础上，所述步骤2)的执行过程如下：

(a)对宏小区用户来说，宏小区基站采用SLNR最大化准则来抑制每个宏小区用 户所产生的跨层干扰。SLNR最大化准则的优化目标为：

$T_{r\left(2\right)}^m=\arg \underset{T_{r\left(2\right)}^m}{\max }{\mathrm{SLNR}}_r^m,r\in \{1,...,R\}$

其中表示宏小区用户r的预编码矩阵的第二部分，表示宏小区基站到宏小区 用户r的SLNR值，这个值可以表示为：

${\mathrm{SLNR}}_r^m=\frac{\mathrm{tr}\left(T_{r\left(2\right)}^{\mathrm{mH}}{M}_r^m{T}_{r\left(2\right)}^m\right)}{\mathrm{tr}\left(T_{r\left(2\right)}^{\mathrm{mH}}{N}_r^m{T}_{r\left(2\right)}^m\right)}$

其中$M_r^m={\tilde{H}}_r^{\mathrm{mH}}{\tilde{H}}_r^m,N_r^m=N_0{L}_r^m{R}_r^{m}I+{\Sigma }_{k=1}^K{\tilde{G}}_{\mathrm{rk}}^{\mathrm{mH}}{\tilde{G}}_{\mathrm{rk}}^m$(N₀表示噪声功率谱密度)。基于以上 处理，可以用广义特征值分解(generalized eigenvalue decomposition，GEVD)方法求解 该预编码矩阵的第二部分。

但是，当信噪比增大时，GEVD的结果将会变得不可靠，这是由于分母趋近于 不可逆的状态。因此，在实际求解预编码矩阵的第二部分时，采用如下所述的替代方法：

首先进行如下的SVD：

${[{\tilde{G}}_{r1}^{\mathrm{mH}},...{\tilde{G}}_{\mathrm{rK}}^{\mathrm{mH}},\sqrt{N_0{L}_r^m{R}_r^m}I]}^H={\tilde{U}}_{\mathrm{rk}}^m{\tilde{\Sigma }}_{\mathrm{rk}}^m{\tilde{V}}_{\mathrm{rk}}^{\mathrm{mH}}$

其中和为酉矩阵，为对角矩阵并且中的元素为的奇异值。将中的奇异值按照从小到大的顺序依次排列，并且把的列向量对应于 奇异值顺序重新进行排列。

然后再进行如下的SVD：

${\tilde{H}}_r^m{\tilde{V}}_{\mathrm{rk}}^m={\tilde{U}}_r^m{\tilde{\Sigma }}_r^m{\tilde{V}}_r^{\mathrm{mH}}$

其中和为酉矩阵，为对角矩阵并且中元素为的奇异值。将中的 奇异值按照从大到小的顺序排列，并把的列向量对应于奇异值顺序重新进行排列。

最后得到预编码矩阵的第二部分：

$T_{r\left(2\right)}^m={\left({\tilde{V}}_{\mathrm{rk}}^m{\tilde{V}}_r^m\right)}^{\left(L_r^m\right)}$

其中符号表示提取矩阵的前列。这样得到的预编码矩阵的第二部分满 足SLNR最大化准则的优化目标。

(b)对毫微微蜂窝用户来说，毫微微蜂窝基站采用MMSE准则并加入跨层干扰限 制条件以抑制每个毫微微蜂窝用户产生的跨层干扰。MMSE准则的优化目标为：

$T_{k\left(2\right)}^f=\arg \underset{T_{k\left(2\right)}^f}{\max }{\mathrm{MSE}}_k^f,k\in \{1,...,K\}$

$s.t.\mathrm{tr}\left(\underset{r=1}{\overset{R}{\Sigma }}{T}_{k\left(2\right)}^{\mathrm{fH}}{C}_{\mathrm{kr}}^f{T}_{k\left(2\right)}^f\right)\le \underset{r=1}{\overset{R}{\Sigma }}{\gamma }_{\mathrm{kr}}^f\mathrm{tr}\left(T_{k\left(2\right)}^{\mathrm{fH}}{\tilde{G}}_k^{\mathrm{fH}}{\tilde{G}}_k^f{T}_{k\left(2\right)}^f\right)$

其中表示毫微微蜂窝用户k的预编码矩阵的第二部分，表示毫微微蜂窝基站 到毫微微蜂窝用户k的均方误差值，表示为：

上式中表示期望运算，表示F范数的平方，而表示毫微微蜂窝基站到毫微微蜂 窝用户k的传输信号向量，而期望运算的对象就是传输信号向量。根据传输信号向量的 性质，可以得到而不同用户的传输信号向量相互独立。此外，在约束条 件中tr()表示对括号中的矩阵求迹运算，而表示毫微微蜂窝用户k泄漏到宏小区用 户r的跨层干扰的比例系数。最后，包含与预编码矩阵的第二部分设 计无关的项，而表示设计需要逼近的目标，该目标由经过SVD后的前个右奇 异向量组成。上述优化目标可以用拉格朗日乘数法求解，所得到的预编码矩阵的第二部 分可以表示为：

$T_{k\left(2\right)}^f={\{(1-\underset{r=1}{\overset{R}{\Sigma }}{\lambda }_{\mathrm{kr}}^f{\gamma }_{\mathrm{kr}}^f){\tilde{G}}_k^{\mathrm{fH}}{\tilde{G}}_k^f+\underset{r=1}{\overset{R}{\Sigma }}{\lambda }_{\mathrm{kr}}^f{C}_{\mathrm{kr}}^{\mathrm{fH}}\}}^{-1}{\tilde{L}}_k^f$

其中表示毫微微蜂窝用户k泄漏到宏小区用户r的跨层干扰所对应的拉格朗日乘子， 而符号“-1”表示求逆运算。当上述大括号中相应式子的逆不存在的 时候，可以进行如下的特征值分解：

$(1-\underset{r=1}{\overset{R}{\Sigma }}{\lambda }_{\mathrm{kr}}^f{\gamma }_{\mathrm{kr}}^f){\tilde{G}}_k^{\mathrm{fH}}{\tilde{G}}_k^f+\underset{r=1}{\overset{R}{\Sigma }}{\lambda }_{\mathrm{kr}}^f{C}_{\mathrm{kr}}^{\mathrm{fH}}=E_k^f{L}_k^f{E}_k^{\mathrm{fH}}$

其中是酉矩阵，为对角矩阵并且中的元素为的 特征值。将中的特征值按照从小到大排列，而中的列向量则按照特征值从大到小 的对应关系进行排列。此时所得到的预编码矩阵的第二部分可以表示为：

$T_{k\left(2\right)}^f=E_k^f{L}_k^f{E}_k^{\mathrm{fH}}{\tilde{L}}_k^f$

最后需要说明的是，本发明中的比例系数满足：

${\gamma }_{\mathrm{kr}}^f={\alpha }_{\mathrm{kr}}^f\mathrm{tr}\left(C_{\mathrm{kr}}^f\right)/\mathrm{tr}\left({\tilde{G}}_k^{\mathrm{fH}}{\tilde{G}}_k^f\right)$

其中表示毫微微蜂窝用户k泄漏到宏小区用户r的跨层干扰所对应的调节参数。由于 毫微微蜂窝用户对数据传输质量和传输速率要求较高，因此在本发明中令宏小区基站采 用SLNR最大化准则，并且令毫微微蜂窝基站采用MMSE准则的目的主要是更好地抑 制宏小区用户对毫微微蜂窝用户的跨层干扰，并提高毫微微蜂窝用户的传输质量。

3.在步骤1)和2)执行的基础上，所述步骤3)的执行过程如下：

对宏小区用户r来说，其预编码矩阵可以表示为：

$T_r^m=T_{r\left(1\right)}^m{T}_{r\left(2\right)}^m$

其中表示宏小区基站到宏小区用户r的预编码矩阵。

对毫微微蜂窝用户k来说，其预编码矩阵可以表示为：

$T_k^f=T_{k\left(1\right)}^f{T}_{k\left(2\right)}^f$

其中表示毫微微蜂窝基站到毫微微蜂窝用户k的预编码矩阵。

下面给出上述方法的仿真及效果对比：

仿真中的参数如下表所示

仿真参数 参数取值 宏小区基站和每个毫微微蜂窝基站天线数 8,2

服务的宏小区用户和毫微微蜂窝用户数 3,2 宏小区用户和毫微微蜂窝用户天线数 2,1 宏小区基站和每个毫微微蜂窝基站发射功率 46dBm，17dBm 载波频率 2GHz α_m取值 3.8 α_fm取值 3.8 α_f取值 3 建筑的穿透损耗 5dB A_mr和A_mk取值 28dB，33dB A_fnr和A_fnk取值 42dB，37dB

此外，仿真中在每个信噪比取值条件下进行2000次信道模拟，每次信道模拟时，d_mk取 100m到300m之间的任意一个值，d_fnk为20m，d_fnr为10m到50m之间的任意一个值， d_mr＝d_mk-d_fnr-d_fnk。最后，每一个的取值都设定为0.01。

从图2可以看出，由于波束成形方法是直接进行信道的SVD，不考虑干扰抑制， 因此造成宏小区用户的SLNR值没有随信噪比的提高而出现明显上升。而采用单一的 SLNR最大化准则可以实现同层和跨层干扰的同时抑制，但是由于宏小区用户和毫微微 蜂窝用户总的天线数较多，单一的SLNR最大化准则不能够充分利用空间资源，因此得 到的SLNR值并不是最大的。相对来说，采用发明所提的预编码方法，在每个信噪比取 值条件下，不论是SLNR值的大小还是SLNR值的增长速度都要明显优于波束成形和单 一的SLNR准则(图中的百分比表示相应的方法所得的SLNR值与发明所提方法所得的 SLNR值的比值，反映了SLNR值随信噪比增加的增长速度)。这就说明发明所提方法 中的同层和跨层干扰分别处理起到了效果。本图是宏小区用户的情况，而毫微微蜂窝用 户可以用其均方误差值为度量标准得到类似的结果。

此外，图3反映了不同的预编码方法对用户平均传输速率的影响。波束成形没有对 干扰进行抑制，因此用户的传输速率增长缓慢。而根据仿真中的系统天线配置，块对角 化的条件在毫微微蜂窝基站做预编码处理的时候不能被满足，这就导致了同层干扰抑制 +块对角化这一方法所达到的传输速率不是最高的。此外，与图2所分析的原因相同， 单一的宏小区基站SLNR最大化和毫微微蜂窝基站MMSE不能充分利用空间资源，这 也导致了传输速率的损失。相对来说，采用发明所提方法所得到的用户平均传输速率是 图中所示的几种预编码方法中最好的，并且单天线毫微微蜂窝用户的平均传输速率与两 天线宏小区用户的平均传输速率相差不大，这就说明该方法可有效抑制同层和跨层干扰 并且使得毫微微蜂窝用户的服务需求能够得到满足。