基于正则化的大规模MIMO系统稳健信号处理方法研究

Massive multiple-input multiple-output (MIMO) transmission is a key candidate technique for 5G mobile communications, which can significantly improve the spectrum and energy efficiency of wireless transmissions. The design of channel estimation, precoding and signal detection schemes is crucial for realizing the potential of massive MIMO. Due to the high dimensionality and training shortage, signal processing in massive MIMO systems faces with the challenges of model uncertainty and high computational complexity. This project aims to address these challenges by developing a series of novel signal processing schemes based on regularization theory and techniques. Low-complexity signal processing schemes that are robust against model uncertainty will be developed, the impact of signal processing on the overall system performance will be analyzed, and the system architecture and parameters will be optimized. The outcomes of this project will provide enabling techniques for achieving low-cost, reliable, high-rate wireless communications and also enrich the theory and techniques of robust signal processing for high-dimensional signals.

大规模MIMO技术可显著改善无线通信系统的频谱和能量效率，是5G移动通信的核心候选技术。信道估计、预编码及信号检测等信号处理方案对实现大规模MIMO的潜力至关重要。然而，大规模MIMO系统信号维度高、可用训练数据相对匮乏，信号处理面临模型不确定性和高复杂度的挑战。针对这些挑战，本项目拟设计一系列基于正则化理论和技术的新型信号处理方案，解决存在模型不确定性时，低复杂度稳健信号处理方案的设计问题，分析信号处理方案对大规模MIMO系统能量效率的影响，并给出优化的算法选择和系统参数配置。这项研究可为实现低成本、可靠的高数据率无线通信提供有力的候选技术，并丰富大维度信号稳健处理的基本方法。

大规模多输入多输出系统是高数据率无线通信系统的有力支撑技术之一。信号处理，包含信道估计技术和信号检测技术，是大规模多输入多输出系统对抗干扰和不确定性的核心手段。多天线的使用同时显著增加了系统的维度，为信道估计和信号检测等求逆问题的求解带来了挑战。本项目针对这一挑战，系统研究了基于正则化的信号处理技术，提出了一系列的面向高维度信号处理算法，并以能量效率为准则，优化了信号检测技术的设计。针对信道样本协方差矩阵在小样本时难以准确估计的问题，提出了基于线性收缩的协方差矩阵稳健估计方法，并确立了自适应参数选择方案。针对大规模MIMO系统瞬时信道估计问题，研究了基于压缩感知和精度矩阵稀疏估计的信道估计方案；针对基于天线选择的大规模MIMO系统，设计了新型的基于矩阵填充的信道估计方案；针对基于移相器网络的混合波束形成系统，设计了基于矩阵感知的信道估计方案。研究表明，不依赖于阵列响应的低秩信道估计法具有更好的稳健性并可以低复杂度方案实现。针对接收端信号检测受到信道估计误差、噪声和干扰制约的场景，提出了基于多路格基约减干扰消除的信号检测方案以及基于协方差矩阵收缩估计的稳健波束形成算法，有效改善了接收端信号恢复的性能。以能量效率为基准研究比较了典型的接收端信号处理算法。结果表明，基于干扰消除的非线性检测器在天线数受限、传输距离远等场景可展现优势。项目亦着重研究了低精度模数转换器对系统信号处理和能量效率影响。项目成果丰富了大维度信号处理的方法，为未来无线通信系统的优化提供了技术候选。