熵功率不等式与网络信息论中的极值问题

Entropy power inequalities are major tools to establish the converse coding theorems in Gaussian network information theory. The Shannon entropy power inequality indicates the convexity of entropy function on the sum of two random variables. Its proof relies on the heat equation of the probability density function under Gaussian perturbation. The convexity of entropy function is thereby following the monotonicity of heat flow. This research aims to find an extremal inequality representation in typical network information theory problem formulation, and discover deeper links to heat equation. This research will also discuss how to establish the monotonic path from gradient flow, and how to solve the extremal inequality by gradient flow method. The specific topics include: entropy power inequality, extremal inequality and new framework of proofing monotonic path. We will also investigate some network models deeply, such as multi-terminal source coding problem. It is possible to solve more capacity and rate-distortion problem by using the aforementioned method. This research, on the one hand, will help to discover a unified framework to solve the network information theory problem, on the other hand, will find applications in the design of state of art coding systems.

熵功率不等式是推导高斯网络信息论问题逆定理的重要工具。经典的熵功率不等式刻画了任意两个相互独立随机变量和的熵函数的凸性。其证明由概率密度函数满足的热方程定义热流，利用热流的单调性定理，从而建立熵函数的凸性。本项目旨在研究如何从典型的网络信息论问题中提出极值问题的数学表述，并致力于建立与热方程的联系，进而考察如何构造与之相应的梯度流，由梯度流的单调性进而解决相应的极值问题。具体内容包括：熵功率不等式，研究熵功率不等式的极值形式，研究基于单调路径思想的新证明范式，以期实质性的推广经典熵功率不等式。网络信息论，深入研究多用户网络，例如多终端信源等，以期将上述研究成果运用到这类问题中去，解决新的多用户信道容量与率-失真问题。本项目的研究，一方面，有助于探索网络信息论的统一理论框架。另一方面，有助于设计实际编码的方案，对信源信道编码实践具有重要的理论指导意义。

熵功率不等式是确定高斯网络信息理论中逆编码定理的主要工具。香农熵功率不等式表明了两个随机变量的和的熵函数的凸性。它的证明依赖于在高斯扰动下概率密度函数的热方程。因此，熵函数的凸性随热流的单调性而来。这项研究旨在在典型的网络信息理论问题中找到极值不等式的表示，并探索与热方程的关系。研究将探讨如何从梯度流建立单调路径并使用梯度流方法解决极值不等式的方法。调查的主题包括熵功率不等式，极值不等式和证明单调路径的新框架。研究还将深入研究网络模型，例如多终端源编码问题，并检查使用上述方法解决容量和速率失真问题的潜力。这项研究旨在统一解决网络信息理论问题的框架，并在设计先进的编码系统中找到应用。