基于Tsallis非广延统计力学的模型选择理论与应用研究

模型选择的基本任务是发现可最大限度地刻画数据的真实生成源的内在规律的模型。大量先期工作尝试解决面向函数预测或概率分布估计任务的模型选择问题。然而，现有的方法在计算复杂性、理论保证或参数辨识等方面存在若干困难。本项目关注于在Tsallis非广延统计力学框架下，结合信息几何方法，发展新颖的模型选择理论和方法，并实现有实际意义的应用。项目主要研究内容如下：元理论方面，以信息几何为工具分析非广延统计力学的主要理论成分及由此发展出的非广延一般化最大熵模型，对其做一般化解释和发展，并实现有效的q参数辨识方法；概率分布估计方面，发展基于非广延熵偏差理论结果的一般化最大熵模型，并基于不同的q参数和不同的贝叶斯先验扩展已有的理论结果；预测方面，发展有序非广延熵及其熵偏差理论结果，着重于解决噪声先验的整合和函数波动性刻画的完备性问题，并实现与传统信息判据的集成；最后，在典型实际应用中验证理论结果和模型的有效性

项目基于Tsallis非广延统计力学框架，发展了频率主义和贝叶斯熵偏差估计理论，给出了若干闭形式估计结果，并利用上述结果构造了基于Tsallis熵偏差补偿的概率密度估计模型。整合信息几何方法和Tsallis熵偏差补偿方法，发展了波尔兹曼机和深度学习模型理论解释，澄清了参数约简和模型选择的可信信息优先原则的形式框架及算法条件，据此发展了形式化的可信信息优先方法用于一般的参数约简和模型选择问题。发展了上述理论结果若干新颖应用，应用范围涉及信息检索、自然语言处理和模式识别。