本研究提出拉普拉斯样本信息（LSI），通过贝叶斯视角准确估计数据集中个体样本的信息量。LSI结合信息理论和KL散度方法，有效识别数据典型性、检测标签错误及评估数据集难度，从而提升样本选择效率和模型准确性，适用于图像和文本数据训练任务。

本研究提出了信息理论框架PiFlow，旨在解决多智能体系统在科学发现中的不足，显著提升发现效率和解决方案质量，推动自动科学发现的新模式。

本研究提出了一种信息理论框架，通过量化推理中的“信息增益”，解决了思维链评估对标注数据的依赖问题，显著提升了模型评估的准确性。

本文探讨了利用自然语言处理和机器学习技术建立检测器，以区分机器生成文本与人类书写文本。研究提出了基于信息理论的度量方法，设计了多种检测器，并通过实验验证了其在不同领域的有效性和鲁棒性，显著提高了检测准确率，尤其在大型语言模型生成文本的背景下。

该论文提出了多种基于信息理论和深度学习的优化算法，旨在解决不确定性和鲁棒性问题。研究内容包括Noisy-Input Entropy Search、基于CVaR的鲁棒优化、改进的softmax公式和Conformal Prediction框架，展示了在决策和风险管理中的应用潜力，显著提高了模型的预测可靠性和效率。

本文探讨了基于信息理论的深度学习模型，研究熵和互信息的计算方法，提出新的自监督学习策略，强调互信息在特征提取和模型训练中的重要性。实验结果表明，提出的互信息模型在多个数据集上优于传统方法，提高了分类准确率，并引入新的评估指标以优化监督学习过程。

本研究提出了一种多重假设检验的信息瓶颈方法（IB-MHT），有效解决了信息瓶颈问题，确保学习特征满足信息理论约束，并在统计稳健性和可靠性方面优于传统方法。

本文探讨了信息理论在稀疏信号恢复、序贯学习和无监督表示学习中的应用，提出了新的算法和理论界限，改进了现有方法的性能，尤其在机器学习和统计估计中提供了更精确的界限和指导原则。

本文提出了一种优化非线性变换编码速率失真性能的框架，结合可微分变换与感知度量，研究速率、失真与感知之间的权衡，建立了理论优化的训练框架，并通过实验验证其优越性。同时，探讨了多元高斯源的率失真感知函数及其在信息理论中的应用。

本文探讨了深度学习中超参数化神经网络的泛化能力，研究了残差参数与泛化缺口的关系。通过拓扑数据分析，建立了计算深度神经网络内在维度的工具，以预测泛化错误。同时，分析了不同优化算法对泛化能力的影响，并提出了基于信息理论的泛化界限，强调了网络架构与泛化能力之间的关系。

本文探讨了利用自然语言处理和机器学习技术区分人类与机器生成文本的方法。研究表明，机器生成文本与人类文本的区别日益模糊，提出了基于信息理论的检测方法，并评估了多种模型的性能，为未来的文本检测提供了重要依据。

本文介绍了多种聚类方法，包括CDS聚类、半监督聚类和基于BIC准则的高斯聚类。研究探讨了聚类的困难性、合法性及隐私保护，提出了新的深度学习框架和信息理论视角的聚类方法，以提高聚类效果和可解释性。

本文介绍了一种基于信息理论的探针方法，用于评估神经网络在自然语言处理中的理解程度。作者通过多种语言数据集的实验验证了该方法的有效性。

该文提出了一种新的信息理论泛化界限，用于研究随机梯度 Langevin 动力学（SGLD），消除了现有工作中的步长依赖问题。该界限通过将分析与现有的非凸优化误差界限相结合，导致改进的超额风险界限。

本文介绍了一种采用可计算的信息理论模型的深度学习模型，并探讨了该模型从统计物理方法中导出熵和互信息的方法。同时，设计了一种实验框架用于对生成模型进行训练，并对该模型进行验证。

本文介绍了一种采用可计算信息理论模型的深度学习模型，并探讨了该模型从统计物理方法中导出熵和互信息的方法。同时，设计了一种实验框架用于对生成模型进行训练，并对该模型进行验证。研究表明，在该模型中，压缩和泛化之间的关系仍然不明确。

该文介绍了一种名为SUMVC的新方法，从信息理论的角度解决了多视图聚类中的冗余信息和一致信息问题，为多视图数据分析提供了新的角度和有前景的解决方案。