最大熵线性流形 Wojciech Marian Czarnecki, Rafał Józefowicz, Jacek Tabor

EntropyHub：用于熵时间序列分析的开源工具包。 欢迎来到EntropyHub。 顾名思义，EntropyHub是一个软件包，提供了一组全面的功能，可以根据时间序列数据计算信息理论上的熵测度。 EntropyHub专为所有用户而设计，可在MatLab，Python和Julia中使用，并在所有三种语言中提供简单一致的语法。 从相对简单（例如样本熵）到更高级的度量（例如复合多尺度校正的交叉条件熵），用户可以通过指定关键字参数来轻松地从命令行扩展每种熵方法。 目前，共有18个基本/核心熵函数，8个交叉熵函数和3个二维熵函数，所有这些函数都可以使用时延嵌入进行状态空间重构。 除了这些，还可以使用每个基本函数和交叉熵函数的多尺度变体，包括复合，精细和分层的多尺度方法。 因此，EntropyHub的目标是使复杂的测量过程变得简单。 随着科学文献中出现更多推导近似熵的方法，EntropyH

在信息论中，数据压缩是数据处理的难题之一，尤其是图像无损压缩。JPEG－LS算法是公认的灰度图像有效的压缩算法。然而，对于计算机绘制的灰度图像（如CAD、SOLIDWORK等），其压缩效率低，限制了JPEG－LS的广泛应用。提出一种基于两步编码法的图像有效压缩算法，即建模和编码,算法与JPEG-LS灰度图像压缩标准进行对比实验，实验结果证明该算法提高了压缩效率。

求序列的k熵，程序是我在别的网站down的

基于“生物信号的多尺度熵分析” 由 Madalena Costa、Ary L. Goldberger 和 C.-K. 鹏2005 年 2 月 18 日发表在 Phys. 修订版 E 71, 021906。

交叉熵方法是一个自适应的收敛优化方法，对解决优化问题效果非常的好

为了进一步提升建筑物遥感图像分割的准确性和运算速度，本文提出了基于混沌布谷鸟优化的二维 Tsallis交叉熵的建筑物遥感图像分割方法。首先给出了二维 Tsallis交叉熵的阈值选取公式，然后将 Logistic混沌映射引入布谷鸟算法，进一步加快布谷鸟算法的收敛速度，最后通过该混沌布谷鸟算法优化基于二维 Tsallis交叉熵的阈值寻找过程，并以得到的最优阈值分割建筑物遥感图像。大量实验结果表明，与二维倒数交叉熵法、二维 Tsallis熵法、基于混沌粒子群优化的二维 Tsallis灰度熵法等方法相比较，本文方法分割的目标更为准确，细节更为清晰，且运算时间更短。

为提高医学图像分割的效果，针对二维Tsallis熵阈值法图像分割效果受参数q选择的影响，提出一种基于云模型萤火虫算法优化二维Tsallis熵的医学图像分割算法。首先，将云模型引入萤火虫算法，提高萤火虫算法的收敛速度和寻优能力；其次，选择均匀性测度作为医学图像分割的评价指标，运用CMFA算法对二维Tsallis熵阈值法参数q进行自适应寻优。研究结果表明，与FA-Tsallis和Tsallis相比较，CMFA-Tsallis的均匀性测度最高，分割出来的结果边界清晰，从而证明本算法的有效性。

二、熵值法的计算方法及步骤 （一）原始数据的收集与整理 假定需要评价某城市m年的发展状况，评价指标体 系包括n个指标。这是个由m个样本组成，用n个指标做 综合评价的问题，便可以形成评价系统的初始数据矩 阵： 其中ｘij 表示第i个样本第j项评价指标的数值。

可以计算数据之间的峰值信噪比、交叉熵、均方差、结构相似性等