在信息论中，熵是接收的每条消息中包含的信息的平均量，又被称为信息熵、信源熵、平均自信息量。 在信息世界中，熵越高，则能传输越多的信息，熵越低，则意味着传输的信息越少。 自信息： 1、自信息表示事件发生前，事情发生的不确定性 2、自信息表示事件发生后，事件所包含的信息量，是提供给新宿的信息量，也是解除这种不确定性所需要的信息量。 互信息： 离散随机事件之间的互信息： 事件x,y之间的互信息等于“x的自信息”减去“y条件下x的自信息”，I(x)表示x的不确定性，I(x|y)表示在y发生条件下，x的不确定性 I(x;y)表示当y发生后x不确定性的变化，两个不确定度之差，是不确定度消除的部分，代表已

医学图像配准，采用互信息配准的MATLAB程序代码

matlab傅里叶描述子代码信息 使用傅立叶变换和互信息进行形状识别。 以下论文使用了该仓库中的Matlab和C ++代码： N Govender，J Warrell，P Torr和F Nicolls，“使用傅立叶描述符和互信息的2D主动形状识别的概率模型”，计算机科学进展，土耳其伊斯坦布尔，2014年8月22-23日，第69-74页

针对互信息配准方法中目标函数因存在多极值而容易陷入局部最优的问题,提出了一种基于萤火虫算法改进优化策略的互信息医学图像配准算法。该算法使用归一化互信息作为相似性测度,用萤火虫所处位置来表示配准参数,根据每个萤火虫的位置计算互信息函数值并将其作为当前萤火虫的亮度,通过亮度和吸引度的迭代更新来寻找互信息函数取最优解时的最佳配准参数。实验结果表明,该方法克服了互信息函数容易陷入局部最优的问题,有效地提高了配准精度。

利用互信息法计算混沌时间序列重构空间时使用的延迟时间

在遥感数据处理研究中，高维高光谱数据的冗余信息和噪声严重影响高光谱数据的分类精度，针对此问题提出基于互信息波段选择和经验模态分解的高精度高光谱数据分类算法(MI-EMD-SVM)。分别采用基于互信息波段选择方法和经验模态分解实现对高光谱数据的冗余信息处理和特征提取，并获得处理后的高光谱数据X″。采用支持向量机分类算法对处理后的高光谱数据X″进行分类实验。仿真实验结果证实MI-EMD-SVM算法不仅提高高光谱数据分类精度，同时还减少支持向量数目，提高高光谱数据分类速度。

互信息法求混沌序列的最优时延，希望对大家有用。

（转）用遗传算法GA 来实现图像配准，基于互信息进行适应度判断

输入彩色图像，转化为灰度图像后，进行图像信息熵（一维和二维）、互信息等计算和对比分析。

已知：信源符号为英文字母（不区分大小写）和空格。输入：一篇英文的信源文档（5000词以上）。输出：列出每两个字母之间的互信息并计算平均互信息（输出到文本文件中）。