连续信源的微分熵
把连续信源概率密度的取值区间[a,b]分割成n个小区间，各小区间设有等宽 ，那么，X处于第 区间的概率 是：
其中， 是 到 之间的某一值。当
是x的连续函数时，由积分中值定理可知，必存在一个 值使上式成立。
2021-10-30 15:12:26
4.91MB
1
下面计算遍历的m阶马尔可夫信源的熵率。
当时间足够长后，遍历的马尔可夫信源可以视作平稳信源来处理，又
因为m阶马尔可夫信源发出的符号只与最近的m个符号有关，所以极限
熵 等于条件熵 。
对于齐次遍历的马尔可夫链，其状态 由 唯一确定，因此有
所以
2021-10-03 23:16:37
1.73MB
1
信息论是研究信息传输和信息处理过程中的一般规律的一门学科，也是现代信息通信领域的一门基础理论。本书以香农的3个编码定理为中心，重点讲述了相关的基本概念、基本原理和基本方法。本书是作者根据多年教学经验编著而成的。鉴于目前学生可选择的课程越来越多，每门课的学时数不会很大，因此本书只讲述经典香农信息论的内容，而没有涉及过多分支。
2021-09-29 15:44:27
1.27MB
1
自己整理的《信息论基础教程》第2版的第二章的课后习题答案，由于之前自己找很费劲，所以想着为大家整理一下。
2021-05-08 21:23:35
2MB
1