getKullbackLeibler(​P,Q):计算 Kullback-Leibler 散度-matlab开发

称呼： KLD = getKullbackLeibler(P,Q) 从概率分布 P 计算概率分布 Q 的 Kullback-Leibler 散度。 P 表示数据、观测值或理论分布的“真实”分布。 而 Q 通常代表 P 的理论、模型、描述或近似值。 因此，P 和 Q 都是在相同范围内计算的分布（例如使用“getDensity.m”获得） （即相同的垃圾箱——如果没有，显然比较它们是没有意义的）。 Kullback-Leibler散度是非对称度量（请参见下文）之间的差异两个概率分布 P 和 Q。 具体来说，Q 与 P 的 Kullback-Leibler 散度， 是当 Q 用于近似 P 时丢失的信息的度量。 Kullback-Leibler 散度测量编码样本所需的额外位的预期数量（因此直观上它是非负的） 使用针对 Q 优化的代码时来自 P，而不是使用针对 P 优化的真实代码。 尽管它通常被直观