理论教育 信息论编码效率:计算方法与意义

信息论编码效率:计算方法与意义

时间:2023-10-29 理论教育 版权反馈
【摘要】:衡量信源编码的效果是通过以下三种方式。当原始信源S给定时,信源熵H就给定了,而编码后每个信源符号平均用L个码元来表示,故编码后信息传输率3.编码效率编码效率表示编码后实际信息量和能载荷最大信息量的比值。编码效率表征了信源熵H和编码后平均每个信源符号能载荷的最大信息量R′的比值。

信息论编码效率:计算方法与意义

衡量信源编码的效果是通过以下三种方式。

1.平均码长

平均码长 表示编码后每个信源符号平均所需的码元个数。单位为“码元/信源符号”。

(1)对单个信源符号进行编码

对单个信源符号s1,s2,…,sq编码,码字分别为W1,W2,…,Wq,各码字对应的码长分别为L1,L2,…,Lq。则该码的平均码长为

(2)对N次扩展信源符号进行编码

长度为N的信源符号序列α12,…,αqN编码,码字分别为W1,W2,…,WqN,各码字对应的码长分别为L1,L2,…,LqN。则对N长的信源符号序列编出的码字平均码长为

所以,信源各符号编码的平均码长为

2.编码后信道的信息传输率R(www.daowen.com)

编码后信息传输率R又称为码率,是指编码后平均每个码元载荷的信息量。单位为“比特/码元”或“比特/码符号”。

当原始信源S给定时,信源熵H(S)就给定了,而编码后每个信源符号平均用L个码元来表示,故编码后信息传输率

3.编码效率

编码效率表示编码后实际信息量和能载荷最大信息量的比值。

(1)定义:每个码元载荷的平均信息量与它所能载荷的最大信息量的比值。

(2)编码效率也可以表示为

其中,R′=Llogr(bit/信源符号),称为编码后信源信息率,它表示编码后平均每个码字能载荷的最大信息量。编码效率表征了信源熵H(S)和编码后平均每个信源符号能载荷的最大信息量R′的比值。

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈