设离散无记忆信源S其符号集A={a1，a2，...，aq}，知其相应的概率分别为（P1，P2，...，Pq）。设另一离散无记忆信源S′，其符号集为S信源符号集的两倍，A′={ai，i=1，2，...，2q}，并且各符号的概率分布满足： 试写出信源S′的信息熵与信源S的信息熵的关系。

某离散无记忆信源X，其符号个数为n，则当信源符号呈（）分布情况下，信源熵取最大值（）。

填空题查看答案

设离散无记忆信源其失真度为汉明失真度。 （1）求Dmin，R（Dmin），并写出相应试验信道的信道矩阵； （2）求Dmax，R（Dmax），并写出相应试验信道的信道矩阵； （3）若允许平均失真度D=1/3，试问信源的每一个信源符号平均最少由几个二进制码符号表示？

简答题查看答案

设有一个无记忆信源发出符号A和B，已知，发出二重符号序列消息的信源，无记忆信源熵为（）。

单选题查看答案

离散无记忆序列信源中平均每个符号的符号熵等于单个符号信源的符号熵。

判断题查看答案

离散无记忆N次扩展信源通过离散无记忆N次扩展信道的平均失真度是单符号信源通过单符号信道的平均失真度的（）倍。

填空题查看答案

设有一离散无记忆信源，其概率空间为 （1）求每个符号的自信息量； （2）信源发出一消息符号序列为，求该序列的自信息量和平均每个符号携带的信息量。

简答题查看答案

设离散无忆信源，其发出的消息为，求 （1）此消息的自信息量是多少？ （2）在此消息中平均每个符号携带的信息量是多少？

简答题查看答案

对具有8个消息的单符号离散无记忆信源进行4进制哈夫曼编码时，为使平均码长最短，应增加（）个概率为0的消息。

填空题查看答案

对于离散无记忆信道和信源的N次扩展，其信道容量CN=（）。

填空题查看答案