有一二进制信源符号，0和1发生的概率分别P（0）与P（1），当（）概率发生时，信源的熵达到最大值。

设有一个信源，它产生0，1序列的信息。它在任意时间而且不论以前发生过什么符号，均按p（0）=0.4，p（1）=0.6的概率发出符号。 （1）试问这个信源是否是平稳的？ （2）试计算及； （3）试计算H（X4）并写出X4信源中可能有的所有符号。

简答题查看答案

对具有8个消息的单符号离散无记忆信源进行4进制哈夫曼编码时，为使平均码长最短，应增加（）个概率为0的消息。

填空题查看答案

一阶马尔可夫信源的状态图如图所示。信源X的符号集为{0，1，2}。 （1）求平稳后信源的概率分布； （2）求信源的熵H∞。

简答题查看答案

黑白气象传真图的消息只有黑色和白色两种，即信源X={黑，白}，设黑色出现的概率为P（黑）=0.3，白色出现的概率为P（白）=0.7。 （1）假设图上黑白消息出现前后没有关联，求熵H（X）； （2）假设消息前后有关联，其依赖关系为P（白|白）=0.9，P（黑|白）=0.1，P（白|黑）=0.2，P（黑|黑）=0.8，求此一阶马尔克夫信源的熵H2。 （3）分别求上述两种信源的冗余度，并比较H（X）和H2的大小，并说明其物理意义。

简答题查看答案

黑白气象传真图的消息只有黑色和白色两种，即信源X={黑，白}。设黑色出现的概率为p（黑）=0.3，白色的出现概率p（白）=0.7。 （1）假设图上黑白消息出现前后没有关联，求熵H（X）； （2）假设消息前后有关联，其依赖关系为p（白/白）=0.9，p（黑/白）=0.1，p（白/黑）=0.2，p（黑/黑）=0.8，求此一阶马尔可夫信源的熵H2（X）； （3）分别求上述两种信源的剩余度，比较H（X）和H2（X）的大小，并说明其物理意义。

简答题查看答案

设有一离散无记忆信源，其概率空间为 （1）求每个符号的自信息量； （2）信源发出一消息符号序列为，求该序列的自信息量和平均每个符号携带的信息量。

简答题查看答案

若某一信源有N个符号，并且每个符号等概率出现，对这信源用最佳霍夫曼码进行二元编码，问当N=2i和N=2i+1（i是正整数）时，每个码字的长度等于多少？平均码长是多少？

简答题查看答案

一个马尔可夫信源有3个符号{u1，u2，u3}，转移概率为：p（u1|u1）=1/2，p（u2|u1）=1/2，p（u3|u1）=0，p（u1|u2）=1/3，p（u2|u2）=0，p（u3|u2）=2/3，p（u1|u3）=1/3，p（u2|u3）=2/3，p（u3|u3）=0，画出状态图并求出各符号稳态概率。

简答题查看答案

设离散无记忆信源S其符号集A={a1，a2，...，aq}，知其相应的概率分别为（P1，P2，...，Pq）。设另一离散无记忆信源S′，其符号集为S信源符号集的两倍，A′={ai，i=1，2，...，2q}，并且各符号的概率分布满足： 试写出信源S′的信息熵与信源S的信息熵的关系。

简答题查看答案