设信源求此信源的熵，并解释为什么H（X）>log6，不满足信源熵的极值性。

黑白气象传真图的消息只有黑色和白色两种，即信源X={黑，白}，设黑色出现的概率为P（黑）=0.3，白色出现的概率为P（白）=0.7。 （1）假设图上黑白消息出现前后没有关联，求熵H（X）； （2）假设消息前后有关联，其依赖关系为P（白|白）=0.9，P（黑|白）=0.1，P（白|黑）=0.2，P（黑|黑）=0.8，求此一阶马尔克夫信源的熵H2。 （3）分别求上述两种信源的冗余度，并比较H（X）和H2的大小，并说明其物理意义。

简答题查看答案

黑白气象传真图的消息只有黑色和白色两种，即信源X={黑，白}。设黑色出现的概率为p（黑）=0.3，白色的出现概率p（白）=0.7。 （1）假设图上黑白消息出现前后没有关联，求熵H（X）； （2）假设消息前后有关联，其依赖关系为p（白/白）=0.9，p（黑/白）=0.1，p（白/黑）=0.2，p（黑/黑）=0.8，求此一阶马尔可夫信源的熵H2（X）； （3）分别求上述两种信源的剩余度，比较H（X）和H2（X）的大小，并说明其物理意义。

简答题查看答案

一阶马尔可夫信源的状态图如图所示。信源X的符号集为{0，1，2}。 （1）求平稳后信源的概率分布； （2）求信源的熵H∞。

简答题查看答案

设信源 将此信源编码为r元惟一可译变长码（即码符号集X={1，2，r}），其对应的码长为（l1，l2，l6）=（1，1，2，3，2，3），求r值的下限。

简答题查看答案

设给定两随机变量X1和X2，它们的联合概率密度为： 求随机变量Y1=X1+X2的概率密度函数，并计算变量Y的熵h（Y）。

简答题查看答案

若有一信源 每秒钟发出2.66个信源符号。将此信源的输出符号送入某一个二元信道中进行传输（假设信道是无噪无损的），而信道每秒钟只传递两个二元符号。试问信源不通过编码能否直接与信道连接？若通过适当编码能否中在信道中进行无失真传输？若能连接，试说明如何编码并说明原因。

简答题查看答案

离散平稳无记忆信源X的N次扩展信源的熵等于离散信源X的熵的（）。

填空题查看答案

设信源通过一干扰信道，接收符号为Y={b1，b2}，信道传递矩阵为，求 （1）信源X中事件a1和a2分别含有的自信息量。 （2）收到消息bj（j=1，2）后，获得的关于ai（i=1，2）的信息量。 （3）信源X和信宿Y的信息熵。 （4）信道疑义度H（X/Y）和噪声熵H（Y/X）。 （5）接收到信息Y后获得的平均互信息量。

简答题查看答案

考虑一个信源概率为{0.35，0.20，0.15，0.15，0.10，0.10，0.05，0.05}的DMS。给出此信源的霍夫曼码。

简答题查看答案