设8个等概率分布的消息通过传递概率为p的BSC进行传送，8个消息相应编成下述码字： 试问： （1）接收到第一个数字0与M1之间的互信息； （2）接收到第二个数字也是0时，得到多少关于M1的附加互信息； （3）接收到第三个数字仍为0时，又增加了多少关于M1的互信息； （4）接收到第四个数字还是0时，再增加了多少关于M1的互信息。

设二元对称信道的传递矩阵为 （1）若P（0）=3/4，P（1）=1/4，求H（X），H（X|Y），H（Y|X）和I（X；Y）； （2）求该信道的信道容量及其达到信道容量时的输入概率分布。

简答题查看答案

设A、B、C、D四个消息分別以概率1/4、1/8、1/8、1/2传送，信源的平均信息量为（）bit。

单选题查看答案

设二元对称信道的传递矩阵为 （1）若； （2）求该信道的信道容量及其达到信道容量时的输入概率分布。

简答题查看答案

黑白气象传真图的消息只有黑色和白色两种，即信源X={黑，白}，设黑色出现的概率为P（黑）=0.3，白色出现的概率为P（白）=0.7。 （1）假设图上黑白消息出现前后没有关联，求熵H（X）； （2）假设消息前后有关联，其依赖关系为P（白|白）=0.9，P（黑|白）=0.1，P（白|黑）=0.2，P（黑|黑）=0.8，求此一阶马尔克夫信源的熵H2。 （3）分别求上述两种信源的冗余度，并比较H（X）和H2的大小，并说明其物理意义。

简答题查看答案

黑白气象传真图的消息只有黑色和白色两种，即信源X={黑，白}。设黑色出现的概率为p（黑）=0.3，白色的出现概率p（白）=0.7。 （1）假设图上黑白消息出现前后没有关联，求熵H（X）； （2）假设消息前后有关联，其依赖关系为p（白/白）=0.9，p（黑/白）=0.1，p（白/黑）=0.2，p（黑/黑）=0.8，求此一阶马尔可夫信源的熵H2（X）； （3）分别求上述两种信源的剩余度，比较H（X）和H2（X）的大小，并说明其物理意义。

简答题查看答案

设信源X包含4个不同离散消息，当且仅当X中各个消息出现的概率为（）时，信源熵达到最大值，为（），此时各个消息的自信息量为（）。

填空题查看答案

信源X的概率分布为P（X）={1/2，1/3，1/6}，信源Y的概率分布为P（Y）={1/3，1/2，1/6}，则信源X和Y的熵相等。

判断题查看答案

把n个二元对称信道串接起来，每个二元对称信道的错误传递概率为p。证明这n个串接信道可以等效于一个二元对称信道，其错误传递概率为：

简答题查看答案

黑白传真机的消息元只有黑色和白色两种，即X={黑，白}，一般气象图上，黑色的出现概率p（黑）＝0.3，白色出现的概率p（白）＝0.7。  （1）假设黑白消息视为前后无关，求信源熵H（X），并画出该信源的香农线图  （2）实际上各个元素之间是有关联的，其转移概率为：P（白|白）＝0.9143，P（黑|白）＝0.0857，P（白|黑）＝0.2，P（黑|黑）＝0.8，求这个一阶马尔可夫信源的信源熵

简答题查看答案