，其发出的消息为
，求 （1）此消息的自信息量是多少？ （2）在此消息中平均每个符号携带的信息量是多少？设有一离散无记忆信源，其概率空间为 （1）求每个符号的自信息量； （2）信源发出一消息符号序列为，求该序列的自信息量和平均每个符号携带的信息量。
简答题查看答案
设离散无记忆信源其失真度为汉明失真度。 （1）求Dmin，R（Dmin），并写出相应试验信道的信道矩阵； （2）求Dmax，R（Dmax），并写出相应试验信道的信道矩阵； （3）若允许平均失真度D=1/3，试问信源的每一个信源符号平均最少由几个二进制码符号表示？
简答题查看答案
设信源X包含4个不同离散消息，当且仅当X中各个消息出现的概率为（）时，信源熵达到最大值，为（），此时各个消息的自信息量为（）。
填空题查看答案
黑白气象传真图的消息只有黑色和白色两种，即信源X={黑，白}，设黑色出现的概率为P（黑）=0.3，白色出现的概率为P（白）=0.7。 （1）假设图上黑白消息出现前后没有关联，求熵H（X）； （2）假设消息前后有关联，其依赖关系为P（白|白）=0.9，P（黑|白）=0.1，P（白|黑）=0.2，P（黑|黑）=0.8，求此一阶马尔克夫信源的熵H2。 （3）分别求上述两种信源的冗余度，并比较H（X）和H2的大小，并说明其物理意义。
简答题查看答案
黑白气象传真图的消息只有黑色和白色两种，即信源X={黑，白}。设黑色出现的概率为p（黑）=0.3，白色的出现概率p（白）=0.7。 （1）假设图上黑白消息出现前后没有关联，求熵H（X）； （2）假设消息前后有关联，其依赖关系为p（白/白）=0.9，p（黑/白）=0.1，p（白/黑）=0.2，p（黑/黑）=0.8，求此一阶马尔可夫信源的熵H2（X）； （3）分别求上述两种信源的剩余度，比较H（X）和H2（X）的大小，并说明其物理意义。
简答题查看答案
设离散无记忆信源S其符号集A={a1，a2，...，aq}，知其相应的概率分别为（P1，P2，...，Pq）。设另一离散无记忆信源S′，其符号集为S信源符号集的两倍，A′={ai，i=1，2，...，2q}，并且各符号的概率分布满足： 试写出信源S′的信息熵与信源S的信息熵的关系。
简答题查看答案
设信源通过一干扰信道，接收符号为Y={b1，b2}，信道传递矩阵为，求 （1）信源X中事件a1和a2分别含有的自信息量。 （2）收到消息bj（j=1，2）后，获得的关于ai（i=1，2）的信息量。 （3）信源X和信宿Y的信息熵。 （4）信道疑义度H（X/Y）和噪声熵H（Y/X）。 （5）接收到信息Y后获得的平均互信息量。
简答题查看答案
黑白传真机的消息元只有黑色和白色两种，即X={黑，白}，一般气象图上，黑色的出现概率p（黑）＝0.3，白色出现的概率p（白）＝0.7。 （1）假设黑白消息视为前后无关，求信源熵H（X），并画出该信源的香农线图 （2）实际上各个元素之间是有关联的，其转移概率为：P（白|白）＝0.9143，P（黑|白）＝0.0857，P（白|黑）＝0.2，P（黑|黑）＝0.8，求这个一阶马尔可夫信源的信源熵
简答题查看答案
其发出的消息为（202120130213001203210110321010021032011223210），求 （1）此消息的自信息是多少？ （2）在此消息中平均每个符号携带的信息量是多少？
简答题查看答案