一个马尔可夫信源有3个符号{u₁，u₂，u₃}，转移概率为：p（u₁|u₁）=1/2，p（u₂|u₁）=1/2，p（u₃|u₁）=0，p（u₁|u₂）=1/3，p（u₂|u₂）=0，p（u₃|u₂）=2/3，p（u₁|u₃）=1/3，p（u₂|u₃）=2/3，p（u₃|u₃）=0，画出状态图并求出各符号稳态概率。

m阶马尔可夫信源和消息长度为m的有记忆信源，其所含符号的依赖关系相同

判断题查看答案

一阶马尔可夫信源的状态图如图所示。信源X的符号集为{0，1，2}。 （1）求平稳后信源的概率分布； （2）求信源的熵H∞。

简答题查看答案

简述马尔可夫信源的定义及其极限熵。

简答题查看答案

利用状态极限概率和状态一步转移概率来求m阶马尔可夫信源的极限熵。

判断题查看答案

黑白气象传真图的消息只有黑色和白色两种，即信源X={黑，白}。设黑色出现的概率为p（黑）=0.3，白色的出现概率p（白）=0.7。 （1）假设图上黑白消息出现前后没有关联，求熵H（X）； （2）假设消息前后有关联，其依赖关系为p（白/白）=0.9，p（黑/白）=0.1，p（白/黑）=0.2，p（黑/黑）=0.8，求此一阶马尔可夫信源的熵H2（X）； （3）分别求上述两种信源的剩余度，比较H（X）和H2（X）的大小，并说明其物理意义。

简答题查看答案

简述最大离散熵定理。对于一个有m个符号的离散信源，其最大熵是多少？

简答题查看答案

黑白传真机的消息元只有黑色和白色两种，即X={黑，白}，一般气象图上，黑色的出现概率p（黑）＝0.3，白色出现的概率p（白）＝0.7。  （1）假设黑白消息视为前后无关，求信源熵H（X），并画出该信源的香农线图  （2）实际上各个元素之间是有关联的，其转移概率为：P（白|白）＝0.9143，P（黑|白）＝0.0857，P（白|黑）＝0.2，P（黑|黑）＝0.8，求这个一阶马尔可夫信源的信源熵

简答题查看答案

设离散无记忆信源其失真度为汉明失真度。 （1）求Dmin，R（Dmin），并写出相应试验信道的信道矩阵； （2）求Dmax，R（Dmax），并写出相应试验信道的信道矩阵； （3）若允许平均失真度D=1/3，试问信源的每一个信源符号平均最少由几个二进制码符号表示？

简答题查看答案

某一无记忆信源的符号集为{0，1}，已知P（0）=1/4，P（1）=3/4。 （1）求符号的平均熵； （2）有100个符号构成的序列，求某一特定序列（例如有m个“0”和（100 - m）个“1”）的自信息量的表达式； （3）计算（2）中序列的熵。

简答题查看答案