试证明H（X）是输入概率分布P（x）的上凸函数。

试证明连续信源X的相对熵h（X）是概率密度p（x）的∩型凸函数。

简答题查看答案

试证明两连续随机变量之间的平均互信息I（X；Y）是输入随机变量X的概率密度函数p（x）的型凸函数。

简答题查看答案

设二元对称信道的传递矩阵为 （1）若P（0）=3/4，P（1）=1/4，求H（X），H（X|Y），H（Y|X）和I（X；Y）； （2）求该信道的信道容量及其达到信道容量时的输入概率分布。

简答题查看答案

设信道输入是连续型随机序列X1X2...XN，输出也是连续型随机序列Y1Y2...YN，信道传递概率密度为p（y|x）。试证明： （1）当信源是无记忆时，有 （1）当信源是无记忆时，有

简答题查看答案

信源X的概率分布为P（X）={1/2，1/3，1/6}，信源Y的概率分布为P（Y）={1/3，1/2，1/6}，则信源X和Y的熵相等。

判断题查看答案

有两个二元随机变量X和Y，它们的联合概率为P[X=0，Y=0]=1/8，P[X=0，Y=1]=3/8，P[X=1，Y=1]=1/8，P[X=1，Y=0]=3/8。定义另一随机变量Z=XY，试计算： （1）H（X），H（Y），H（Z），H（XZ），H（YZ），H（XYZ）； （2）H（X/Y），H（Y/X），H（X/Z），H（Z/X），H（Y/Z），H（Z/Y），H（X/YZ），H（Y/XZ），H（Z/XY）； （3）I（X；Y），I（X；Z），I（Y；Z），I（X；Y/Z），I（Y；Z/X），I（X；Z/Y）。

简答题查看答案

信源X的概率分布为P（X）={1/2，1/3，1/6}，对其进行哈夫曼编码得到的码是唯一的。

判断题查看答案

平均互信息量I（X；Y）对于信源概率分布p（xi）和条件概率分布p（yj/xi）都具有凸函数性。

判断题查看答案

设X，Y是两个相互统计独立的二元随机变量，其取“0”或“1”的概率为等概率分布。定义另一个二元随机变量Z，而且Z=XY（一般乘积），试计算： （1）H（X），H（Y），H（Z）； （2）H（XY），H（XZ），H（YZ），H（XYZ）； （3）H（X|Y），H（X|Z），H（Y|Z），H（Z|X），H（Z|Y）； （4）H（X|YZ），H（Y|XZ），H（Z|XY）； （5）I（X；Y），I（X；Z），I（Y；Z）； （6）I（X；Y|Z），I（Y；X|Z），I（Z；X|Y），I（Z；Y|X）； （7）I（XY；Z），I（X；YZ），I（Y；XZ）。

简答题查看答案