简答题

试证明H(X)是输入概率分布P(x)的上凸函数。

正确答案

答案解析

相似试题
  • 试证明连续信源X的相对熵h(X)是概率密度p(x)的∩型凸函数。

    简答题查看答案

  • 试证明两连续随机变量之间的平均互信息I(X;Y)是输入随机变量X的概率密度函数p(x)的型凸函数。

    简答题查看答案

  • 设二元对称信道的传递矩阵为 (1)若P(0)=3/4,P(1)=1/4,求H(X),H(X|Y),H(Y|X)和I(X;Y); (2)求该信道的信道容量及其达到信道容量时的输入概率分布。

    简答题查看答案

  • 设信道输入是连续型随机序列X1X2...XN,输出也是连续型随机序列Y1Y2...YN,信道传递概率密度为p(y|x)。试证明: (1)当信源是无记忆时,有 (1)当信源是无记忆时,有

    简答题查看答案

  • 信源X的概率分布为P(X)={1/2,1/3,1/6},信源Y的概率分布为P(Y)={1/3,1/2,1/6},则信源X和Y的熵相等。

    判断题查看答案

  • 有两个二元随机变量X和Y,它们的联合概率为P[X=0,Y=0]=1/8,P[X=0,Y=1]=3/8,P[X=1,Y=1]=1/8,P[X=1,Y=0]=3/8。定义另一随机变量Z=XY,试计算: (1)H(X),H(Y),H(Z),H(XZ),H(YZ),H(XYZ); (2)H(X/Y),H(Y/X),H(X/Z),H(Z/X),H(Y/Z),H(Z/Y),H(X/YZ),H(Y/XZ),H(Z/XY); (3)I(X;Y),I(X;Z),I(Y;Z),I(X;Y/Z),I(Y;Z/X),I(X;Z/Y)。

    简答题查看答案

  • 信源X的概率分布为P(X)={1/2,1/3,1/6},对其进行哈夫曼编码得到的码是唯一的。

    判断题查看答案

  • 平均互信息量I(X;Y)对于信源概率分布p(xi)和条件概率分布p(yj/xi)都具有凸函数性。

    判断题查看答案

  • 设X,Y是两个相互统计独立的二元随机变量,其取“0”或“1”的概率为等概率分布。定义另一个二元随机变量Z,而且Z=XY(一般乘积),试计算: (1)H(X),H(Y),H(Z); (2)H(XY),H(XZ),H(YZ),H(XYZ); (3)H(X|Y),H(X|Z),H(Y|Z),H(Z|X),H(Z|Y); (4)H(X|YZ),H(Y|XZ),H(Z|XY); (5)I(X;Y),I(X;Z),I(Y;Z); (6)I(X;Y|Z),I(Y;X|Z),I(Z;X|Y),I(Z;Y|X); (7)I(XY;Z),I(X;YZ),I(Y;XZ)。

    简答题查看答案