填空题

互信息I(X;Y)与信息熵H(Y)的关系为:I(X;Y)()(大于、小于或者等于)H(Y)。

正确答案

来源:www.examk.com

答案解析

相似试题
  • 平均互信息量I(X;Y)与信源熵和条件熵之间的关系是()。

    填空题查看答案

  • 设信源通过一干扰信道,接收符号为Y={b1,b2},信道传递矩阵为,求 (1)信源X中事件a1和a2分别含有的自信息量。 (2)收到消息bj(j=1,2)后,获得的关于ai(i=1,2)的信息量。 (3)信源X和信宿Y的信息熵。 (4)信道疑义度H(X/Y)和噪声熵H(Y/X)。 (5)接收到信息Y后获得的平均互信息量。

    简答题查看答案

  • 试证明两连续随机变量之间的平均互信息I(X;Y)是输入随机变量X的概率密度函数p(x)的型凸函数。

    简答题查看答案

  • 设“8名同学选1名寝室长”与“32名同学选1名班长”这两个事件的信息熵分别为X和Y,每个同学当选的概率相同。则X与Y在数值上的关系为()

    单选题查看答案

  • 设信道输入端的熵为H(X),输出端的熵为H(Y),该信道为无噪有损信道,则该信道的容量为()

    填空题查看答案

  • 设X,Y是两个相互统计独立的二元随机变量,其取“0”或“1”的概率为等概率分布。定义另一个二元随机变量Z,而且Z=XY(一般乘积),试计算: (1)H(X),H(Y),H(Z); (2)H(XY),H(XZ),H(YZ),H(XYZ); (3)H(X|Y),H(X|Z),H(Y|Z),H(Z|X),H(Z|Y); (4)H(X|YZ),H(Y|XZ),H(Z|XY); (5)I(X;Y),I(X;Z),I(Y;Z); (6)I(X;Y|Z),I(Y;X|Z),I(Z;X|Y),I(Z;Y|X); (7)I(XY;Z),I(X;YZ),I(Y;XZ)。

    简答题查看答案

  • 有两个二元随机变量X和Y,它们的联合概率为P[X=0,Y=0]=1/8,P[X=0,Y=1]=3/8,P[X=1,Y=1]=1/8,P[X=1,Y=0]=3/8。定义另一随机变量Z=XY,试计算: (1)H(X),H(Y),H(Z),H(XZ),H(YZ),H(XYZ); (2)H(X/Y),H(Y/X),H(X/Z),H(Z/X),H(Y/Z),H(Z/Y),H(X/YZ),H(Y/XZ),H(Z/XY); (3)I(X;Y),I(X;Z),I(Y;Z),I(X;Y/Z),I(Y;Z/X),I(X;Z/Y)。

    简答题查看答案

  • 有两个二元随机变量X和Y,它们的联合概率为: 并定义另一随机变量Z = XY(一般乘积),试计算:  (1)H(X),H(Y),H(Z), H(XZ), H(YZ)和H(XYZ);  (2)H(X/Y),H(Y/X),H(X/Z),H(Z/X),H(Y/Z),H(Z/Y),H(X/YZ),H(Y/XZ)和H(Z/XY);  (3)I(X;Y),I(X;Z),I(Y;Z), I(X;Y/Z), I(Y;Z/X)和I(X;Z/Y)。

    简答题查看答案

  • 若X、Y和Z是三个随机变量,试证明: (1)I(X;YZ)=I(X;Y)+I(X;Z|Y)=I(X;Z)+I(X;Y|Z) (2)I(X;Y|Z)=I(Y;X|Z)=H(X|Z)−H(X|YZ) (3)I(X;Y|Z)≥0当且仅当(X,Z,Y)是马氏链时等式成立。

    简答题查看答案