平均互信息量I(X;Y)与信源熵和条件熵之间的关系是()。
填空题查看答案
设信源通过一干扰信道,接收符号为Y={b1,b2},信道传递矩阵为,求 (1)信源X中事件a1和a2分别含有的自信息量。 (2)收到消息bj(j=1,2)后,获得的关于ai(i=1,2)的信息量。 (3)信源X和信宿Y的信息熵。 (4)信道疑义度H(X/Y)和噪声熵H(Y/X)。 (5)接收到信息Y后获得的平均互信息量。
简答题查看答案
试证明两连续随机变量之间的平均互信息I(X;Y)是输入随机变量X的概率密度函数p(x)的型凸函数。
简答题查看答案
设“8名同学选1名寝室长”与“32名同学选1名班长”这两个事件的信息熵分别为X和Y,每个同学当选的概率相同。则X与Y在数值上的关系为()
单选题查看答案
设信道输入端的熵为H(X),输出端的熵为H(Y),该信道为无噪有损信道,则该信道的容量为()
填空题查看答案
设X,Y是两个相互统计独立的二元随机变量,其取“0”或“1”的概率为等概率分布。定义另一个二元随机变量Z,而且Z=XY(一般乘积),试计算: (1)H(X),H(Y),H(Z); (2)H(XY),H(XZ),H(YZ),H(XYZ); (3)H(X|Y),H(X|Z),H(Y|Z),H(Z|X),H(Z|Y); (4)H(X|YZ),H(Y|XZ),H(Z|XY); (5)I(X;Y),I(X;Z),I(Y;Z); (6)I(X;Y|Z),I(Y;X|Z),I(Z;X|Y),I(Z;Y|X); (7)I(XY;Z),I(X;YZ),I(Y;XZ)。
简答题查看答案
有两个二元随机变量X和Y,它们的联合概率为P[X=0,Y=0]=1/8,P[X=0,Y=1]=3/8,P[X=1,Y=1]=1/8,P[X=1,Y=0]=3/8。定义另一随机变量Z=XY,试计算: (1)H(X),H(Y),H(Z),H(XZ),H(YZ),H(XYZ); (2)H(X/Y),H(Y/X),H(X/Z),H(Z/X),H(Y/Z),H(Z/Y),H(X/YZ),H(Y/XZ),H(Z/XY); (3)I(X;Y),I(X;Z),I(Y;Z),I(X;Y/Z),I(Y;Z/X),I(X;Z/Y)。
简答题查看答案
有两个二元随机变量X和Y,它们的联合概率为: 并定义另一随机变量Z = XY(一般乘积),试计算: (1)H(X),H(Y),H(Z), H(XZ), H(YZ)和H(XYZ); (2)H(X/Y),H(Y/X),H(X/Z),H(Z/X),H(Y/Z),H(Z/Y),H(X/YZ),H(Y/XZ)和H(Z/XY); (3)I(X;Y),I(X;Z),I(Y;Z), I(X;Y/Z), I(Y;Z/X)和I(X;Z/Y)。
简答题查看答案
若X、Y和Z是三个随机变量,试证明: (1)I(X;YZ)=I(X;Y)+I(X;Z|Y)=I(X;Z)+I(X;Y|Z) (2)I(X;Y|Z)=I(Y;X|Z)=H(X|Z)−H(X|YZ) (3)I(X;Y|Z)≥0当且仅当(X,Z,Y)是马氏链时等式成立。
简答题查看答案