简答题

简述连续信源的熵的定义。

正确答案

连续信源的不确定度应为无穷大,是相对熵,或叫差熵。在取两熵之间的差时才具有信息的所有特性。

答案解析

相似试题
  • 离散平稳无记忆信源X的N次扩展信源的熵等于离散信源X的熵的()。

    填空题查看答案

  • 简述离散平稳信源的定义,平均符号熵、极限熵的定义,含义与理解。

    简答题查看答案

  • 简述几种特殊连续信源的熵。

    简答题查看答案

  • 设信源求此信源的熵,并解释为什么H(X)>log6,不满足信源熵的极值性。

    简答题查看答案

  • 连续信源和离散信源的熵都具有非负性。

    判断题查看答案

  • 对于均值为0,平均功率受限的连续信源,信源的冗余度决定于平均功率的限定值P和信源的熵功率()。

    填空题查看答案

  • N维统计独立均匀分布连续信源的熵是N维区域体积的对数。

    判断题查看答案

  • 简述信源熵的基本性质与定理及其理解。

    简答题查看答案

  • 在连续信源中,根据差熵、条件差熵和联合差熵的定义,证明 (1)h(X|Y)≤h(X),当且仅当X和Y统计独立时等号成立; (2)h(X1X2...XN)≤h(X1)+h(X2)+h(XN),当且仅当X1X2...XN彼此统计独立时等式成立。

    简答题查看答案