题目如下:
- 设X是一个随机变量,取值范围是一个包含M个字母的符号集。证明0<=H(x)<=log2M。
- 证明如果观察到一个序列的元素为iid分布,则该序列的熵等于一阶熵。
- 给定符号集A={a1,a2,a3,a4},求以下条件下的一阶熵:
(a) P(a1)= P(a2)= P(a3)= P(a4)=1/4
(b) P(a1)=1/2, P(a2)=1/4, P(a3)= P(a4)=1/8
(c) P(a1)=0.505, P(a2)=1/4, P(a3)=1/8, P(a4)=0.12
解答如下:
1.
2.
3.
时间: 2024-10-10 12:50:36