第1章 绪论 1.1 信息(1) 1.2 通信系统模型(3) 1.3 信息论的形成和发展(6) 习题1(7)
第2章 信息的统计度量 2.1 自信息量和条件自信息量(8) 2.1.1 自信息量(8) 2.1.2 条件自信息量(9) 2.2 互信息量和条件互信息量(10) 2.2.1 互信息量(10) 2.2.2 互信息量的性质(11) 2.2.3 条件互信息量(13) 2.3 离散集的平均自信息量(14) 2.3.1 平均自信息量(熵)(14) 2.3.2 熵函数的数学特性(16) 2.3.3 条件熵(24) 2.3.4 联合熵(25) 2.3.5 各种熵的性质(25) 2.3.6 加权熵(31) 2.4 离散集的平均互信息量(32) 2.4.1 平均条件互信息量(33) 2.4.2 平均互信息量(34) 2.4.3 平均互信息量的性质(34) 2.5 连续随机变量的互信息和相对熵(37) 2.5.1 连续随机变量的互信息(37) 2.5.2 连续随机变量的熵(39) 习题2(41)
第3章 离散信源 3.1&n |