等概率出现的离散消息的度量

来源：百度文库 编辑：神马文学网 时间：2024/04/26 14:43:23
1.3.3 离散信源的信息量
一、等概率出现的离散消息的度量
如果需要传递的离散消息是在N 个消息之中独立地选择其以，且认为每一消息的出现概率是相同的。显然，为了传递一个消息，只需采用一个N 进制的波形来传送。即传送N 个消息之一和传送N 进制波形之一是完全等价的。当，即为二进制，而且任意一个N 进制波形总可以用若干个二进制波形来表示。
我们定义传送两个等概率的二进制波形之一的信息量为1，单位为“比特”。即
(1.3-1)
这里选择的对数以2为底，在数学上运算也是方便的。同时，在数字通信中，由于常以二进制传输为主。按照式(1.3-1)的定义，对于，则传送每一波形的信息量应为

若N是2的整幂次，如，则式 可改写为
(1.3-2)
则式(1.3-2)表明，()进制的每一波形包含的信息量，恰好是二进制每一波形包含信息量的倍。由于就是每一个进制波形用二进制波形表示时所需的波形数目，所以传送每一个()进制波形的信息量就等于用二进制波形表示该波形所需的波形数目。
综上，只要在接收者看来每一传送波形是独立等概出现的，则一个波形所能传递的信息量为

或

式中传送的波形数;
P每一波形出现的概率。
:上述结论仅在每一波形独立等概率传送的条件下才成立。
等概率出现的离散消息的度量 等概率出现的离散消息的度量 1.3.3 离散信源的信息量 非等概率出现的离散消息的度量 1.3.3 离散信源的信息量 非等概率出现的离散消息的度量 1.3.4 连续消息的信息度量 1.3.4 连续消息的信息度量 几种常用的离散型概率分布的数学背景 虚拟空间起起落落。堆积和离散，用户 隐性基因 = 更大的成功概率 - — 路线图 — ... 离散信源的信息量 离散信源的信息量 极品人生的度量 武则天的度量 角的度量 华应龙 历史上的中秋节走势：出现拐点是大概率事件 历史上的中秋节走势：出现拐点是大概率事件 角的度量 片断赏析 离散制造业的ERP有何特点 离散制造业的ERP有何特点 离散和流程制造的区别 第八部分：度量知识分享的收益 数据的概括性度量之集中趋势 ＣＳＳ基础教程之度量单位的选择 第八部分：度量知识分享的收益 角的度量 教学设计和反思