每年的9月20日，是全国爱牙日。作为中国特有的节日，爱牙日的由来主要与兰州地区的牙科医生--白成平有关。白成平在17岁的时候，就跟随美国口腔医学博士毛燮均学习牙医技术。此后，他便一直在兰州一家医院担任牙科医生。在50多年的牙医生涯中，他对人
全部3个回答 >信源熵的七大基本性质
已输入 0 字
优质回答
-
信源熵的基本性质：
1. 非负性：H(X) ≥ 0
熵描述的是某个集合统计意义上的不确定性，是自信息的加权平均。
而我们在一开始寻找描述不确定性的函数，引出自信息量概念的时候，便要求自信息的取值应在[0，+∞]。
故，熵作为自信息的加权平均，自然也是非负的。
2. 确定性：H(1,0)=H(1,0,0)=……=H(1,0,0,…,0)=0
①根据熵的定义式，可知H(1,0)=1*log1=0
②根据熵的意义，当信源发出某个符号的概率为1，则该信源为确知信源，其不存在不确定性，
即确知信源的熵等于0。
3. 对称性：熵只与随机变量的总体结构有关。
熵的对称性
4. 扩展性：极小概率事件对熵几乎没有影响
熵的扩展性
5. 熵的链式法则
熵的强可加性
该式称为熵的强可加性。
若X,Y统计独立，则
熵的可加性
该式称为熵的可加性。
进一步推广，可得
N维联合信源熵的链式法则为：
N维联合信源熵的链式法则
6. 极值性：输入等概时，熵最大。
熵的极值性
上式又称为最大离散熵定理。
7. 熵的独立界：条件熵小于等于无条件熵。
条件作用使熵减小
如果统计相关的变量已知，则统计意义上不确定性减少。
即，条件作用使熵减小。
熵的独立界是统计意义上的，对于Y具体取某个值的情况不一定成立。
熵的独立界
该定理称为熵的独立界。
2023-10-24 00:30:00 -
基本信息
信源熵:是信息论中用来衡量信源信息量有序化程度的一个概念。信源熵值与信源有序化程度成反比;有序度越高，信源熵值越低，反之亦成立。
定义
信源熵的定义:信源各个离散消息的自信息量的数学期望(即概率加权的统计平均值)信源熵的单位是 Bit/sign
2023-10-24 00:30:00
最新问题
全部问题
-
问 爱牙日的由来答
-
问 爱尔兰是哪个国家答
爱尔兰被称为翡翠岛国，这里西临大西洋、东靠爱尔兰海，与英国隔海相望。爱尔兰其实是一个独立的西欧国家，为北美通向欧洲的通道。爱尔兰、英格兰、苏格兰、威尔士是四个民族，也是四个地方。在历史上，这四个地方分分合合，瓜葛不断。1918年前，四个民族
全部10个回答 > -
问 圣城是哪个城市答
希腊雅典、中国洛阳、沙特麦加和以色列耶路撒冷被世界公认为世界四大圣城。关于洛阳圣城称号的由来，可追溯至上古时期。 相传上古时期，洛阳孟津县境内的黄河中出现背着“河图”的龙马和背着“洛书”的神龟，它们把图和书献给了伏羲后，伏羲根据图和书
全部10个回答 > -
问 芥菜的营养价值答
食材简介： 芥菜又称盖菜、挂菜，是中国的特产蔬菜。芥菜植株一般可高150厘米，幼茎及叶具有毛刺。经过长期选择和栽培，芥菜出现了不同的变种：根芥菜，也叫大头菜，主要用来腌制咸菜;叶芥菜俗称雪里红，可制成霉干菜;茎芥菜，用来制作榨菜;芽芥
全部10个回答 > -
问 猪肝的营养价值答
食材简介： 猪肝又名血肝，是猪的肝脏，与胆相连，肝脏是动物体内储存养料和解毒的重要器官。猪肝在消化系统中能够制造胆汁，一般呈紫红色、红褐色，质软而脆，呈楔形，右端圆钝，左端扁薄，可分为上、下两面，前后两缘，左右两叶。 营养功效：
全部10个回答 > -
问 花椒的营养价值答
食材简介： 花椒，又叫麻椒、蜀椒、点椒等，是我国原产的一种干、枝、叶、果均具浓郁辛香的落叶灌木或小乔木。它最初野生于我国中西部，是作为是敬神的香物。现在广泛分布于我国南北各地。由于它的果皮暗红，密生粒状突出的腺点，犹如细斑，故花椒之名
全部10个回答 > -
问 银鱼的功效与作用答
食材简介： 银鱼，又称炮仗鱼、面条鱼、白饭鱼等，通体白色，整体长约10厘米，刺少，有牙并且十分锋利。银鱼具有海洋至江河洄游的习性，多生活于水的下层，我国的太湖、西湖、马湖是三大银鱼盛产湖。 营养功效： 银鱼所含营养十分丰富，具有高
全部10个回答 > -
答
大理是悠闲和浪漫的代名词，下关的风，上关的花，苍山的雪，洱海的月，“风花雪月”构成了大理最著名的特色。去大理，我们的路线是先游览大理古城周边及崇圣寺三塔，然后环洱海游，最后以登苍山结束。大理古城是大理旅游的核心区，这里承载着大理历史文化、宗
全部10个回答 > -
问 原单和正品的区别答
现在的市场可以说是乌烟瘴气，光各种产品的头衔都搞的人一头雾水，那么，原单和正品有什么区别呢？所谓的原单货和“真货”的唯一区别，不过是“庶出”而已，数量很少。众所周知，现在国外60%以上的奢侈品都在中国生产。国外的一些大品牌会在国内找一些代工
全部10个回答 > -
问 太湖的简介答
“太湖美呀太湖美，美就美在太湖水”，1978年，这首《太湖美》传遍大江南北，太湖一时成为了大家都心中的向往之地。太湖位于江苏省南部，长江三角洲南部，是中国著名的五大淡水湖之一。太湖湖泊面积2427.8平方公里，湖岸线全长393.2公里。其西
全部10个回答 >