更新时间：2026-07-15 22:24:55
求解答，词语「信息熵」是什么意思？再说说信息熵有什么含义？
信息是个很抽象的概念。人们常常说信息很多，或者信息较少，但却很难说清楚信息到底有多少。比如一本五十万字的中文书到底有多少信息量。直到1948年，香农提出了“信息熵”的概念，才解决了对信息的量化度量问题。信息熵这个词是C.E.Shannon（香农）从热力学中借用过来的。热力学中的热熵是表示分子状态混乱程度的物理量。香农用信息熵的概念来描述信源的不确定度。信息论之父克劳德·艾尔伍德·香农第一次用数学语言阐明了概率与信息冗余度的关系。
欢迎使用朴木新华词语词典！我们专注于提供权威、全面的汉语词语查询服务，涵盖成语、近义词、反义词、组词等丰富内容。无论是学生、教师还是文字工作者，都能在这里找到精准的词语解释与用法。专业、高效、友好，助您轻松掌握汉语词汇。