商，既是声旁也是形旁，表示两数相除的比值。熵，甲金篆字形暂缺，隶书（火，热量）（商，两数相除的比值），表示热量比值。推测造字本义：名词，用温度除热量所得的商，标志热量转化为功的程度。后由热力学引申到信息论、数论等各领域，在各领域中被作为考察系统状态稳定程度的重要参量（函数），用来描述、表征系统不确定程度。社会学和传播学用“熵”表示某一情境下系统的不确定性和无组织性。1803年法国数学家拉扎尔 • 卡诺关于自然过程中总是存在着有用能量逐渐“耗散”趋势的理论，最终导致了“熵”这个概念的诞生。1850年德国物理学家克劳修斯在对实际热机的研究中对“耗散”进行定量研究和表述，提出“熵”的概念，将“熵”描述为“能量的耗散”。在克劳修斯看来，在一个系统中，如果听任它自然发展，那么能量差总是倾向于消耗的。