zoukankan      html  css  js  c++  java
  • 均匀分布的熵最大——熵增定理,意味着大家都会趋同,成为乌合之众,最终无差异化。。。在企业管理中这是一件*的事情

    什么是熵(Entropy)

    简单来说,熵是表示物质系统状态的一种度量,用它老表征系统的无序程度。熵越大,系统越无序,意味着系统结构和运动的不确定和无规则;反之,,熵越小,系统越有序,意味着具有确定和有规则的运动状态。熵的中文意思是热量被温度除的商。负熵是物质系统有序化,组织化,复杂化状态的一种度量。

    熵最早来原于物理学. 德国物理学家鲁道夫·克劳修斯首次提出熵的概念,用来表示任何一种能量在空间中分布的均匀程度,能量分布得越均匀,熵就越大。

    1. 一滴墨水滴在清水中,部成了一杯淡蓝色溶液
    2. 热水晾在空气中,热量会传到空气中,最后使得温度一致

    更多的一些生活中的例子:

    1. 熵力的一个例子是耳机线,我们将耳机线整理好放进口袋,下次再拿出来已经乱了。让耳机线乱掉的看不见的“力”就是熵力,耳机线喜欢变成更混乱。
    2. 熵力另一个具体的例子是弹性力。一根弹簧的力,就是熵力。 胡克定律其实也是一种熵力的表现。
    3. 万有引力也是熵力的一种(热烈讨论的话题)。
    4. 浑水澄清[1]

    image

    于是从微观看,熵就表现了这个系统所处状态的不确定性程度。香农,描述一个信息系统的时候就借用了熵的概念,这里熵表示的是这个信息系统的平均信息量(平均不确定程度)

    信息熵:信息量的期望(加权平均):

    [公式]

    信息熵特点:(以概率和为1为前提哈)

      a) 不同类别的概率分布越均匀,信息熵越大;

      b) 类别个数越多,信息熵越大;

      c) 信息熵越大,越不容易被预测;(变化个数多,变化之间区分小,则越不容易被预测)(对于确定性问题,信息熵为0)

  • 相关阅读:
    博客园页面设置(转载)
    正则表达式30分钟入门教程 (转载)
    如何写出优雅的代码
    centos7 nginx+php5.6+mysql安装与配置
    git 进阶
    js 异步解决方案
    行动派
    unicode 与 utf-8
    bower command not found--windows
    click事件细节
  • 原文地址:https://www.cnblogs.com/bonelee/p/15116309.html
Copyright © 2011-2022 走看看