40|系统论:如何让整体效用大于部分之和?

你好,欢迎来到我的《信息论40讲》。

如果说信息论和控制论都有一个明确的主要发明者,那么系统论则是一批学者各自独立研究,共同创建和完善的一门新理论。

不过,一般认为,1948年奥地利生物学家贝塔朗菲出版的《生命问题》一书,标志着系统论的问世。虽然系统论最初源于对生物系统的研究,但是它适用于各种组织和整个社会。贝塔朗菲和其他系统论的奠基人主要的观点如下。

首先,一个有生命的系统和非生命的系统是不同的。 前者是一个开放的系统,需要和外界进行物质、能量或者信息的交换。后者为了其稳定性,需要和外界隔绝,才能保持其独立性,比如一瓶纯净的氧气,盖子一旦打开,就和周围环境中的空气相混合,就不再是纯氧了。

其次,根据热力学第二定律,一个封闭系统总是朝着熵增加的方向变化的,即从有序变为无序。 这一点我们在前面已经讲过了,无论对一个热力学系统,还是一个信息系统,或者一个组织机构都是如此。

特别需要强调的是,对于一个复杂的系统,比如我们的生命体,或者一个公司、一个组织,一旦它成为了一个封闭系统,一定是越变越糟糕。相反,对于一个开放的系统,因为可以和周围进行物质、能量和信息交换,有可能引入所谓的“负熵”,这样就会让这个系统变得更有序。

最初薛定谔等人用负熵的概念来说明为什么生物能够进化(越变越有序),后来,管理学家们借用这个概念来说明一个公司或组织在外界环境的影响下,可以变得更好。中国的俗话“他山之石、可以攻玉”就是这个道理。

最后,贝塔朗菲认为,对于一个有生命的系统,其功能并不等于每一个局部功能的总和 ,或者说将每一个局部研究清楚了,不等于整个系统研究清楚了。比如熟知人体每一个细胞的功能,并不等于研究清楚了整个人体的功能。相反,多出了一个部分,整体的功能未必会增强,而少掉一个部分,相应的功能未必会失去。

我们今天很多人喜欢大量吃补品,比如各种维生素,事实上,当我们的身体获取了所需要的维生素后,多余的全部代谢排出体外了。很多人迷信吃碱性食品能够中和体内过多的乳酸,但事实上人体会自动平衡酸碱性,而不会因摄入了所谓碱性食品就降低酸性。

类似的,一些胆固醇高的人以为只吃不含胆固醇的素菜就能降低胆固醇。虽然少摄入胆固醇对降低指标有好处,但是即使不摄入胆固醇,人体也会自己产生,也就是说健康饮食其实是一项系统工程。

系统论的思想对我们有什么启示呢?这里我不妨分享一下我的体会。

首先要想办法做到整体大于部分之和。

我们知道,在机械思维中的“整体总是能够分解成局部,局部可以再合成为整体”。这种思维方式有它的道理,只有相信这一点,才有可能将复杂的系统分解之后,一部分一部分了解,也才有可能通过完成对每一个局部的构建,搭建起一个大系统。这一点并没有错。

我们知道在冷兵器时代,一支20000人的军队通常战斗力就是比10000人的军队高,一个300名工人的工厂就是比一个100人的工厂产出要多,因为整体等于部分之和。但是今天,我们需要超越这种想法,因为我们今天面临的系统要复杂很多,局部的改进未必能带来全局的优化。我们不妨看这样一个例子。

假如你被安排设计一款新的手机。如果给你一个比今天手机处理器快十倍的最新处理器,你能够让手机提高十倍的速度么?答案显然是不能,因为手机在处理器的速度被大幅提高后,内存的速度就可能成为瓶颈,以至于处理器本身的速度发挥不出来,这时整体就小于部分之和了。

接下来我问你,如果给你十倍的内存,从今天的128G,增加到1280G。用户用起来的体验是否更好了呢?也未必,因为更多的内存可能意味着耗电量增加,体积增大,而且大家可能三年也无法用完全部的内存,而三年后,这款手机就过时了。

类似的,有的手机厂家为了标新立异,把手机后面的金属壳换成玻璃的,而那块玻璃又没有特别的用途,这不仅极大地增加了加工的难度,还让大部分人觉得设计怪怪的,多做一件事反而影响了原有的功能。但是,当vivo能够将后面的玻璃变成另一块屏幕时,这个功能就有用了。

几年前的苹果,每次有新的手机问世时,从来不宣传自己的速度提升了多少,容量有多大,分辨率有多高,而是强调自己的手机使用起来非常流畅,因为它在设计手机时,综合考虑了各种因素,做到了整体大于部分之和。

事实上那时的苹果手机,同样的售价,各部分性能指标只有大多数安卓手机的一半,同样的性能指标,售价却是安卓手机的两倍。但是你使用起来,会觉得物有所值。今天,很多安卓手机也赶了上来,做到了整体大于部分之和,苹果的优势就没有了。

那么安卓手机是怎么赶上来的呢?我们不妨看看华为的例子。华为真正让大众对它的手机有好感,是在和徕卡合作之后,手机的照相功能有了极大的提升。通过使用徕卡的光学系统,以及相应的图像处理(主要是色彩调整和亮度还原)技术,华为的手机在众多手机中做到了独树一帜。

这项合作,显然要增加成本,但是不会太多,可能增加了5%,但是,却让手机的售价提高了50%甚至更多。这便是整体大于部分之和的很好的例子。

几个月前我给一些企业家讲课,强调从N走到N+1叫做创新,从N出发偷工减料,做成N-1,叫做山寨。有些企业家讲,在中国这样相互抄袭的环境下,做N+1的事情在市场上生存不下去。大家都不得不陷入恶性竞争,比如摩拜单车1块钱1公里,ofo就5毛钱1公里,其它颜色的自行车就干脆不要钱。

我当时就给他们举了华为的例子,我讲,要有本事通过增加5%的成本多赚50%的钱,而不是减少5%的成本之后,少赚了1/3的钱。偷工减料的事情不用学大家都会,如果只懂得这样竞争,就不用到商学院回炉学习了。要有本事像华为那样做到我说的整体大于部分之和,才能在竞争中逐渐胜出。

我的第二点体会是,当上帝关上一扇门时,他可能同时给你打开了另一扇窗。 这句话是美国盲人女作家海伦·凯勒说的。什么意思呢?在一个有机的系统中,很多功能是可以相互替代的,因此不会因为某一个缺损,而使得整个系统瘫痪。

我的一位担任某三甲医院主任的同学讲,人到了50岁之后,多少会有点血管堵塞,但是如果是比较轻微的情况,不用太担心,因为人体会自动调节自身,适应这种情况,整体的功能不会有影响。也就是说虽然门关上了,但是窗户打开了。

在过去的半年里,总有人问我对中美贸易战的看法。我的观点是,即便某一扇门关上了,但是由于贸易本身是有利可图的事情,它会用另一种方式开展。事实上在美国开始对中国的部分商品征税之后,中国对美国的出口并没有减少。

因此,作为大的经济体,无论是美国还是中国,都不会因为局部的变化就完全改变它们固有的发展轨迹。

对人也是如此。很多人会一直对当年高考少了一两分,没有进入一个更好的大学而耿耿于怀。其实,对绝大部分人来讲,进入A大学还是B大学长期的影响没有那么大。同样,很多人会因为自己一次好运沾沾自喜,但是勉强进入了一所好学校,随后学得非常吃力,自信心倍受打击,最后那次好运气真的是祝福还是诅咒还很难说呢。

我当老师时,见到很多跟不上的同学,很长时间走不出失败的阴影,他们并没有因为一次运气就从此交好运。如果当初选择一个更适合自己的地方读书,或许会生活得更好。

人是一个完整鲜活的系统,增加局部的能力之后,单独衡量那项能力,肯定是提高了,但是人作为一个整体是否提高了,则是另一回事。因此,每一个人往哪个方向努力才能提高整体能力,就有讲究了。

我的第三个体会涉及到利用系统论改进做事方法 ,毕竟我们光发现问题还不够,还需要有行动指南。我把它们总结成四点:

  • 整体。任何局部的改进,都需要放回到整体中去考察。

  • 综合。iPhone是一个很好的例子。

  • 科学。在分析问题时必须要遵循科学方法,而不是简单的经验,因为只有这样才能获得可重复的成功。20多年前,公牛队称霸NBA,靠的是乔丹等人的天赋,那是不可重复的。今天勇士队的成功,靠的是科学训练,特别是找到了投三分球这个秘诀,以至于整个联盟的比赛都成了三分球的比拼。这说明它的成功是可以重复的。

  • 发展。系统工程不仅要求在空间上,作整体考虑,还需要在时间上考虑一件事情的影响力,然后决定做不做。

思考题 :如果我们需要同时做几件事情,如何保证它们的结果是整体效果大于部分之和?

吴军

我们的《信息论40讲》到此就结束了。谢谢你听完了这门并不简单的课程。我知道大家关心接下来我有什么写作或者开课的打算。经过和得到团队的协商与合作,我会有一本新书出版,随后我会开设一系列的通识教育课程,把一个人一生应该知道的那些学科和学问,用通俗的讲法讲给你。内容上会比信息论轻松很多。

还是和之前一样,我们重在讲述方法,以及学科之间的关系,而不在于讲述具体的知识点。希望大家继续关注得到。谢谢大家。

最后“信息应用”模块精选留言的20位同学名单:

Bachmozani Tchaikofievendelsso、Ed.旋、完美坚持、顾昱晓、罗杰.费德勒、冯琨、佛祖门徒、卢海林、金勇-Steve、Hanskeng、金戈铁马、王黎璐、刘长青、古小千、...And ࿇ Oceིans、Apprentice-胡钦元、岳山、Stone、Vincere_肖涵哲、陈C。

你们每人将得到100得到贝的奖学金充值。

https://piccdn3.umiwi.com/img/201907/07/201907070951585206801560.png

https://piccdn3.umiwi.com/img/201907/07/201907070952113526323457.jpg


热门留言

Steve:#金勇笔记# 《信息论》课程笔记 #day41#

四十一天 ,可以学完一门课程。 课程中的知识要应用于生活,思考如何做出行为的改变,我建议把之前的要点总结再重温一次,挑出自己最关注的金句,然后刻意践行。 之前课程中提过三思,大家有没有想过到底什么才叫“反思”,有的观点是要强调“回头看”,我觉得光回头看不叫反思,而是“返思”。 君子尝日三省乎,「省」字的意思我以为和反思接近。 省的是什么?思什么? 莫不是得与失、荣与辱、功名尘土,抑或儿女往事。 今晚,我则思的是过往的学习顿悟瞬间。

我没有计算机专业与通讯行业的学术背景,有些通讯编码的技术也需要从头开始学习,但课程提到的生活启发对我的帮助却是更大的。

以我个人来说,数据挖掘(Data Mining),是一类要充分挖掘信息价值的工作。 日常工作会涉及到【发现问题与定义问题】、【收集数据与清洗数据】、【分析数据与建立模型】、【得出结论或验证猜想】、【分享与推动解决问题】 ... ...

不论是这上面的哪个环节,都是信息流转的一个节点。 也许真相是很难通过数字被挖掘的,那就尽最大努力给出置信度大的结论,给出统计意义上可靠的信息。 对结论负责,对数据负责,对用户负责。 我以【漏斗】为例,给大家简单介绍一类数据分析与行为研究的方法。

在用户增长理论中,有一派的观点是提高关键环节的转化率。 比如我们的用户搜索”大前研一 专业主义“这组词, 会在某个App中看到40项搜索结果, 假设有一千人搜索,因为网络原因只有900人看到了结果,然后90个人进行了点击,50个人最终完成了最终购买。

这一系列行为就像是一个从宽不断收紧的形如漏斗的图形,计算出每一步的流量转化数据。 所以这类数据分析也叫做漏斗分析。 接下来要分析的是哪一步是问题比较大的,针对该环节提出优化方案, 例如是不是搜索结果不准导致结果没人点? 购买支付时还要用户注册导致了失效? 电商行业里经常用到。

有没有想过这一切的分析前提是什么呢? 接收数据。 做模型的人有句话叫”Garbage in, Garbage out“ (垃圾进,垃圾出),表示的意思是数据没有经过清洗,直接建模的话,只会得到失真的模型。 也就是说噪声太大, 没有做好去噪的工作。 我在之前的工作中就遇到了这样的问题, 技术同事上传的数据出了问题, 本该一秒内只有3、4条点击的流量变成了3、4千条数据, 结果因为几百个异常数据导致整个分析的结论都被带偏了。

这是该课程对我的启示。 我也觉得每个人都能找到自己的启发点。 tips: 在生活里和朋友聊天时,可以把自己在课程的所学所想,拿出来与身边人分享碰撞,未尝不是一件检验成果的事情。

好了,这是我的最后一篇课程助学笔记 (5.26 ~ 7.8 )
我非常感谢这门课程,也要感谢吴军老师与小宁主编。

学不可以已, 祝好

金勇, 2019年7月8日

Vincere_肖涵哲:升维建模,结构定位,以宏观优化确立局部更迭,为系统论。

系统论从根本改变了我们洞察世界的方法和思维。曾经,我们思考的局限性决定了使用方法的必然性:将复杂事物分解为小份,然后逐一简化,以部分的特点解释整体。如此,最多不过是 “盲人摸象”的升级,通过整合每一位观察者触摸得到的结论,“大蒲扇,大萝卜,大柱子…”以此揣摩大象的样貌,依旧不得其解。

面对日益复杂化的世界,我们如何处理量级巨大,关系复杂、参数众多甚至相互矛盾的黑匣?以下,我结合系统论的六个原则,继续谈谈"盲人摸象"和思考题的做事之法。   1. 整体性,将问题或事物视为整体, 即系统。系统的特性只有在宏观层面才会具体显现,而微观的各要素性质和行为都会影响到整体。之于盲人摸象,我们需要了解,无论描述如何矛盾冲突,构架大象这个整体需要每一份元素。对于做事,我们需要有一份大局观,整合所做事的共通目标。

  1. 联系性,即系统内元素间,系统与环境之间的关系。这需要我们寻找不同元素和系统相似和差异。比如盲人摸象中,我们首先需要构建"大象"的整体,就需要将他与其他已知的大型哺乳动物相联系。对于做事,我们需要警惕"为multitask而multitask,为跨界而跨界",寻找几件事的联系,找到等价的区域,以相同的思路优化不同事的执行方法。

  2. 制约性,即稀缺下即系统内元素间,系统与环境之间的关系。这种自我限制的思维,就是老师多次强调的明确边界以行事。在盲人摸象的进程中,这体现在描述间的矛盾,我们需要适度地消除不合理的冲突,并顺着"大象"的大型哺乳动物这个结构边界整理信息。对于做事,我们需要了解时间和资源的稀缺性,对其中一件事的过多投入会影响其他事物的布局。

  3. 有序性,元素之间联系和制约是有规律,有序的,这表现在时间顺序、空间结构、功能行为这三个方面。只有用有秩序的观点去分析系统,才可能洞察结构特点。在盲人摸象中,除了通过联系其他的大型哺乳动物,我们还需要定位不同观察点的相对位置,以此对应大体的"首足尾"的大致空间次序。这在并行做事中,体现在行动优先级,什么时间,在什么环境,和什么人一起做什么事,有必要分清。

  4. 动态性,系统是有机体,元素,系统与环境间存在物质,能量和信息的流动。这种流动需要长期的动态平衡进行调整。反观盲人摸象,我们可以看到: 最大的问题就是他们的观察是单次,静态的! 如果让几位观察者互换位置或者不断移动,信息的获取就有了不同。这提醒了我们,计划和执行并不应该太过机械。唯有切换视角,并根据需要重新分配资源,适时更改行动方案才可长久。

  5. 最优化,类似最大熵算法,即指在既定条件下,利用各种方法促进系统最大化实现目标。再次从摸象出发,我们可以看到,故事中的方法只是第一步。有非常多的优化可能,比如从局部入手,不断细化,重复观察,将重叠部分和差异部分层层利用,再重新整合归纳。这在同时行事的方法中,就要求我们要懂得追求最优,同时借鉴已有的方法以分别优化; 比如投资使用吴军老师所提到的霍夫曼编码方法,寻找资料多使用正交信息进行交叉验证和多维认知...the sky is the limit.


终于还是到了告别的时刻。且为信息论画上一个暂时的句号吧。

对于格雷克而言,信息,早已成为世界的血液和燃料。它是人类意识,社会,生命,宇宙的基本原则。对于当初的香农来说,要建立关于“信息“的理论体系,必须脱离信息本身的意义,重新建立基础概念。而要跨越时代,必先脱离时代本身的思维方式,重新定义新的角度。

对于我们,或许信息告诉我们的重点不在超越,而是认知壁垒,学习已有的方法,找到人生的优衡点。

数学家达郎贝尔有言,“对于任何知道如何从一个视角理解宇宙的人来说,纵然浩瀚,宇宙不过是一个事实,一个伟大的真相。”

信息,正是我们发现这个视角的契机。

再次感谢老师分享智慧。祝近安。

肖涵哲 二零一九年七月七日 于加东

又及,

感谢你读到最后。看到勇哥的笔记以后我决定把火炬接下去,休整一段时间后开始课程的全面复盘,以"增量"为切入点,整理思路,优化笔记。同时,结合"Elements of Information Theory"_《信息论基础》和MOOC资源,学习老师在理论世界思考现实问题的能力。一来,深入对知识的理解和提取。二来,将这门课程介绍给更多的人。邀请学友们与我同行。

灰鸽:到了今晚,吴老师的信息课结束了,现在做个总结,半年之后再来听一次。总结一下自己的收获。 信息的本质是消除对世界不确定性。 如果没有消除不确定性,那就没有信息,没有价值。从这个角度去看世界,从整个人类历史来看,对于信息的追求也是我们人类的一个本能需求。 我们需要获得一份确定性的了解。 举个例子聚会点菜,如果我是点菜的,问旁边的朋友,你喜欢吃什么菜,旁边的朋友说,随便,哪个都可以,我会感到很郁闷,自己根本不知道点什么菜好。因为随便,哪个都可以,没有包含我希望得到他喜欢什么菜,能够让他满意的信息。我还是不知道他喜欢吃什么,或者我点完菜他对我的满意度的期待。是没法消除这部分不确定性。 第二个领悟是从个朋友里说女人讨厌男人说的话里带吧字。还有女人购物说,太贵了还是不要买了吧。其实内心还是想要。同样的男人前面如果说,我送你回去吧,这个吧字背后还包含了一份不愿意。这吧字真的是意味深长。从信息的角度看,吧字是增加了模糊性,也是符合朋友讲的道理。也是这个直男从他那里学到的生活的智慧。 第三个学完之后,自己感觉犹豫这个毛病可以慢慢的减掉和克服掉。从信息的角度看世界,我们的使命是需要消除部分的不确定性。犹豫会增加这部分不确定性。也是对自己内在信息不够了解。沟通的目标也是消除对方的不确定性。工作也是消除不确定性。

开不得:听到老师要开通识教育的课,高兴呀,因为硅谷来信就是类似,但是还不够系统,有机会跟着吴军老师把本来读书时要学的知识补上,真是一大幸福。老师说还要出书,我现在在得到听到我喜欢的老师,下来要把他的书全买了,在去细看,就拿《科技史纲60讲》,我原以为书的内容会和专栏重复大部份,我发现得到专栏只是个大纲而已,书的内容扩展的更丰富和细腻,吴军老师太实在了。

最后脑子里老想起老师说北京密云怀柔堵车的事,让我有点感觉,第一,第二次工业革命都是关于能量的革命,我们要造更快的车,修更宽更高的车道,可到了第三次工业革命,物理上升级空间留给我们的并不多了,所以我们要在信息上下功夫,就像老师说5G万物互联到来,每张车都联网,交通信号灯联网,在根据导航地图,来实时甚至精准预测调控车的流量,那交通拥堵将会在没有扩宽任何道路的情况下得到部分解决。这就是信息节省能量。

今天老师说了苹果手机,这对于我个人发展有个体会,不要一山望着一山高,好像武侠小说里每个高手都花大部份时间精力去打造最好的武器和盔甲或者寻找更好的武功秘籍,而我就专心修炼基本功,武器和盔甲够用就好,不要去做轻功提升了,盔甲越穿越重的事。

就如老师说,真正的大师,是把最家常的菜,类似土豆丝炒出别人炒不出味道的人。

jwu(作者) 回复:接下来的课我需要准备一段时间,保证质量。不过新书很快会和大家见面。

过河小马:同时做几件事,或许可以引入一个衡量指标——成本。达成的结果一样,则所花成本低的较优。

以最近争议较大的垃圾分类为例。由每一个居民来做垃圾分类,比最终在垃圾厂由专人来分类,真的会降低整个社会付出的成本吗?

看看做得好的日本的情况。垃圾分类先得学习,在日本垃圾分类多达十几种。你要扔垃圾得先判断它是哪一类。如果一件垃圾分属不同,你扔之前还得把它拆开。最近有个段子说,粘鼠板上粘了只死老鼠,扔的时候该怎么分类呢?说的就是这个意思。学习完了,你不一定能做对。据说在日本分错垃圾的人要受惩罚,可见学习成本很高。为了不出错,日本很多社区分单双号或星期一三五分扔不同的垃圾,和我们开车限号一样。这又耗费了居民的精力。被限号的垃圾扔不出去,还得在家里保存,又增加了保存成本。 这还没完,分开后的垃圾要分开运送,再次增加运输成本。最终,运到垃圾回收站,认真的日本人还是会重新再做整理。 薛兆丰老师曾有调研,有日本垃圾回收站认为集中处理效率更高,请求政府取消老百姓分类垃圾。 可见由老百姓来分类整个社会成本会很高。

正如前边讲的奥卡姆剃刀法则——切勿浪费较多东西,去做用较少东西就可以做好的事情。这个法则同样适用于多件事的系统整体。

完美坚持:整体综合科学发展

几乎每一天都处在要同时去做很多事情的状态。我之前更多是一种机械式的思维,堆砌式地去做事,而没有太多整体、综合的考虑,用发展的眼光考虑,在做事的时候也没有太科学。

其实很多时候是嫌麻烦,懒省事地想,多做一点肯定是好的,但是实际上“多出了一个部分,整体的功能未必会增强,而少掉一个部分,相应的功能未必会失去”。有些时候,不做一些事情,把有限的几件事情做好,就足以有收获。

因此现在在决定一些事情要不要做,就要去思考,甚至需要尝试去做一下,感受一下,再做决定。参考老师给出的维度,可以如此考虑: 整体:思考局部的优化对于整体的影响。eg:适当锻炼身体→改善精力→改善学习工作 综合:相关的几个局部,需要相互配合才有可能达到最优。eg:旺盛的精力=7h高质量睡眠+适度的锻炼+合理的饮食和补水+积极的心态+2min晒太阳。良好的学习状态=旺盛的精力+科学的学习方法+积极的心态。 科学:做事要使用科学方法。eg:通过查阅相关资料来获取科学的做事方法,然后在科学的指导下做事,“磨刀不误砍柴工”。 发展:思考事情在更长远的未来里,对自己的影响。eg:反例:玩游戏→长期对自己一点用处也没有,却浪费了很多宝贵的时间→放弃;重要工具的学习(英语、编程)→帮助我更好地应对未来可能遇到的问题,更好地适应新环境→坚持做

思考了之后,就可以有所取舍。具体做的时候,除了科学的做事方法,还要有科学的时间分配,这也因人而异。一段时间内专注在一件事情上,效果好一些,也能省去一些转换的精力耗费。此外,通过二分法快速确定当下要做什么,也是一个很好的办法。

科学的做事方法中也包含控制论的思想。记得以为超级用户说过,学习过程方法是不断改进的。我们在做事的时候,也要从做事中获得反馈,来调整自己的计划和方法,而不是在原来的计划方法不适用后,依旧不懂得改变。穷则变,变则通,通则久。

树feng:吴老师:

您好!

您真是太高产了,您在得到上的每一门可我都订阅,并仔细的学完了,10岁的孩子对您讲得科技史纲60讲也有非常大的兴趣。

这一门信息论对我而言有更加深刻的印象,因为十多年前我的博士论文就是用到的这个理论,“利用信息来减少不确定性”。

2003年,我进入同济大学攻读博士,导师给我布置了研究方向:交通信息对出行行为的影响。当时痛苦了整整两年,直到明白了“利用信息来减少不确定性”,3个月就把论文写完了。要是当初有您这门课,也不至于痛苦那么久。

出行行为的不确定性分为两个方面:选择的不确定性(uncertainty of choice)和选择项执行的不确定性(uncertainty of execution)。选择的不确定性比如选择哪条路更快一点,哪条路不堵车。选择项执行的不确定性,就是出行者获得信息后,不一定会按照交通信息提示的路径进行出行。比如告诉出行者A路今天可能更快,但出行者因为天天走B路,更熟悉一点,出行者可能会依然选择B路;也有可能是信息系统昨天告诉我A路径可能更快,但走了之后,发现效果并不好,今天就不走A路。此外,出行者出行时不光要考虑自己对出行信息的反应,也需要考虑其他出行者对信息的反应。

论文核心部分主要为三章。

第一章,信息对单次出行的影响。信息使出行者能了解其以前未知的选择项,即能有更多的选择余地;使出行者对以前所了解的选择项有更加明确的认知,即选择更加明确。然后,基于不确定性选择理论和离散贝叶斯决策理论提出了信息变量离散时,出行经验与交通信息融合的计算方法,交通信息效用的作用机理和交通信息效用的数学表示方法。最后应用不确定性选择理论和连续贝叶斯推理,将这一研究结果推广到信息变量连续时的情形,并通过算例,分析了提供交通信息条件下的出行选择行为计算过程和交通信息效用的表示方法。研究表明提出的模型能定量地描述交通信息在减少出行选择不确定性的作用,合理地反映交通信息对于出行决策的影响,为研究提供交通信息条件下的出行奠定了理论基础。

第二章,信息对多次出行的影响。因为交通信息不可能完全正确,多次出行后,出行者会验证信息的有效性,会有反馈机制。比如,出行者按照交通信息的提示选择了预报不堵的路出行,但出行后发现,这个预报不准,下一次他可能就不一定会听从交通信息的安排。研究得到两个主要结论:交通信息准确性越高、交通系统稳定性越差、出行者经验越少则交通信息的效用越大;发布交通信息要有选择性,并不是交通信息越多交通信息的作用越大。

第三章,信息对群体出行行为的影响。这里用到了博弈论,因为不光你会用到交通信息,其他出行者也会利用交通信息,大家都利用交通信息的结果可能是大家都改善了出行体验,也可能是产生了过激反应。比如一条路堵了,告诉大家旁边的一条路是畅通的,大家都蜂拥到不堵的路,这样就会把这条路也变堵了,可能反而不如让每条路都有人走。研究主要结论是:当交通系统容量有限,且出行者数量又较多时,交通信息对于出行者作用的大小不仅与自身选择行为有关,还与其他出行者对交通信息的反应有关,如果出行者不能正确预测其他出行者对交通信息的反应,就会产生过度反应,反而会使交通系统更加不稳定。因此需要理性地对待交通信息,充分发挥其优势,减少产生的不良反应。

写完博士论文,我觉得最后的收获不仅仅是顺利毕业,而是掌握了研究的基本方法。先把问题从复杂变为简单,即把交通信息对出行行为的影响这个难以计算的问题,转化为“交通信息可以减少出行的不确定性”,这样就变成了一个利用概率论、贝叶斯公式和决策模型来进行量化研究的可计算问题,之后再把这个问题复杂化。就是交通信息可能是离散的,比如堵还是不堵,还可能是连续的,比如出行时耗。再之后是单次出行和多次出行,最后从研究单个人出行到研究群体的出行行为,一气呵成,很快就写完了。

再次感谢老师毫无保留的将所学言简意赅的传授于我们!也希望我的这点小小的研究经验能造福更多的科学研究者。

祝安!

因为这里没法贴图片,感兴趣的可以找我索取。

罗杰.菲🉐樂:信息论给日常工作带来的启发:

云计算云原生数据库工程师

看见吴军老师诚邀工程师回信,我十分激动,追随互联网人的分享精神,看过那么多精彩留言的我第一次鼓起勇气拿起笔写一封真情实感的回信和您读者分享下我的浅见。

  1. 在边界内做事

在信息论中学到了香农第一二定律,知道了任何编码的长度都不会小于信息熵,也就是通常会大于等于信息熵。如果要超越信道容量传输信息,不论怎样编码,出错的概率都是100%。

这里和谷歌方法论开篇一样,都应用了极限的概念,我们平常做的优化一定是在边界内的,千万不要试图超越理论的极限值。就像我们不能想着去发明永动机一样,我们也不要企图去让编码长度小于信息熵,或者让信息传输率大于信道容量。举个我个人的例子,我之前以为分布式系统可以做到高可用,高容错,数据强一致,听您的课后我明白了这是有极限的,不要试图挑战理论极限。事实证明,我们设计的云数据库只能平衡这三点中的两点,不可兼得(英文是CAP theorem)。我们平常做的优化一定是在边界内的,在系统设计中寻找平衡,否则只能是浪费时间。

2.信息和能量不同,效果不能叠加

相同的信息使用两次,不会产生两倍的效果,这一点看起来容易,实践起来非常困难。 同时利用多种信息消除不确定时,信息是正交的时候效果最好,我现在把这条原则也牢记于心。

结合我的工作经验就是,我在云厂商是做云数据库的,我非常想了解整个云产业的发展状况,但是每天通过工作,学习到的新信息是有限的,把学到的信息和知识不断重复除了更熟练外其实对自己没有帮助。因为重复的信息和知识不会产生叠加性的进步,或者认为重复的信息的信息熵几乎为零。为了获得正交的信息,我尽量每天和我们云数据库组的不同的同事一起吃午饭,后来我还增大了一起吃午饭的同事的范围,和云存储,网络,计算,人工智能的部门的同事一起吃饭,我觉得这也是一种能更快了解行业动态的方法。我想起吴军博士的导师在他加入谷歌之前给了一个建议,在接下来的一年里,要和每一个同事至少吃一次午饭,这本质上是可以更快的获得正交信息。现在我把这一点牢记在心,也在不断实践这一条原则。

  1. 关于哈夫曼编码

哈夫曼编码把高频率的信息使用较短的编码。对于我们的指导意义就是对于有重要影响力的工作或者投资要舍得下本钱。在实际工作中我明白了不能在所有项目中平均用力,要找出最有影响力的部分,把那一部分做到最好。

具体到工作中就是把小的bug修复快速完成,运维工作降到最少(这个对于云计算工程师有难度,尽量多使用自动化脚本),工作重心是开发客户需要的核心功能。吴军博士在谷歌方法论里面也说过做事情是有量级差别的,我们做事情比较优秀的策略就是抓大放小,不要拘泥于局部特别是非优先级部分的优化(哈夫曼编码中对于低频信息编码就不是最优的),要着眼于全局的量级。

  1. 关于信息熵

公开信息基本没有信息熵。在IT企业的面试中也体现了这一点,如果使用大家都知道的面试题,大家都背了答案,我们就无法从候选人的回答中得到有用的信息,所以使用这种面试题的信息熵基本为零,属于浪费了时间。同样的好的投资人不看K线,我学习了信息论以后不看K线了,因为这些公开的信息的信息熵非常小。

最后总结一下,上述几点都是我在信息论学习中提炼出来的要点,然后用它们指导自己的工作,在这里分享一下希望对大家有所帮助。

佛祖门徒:课后思考: 第一、重点和排序。同时要处理几件事,一是要进行排序,在确定先后次序的同时,分析哪些事有并行的可能,哪些事先做更有助于做好其他的事等;二是要突出重点,以便明确时间、精力等资源配置得当。 第二、权衡与取舍。要综合考虑事与事之间、事与人之间、人与人之间的关系,分析不同处理结果对整体的影响,评估怎样的结果产生的整体效益最大,或许“有所不为”才是整体最优解,懂得取舍,与其平均使力,不如全力攻克关键节点。 感谢老师带来的精彩“信息论”,还要多学几遍,内化于心,外化于行,用信息论思维指导工作和生活。期待早日看到老师的新书与新课,祝安康!

shzhang:同时做几件事,要确保整体大于部分之和,无疑应采用系统思维: 1.明确目标,在目标明确的情况下,要先做最重要的事情,不要只选择低水平好做的事情简单重复,好走的从来都是下坡路; 2.面对多任务时更要整体布局,在时间和精力有限的情况下,只要科学合理的规划能够帮你快速有效地实现目标,不拘泥于细节,明确任务的前提下,将任务分拆,并采用倒推的方式确定任务的截止时点,并基于全盘考虑作出取舍,至少保证最小成果交付后如果有时间剩余再不断完善; 3.管理好自己的注意力,确保专注高效地完成一个任务再转向下一个任务,根据任务的难易情况合理分配自己的注意力,以便交叉合理完成各项难度和复杂度不同的任务(老师的递归算法值得推荐); 4.事物都是演化发展的,找到任务的小切口,以及任务完成的那些关键要素和他们之间的联系,在问题解决时,并不是获取的信息越多有利于问题的解决,更应该具备一双去伪存真的慧眼,过滤掉那些噪音,不为短期利益所诱惑,允许滞后效应,关注长期表现。 老师在《硅谷方法论》里曾经说过并行处理任务的弊端,无疑多任务并行只能让自己在低水平上重复,而MIT的研究也表明人脑同步思考的能力非常有限,在某一时刻只能接收、保留和处理少量的信息,“一心多用”的结果不仅会降低工作效率,也更容易出错。

信息论的课程结束了,可信息论的学习可能才刚刚开始,在学习的过程中,很多新的概念是初次结识,也都囫囵吞枣一并被吸纳了,难免有消化不良,之后恐怕需要一段时间来慢慢研磨一番,以便能够真正理解并融汇贯通用以指导实践,而不止停留在新知识带来的廉价快感上,学习的真正目的不是为消除焦虑,而是为解决问题,要不断深入思考,直到问题解决。

冯琨:可以用老师讲过的“三条边”理论作为指导,同时做好几件事情,需要把人看作一个整体的系统,对人做事的上限、基线都要明确。然后找到合适的路径,并通过不断的和外界进行信息、能量的交换来完成工作。

举例:在校学生的学习可以看成对这个问题的简化,时间有限、同时要学多门学科,这时就应该有系统论思想:

1、不能均匀用力,而应该根据学科目标和自身情况来安排学习的时间,比如数学基础较差时,要分给数学更多的思考、练习的时间和精力。

2、除了时间,人的精力也是一种资源,要根据难易程度来安排每天具体的学习顺序,一般是先进行难的科目,再进行简单的科目。

3、可以借助外部资源和人自身产生互动,提高完成各项任务的效率。比如住在距离学校较近的地方,可以多睡一会儿或者有机会灵活安排时间;经常和老师互动,可以更准确的获知自己的外部评价、学到更好的学习方法;良好的家庭和社会关系可以减少分散精力的事情,更容易集中注意力。

自身的学习情况、家庭情况、学校情况都是基线,基线高可以减少学习中的爬坡难度。个人学习能力是上限,利用资源、把学习能力提升就提升了自己的上升空间。

赵一木:画画就要关注整体,画面上有很多东西要刻画,比如画素描头像中,鼻子眼睛嘴巴五官等等都需要塑造。但是不能抛开整个画面去单个塑造某个器官。比如鼻子单拎出来看,画的挺好,结果放到画面里面去发现形不准。或者明暗关系不对。所以就要从整个画面着手,吧每个小形体串在大的形体里,小的明暗关系放在大的明暗关系里。不断的对比修正。同步进行才能完成一幅好的作品。

生活中还有一个例子,就是给东西上螺丝的时候。如果有多个螺丝,那么多个螺丝要同步一点点上紧,如果一个一个挨个上紧。表面就会斜,或者受力不均匀可能会坏。

最后,期待吴老师的新课和新书~ 同时也恭喜获得奖学金的同学~向你们学习😊

太西瓜西太:手机耳机播放音乐有杂音怎么办? 手机基带音频工程师的感悟。《吴军.信息论40讲》,从信息论视角,学习到,测试工作是消除不确定性,降低信息熵。 音乐播放如同拧开水龙头接水,杂音就是四处飞溅的水花。杂音通常出现在播放开始和结束。在研的一款音频芯片,高灵敏度入耳式耳机在播放开始时能听到杂音,目前正在从以下维度分析中: 1. 时域维度。 音频领域专业分析仪器AP525(可理解为鲁大师跑分软件),测量到有多个杂音尖峰,其中两个最高,幅度为200 uV,标准为小于50 uV。继续测量多片芯片,主观杂音大的芯片,客观尖峰幅度也较高。 2. 逻辑维度。 普通居民家中接水,只有拧开水龙头一个动作。而耳机通路打开,是拧开供水总公司,城市主干供水管,社区供水管和住户单元楼这整个链路上的所用阀门。 根据芯片规格书,通过USB调试端口,打印出耳机通路打开过程的log。首先忽略与耳机杂音无关操作的log,聚焦到和规格书对应的步骤中。 3. 主动干预 耳机通路开启过程,分为7步,从开始到结束,大概为电源时钟,数字电路,去杂音电路,开启功放,模数转换模块,合上开关,和添加直流电平。 在步骤中执行完后加入暂停,测量是否有杂音。 4. 应用哈夫曼编码 经过上述实验,发现有杂音的步骤中,幅度从高到低为 ,步骤6,步骤4和步骤7。降低每步杂音的方法是增加与前一步骤的时间间隔,延长整个通路打开时间。根据哈夫曼编码,增加耗时采用不等长分配,步骤6,步骤4和步骤7的分配比例为6:3:1。 耳机杂音问题分析过程,就是利用信息论度量问题信息量的过程,就像吴军老师举例的名片识别软件,如果只是用图像识别,正确率98%,已经很高,但加上互联网获取的企业信息,增加这个正交维度的信息,能将正确率提升至99.9%。所以测试方法是问题在不同维度的投影,发现更多正交维度,对提高工作质量大有裨益。

罗杰.菲🉐樂:今天是信息论的最后一节课,感觉还非常的依依不舍,一段奇妙的旅程就这么结束了。然而天下没有不散的宴席,在这里谢谢吴军老师的高质量课程,谢谢助教的无私分享,谢谢大家的踊跃留言,我也从不同的维度学到了信息论课程的补充。还谢谢得到的团队,把我选为精彩留言的获奖同学。

其实上了这次信息论课程以后,对于写作的想法和做法有了很大的改变。我原来不喜欢写作,因为说输出是最好的学习方法,我就后来试着写一些留言,开始时留言基本是对课程要点的总结,上了信息论以后我知道留言的目的是给课程提供信息增量,由于我是计算机科班出身的,所以我可以提供一些稍微专业一点内容的补充。从精选的频率来看,增量的效果还不错,现在我慢慢的喜欢写一些东西了,还要谢谢得到平台。

对于今天的整体和局部的问题,我想谈谈我们对个人的职业发展(全局)和多方面能力(局部)的看法。现在比较流行的说法是T型人才。T型人才是指按知识结构区分出来的一种新型人才类型。“—”表示有广博的知识面,“|”表示知识的深度。两者的结合,既有较深的专业知识,又有广博的知识面,这类集深与博于一身的人才。这种人才结构不仅在横向上具备比较广泛的一般性知识修养,而且在纵向的专业知识上具有较深的理解能力和独到见解,较强的创新能力。

在硅谷来信里面吴军老师也提到了第二条腿,暗处的技能(我觉得这里指的就是职场上的软技能)。一般来说,专业越精深,第一条腿越长的人(可以认为是T中的“|”),越需要有更长的第二条腿帮助他走得稳,走得远。对大多数人来讲,遇到事业的天花板,常常是第二条腿不够长。我觉得T型人才的“—”还可以增加一条,除了知识的广度,就是软技能。

我们的职业发展其实本质上是一个系统优化,我们对每一项技能进行优化的时候千万不能忘记整体,要有全局思维和终局思维,时刻牢记我们的最终目标是什么。同时我们还要参考木桶原理,在优化的时候不能有明显的短板,同时还要有一个非常长的长版,这样的局部优化会让我们的职业发展的全局最优,这个和文字提到的整体和综合科学发展的系统论观点不谋而合。

最后祝福吴军老师身体健康

冯琨:搜索汇总: 系统一词来源于古代希腊文,意为部分组成的整体。

系统论的创始人美籍奥地利生物学家贝塔朗菲最早提出并将其定义为“系统是相互联系相互作用的诸元素的综合体”。

随着系统论的发展,通常把系统定义为:由若干要素以一定結构形式联结构成的具有某种功能的有机整体。

系统论包括四种概念三种关系,即系统、要素、结构、功能,基于四种概念又构成要素与要素、要素与系统、系统与环境三种关系。

系统论的基本原则主要有:整体性原则、结构功能的原则、相互联系的原则、有序性原则、目的性原则、动态性原则,各原则相互联系,共同发展,这些原则也始终贯穿于各行各业的工作过程中,为其提供切实的决策策略。

我是谁,我要去何方:有这样一个例子,做好了每一个局部,确输了整体。当年的日本,从明治维新,到甲午战争,到日俄战争,到抗日战争,他们打赢了每一仗,但是,再往前走一步,珍珠港偷袭,惹翻了美国人,环境就发生了巨变,接下来就是毁灭性的灾难。用吴伯凡老师的话说,日本是赢得了每一个战术胜利,终于一步步地把自己带进了一个战略陷阱。 日本当时每一个局部的战争都赢了,从当时的环境看似乎越来越稳定,但偷袭珍珠港以后,导致外部环境的剧变,最终活活把自己拖死。 思考题:如果我们需要同时做几件事情,如何保证它们的结果是整体效果大于部分之和? 我认为在做事情的时候,需要具备三种思维: 1.全局思维。做事情的时候,我们要考虑整体环境,不能盯住一个局部不防,不要为了短期利益而造成损坏长期利益; 2.终局思维。“不忘初心,方得始终”,现在做的每一件事情都是为了实现一个大目标,切记将手段作为目的,而丢失了“初心”; 3.发展思维。世界是复杂的、易变的,在做事情的时候,一定要考虑多种可能性,制定备案,一旦环境变化,做出相应的调整。 请老师指正!

Michael:吴军老师好! 对于信息论的这门课,信息这块,我学到:获取信息的时候,先判断是否是噪音,信息是否来源幸存者偏差,最好对信息要做交叉验证--信息来源多个不同可靠的信息源,寻找等价信息,最大熵--做预测要满足当前已知条件,而不加入个人情感。 控制论,我学到:我们生活在一个连续的“绵延”的时间里面,每一个决定都影响到后续的人生,要注意好自己的态度,言辞和行动。在一个需要比较经常调节我们想法的时代,我们要盯紧前进的目标,坚持好自己原则。比较同意肖涵哲提到万维钢老师说的20%改变方法的灰度法则。 对于今天的系统论,我们知道了,系统分两种:一种开放,一种封闭。封闭的系统只会向熵增的方向发现,开放的系统只有不断引入新加的信息和能量才有可能向熵减的方向发展。对于现在面临的系统很多都是1+1大于2和系统不等于局部的相加。文章提到了CPU和内存之间的关系,Android和苹果的对比,华为用到徕卡镜头做到提高5%成本,提价50%价格。 对于老师留下的思考题,如何同时做几件事情的时候,确保整体效果大于局部之和。让我想到了和IBM竞争悲剧人物阿姆达尔和阿姆达尔法则--什么事情该做,什么事情不该做,如果提升整体的1%效果,需要增加局部100%,就没必要了。我们更多要做的事是,局部提升5%,整体提升1%的事情。让我想到了薛老师说的边际成本边际收益,科斯和阿尔钦讨论为什么人要加入企业。其实两位经济学家他们说的,我都认同,加入企业可以降低交易成本,合作可以带来新的效益,当然后者阿尔钦我更认同些。对于有限的资源怎么做好更大的整体。每个局部要看清边际成本边际收益,不要在一个局部投入过多的资源。写着写着就让我想到凯鹏华盈的投资策略--全部都先小投资一遍,优秀的企业加大投注,头部优秀企业压上大部分的身家。 对于信息论,感觉自己算是学到了些东西,增加了未来看问题的视角,希望以后经常用起来。内心多少安宁了些哈。 感谢吴军老师!祝老师身体健康,家庭幸福,事事顺心,新课大吉!

追求卓越,止于至善:熵增或者熵减的原则,让我联想到人的一生,婴儿刚出生的时候,与外界物质能量交换非常频繁,也就是引入了大量的负熵,细胞不断分裂分化,各种组织器官开始有序形成,人体系统不断变得有序,至成年的时候,器官发育完全,各项组织功能最强大,有序度变得最大。从婴儿到成年的时候,物质能量交换率逐渐降低,也就是引入的负熵逐渐变小,至成年到中年的这一段时间,引入的负熵与人体的正熵几乎相等,相互抵消,有序度不再增加。到老年人的时候,各项器官功能逐渐降低,摄入食物不易消化不易吸收,物质能量交换率下降,引入的负熵小于正熵,人体开始趋于封闭系统,而封闭系统无序度不断增加(熵增),物质器官结构功能变得紊乱,各种疾病也就出来了。所以这也解释了为什么年纪越大,人体出现的疾病越来越多。所以疾病的本质是什么,就是人体的组织、器官、系统的结构和功能的熵增加(无序度越来越高)

戚志光:关于N+1的创新和N-1的山寨,我在工作中深有感触。 10几年前,我们公司推出了新产品,经过了几年的努力,终于在市场上获得了成功,取得了不错的市场占有率。但是模仿者很快就跟了上来,竞标越来越激烈,销售价格也越压越低,企业的利润大幅缩小。 这时候企业有两个选择,一是加大研发,改进设备,使自己的产品与模仿者拉开距离;另一个是降低产品质量,缩减成本,靠价格战来应对。显然第一条路更难,见效也比较慢,所以决策者选了后者,企业也就进入了恶性循环。 当人面对眼前利益和未来利益的选择时,想让人看得更远,其实是挺困难的事。如果企业的治理结构只鼓励短期行为,要求决策者有长远眼光就更是难上加难。

HAN:感谢吴军老师帮我们系统的理清了信息论。 说实话课程听的很过瘾,也觉得道理我都懂,但是真正去准备留言的时候才发现能表达的东西太少。 不过收获当然也是不少的,例如哈弗曼编码和最大熵原理,将会指导我今后的投资。 而且每次看电影的时候、听音频的时候总能联想到是不是进行了压缩,总想找出是不是有信息损失。在进行视频通话时有意识的注意了与人物原声的变化是什么,还有卡顿的原因。 特别是交叉验证,作为具有普适性的方法,对于今后的看法、观点、结论都可以适用。 避免从单一的维度看待问题,要从多个维度进行交叉验证,信息的不确定性就会大大降低。 虽然课程暂时告一段落,但终身学习的心依然继续,前几天买了老师的《数学之美》,读了第一部分,感觉很熟悉,也多少有点意外,竟然能够基本读懂内容。说明听过这么课,虽然忘记,但也有不同。 期待老师的新书和下一门课程。