38|复盘:如何把信息论学以致用?
38|复盘:如何把信息论学以致用?
你好,欢迎来到我的《信息论40讲》。
这一讲,我们对信息论第三模块进行一次复盘。在这个模块中我们主要讲述了信息论原理在工作中的应用,并且对一些方法,比如大数据思维,介绍了其背后的科学原理。通常, 没有科学基础的方法常常难以持久。
今天我们的复盘换一种方式进行,先抛开这个模块的内容,从最近想到的一个问题讲起。
前一阵少年得到的负责人张泉灵老师问我,如何告诉孩子计算机科学是怎么一回事,这个行业的从业者都在干什么?
我讲,从事计算机科学的工作, 第一步是将我们这个世界的现实问题变成一个数学问题, 这就是计算机科学家们做的事情, 第二步就是将数学问题重新描述一下,变成计算机能够处理的问题, 这就是计算机工程师的工作,这个重新描述的过程,其实就是把人的自然语言变成计算机程序语言。
当然,还有一部分科学家在研究如何让计算机变得更快更强大,那是另一件事情。对于绝大部分计算机科学家来讲,他们不需要自己真的去设计制造计算机,而是做好现实问题到计算机问题的转化。
在信息论的应用中,情况也大致如此。我们很多人所做的工作,就是将工作中的问题,变成信息的收集、传输、综合、存储和处理的问题。我们绝大多数人不需要知道上述信息技术的细节,但是 需要知道如何把自己领域中的问题,描述成一个信息处理的问题。
我们在课程中讲了,CT和核磁共振(MRI)等医学影像仪器的发明,就是把医学中的一些问题变成了信息处理中的信号检测问题。
亨斯菲尔德是英国的一位电机工程师,他试图通过不同角度进行X光照射的成像,恢复人体内一个截面的图像信息,但是他自己不知道如何计算X光在人体内的辐射特性。后来他发现美籍南非科学家科马克发明了这种有关X射线在人体不同组织内的辐射特性的算法,于是发明了医学上用的CT扫描仪器。
这种仪器用X光探测器接收透过人体不同组织各个层面的X射线,将光信号转变为电信号,再变成计算机可以处理的数字信号,然后通过计算机的处理形成图像,还原我们身体内的结构,展现给医生们看。
亨斯菲尔德和科马克所做的就是将实际问题变成一个信息处理问题,他们很快因为这项发明获得了诺贝尔奖。
很多读者朋友问我,在得到上学了不少有用的课程,怎样才能用来改进我们的生活和工作呢?得到老师所教的内容,相当于科马克给出的有关X射线在人体不同组织内的辐射特性的算法。
不同的人得到它,会产生不同的结果,绝大部分人看了看,就放在一边了,亨斯菲尔德看到后,就用它来解决自己在工作上所面临的问题。他的贡献,其实就是将一个现实的、具体的问题,变成了那个算法能够解决的问题。
我在前面的课程中讲述了D先生通过大数据和IoT解决酒保偷喝酒的问题,他的贡献也是将一个具体的问题变成了一个信息收集和处理的问题。
很多人担心在信息社会里自己落伍,其实每一个自己的专业特长,就是信息时代最大的价值。关键看大家如何利用信息技术,发挥自己的特长了。亨斯菲尔德正是因为有在医疗仪器上的特长,才让科马克的技术发挥出效益。
在这个模块中,我们重点讲了信息论在五个方面的应用:
首先,我们讲述了验证信息的方法,并且给出了一个比较高效的做法,就是交叉验证。 人们通常习惯于在自己熟悉的维度中往深里挖,往细了挖,但是这样的做法到后来成本很高,准确性有限。从另一个维度进行交叉验证的效果则好很多。
第二,我们谈到了在信息不可获得时,如何利用等价信息获得相应的效果。 当然,在使用等价信息时,要注意不要把相关信息都当作等价信息了。
第三,我们剖析了大数据思维的底层逻辑。 虽然今天很多人拿着大数据思维当作新的概念炒,以至于已经被炒得有点烂了,但是如果我们理解了它的本质,就知道它其实是一种全新的思维方式,我们可以通过这样四个层面,对它一层层地深入理解:
-
第一层:百川入海,从各种枝末细节得到规律;
-
第二层:逆向思维,先有结论,再找原因;
-
第三层:洞察枝末,通过宏观规律对比细节,找到差异发现问题;
-
第四层:相关联系,通过多个维度的强相关性,找到因果关系作决定。
第四,我们介绍了奥卡姆剃刀法则,即简约之法则, 它的原意是“切勿浪费较多东西,去做‘用较少的东西,同样可以做好的事情’”。
发现简约的法制,并加以很好的利用,应该是我们日常做事的准则。
接下来, 我们介绍了最大熵原则。这个信息论的原则可以从几个角度来理解。 人们把它理解为,不要把鸡蛋放在一个篮子里,而要让凡事变得“平滑”,这是没有问题的。
但是,在课程中,我们还强调了这个原则的另一面,那就是在没有得到信息之前,不要作任何主观假设。这一点对投资非常重要。
很多人觉得股市连续涨了半年就一定会下跌,或者下跌了半年就一定会涨,这些都是主观的假设。事实上时机你是把握不住的,而时间是你的朋友。很多人对所谓时机的判断,都是主观的,其实是一种投机行为。
基于最大熵原理构建的最大熵模型,它符合奥卡姆剃刀法则,因为它在形式上非常简单。但是,形式上简单不等于实现起来就简单容易,相反,最大熵模型的训练计算量非常大,这件事告诉我们,任何事情都不是无成本的。
今天你可能会觉得华为手机照相特别好,一键按下去不用修图,就把人拍得很漂亮,但是在你使用简单的背后,是他们工程师大量的工作,以及处理器完成的大量计算。
今天我们每一个人都希望自己在市场上受欢迎,这件事如果有秘诀的话,就是在下面多做工作,让别人感到方便。
随后,我们介绍了 幸存者偏差,它形成的原因,以及如何利用它,让自己的利益最大化。 此外,我们特别强调了通识教育的重要性,因为瓦尔德能够看到军官们没有发现的盲点,这是因为他的数学常识让他有好的思维习惯,他在得到结论之前会问飞机样本是如何选取的,而军官们恰恰忽视了样本选取不具有代表性这一点。
很多人在看到这门课的时候,都担心它是一门需要很多数学知识的通信课程,但是听了以后发现它其实讲的是方法论。事实上今天信息论在管理上的用处比通信中一点也不少。
因此, 也希望你把这个信息传递给你周围的人,让他们不至于被信息论这个名称吓着,不妨也来了解一下我们当下和未来世界的方法。
信息论的基本原理,已经教给大家了,接下来,就看大家如何在工作中将它们用好了。下一讲,我会回答大家在“信息应用”这个模块这个模块遇到的问题。我们下一讲再见。

热门留言
Steve:#金勇笔记# #day39# #模块三复盘#
《信息论》课程应用部分的总结回顾: - 验证信息可以使用交叉验证,用其他维度跳出原来的视角,要比“一根筋”来得好; - 利用信息的等价性,但要注意等价信息和相关信息的差异; - 行业介绍:大数据行业与互联网广告领域 - 原则与执念: 幸存者偏差、最大熵、简约法则与保持开放
这一讲中,【数学】两个字出现了四次,【信息】出现接近三十次,但是本讲我更在意的是带有【问题】二字的话。 我在课程开始之前,是带着现实中的若干困惑与求知的心情出现在这里的。 这40天时间里,我经历了这样的过程: 抛出自己的问题 ==> 寻找课程内和外部的资料 ==> 分享自己求索的结果 ==> 产生新的问题 ==>
我觉得得到众多课程的老师提供了太多太多解决问题的方法论武器。 怎样提升自己提问题的能力呢? 光看书──《学会提问》是远远不够的,我觉得每个人还要懂点”批判性思维“。 (也许这门课程未来也会开放吧,我们期待一下)
What 、 How、Why
今天和同事聊到一些工作上的困境。 他问到自己在工作上经常会钻到死胡同,也就是投入大量精力放在”How“上,但做着做着就感到不知为什么这么做、继续下去会不会没收获。 我和他说,这是因为很少问自己动机和原因,问自己问题太少,就去拍脑袋做事。固然热情是好事,但也容易陷入了过度试错的状态。 可以多问自己哪些问题? What: 这件事情的动机与合理性在哪里?由我完成的优势在哪里? Why:为什么要做这件事情,对自己、组织的意义是什么? How: 如何实施和保证项目的进展?合作边界和时间计划表?
恰好今天也要写自己OKR了,我感觉和他讲完之后,这套”组合拳“也能帮助了自己。
真是可喜可贺。
金勇 2019年7月4日 0点
Stone:买卖股票择时很重要,也很难,要么卖早了,错过了一大波大的涨幅,要么买早了,抄底抄在了半山腰
原因就在于很难有办法获取足够大信息量的信息来消除不确定性,这时候,根据最大熵原理,最好的办法是等待
《孙子兵法》里也有关于最大熵的应用:“故善战者,立于不败之地,而不失敌之败也。是故胜兵先胜而后求战,败兵先战而后求胜。”
在没有获得足够信息的情况下,不能判断自己能不能赢,就不要和敌人打,否则就是赌博,即“先战而后求胜”。这种情况没有消除或减少信息熵,就不要打,虽然有小概率会赢,但更大概率很容易失败
获取了足够信息,能够判断一定可以击败敌人的情况下,再出战,即“先胜而后战”,已经利用了所有已知战场信息,将信息熵减少了,该确定的已经确定,我们不可能进一步减少信息熵了,那就打
“胜可知而不可为”,胜利是可以提前知道的。 原因就在于用信息来消除不确定性,该确定的都确定,剩下的信息熵就达到了最大,把信息使用地刚刚好,胜利自然就可以提前预知
孙子说:“古之所谓善战者,胜于易胜者也”,真正善于作战的人,都赢得很容易。善战者赢的容易,是因为让预测的风险最小,最大熵原则恰好满足这一点
看来,孙子是学过信息论之后,再穿越回去成为带兵打仗的行家的
Hanskeng 尹桂政:先生今天为我们总结出了做事的逻辑,任何一门严谨的学科和一件大事背后都有理论基础支撑。记得三月我在华为面试的时候,面试官问我一个问题,问的就是“当给你一件任务时,你按照什么步骤去做?”。
当时我没有答出来,后来面试官跟我说,是数学模型。在那之后,我仔细琢磨了一次,工程师为了完成任务就是需要将人类理解的理论用机器语言表达出来。虽然这句话我之前就理解,但是未曾将其总结过。
先生还为我们总结出来了信息论中的重要心法:
1,交叉验证 做任何事,我们都希望得到好的结果,而我们需要做的就是拿不同的数据去对比结果。为了满足结果的准确性,我们尽可能用多组数据验证,是好方法。
2,等价信息 其次,在科学研究领域,当我们很难测得一个变量的时候,通常会用其他现象代替。就比如我们初中化学教材中的,如果判断物质的酸碱性。这时候我们可以借用PH试纸的颜色变化,对比标准模型得到一个大致的范围。
3,大数据思维 大数据解决了人类人为找规律慢的问题,他可以利用计算机的计算能力比较不同数据的差异,然后给你一个对不同因素影响力的量化评估。
4,奥卡姆剃刀 生活中的琐事绝大部分可以被切割掉,我们需要少做事,把事做好。
5,最大熵模型 告诉我们,不要做主观假设,而要用概率将事做得“平滑”。
谢谢老师, 祝好, 桂政留
Vincere_肖涵哲:信息论 | 复盘-3
计算机科学的宏观维度,是寻找问题的可计算边界。具体来说,就是匹配现实和虚拟对应的等价问题,以利用计算机解决策略着手现实问题。那么,我们对信息论的应用,实际既可以是这种思想的正向操练,学习老师,根据特定定理扩展生活中的相关例子;也可是逆向推导,从现实问题出发,以信息的角度重新描述和审视问题,反观自己的“信息论工具箱”,寻找可能帮助解决问题的特定思路和方法论。
遂围绕“应用”为核心,展开这个模块的复盘:
【多维】 人的思维是线性的,而反观计算机; 对于信息的处理分析和问题的解决,其胜于思维模式的全方位体系,以维度的切换通透信息的本质。遇到问题,有时仅需要一个视角的简单切换。利用交叉验证缺失的诈骗利用了Asymmetric Information[信息不对称]。而消除这种不对称的方式,可以通过拉长时间轴,调查对方信息(如电话号码,类似诈骗经历)同时避免提供任何新信息。
【等价】 寻找等价信息的思路有两种: 1. 正向是寻找信息的根本特质:它究竟消除了关于什么的不确定性。于是,列出多种可能的信息,并利用此特殊角度切入,横向对照并整合。2. 逆向是,由于不可能将所有变量都找到,并整合起来考虑。你需要的,是定义你的问题,然后简化他。故,从更大体量的问题出发,定义很多可能影响到结果的[信息],然后通过数学的方法找到[等价]的小体量信息。
【大数据-特质】 大数据主要以5V[Volume, Velocity, Variety, Value, Veracity]定义其高量级,高速率(实时性),多维度和高价值,真实性(后三者是完备性的实质)的复杂规模特点。大数据的基本思路导向是数据规模的增加。以大体量的信息为基础,更多的正交信息使公司对数据终端的用户进行了[交叉验证]。这种框架得到的演变规律和分析结果的更精确。
【大数据-思维】 大数据的革命,实际是一次方法和思维体系的转化。第一层次,百川入海,从抽样走向全样本。第二层次,逆向思维,从求证转为归因,从流程核心走向数据核心,从功能价值转向数据价值。第三层次,洞察枝末,从信息寻觅转为信息供给,从微观切入转为全局整体的通透。第四层次,相关联系,从因果关注转向多维相关,从精准度转向效率。这种思想,根本上改变了"大胆假设,小心求证"的求索流程,以递归原则自上而下挖掘信息,又自下而上形成模块总体整合。
【简约】 奥卡姆剃刀是一种逻辑哲思原则。在14世纪被修士威廉提出,旨在谏言:切勿浪费较多事物去做用较少事物即可完成之事。这也被应用为:“无必要,毋增实体。“剃刀之名,便立足于此,主张抽离空洞无物的普遍性信息,保留确存实体。但简单并非正确。唯有符合基本条件——两文必相冗余,消除了等价的信息熵,才可剔除。文字精炼,执行干练,是毕生的修行。
【偏误】 溯其本质,消除幸存者偏误的方式是一种对思考的思考,通常我们称其反思。引入一个数据分析的框架: 定义目标->数据收集/挖掘->理解数据->数据清洗->数据转换和优化->建模和分析->视觉化/结论定制。
可以看到,幸存者偏误实际上是[目标]和[数据收集]的不匹配。而消除它的方法,正是其貌不扬的[理解数据]。合格的数据分析,需要一个基本的保证: 你明白你所使用的数据究竟承载着什么。唯有不断复盘行动背后的决策过程和执行概况,偏误才可能避免。
【熵限】 最大熵原理,实际就是Exploit, Constraint, Diversify: 1.利用全部已知,并作为[约束条件] 2.不做任何未知假设。 3. 以约束出发,分配概率以分化风险。
这其中亦可以看到为人处事之道。在不掌握具体信息时,不轻易预测,不硬抗信息差,谈生意适当的让利,朋友帮忙/下属做项目时对没有大影响的细节不追究既得利益问题,才可能最大化利用已知信息保证决策收益相对最优,最小化未知的风险。
【熵减】 能量守恒,而熵恒增。但假想中的麦克斯韦妖,可以在分子水平,以其"目的性的行为"实现熵减。这个目的性的行为,正是信息。通过对信息论应用的学习,我们可以在一定程度上,成为这只“Maxwell’s Demon“来保证自身的系统活性。向外探索,向内转化,这种以信息逆熵增的行动模式可以让我们走出两个信息论应用的方向:
- 内化,在某种意义上抛弃存量,实现"可调动知识"的最大化。
- 显化,使用信息,更改行动秩序(做事方法),使熵减的过程成为可能。
古小千:应用信息论,是把现实问题可计算化。
在专栏《谷歌方法论》谈通识教育系列,老师提到数学的重要,其中包括三个能力:阅读理解、数学的知识体系,以及逻辑推理。对照今天的复盘,这三者就是帮助我们将“实际问题”抽象成“数学问题”的工具,经过转化后,才能进行信息处理,包括交叉验证、分辨等价与相关,诸如此类。
除此之外,老师提到市场上受欢迎的方法,就是在下面多做工作,让人感到方便。我一下就想到《硅谷来信》谈傻瓜相机的概念,明确受众、台上十分钟台下十年功。信息论的思维已经深入各个专业,医疗、管理、投资和人际沟通,都能从中获益,一门课的核心价值与数学公式使用的多寡无关。
进步是人类文明的主旋律,而主旋律由能量及信息交织而成。近代,能量发展的增速放缓,信息反而有飞跃的突破,愿我们都能学好信息论,在生活中实践。
佛祖门徒:跟着老师复盘信息论,真切的感受到学习这门课最大的价值不仅是掌握了多少相关知识,更为重要的是自己思考和做事的方式是否拥有了信息论思维,以交友为例谈谈信息论思维的运用。 平时,我无论在工作还是生活中习惯了所谓的“吃亏”,做事多做一些、买单主动一些、名利看淡一些,结果有了很多朋友,于是获得的反而更多一些;有了各行各业的朋友,消息就会多一些、快一些,有时候想了解一个项目或一个人,往往能获得不少等价信息;当所谓机会到来时,伴随着很多不确定性,尤其是信息不对称问题,这时一般在朋友圈组织一次小规模的聚会,通过交叉验证,不仅能增强确定性,我还在搜集信息的过程中,多了很多思考问题的角度。朋友多了,路好走,这就是我运用信息论思维的一点心得。
伪装:奥卡姆剃刀原理是个好东西,但是我们在实际的工作和生活中却往往仅限于知道,而不是用到,更谈不上用好。 一个人其实只需要做好几件事情,甚至是一件事情,就足以成功,但他却非要做很多事情,不是他做事的能力不够,也不是他不知道奥卡姆剃刀原理,而是他对这个原理的认知有问题,要运用这个原理,必须对自己的认知半径,能力半径和行为半径有清晰的认知,然后在这三个半径的交汇之处努力,其他的都是该被奥卡姆剃刀剔除的。
岳山:说说我通过学习吴军老师信息论学以致用的几点小例子:
1、交叉验证:比如了解你公司的情况,不仅要看财报、听听同事、高管的说法,也要看看比如上下游供应商的说法。这样信息才是比较综合的,不至于想当然。
2、信息的等价性:我最近在复习一门考试,之前觉得内容非常多而且难,但是现在看书或者做试题的时候,主动地思考题目所给的信息到底是想告诉什么,有什么等价信息可以关联到书本的基本内容;这样很有意思了,也倒逼自己建立知识体系框架。
3、思考的方法论:学习一门新的学科首先要了解用处和基本原理,思考如何在现实生活中如何运用,可以先忽略理论细节,这样就避免一开始就陷入“畏难”情绪中。比如最近在读《什么是数学》、《统计学习方法》等就是在用这个方法。
最后,感谢吴军老师再次提醒我们,比学习具体知识更重要的是探知方法论,而且要通过学以致用来强化学习的效果和提升自己的生活处境,形成一个良性循环。
冯琨:在《郑路·社会网络20讲》的加餐中,格兰诺维特教授提出要提出好问题,再利用大数据思维来解决问题。这个观点和今天老师的复盘内容有强相关性。 在社会学和其他很多学科中,我感受到数据的意义在凸显,但是如何利用好这些数据,需要对这些学科具备深入理解的研究人员,如老马——格兰诺维特教授,他们能洞悉学科的体系和发展方向,能够理解新工具会在哪些方面带来研究的便利和效率提升。 更进一步,新工具不仅仅可以提升效率,如大数据也给我们带来了思维方式的转变,使得我们在无法获得因果关系时,先获得相关关系,并以此为抓手去探寻因果关系。
除了学科研究,老师还提到“每一个自己的专业特长,就是信息时代最大的价值”,我在很多产业的信息化变革中看到了很多这方面的案例。产业界的从业者是利用新技术的先锋,特别是老师提到过的“距离钱近的行业”,他们敢于试水,从而把行业问题与计算机的计算能力、与网络的通信能力进行了各种形式的结合。这个改进的过程还具有持续性特点,即“越改越快、越快越改”,很多企业已经变成了具备互联网思维、大数据思维的弄潮儿。
老师把一门专业性很强的课程讲成了通识课,用浅显易懂的道理和生动的例子讲明了信息论的核心知识和给我们的启发,让我再次感到,比掌握新公式更重要的,是在头脑中建立新的思维模型,而新的思维模型才是用好新工具的钥匙。
刘溜溜:在开始这门课之前我有纠结过,毕竟信息论会涉及大量复杂计算,对我来说难度一定很高,怕我自己不理解。
但吴军老师将信息论和我们的日常工作和生活结合在一起,通过易懂的例子阐述关于信息的各种概念和运用,确实让我意识到,原来抛开复杂的数学问题,也能理解信息论当中的许多概念。
无论是计算机科学也好,还是信息论也好,关键都是语言和思维的转化,毕竟信息论中的数学,也是对真实世界的语言转化。既然这样,我们也能用平时的日常语言去描述信息论,用语言信息展现信息论。
全能自恋丁某人:这门信息量巨大的课程已经接近尾声了,从中取得的收获不言而喻。不仅养成了连续1个多月每天学习的习惯,而且还持续在每次阅读过后写留言,其中有4篇还被选为了精彩留言,这对于我的鼓励是极大的,虽然和课程中一些留言的大牛还有不少差距,但我相信假以时日,我一定能够赶超他们💪。
虽然掌握了最新,最有用的知识,可是我觉得仅仅是学过还是远远不够的,还要学会在生活中运用来解决实际问题。只有这些知识真的改善了我们的工作,学习,生活,才能说它们是有用的,好的。
立下一个新的目标:重新学习一遍信息论,仔细琢磨每一讲的知识点并思考这些知识点怎么应用在我们的生活之中。
最后感谢吴军老师毫不吝啬地把这么好的知识传授给我们,至于我们能把这些知识运用到什么程度,那就各凭本事了,毕竟师傅领进门,修行在个人嘛,哈哈哈哈。
罗耀龙:我分享一个有关“交叉验证”在茶艺中的应用。 一般老师教人泡茶都习惯跟别人说:茶叶放下去,在心里面读秒,或者旁边就放个计时器计时,到了时间就把茶汤倒出。 问题是要泡出自己喜欢的浓度和风味,按照这方法的话就得+1秒或-1秒,一点一点的试。这就属于在同一领域不断深挖的做法。 还有更有效果的做法,用眼睛观察茶汤颜色的深浅,用鼻子闻茶汤香气的浓淡,因为颜色深浅以及香气浓淡都与茶汤浓度有正相关关系,通过视觉和嗅觉两个不同的感官纬度去确定茶都出汤时间。这方法实际操作起来这比直接读秒更加简单,而且更容易泡出自己想喝的茶。
Mark:吴军老师好! 华为手机的拍照自带美颜功能,不用修图,是因为私底下这个team的工程师做了大量的算法工作,这让我想到了做产品的三层境界。 “看山是山”。用户的真实需求就是那座山。做产品就是为用户解决某个痛点。 “看山不是山”。工程师要把用户需求变成各种各样的技术、数据、流程的组合,因为生产制造的过程是围绕着技术来进行的,但技术仅仅是手段,它需要最后在用户那里再次还原成一个需求(如果一件产品只让人感受到技术,那就是糟糕的产品)。 “看山还是山”。在这个阶段中,工程师们要做大量的工作,将产品的技术感去掉(比如华为手机的拍照美颜功能),给用户呈现出来的是非常友好的“人机界面”,用户通过简单操作就能达到目标。比如,手机屏幕,原来手机是按键,不够方便,后来是电阻触摸屏,需要拿个“小棍子”在屏幕上点,现在发展成电容触摸屏,用手指点就可以了。 在计算机发展历史上,从字符操作、命令行的界面,到图形界面的演变,也体现出奥卡姆剃刀法则,计算机一直在朝着小巧,操作简单,界面整洁的方向发展。
得到用户:如何应用信息论原理解决具体问题? 首先把具体问题变成信息问题,然后利用信息论原理分析,解决问题。 解决问题的三个步骤:第一步是界定具体问题;第二步是把具体问题界定为信息处理的问题;第三步是利用信息论和其他方法论去分析,解决问题。 这个过程和医生思维模型是相通的。医生给患者看病,首先是收集患者信息确定病情;其次利用假设验证等各种方法确定病因;最后根据各种医学知识和经验,找到最合适的治疗方案。 两者都需要把实际问题变成专业问题,然后根据专业问题寻找匹配专业方法。 先界定,后匹配。
冯文江:感谢吴军老师的经典总结,前一阶段一直在思考和反思“学了好多道理依然过不好”和“读了不少书籍依然原地踏步”的内在原因主要如下和大家探讨:
第一,头脑知道并不代表身体力行,即便力行也或许停留在肤浅的表面,只有形成习惯,才可谓说是学会啦,因此知识不在多而在于精炼,明白书读百遍的内在含义!也是我最近一直在温习《硅谷来信》的主要原因。
第二,缺少系统化思维。不可否认的事实是我们好多同学确实花了不少时间去学习和练习,而在知识的体系建设或许还待完善,形成自己独立的认知框架;最近的感觉是好多老师的道理是相通的,只是说法不一,也再次印证了吴军老师的大道至简。
因此,我为了鼓励大家建一个“得到—口诉转化进阶”微信群,刻意练习来改变和提升,希望和大家共同精进,实现突破!
Michael:吴军老师好! 核磁共振和解决酒保偷喝酒的问题都是将现实问题描述和转化成计算机科学计算的问题。 信息论提到处理信息问题方法有: 第一:提高信息可信度,就多做交叉验证--尽量多从不同可靠信息源来验证信息。 第二:如果信息不能直接获取,可以从等价信息入手。比如核磁共振的实现。 第三:大数据底层原理。根据数据得出规律。根据结论找原因。宏观规律和细节对比。根据多维度强相关性找因果关系。 第四:奥卡姆剃刀原则--用最少的条件和信息推导结论。 第五:最大熵原则--对事物的预测,应该符合已知条件,并且不加入个人主观猜测。比如对天气的猜测应该尽量符合抬头看天气的情况和天气预报,而不加入主观猜测。 第六:幸存者偏差--要看看自己摸数据是不是全部,而不是存活下来的数据。 工作中多做实事,提高自己议价能力,感觉就像罗胖这几天讲的认知折叠。 对于知识的内化,只能是学,教,用。让我想起薛老师说的,我希望用经济学的看问题就像呼吸像游泳一样自然。现在生活中我会比较常用边际成本边际收益和看见那些看不见的事物来视角看世界。 对于吴军老师的信息论,我也希望经常用信息来源是否存在幸存者偏差,来源是否可靠,有没有其他等价信息,多做交叉验证,有没有嘈杂多余信息,进行预测的时候,是否符合已有的观察到的现象。 希望我早日用信息论的视角也像呼吸和游泳(还不会游泳哈,打个比喻哈)一样自然! 感谢吴军老师!祝大家内心安宁!
WvkvW:信息论用于投资管理。数据和交叉验证是宏观和行业研究标配,周度数据需要跟月度数据交叉验证,确认信息或者找出矛盾。但数据若要大要细,则成本提升。比如国外有卫星跟踪厂库等大数据研究服务,私人公司为主,用来掌握信息优势谋利;80年代电影华尔街里是跟踪某大佬的飞机动向来预判并购内幕,目前则是大规模跟踪corporate jet或高管私人飞机的flight pattern(毕竟并购要谈挺久,不能像电影里只跟踪了一次),来判断并购机会。 国内国企掌控卫星等资源、中科院掌握遥感测绘技术,未必用于资本牟利,可以更好指导生产,减少N大差别。
热力学里最大熵就是热寂说,能量耗散后宇宙各处温度或平均动能都相等,熵最大。信息最大熵就是各种概率都想等、模型最光滑。普利高津说过,熵是结构的价格,要减少不确定性信息熵自然要付出代价,信息有代价也有收益,好的投资就是更好地平衡信息的收益和成本,高风险,但如果看对则大赚一笔,比如风投的著名案例。这也是第二模块中的哈夫曼编码用于投资的方法,而综合赢率和赔率的凯利公式也常被用于二级市场,甚至期货投机市场。
投资是做时间的朋友,时机不是朋友,但投资机构不能只配置,也需要一些主动管理(类似投机)。人生总有该出手时就出手的进取时刻,熵最大化了也就是最平庸了,巴菲特也说把鸡蛋放在一个篮子里并看好。做人做投资都要知进退懂取舍。
桃安安:用华为手机照相特别好,一键按下去不用修图,就把人拍得很漂亮,但是在你使用简单的背后,是工程师大量的工作,以及处理器完成的大量计算。这就是罗胖所说的认知折叠,把简单的东西呈现给用户,把复杂的过程隐藏在背后。
笨笨:信息论诞生在通信领域,是信息时代重要的方法论,广泛应用在现代商业世界,对个人生活、工作具有指导意义。 1.交叉验证-不要在某一维度钻牛角尖,即使该维度刻画的再细,也看不到事物的整个面貌,要引入其它维度,最好正交的信息交叉验证。 2.信息的等价性-当某种信息获取比较困难时,可以找寻相对易获取的等价信息来解决问题。就像文中老师所讲计算机怎么处理问题,就是把自然语言翻译成计算机语言。 3.大数据-4个特征:数据量大、多维度、完备性、一定场景下的及时性;4个层次:杂乱无章中寻找隐藏的相关性、先得结论再分析原因、精准把握宏观的同时看清微观的细节、多维度的相关性代替原因果关系。现代社会由一层层不同网络构成,其中产生的各类数据可以逐渐完整记录,从中可挖掘出未来商业、医疗等行业的增量发展空间,价值巨大。 4.广告效果分析-做事不要拐弯抹角,直达目的效果最好。如同作报告,先给结论或者先给问题,让受众先明白你要干什么,如果什么都不说,讲了一大堆再得出结论,受众往往什么都记不住。 5.幸存者偏差-结论是由选取的样本决定的,样本有问题,结论就不靠谱。从这里可以看出通识教育的重要性,它更关注过程,有一个基准来对待事物,不会结论是什么就认为是正确的。对个人,项目、投资等的事后复盘,归因要正确,尤其投资,为避免归因错误,可事前写下分析过程,事后归因时做出比对。 6.奥卡姆剃刀法则-若无必要,勿增实体,简洁的往往最有效,这里的简洁是建立在基函数的基础上。投资的简洁有效原则:多元分散、被动为主、降低成本、保持恒心、不懂不做。 7.最大熵原理-找寻答案时,若获得了全部信息,事情便确定了,不需要引入模型分析,若没有获得信息,则不要加入主观臆断,分散能让事情变得平滑。预测一件事情会不会发生永远比预测它什么时候发生要容易的多,切勿因主观假设而领先市场两步,成为烈士。 8.麦克斯韦的妖-任何封闭系统都会越来越无序,要引入负熵使得系统变有序。对企业、地区,学习其它地方先进经验,引入各类人才,对个人,读万卷书,行万里路,都是给系统引入信息和能量,不断交互,系统能力会越来越有序、强大。
头发末梢的遗憾:课程到现在,给我的启示之一,我可能要花力气重新梳理一些以往做事的方法,有些方法时灵是不灵,一定要有科学方法来支撑,否则就会陷入主观假设、靠猜测,如果说第一次可以摸着石头过河,可是每次都要这样来一遍,这就是做事缺乏思维模型了,效率难以真正提高。
我还有一个难点,就是找等价信息。这一点,需要长期有意识地去拓展思维宽度,跳出自身局限,博览广交,争取自己好好努力,让自己成为一个圆规一样的人。
还有奥卡姆剃刀原则,能用的好,真是一项训练。想想自己从中学就知道这个原则了,可是到现在参加工作多年还是用不好,这个词在得到各个专栏都有出现过,社科,哲学,商业管理,IT理工等等学科都有出现过,我也学习了它的利弊、边界,还是在使用时力不从心,关键还是缺少微观体感,没有深刻体会,在方法论上没有有效转换。
《信息论》最大的收获就是,重新理解了过去一直模仿照做的原则和方法,因为吴军老师带我们从科学视角重新分析,有一种恍然大悟之感,知其所以然,就能更好地复制跃迁使用。另外,也从《信息论》中了解了过去吴军老师在《谷歌方法论》和《硅谷来信》中的一些话语的真实意思,这算是意外收获,让我有茅塞顿开之感。
38|复盘:如何把信息论学以致用?
https://note.haoshenqi.top:/?p=category-xin-xi-lun-40-jiang-40
评论