03|大数据思维的科学基础
03|大数据思维的科学基础
你好,欢迎来到我的《信息论40讲》。
前面我们讲了信息在历史和理论上的重大作用,你可能还没有切身感受到它的重要性。这一讲,我们从当今的商业社会切入, 透过热门的大数据应用,来看看信息是如何改变商业模式,以及我们思维方式的。
我们今天常常讲大数据思维。一说到它,很多人就会想到大型互联网公司使用用户的数据做很多事情,既有好的事情,比如今日头条给大家推送有用的资讯,也有坏的事情,比如一些电商公司利用个人信息进行价格歧视,甚至一些公司出卖大家的隐私。
关于大数据思维的一些例子,点击《科技史纲60讲》的第47讲复习。我们这里就不赘述了。这里我为你总结了在当下最常见,也是最成功的四类应用。
-
第一类是解决人工智能问题,把那些过去看似需要人脑推理的问题,变成今天基于大数据的计算问题。
-
第二类是利用大数据,进行精准的服务。
-
第三类是动态调整我们做事情的策略。
-
第四类是发现原来不知道的规律。
当然我们还能举出其它的种类,由于篇幅的关系,我们在这一节就集中讨论这四类应用,学习它们背后的信息论原理,获取对我们做事情的指导意义,也就是在方法论层面的意义。
先说说第一类,解决人工智能问题。 世界上利用大数据解决的第一个智能型的问题是语音识别,接下来是机器翻译。语音识别的历史正好和电子计算机一样长,可以追溯到1946年。但是一直做得非常不成功。
到了60年代末,计算机已经进入到第三代了(基于集成电路的),语音识别才只能做到识别十个数字加上几十个单词,而且错误率高达30%。这样水平的系统是不可用的,因为如果每十个词就错三个,你就无法复原原来的意思了。
因此,在60年代初,就有人认为语音识别和治愈癌症、登月、水变油一样,近乎不可能。到了70年代,康奈尔大学著名的信息论专家贾里尼克来到IBM,负责该公司的语音识别项目。贾里尼克是一位天才,他从博士毕业到成为讲席教授,教科书的作者,也就是十年时间。
在贾里尼克之前,人们觉得识别语音是一个智力活动,比如我们听到一串语音信号,脑子会把它们先变成音节,然后组成字和词,再联系上下文理解它们的意思,最后排除同音字的歧义性,得到它的意思。
为了做这件事,科学家们就试图让计算机学会构词法,能够分析语法,理解语义。但这件事证明是不可行的。贾里尼克在到IBM之前并没有做过语音识别,他也不懂得传统的人工智能。
事实上,直到死他都不认为他是人工智能专家。 由于不受到传统的人工智能思想的约束,他得以用信息论的思维方式来看待语音识别问题。他认为语音识别是一个通信问题。
贾里尼克是这样考虑问题的。当说话人讲话时,他是用语言和文字将他的想法编码,这就变成了一个信息论的问题。语言和文字无论是通过空气传播,还是电话线传播,都是一个信息传播问题,在通信中有一套对应的信道编码理论。在听话人,也就是接收方那里,他再做解码的工作,把空气中的声波变回到语言文字,再通过对语言文字的解码,得到含义。
于是,贾里尼克就用通信的编解码模型,以及有噪音的信道传输模型,构建了语音识别的模型。但是这些模型里面有很多参数需要计算出来,这就要用到大量的数据,于是,贾里尼克就把上述问题又变成了数据处理的问题了。
在这样的思想指导下,贾里尼克裁掉了IBM全部的语言学家,并且对各种仿生学,比如研究人耳蜗的模型完全不感兴趣,他只注重收集数据,训练各种统计模型。
那么这样能否解决语音识别问题呢?在一开始,学术界确实有人怀疑,不过贾里尼克很快用结果回答了大家。
在短短几年时间里,他的团队(都是数学家和数学很好的理论物理学家)就将语音识别的规模扩大到22000词,错误率降低到10%左右。这是一个质的飞跃,从此数据驱动的方法在人工智能领域站住了脚。
贾里尼克思想的本质,是利用数据(信息)消除不确定性,这就是香农信息论的本质,也是大数据思维的科学基础。这就是第一类应用,把人工智能问题变成数据问题带给我们的启示。
再说说第二类应用,利用大数据进行精准服务。 我们不妨用一个例子来说明。
如果我们想知道搜索“迈克尔·乔丹”的网页结果,我们可以把包含着两个关键词的网页先找到,然后根据相关性和网页质量排序。
但是,在美国有很多“迈克尔·乔丹”,到底用户找的是谁呢?有人可能会说,当然是那个篮球球星了,其实美国还有一个非常有名的“迈克尔·乔丹”,他是当今世界上最著名的人工智能专家之一,美国三院院士(科学院、工程院和文理学院)。
很多年前在Google时,我们想了不少办法来解决这个问题,比如有人提出是否在10条结果中放5条篮球球星的,5条教授的。但是这种想法很快被大家否决了,因为无论是找篮球球星的人,还是找学者的,都会认为你的搜索做得不够好。
对这个问题唯一好的解决办法就是理解用户的意图,进行个性化服务。但是这样一来就需要非常非常多的数据,因为之前可以对所有的人进行统计,看看大家最希望得到的搜索结果是什么。
但是,如果对每一个人进行统计,数据量就不够了,因为一个人搜索的数量再多,也无法和所有人相比。一旦数据量不够,统计就变得毫无意义,这一点我们会在后面介绍置信度时详细分析。
因此,这一方面需要尽可能多地收集数据,另一方面则需要对行为习惯和偏好类似的人进行聚类。
今天,微软的搜索效果没有Google的好,不是技术不行,而是数据量不够。对于那些常见的搜索,大家其实水平差不多,微软差就差在了那些很少见到的长尾搜索关键词上。
但是不管怎样,这两家公司已经从重视方法研究,转为重视信息收集和处理了。这是我们透视大数据思维的第二类应用,利用大数据进行精准服务,得出的一个趋势,供大家借鉴。
接下来说说动态调整做事策略的问题,也就是第三类服务。
我们在前面《科技史纲60讲》介绍了机械论的思维方式,它是通过找到通用的规律试图一劳永逸地解决问题。今天容易一劳永逸解决的那些问题大多数已经被解决了,留给我们的是不确定性的问题,因此我们做事情的策略也就要变化了。
早期的滴滴公司并不是一个技术水平很高的公司,虽然他们在公开场合并不承认这一点,很多行业里的人将它作为这方面的反面典型。但是为什么这样一家很多人看不上的公司,能够做大做强呢?除了运营得好之外,正确的指导思想和做事原则起到了关键性的作用。
其实,滴滴公司远不是第一家网约车公司,之前一些公司,过分强调司机和乘客之间的固定,比如A乘客坐B司机的车子比较满意,他下次依然希望提前预订B司机的服务。这件事在优步和滴滴都是不允许的,但是一些网约车公司是允许的。这两种做法有什么差别呢?
虽然没有人都能举出各自的利弊,但是,对于一个不断变化的打车人群分布和车辆分布,利用数据做动态调整是效率最高的策略。当然,如果你没有足够多的数据,一共只有200辆车,5000个人的数据,你是做不到这一点的。
反过来, 如果有了足够多的数据,是否在理论上有保障,只要调整的次数足够多,就能收到最佳匹配呢?答案是肯定的 ,具体为什么,我们在后面会讲到。大家先记住这个结论,这是你今天需要记住的第三个知识点。
最后说说如何利用大数据发现不知道的规律。我在之前好几次课上都讲过,今天研制一款新药需要20年时间,20亿美元的投入,这是惊人的投入。能否减少这方面的研发成本,缩短研发周期呢?
如果按照过去的做法工作,即使再努力,能提升的空间也有限。后来大家换了一个思路想问题,那就是让处方药和各种疾病重新匹配。
比如斯坦福大学医学院发现,过去一种治疗心脏病的药治疗胃病效果很好,于是他们直接进入小白鼠试验,然后进入了临床试验。由于这种药的毒性已经试验过了,因此临床试验的周期短了很多。这样,找到一种新的治疗方法平均只需要3年时间,投资1亿美元。
当然,找到药和病的配对,本身是一个大数据问题。这种做事的方法能够成立,背后是有信息论理论依据的,即所谓的互信息理论,这一点我们后面还会讲。
要点小结
今天给大家举了四类大数据思维应用在商业上的成功案例:
-
第一类是解决人工智能问题,是利用数据(信息)消除不确定性,这是香农信息论的本质,也是大数据思维的科学基础。
-
第二类是利用大数据进行精准服务,从中你可以看出一个商业趋势:公司从重研究方法到重数据收集的转变。
-
第三类是动态调整做事策略,足够多的数据可以帮助我们动态匹配最佳结果。
-
最后一类是利用大数据发现未知规律,这背后涉及互信息的理论,是我们后面课程的重点内容。
这四类大数据应用,都在传达一个信息,那就是 大数据的关键是思维方式的变化 。
我们这门课的导论部分就结束了,信息既不简单也不复杂,对过去很重要,对当下更是如此,对社会影响深远,对个人也极具指导意义,以至于如今,信息论在经管领域的应用比通信领域本身更广泛和深入。
从下一讲开始,我们就开始系统地学习信息论,先从信息源入手,理解信息理论,回顾信息的历史。

热门留言
Steve:#吴军信息论# #金勇笔记# #day3#
这一讲介绍了大数据思维的四类模式, 以及数据驱动的方法在几种商业领域应用的例子。
我是得到App的”数据驱动派”——坚定不移地相信,如果说存在问题,那一定是数据问题; 如果说不存在问题,那只是没有人提出有问题的数据。
关于数据驱动或者数据洞察(data insight)其实我能联想到更多的场景和过往工作故事, 不过回到本文,我建议大家要去结合”单纯问题“、”复杂问题”的角度去思考。
我的理解是对于单纯问题来说, 我们面临的挑战是坚持下去, 只要做, 努力做就好了; 但对于更复杂的“两难问题” (比如说面临两种均等概率的选择), 我们就要承担选择一而放弃二的后果了; 更复杂的场景,是当我们站在原点,而有360度无死角时, 你要选择哪个方向, 那将是极致复杂的问题了。
#吴军信息论# #金勇笔记# #个人收获
终于到了第三讲, 大数据。 比起前一篇的物理学和生物学知识,我想这一篇内容大家更熟悉, 更亲切。
就第二类应用所举的搜索例子, 我想到一个之前我也参与过的话题: 到底Google好还是百度好的问题, 或者说到底百度好还是360搜索好用的问题? 经常看有人贴出在Google搜索一个技术名词, 而在百度搜索相同的技术名词,在后者要找好几页都发现不了真正有价值的网页。 从而发出Google好于百度的判断。
听完这一讲, 我的答案是你要学会做什么事情利用最好的工具, 不要被单纯的片面结果蒙蔽了双眼。(在我年轻的时候,经常以自己不用某工具为荣, 仿佛是因为选择了某种工具,而就比别人高了1厘米)
最近我家的孩子面临幼升小的问题,这个时候我有必要去了解一些别人对潜在学校的评论。那这种信息的网页入口, 我就不得不去借助百度到达了。 而当我想去搜索 贾里尼克 这个人的资料时, 我则会再回Google, 因为我相信这个人是世界级的知名人物, 他成名于美国,使用英语, 我自然是相信关于他的英文信息多于他的中文信息了。
所以我们在使用工具的时候, 牢记一句老话:
君子性非异也,善假于物也。
你我共勉。
#吴军信息论# #金勇笔记# #知识解读
提到语音识别,大家会想到语音输入法、Siri-Echo、科大讯飞输入法等。 我所了解的内容也不多,我在这里给大家简单介绍一下 “N-gram model”中最简单的bigram model(二元语法模型), 你可以先看这句话:
“你今天休息吗?” 它的bigram依次为 你今 今天 天休 休息 息吗 ?
这个语言模型的思考便是来自著名的Markov Model (马尔可夫模型), 下一个字出现的概率和它的上一个(或者多个)有关,而不取决于这个字前面的所有字。
从上世纪80年代开始, 这种技术就广泛应用于文本压缩, 拼写检查(大家使用过Word软件,想必对红色波浪线有所体会),输入法联想, 搜索建议,等等。
对于NLP(自然语言处理),我几乎没有做过的复杂项目, 还停留于简单的分词、文档相似、关键字。 我身边的算法同事曾经做过关于LDA的分享, 我还在努力掌握中。
#吴军信息论# #金勇笔记# #延伸阅读
这讲, 我希望大家可以自己去寻找一些贾里尼克教授(Frederick Jelinek)的信息,在吴军老师的发表作品里,他不止一次提到这位老先生对他的个人影响以及对世界AI领域的影响。
我们现在所使用的Siri、语音输入法等等, 但凡是和智能有关的,可以分成两类:
1) 用户说话, 你的服务解决问题 ( I want to know … ) 2) 用户不说话, 你的服务要解决的问题 (Do it for me…)
贾里尼克教授便是解决第一类问题的”祖师爷“。 他有句著名的”段子“在美国学术界盛传局已久:
每当我解雇掉一位语言学家,我的语音识别系统准确就上来了一点(”Every time I fire a linguist, the performance of the speech recognizer goes up“.)
关于他的伟大,我非常非常推荐你也可以去了解一下, 哪怕只是看一看他的生平简介和照片,也无疑会对你的工作有所帮助。
另外, 推荐你可以去听《硅谷来信》的《第264封信 ·一位输在起跑线上的精神导师》。
祝你今天愉快!
卓克:通过大数据发现一些不知道的规律,我有时在想,这个要是能在经济、社会决策上也用得上就好了。甚至“dictatorship”说不定也能像从前“民主”那样,由一个贬义词变成褒义词。从前坏的“民主”失效,有一些因素,比如规则有漏洞,信息传播半径有限制,但两千年后技术发展了,规则漏洞被代议制补齐,传播半径的限制被通信行业突破,现在大国也可以搞民主。“dictatorship”的劣势,一个是单一的决策者错判可能性太高,它如果能被大数据“可以发展一些不知道的规律”解决,那就弥补了不少。另外的劣势“执行尺度不一”,也可以通过把权力交给处理器来优化。我
Nicholas徐尧:掌握足够多的理论基础,在此基础上将问题抽象化后寻找解决方式,思维方式的转变,这是区分专业和业务的重要标志。
所以说,并非掌握了足够多的方法和技巧这样的“术”就能轻松进入某一行业,不理解“道”,永远都是在做体力活。
shzhang:在《科技史纲60讲》中提及机械思维,系统思维和大数据思维。
机械思维认为,这个世界的所有事物都是有规律的,而且规律是确定的,只要肯用功,肯努力,都能找到,这是前提。而机械思维的主要逻辑是因果关系。机械思维的代表人物是牛顿,因为在牛顿之前,几乎所有的科学发现都需要先观察到现象,才能发现规律,在牛顿之后,很多发现则是先通过理论的推导,预测可能观察到的结果,然后再通过实验证实。
系统思维:老师通过原子弹研制的曼哈顿计划谈论了系统思维,系统思维的关键是首先要目标明确,然后将系统的元素,有机地组织起来实现整体大于部分之和的价值实现。
大数据思维是说数据之间的强关联性可以某种程度上代替因果关系,让我们直接找到问题的答案,来指导行动。
目前全球诸多国家将大数据的应用纳入到国家的发展战略中,美国2014.5发布《大数据:把握机遇,守护价值》白皮书;欧盟2014发布《数据驱动经济战略》;英国2013.8发布《英国农业技术战略》;日本2010.5发布《信息通信技术新战略》;韩国2013年建设开发大数据中心,实行“智慧首尔2015”计划……我国2015年提出《中国制造2025》,以及2015.8.31国务院印发《促进大数据发展行动纲领》更是明确了要全面推动大数据的发展和应用。
由此可见,在智能时代,利用信息消除不确定性,大数据思维是应对未来生活所必须具备的思维方式。
古小千:关于第四类应用,从新药研发到现有药配对症状,其实就是从因果性走向相关性,而这背后需要大量数据支持。
大数据能发现不知道的规律,让现有药能一药多用、让老狗玩出新把戏。这个想法其实不算新鲜,最著名的案例就是Viagra的应用,原本Pfizer 在试验此药是为了高血压和缺血性心绞痛的患者,但后来发现“副作用”是改善男性勃起功能,而意外催生了人人皆知的蓝色药丸。
过去的新药研发,总希望透过药理机制、试图以阻断receptor或各种激素reuptake 作用,来达到近似生理效果,这是追求『有因必有果』的逻辑论证;而配对现有药,能先搁置这条逻辑,以相关性来达到治疗效果——意即,我不知道为什么,但这药就是有效。这大幅减少研制成本和时程,为当前患者提供更好的生活品质。而上述所提到的未来蓝图,都有赖数据——也就是大量信息——来辅助完成。
我又想起老师曾言,信息时代只有2%的人能够survived,非常直白且真实。
杨志超(律师):从事律师工作多年,其实一直在思考一个问题,就是在中国律师存在意义的是什么?其实在法学理论水平上来讲,律师不如学者。从实践和适用法律的角度来讲,律师可能不如大部分法官公诉人。在很多时候,律师实际上成为了一种“助手”角色,缺乏职业独立性。后来在其他老师的课程中接触到了信息论,虽然作为一个文科生,可能最多也就了解了一点“道”上的东西,但却让我在工作中改进了两个工作方式,一是“重新建立诉讼技术并迭代”,利用证据所承载的信息形成不同层次的证据链闭环;二是利用调整(主要是放大)“信息量”来干扰某些类型案件当事人(对方)对案件的结果的预期。这两个工作方法的改进都取得了一定的效果,加之本来我也是吴军老师的知识粉,所以很期待跟随这门课程不断提高我在工作中利用信息的能力。
阿彪园林绿化:吴老师 你好! 今天早上得到APP推送了你的课程 我特别欣喜 没想到你的新课程那么快就上线了,第一时间就购买了!期待你的新课程! 言归正传 我相信数据能够驱动我们的社会更好的发展 我是做苗木生产与销售的 我们是这样利用数据的,在年销售1500w的数据里面 我们会记录好以下数据:日期、购货客户、发货基地(仓库)、苗木名称、规格、批号、实际发货数量、销售单价销售金额、对应的业务员、送货地点、客户电话、苗木用途; 通过记录和追踪以上数据为当年的苗木栽植计划提供服务,另外特别说明一下 苗木生产周期达到4-5年之久,对于产品在未来的5年之后的情况是非常难以预测的,所以我们采取了常规品种+特色品种+创新品种按6.5:2:1.5比例配合的原则,管理8000亩苗木基地。 由于苗木是生物性资产非常难以估值,我们会利用销售数据采取阶段性评估和季度性定价策略以期最大化利润!以上是我的分享 欢迎交流!
程放:“信息和能量”这两个概念对最近我自己小公司遇到的困境提供了很好很及时的解决方案。自己的小公司是一个典型的销售驱动型公司,之前我们采用最原始的销售方法:地推。最近由于市场体量有限的原因,公司发展明显遇到了瓶颈期。同时,我观察到微信里一个竟对公司的员工签单的速度是我们的好多倍,而且销售模式明显和我们不同。于是,我就在想他们是不是掌握了什么更好的工具或者更好的方法搜集工具。我们的地推模式,其实就是用能量换信息,用脚步丈量大地,一家一家去拜访,去搜集意向客户信息。后来在“信息和能量”这两个概念的指引下,我下载了企查查,充了会员,发现很少的钱就能买到很多客户信息,稍微一筛查,信息就很进精准。电销这个方法在尝试之前,直觉告诉我很不靠谱,有很多困难。可是在“信息和能量”这两个概念的指引下,我认为只要大方向上,这个方法更高效,那么就值得去优化这个方法。结果,最近业务推进初见成效,有一类客户的成单率提升了一个数量级。
戚志光:今天最触动我的是老师的这段话,“当然,如果你没有足够多的数据,一共只有200辆车,5000个人的数据,你是做不到这一点的。” 我前年在吴军老师的《数学之美》一书中看到过通过大数据解决人工智能问题的描述,心里了很激动,非常希望我能在日常工作中也应用到这种技术,从而提高我做事的效率。 两年过去了,我在这方面做了一些尝试,都没什么效果。我自己没有能力开发人工智能,但是市面上可以买到的服务,要么就是太贵,要么就是离我希望达到的效果相去甚远。 今天听了老师这段话,我醒悟过来,我要处理的只是办公自动化的问题,根本还用不到大数据和人工智能这种技术。
刘溜溜:思维方式的转变并非通过刻意练习或者学习各种理论知识就能做到的,它更像是预置在操作系统中的某个程序,除非拥有,否则无法做到。
切换思维方式的关键在于我们能不能将一件事进行抽象,找到它的底层逻辑,随后根据这个底层逻辑去寻找等价问题,最后再用新方法解决老问题。
底层逻辑更像是信息的本质,它往往是最简洁有力的,只有找到它,我们才能对信息加以利用,将信息运用到我们想要的地方。所以思维方式的转变也是一种对信息抽象、还原、再重新进行编码的过程。虽然信息的呈现不同了,但还是那个本质。
姚俊:通过数据训练模型,达到自动、精准、动态和匹配。自动是解放重复劳动,包含脑力,精准是高效满足需求,动态是应对复杂服务,匹配是缩减探索成本。大数据,在一定算法能力基础上,信息本身的数量价值体现。
佛祖门徒:结合最近学习的统计学知识,对进一步理解老师这节课的内容有很大的帮助。以贝叶斯推理为例,先验概率可能是主观的,以搜索“迈克尔·乔丹”为例,不妨假定为可能性各为0.5。然后根据用户相关信息的增加,进行关联分析,排除一些可能之后,或许能将用户搜索目标为篮球明星或人工智能专家的可能性提高或降低,并根据概率高低进行排序。这个分析和筛选的过程要基于大量信息的基础上,采用统计学方法进行。
王超:这让我想起了薄世宁老师在他的医学通识最后一讲展望医学未来中的想象,让我摘录在这里。
2069年,薄医生95岁了。
你可能会说2069年,那一定是远程医疗、基因编辑、 预防性治疗、精准医疗、人工智能、手术机器人、个体化医疗、3D打印等等这些技术的天下。
对不起,错了。
2069年,这些技术都过时、淘汰了。
医学进入了一个被称为“万物基因互助”的时代。也就是说,世界上每个人的数据尤其是基因数据都联网了,当然了,医生本人的数据也在这个基因数据链中。但不同的是,医生用算法对这些数据进行调配和管理,将不同病人突变的基因进行互换,来治愈疾病。这就是“万物基因互助”。
薄老师讲,医生必须不断地积累数据,掌握算法才可以掌握未来的医学发展。未来。世界上每一个人都构成了网络中的节点,世界上的健康数据联系在了一起。另外,还提到基因移植技术,只有充分利用自然界带来的基因突变的优势,将突变基因用于治疗疾病。
夏雨雪:【广告推送】
大数据精准服务的一个应用,就是广告。根据你日常使用软件所留下的各种数据,向你推送你很可能点开并且购买的商品。你逛淘宝的时候一定深有体会。
【大数据提供商】
有些公司,可以收集到大数据,但是自己不能充分利用起来,于是就向第三方提供,以方便其他人使用。
Michael:吴军老师好! 信息论在下面商业案例成功的作用。 解决人工智能领域,把那些看似需要人脑推理的问题,变成今天基于大数据的计算问题。像语音识别。 利用大数据,进行精准的服务。淘宝的订单和谷歌搜索的结果。 利用动态调整做事策略,足够多的数据可以帮助我们动态匹配最佳结果。网约车滴滴。 最后一类大数据发现未知规律,这背后涉及互信息的理论。通过大数据发现某款治疗心脏病的药可以治疗胃病效果要好。缩短研究成本和上市时间。
开不得:人工智能,并不是和人脑发生原理一样,人是需求欲望驱动的,其次它不是简单模仿,模拟,就好像飞机和鸟都在天上飞,但是发生原理尽不相同。在过去数据有限,收集,存储成本太高。大家都研究方法提高效率相对便宜可行,如今,获取数据存储存成本降下来,只需要加强硬件运算能力,这么多范本数据,去除的噪音更加彻底,得到的结论更加全面和客观。
金戈铁马:今天的课程,让我联想到隔壁马徐骏老师的《新知报告》中,曾经提到过的“再利用型药物”,也就是从现有海量的常用药物中,重新发掘新疗效、新作用,来治疗其他类型的疾病。其中就包括很多人都非常熟悉的,用于治疗男性勃起功能障碍的药物“伟哥”——万艾可,最早被研制的用途是治疗心绞痛,只是意外的发现了新大陆。在美国,一款新药从开始研发到通过FDA的三期临床试验,平均下来要花费超过20亿美元,还要经过各种严格的安全性测试,而且有高达45%的概率通不过临床测试,整个过程充满高风险和不确定性。但是目前已经通过FDA批准上市的药物有9000多种,安全性都达标,让这些药物和各种疾病进行重新匹配,简直就是发掘出了新的宝藏;而且,跟研制新药相比,至少可以节省5至7年的研发时间,被再次批准用于新用途的可能性还非常大,再加上它们的成本只有研发新药的一半左右,性价比可以说是相当高的。可以说,这种“再利用型药物”,本质上就是运用了信息论的思维方式,把医学问题转换成信息的匹配、处理问题,从中找到解决现有难题的新思路、新方法。这也是在信息时代,我们每个人都可以借鉴的做事方法。
苏格拉源宇:#吴军信息论#源宇笔记#Day3
四类大数据思维应用在商业上的成功案例: 第一类是解决人工智能问题,是利用数据(信息)消除不确定性,这是香农信息论的本质,也是大数据思维的科学基础。 第二类是利用大数据进行精准服务,从中你可以看出一个商业趋势:公司从重研究方法到重数据收集的转变。 第三类是动态调整做事策略,足够多的数据可以帮助我们动态匹配最佳结果。 最后一类是利用大数据发现未知规律,这背后涉及互信息的理论,是我们后面课程的重点内容。
还记得之前拜读吴军老师的《数学之美》也讲到了第一类的应用,让我入门了对人工智能的理解。现在跟我的来访者去沟通,讲到这方面的内容还是记忆犹新。
今天课程让我比较惊艳的是,最后一类应用的例子,用处方药去匹配疾病,缩短了研发新药的时间,这个很像跨界学习,我们把解决方案去匹配我们遇到的问题,我们可以迅速地给到回应。这也同样加速了我们工作内容的转变。
五月鹰:我的一位老师领导的一个小组所做的工作就是将全国几十万个测土配方施肥的小区试验的数据进行整合提炼并构建成一个全国性的大数据平台。然后根据各地的实际情况给出基于省域尺度、县域尺度、乡域尺度直至田块尺度的养分配方,为不同层级的客户提供精准的数据服务和技术指导,取得了很不错的效果。
遥行:大数据和深度学习,分享一下陆奇老师关于ai内核的思考:一种获取知识、使用知识达到目标的通用能力
① 在不同底层(substrate)上的一种新的计算形式
② 分布式重叠向量(distributed superimposed vector)作为模型特征表达空间(feature space representation)
③ 对任何世界模型(model of world)通过可微分函数自动学习特征表达(automatic representation learning),并有效地解决各种任务
④ 可以有效解决各种不同人物的特征表达(representation) ➜ 知识
评论