- 分类
- 吴军·信息论40讲
10｜等价性：信息是如何压缩的？
10｜等价性：信息是如何压缩的？ 你好，欢迎来到我的《信息论40讲》，这一讲的主题是，信息的等价性，这一讲我会告诉你信息是怎么被压缩的。 你可能会好奇，我为什么要让你知道信息压缩的原理，你又不会真的去压缩视频。在回答你这个问题之前，我们先从上节课最后留下的那个问题谈起，秦王子婴到底是谁？ 我们上一讲
11｜信息增量：信息压缩中的保守主义原则
11｜信息增量：信息压缩中的保守主义原则 你好，欢迎来到我的《信息论40讲》。 我们上一讲讲了信息的等价性，以及如何利用等价性压缩信息。 说到信息的压缩，大家可能会有这样一个体会，就是视频的压缩比要远比图片的高很多。 大家的这个观察是完全正确的，它们通常会相差两个数量级，也就是说JPEG图片能压缩1
12｜压缩比和失真率：如何在信息取舍之间作平衡？
12｜压缩比和失真率：如何在信息取舍之间作平衡？ 你好，欢迎来到我的《信息论40讲》。 上一讲，我们谈论图片和视频是如何压缩的，介绍了它们背后的两个原理：信息的等价性转换，以及利用信息的前后相关性，找出差异，对增量编码。用这些方法，就可以压缩信息。 但是大家都有一个疑问，那就是，我压缩过的图片，恢复
13｜信息正交性：在信息很多的情况下如何作决策？
13｜信息正交性：在信息很多的情况下如何作决策？ 你好，欢迎来到我的《信息论40讲》。 生活中你可能有这样的经历，面临决策时，知道的信息越多，反而越是扰乱了你的思路。反复权衡，最后，干脆就瞎选了一个，如果这是人生的重大决策，很可能会追悔莫及。 这一讲，我想告诉你当面对的信息很多时，如何利用和组合信息
14｜互信息：相关不是因果，那相关是什么？
14｜互信息：相关不是因果，那相关是什么？ 你好，欢迎来到我的《信息论40讲》。 我们上一讲谈的内容其实是找到不同信息之间的联系，加以利用，我们这一讲介绍一个衡量两条信息之间相关性的新工具： 互信息。 正如这一讲的标题，相关不是因果， 其实世界上大多数联系都是相关联系，而非因果联系。相关的联系可以强
15｜条件熵和信息增益：你提供的信息到底值多少钱？
15｜条件熵和信息增益：你提供的信息到底值多少钱？ 你好，欢迎来到我的《信息论40讲》。 前两讲，我们通过介绍信息的正交关系，讲了寻找能够彼此互补信息的重要性，又通过介绍互信息，讲了两条不同信息之间的相关性。 这一讲，我们更加系统地、量化地分析一下，如果别人给你提供了一条信息，到底有多大的价值。 我
16｜置信度：马斯克犯了什么数学错误？
16｜置信度：马斯克犯了什么数学错误？ 你好，欢迎来到我的《信息论40讲》。 2016年，特斯拉汽车出现了第一起因为使用它的辅助驾驶功能而导致的撞车死亡事件。一时间媒体就开始对该公司的技术质疑，舆论大多认为特斯拉公司该负责任。 为了摆脱公关危机，作为提供辅助驾驶技术的特斯拉公司先是解释，说那起交通死
17｜交叉熵：如何避免制订出与事实相反的计划？
17｜交叉熵：如何避免制订出与事实相反的计划？ 你好，欢迎来到我的《信息论40讲》，这一讲的主题是：交叉熵——如何避免制订出与事实相反的计划？ 我们在导论中讲了影响战争结果的三比特信息。也就是前苏联所获取的关于日本战略意图的信息，德军对盟军登陆地点的预判，以及赵括对秦军主将的猜测。 这三比特信息看似
18｜复盘：如何识别误导人的错误信息？
18｜复盘：如何识别误导人的错误信息？ 这一讲，我们复盘一下第一模块的课程，我会围绕“如何识别误导人的信息”这个线索展开。 掌握准确信息的好处我们不多说了，特别是当别人得到的信息是片面的、支离破碎的，而你掌握的信息是准确全面的时候，你的优势是巨大的。经过这十多讲的课程，我大致介绍了和信息产生相关的理
模块一问答｜高盛是怎么两头通吃的？
问答｜高盛是怎么两头通吃的？ 吴军 你好，欢迎来到我的《信息论40讲》。 这一讲是我为大家准备的加餐，通过集中回答大家的几个典型问题，再配合前面的复盘，帮大家消化、回顾和总结。我们第一模块的内容，确实是信息论中比较难的部分，但是大多数同学都跟下来了，祝贺大家。我也建议你抽空复习前面的内容，巩固基础知