概率与测度 (1)：关于测度

本文属于概率与测度系列。

我又来挖坑了。因为打算抽时间（比如下学期或者下下学期）来学一下概率论，所以学习过程中的一些感想或者笔记什么的应该会不定期地整理出来。这算一个开头吧。

其实概率论似乎经常处于一个比较尴尬的地位，在历史上一度被认为并不属于数学的一部分，直到将测度论引入以建立起严格的公理体系之后，才被数学界所承认。当然，说它“不是数学”，仅仅就是字面上的意思，并没有说什么东西不是数学就一定是不好的。事实上，在被严格化之前，概率统计作为一种工具就已经被广泛应用到各个领域中了，当然，在严格的理论体系建立之后，不论从理论上还是应用上，都得到了爆炸性的发展。然而，仅从大学的教育来看，概率论似乎仍然处境尴尬。

比如在 ZJU 本科，似乎概率论是像 C 语言一样的全校必修的一门课（我从来没有搞清楚过学校的选课规则，以前选课大致都是跟风室友的），足见其用途之广泛。然而除了理学院的一些专业之外，其他专业的概率论教学并没有得到近代概率论的严格化所带来的好处。或者说，这样的东西在这样的上下文下原本就是不需要的吧，毕竟对于工科甚至文科的学生来说，概率就是一种工具而已。其实大部分时候都没有什么问题，但是一些模糊的没有良好定义的概念，有时候会带来问题，看看网络上各种流行的概率相关的趣味问题，比如好像有一个问题是说，有三扇门，其中一个后面有奖励，让你任选一扇门，然后主持人打开剩下的两扇中的其中一扇给你看后面没有奖励，然后问你要不要放弃最开始的选择，而选剩下的那一扇门。类似的问题经常会引发大量的争论，大家各执一词，互不相让，许多情况下引起争议的根源都来自于其中有一些“看起来很明显”但是其实并没有经过严格定义的术语的理解的偏差。

另一方面，虽然数学系的概率论课程确实从严格的角度来教授了，但是听我身边认识的数学系的人说来，他们专业的好多人其实都并不对概率论这门课很有兴趣。因为大家选了两门课“概率论”和“实变函数”，然后发现两门课讲的东西差不多是一样的。实分析课上讲测度论，而概率差不多就是一个归一化了的测度，于是大家都有一种“被坑了”的感觉。 ^_^bb

当然，我在工科学到的概率论也就是一些技术性的东西，甚至感觉就是中学学过的一些东西的再总结，以至于当时感觉好像没学什么一样，而从最开始接触概率就一直让我很困惑的一些细节上的问题也一直未能解决。比如学完之后仍然不知道所谓的“概率”到底是什么东西，好像说是“频率”的极限情况，但是当人们谈论“彗星撞到地球的概率”时，难道是指“彗星一共经过了多少次，其中有多少次撞到地球上了”这一频率的极限吗？那地球真的要万劫不复了。

再比如最让我不爽的是，在离散的情况下，比如，扔骰子，我们会讨论骰子的正面数字等于几的概率，例如通常情况下我们都认为 $P(X=1)=1/6$ 。然而到了连续情况下就又换了一套体系，搞出了一个什么概率密度函数，虽然积分一下能够得到一个和离散情况下有点像的概率分布函数，但是仍然是考虑的 $P(X \leq x_0)$ ，但是却不能谈论“等于某个值”的概率 $P(X=x_0)$ 了，或者说，根据积分来看，这个玩意它等于零。这件事情让我在和离散情况下进行类比的时候产生了困难，因为从一开始就是一一种“直观”的方式来引入这些概念的，现在突然又不直观了，就让人感到很沮丧。而且，我一直对于 $P(X=x_0)$ 这件事情耿耿于怀，虽然我知道通过怎么样的计算能够得到它确实等于零，但是这并不是一个很让人满意的理由。就好比你问食堂师傅为什么大排涨价了，他告诉你因为市场上的大排都涨价了，所以我们食堂也涨了——虽然是回答了你的问题，但是你依然会很郁闷。但是如果师傅告诉你因为天蓬元帅带着猪们起义了，地球上大批猪军团逃亡到月亮上了，所以猪肉短缺，导致大排涨价了，你就会觉得，哦，原来如此！天蓬元帅真是太帅了！这种感觉，就是当我得知“概率就是测度”时候所感受到的——之所以等于零，是因为这个时候单点集的（Lebesgue）测度为零。如果一开始就以抽象的方式来引入，到最后说得再抽象也总是可以接受的咯，不过，这种描述方式最美妙的地方在于，离散和连续的情况是可以统一描述的——这一点才是让我纠结的结症所在呀。

于是言归正传，还是从测度论开始说起吧。测度 (measure) 可以看作是测量一个集合的大小而引入的一个概念。当然，关于集合的大小，我们本身已经有了一个概念叫做集合的 Cardinality ，也就是数集合元素的个数。在有限集上，这是很有用的，然而在无限集的情况下，这种“测度”（暂且这样称呼它，虽然我还没有明确定义什么是测度）就显得过于粗糙了。例如，在实数轴上的一个区间，它的元素个数是（不可数）无穷多个，并且任意两个区间的 cardinal number 都是相等的，这（对于我们目前要做的这件事来说）并不是很有用。然而，另一方面，对于这些连续的集合，我们又有自然的“体积”的概念，这里的“体积”是一个宽泛的概念，比如，在一维空间下，就是“长度”，二维空间下是“面积”，三维则是我们传统的“体积”。因此在无限集的情况下我们通常需要另外的测度，最好是和我们熟知的“体积”的概念相容。所以，测度这个抽象概念的引入，可以说是为了得到一个统一的描述框架吧。

一方面，我们希望通过定义一个测度来测量集合的大小，它需要能够处理各种情况，包括有限集、无限集甚至是各种抽象的集合；另一方面，我们希望在某些特定的情况下，它要和我们熟知的一些东西相容：比如一个区间的长度（测度）等于区间端点之差的绝对值，以及两个没有相互重叠的正方形构成的图形的面积（测度）等于它们各自的面积（测度）之和，等等。到了这里，设计一个测度就好像变成了制造一把尺子（或者量筒什么的，如果考虑多维的情况的话）。既然是尺子就有它的测量范围——也就是哪些对象是可以用这个尺子测量的，例如用一个普通米尺来测量地球的半径估计会很有困难，或者用它去测量原子的半径也是 mission impossible 。实际上，在从小大到的教育中我们就被灌输了一个测量仪器的可测量的范围是测量仪器的“有机组成部分”，非常重要，依稀记得高中物理中诸如千分尺和游标卡尺的精确度和测量范围等等都是考试中经常会出现的内容。在测度论里这个问题同样重要：在定义一个测度的时候，我们需要同时定义哪些集合是“可测的” (measurable) ——也就是可以用这个测度来衡量的。我们通常在一个空间 $\Omega$ （可以看成一个“全集”）里来考虑问题，需要测量的元素就是 $\Omega$ 的子集，其中所有可测的子集构成的集合，记为 $\mathcal{A}=\{A\subset \Omega|A\, \text{measurable}\}$ ，这个 $\mathcal{A}$ 就是测度的定义域。实际上我们还要求 $\mathcal{A}$ 构成一个 $\sigma$-Algebra （概率里通常称为 $\sigma$-field ），不过我们暂且先不管这个。然后，我们将一个测度定义为一个函数 $\mu: \mathcal{A}\rightarrow [0,+\infty]$ （注意：可以取到正无穷），并且满足如下两条：

1. 对于空集 $\emptyset$ 有 $\mu(\emptyset)=0$ ，
2. 满足可列可加性，也就是说，如果 $A=\bigcup_{i=1}^\infty A_i$ ，其中 $A$ 和 $A_i$ 都是 $\mu$-可测集，并且 $A_i$ 互不相交，那么我们有 $\mu(A)=\sum_{i=1}^\infty \mu(A_i)$ 。注意有限可加的情况包含在这里了。

任何这样的一个函数都叫做一个测度，当然，我们知道 $\mu$ 和 $\mathcal{A}$ 是息息相关的，通常我们把 $(\Omega,\mathcal{A},\mu)$ 放在一起，叫做一个测度空间 (measure space) （注意不要和“度量空间” metric space 混淆了，后者测量的是两点间的距离，这里我们关心的是集合的大小）。

现在让我们先把抽象的定义放一放，看看实数轴上的情况，也就是说，$\Omega=\mathbb{R}$ 。一个最简单的例子就是令 $\mathcal{A}$ 为所有区间组成的集合，而定义 $\mu(I)=\ell(I)$ ，其中 $\ell(I)$ 为区间 $I$ 的长度，也就是两端点之差。容易验证，这符合测度的定义。这个定义虽然和我们所熟知的区间长度相吻合，但是，这把尺子可以说是功能相当有限，因为它只能测量区间，例如 $[1,2]\cup[3,4]$ 这个集合，就没有办法用这把尺子来测量，因为它不是一个区间。这多少让人有点失望，因为我们目测一下这个集合的大小“明显应该是” 2 嘛！——或者说，根据我们的 intuition ，我们希望它的大小应该是 2 的。这样一个连我们眼睛目测都比它好的度量，果断应该扔掉了！实际上，对于实数集这么具体的一个集合，我们当然要有点野心：希望定义一个测度，使得 $\mathbb{R}$ 的任何子集都是可测的！

这件事情其实很容易，例如我直接定义一个测度 $\mu$ 让它恒等于零就可以了，这样实数的任何子集都是测度为零的可测集。不过这显然不是我们想要的，用抽象的东西来建模我们熟知的概念的时候，通常都希望能够保持住一些我们所熟悉的法则。比如，在实数轴上，我们希望定义的测度用来测量一个区间的时候，是和区间本身的长度是相等的。除此之外，我们还希望测度具有平移不变性，也就是说，如果 $A$ 是可测集，那么 $x_0+A$ 也可测并且 $\mu(A)$ 等于 $\mu(x_0+A)$ ，其中 $x_0$ 是一个实数，$x_0+A=\{x_0+x|x\in A\}$ ，也就是将集合 $A$ 沿数轴平移 $x_0$ 所得到的集合。这也是很符合我们直观的一点要求，实际上我们在很多地方都“偷偷地”有假定某些性质具有平移不变性，比如关于三角形全等的问题，如果一个三角形在空间中移动到另一个地方之后（面积、周长或者边长之类的）不能保持不变的话，全等的问题就很难说了。

不过，悲剧的是，明明看上去都是很合理的要求嘛，加到一起，“神”就不认账了，怎么都不让我们造出这么一把“尺子”来——不是工艺水平不够，而是根本就造不出来。下面我们就来证明，对于任意满足上面条件的测度 $\mu$ ，总可以构造一个 $\mathbb{R}$ 的子集，使得它是 $\mu$-不可测的。这个构造可以在几乎任何实分析的书上找到，但是具体还是比较 technical 的，如果不感兴趣可以先跳过。否则点击下面的链接展开 🙂

不可测集的构造

这样一来，我们的美梦就破灭了，因此不得不做一些折衷。允许不可测集的存在，这样一来，我们的测度的定义域 $\mathcal{A}$ 就不能是所有子集了。例如，在实数轴上，在分析中很常用的一个测度是 Lebesgue 测度，它具有上面说的几条性质，因此以上面的方法构造出来的不可测集也是 Lebesgue 不可测的。Lebesgue 的测度可以通过一个叫做外测度的东西引入。在实数轴上这样来定义一个集合 $A$ 的外测度

\[
m^*(A) = \inf \left\{\sum_{k=1}^\infty \ell(I_k)\left|A\subset \bigcup_{k=1}^\infty I_k\right.\right\}
\]

这里 $\{I_k\}_{k=1}^\infty$ 是一列有界的区间，也就是说外测度 $m^*$ 是所有覆盖 $A$ 的区间长度和的下确界。注意这个值总是存在的（有可能等于正无穷），因此对于 $\mathbb{R}$ 的任何子集，外测度总是有定义的。不过外测度并不满足可列可加性，而是满足一个叫做次可加性的性质：

\[
m^*\left(\bigcup_{k=1}^\infty E_k\right)\leq\sum_{k=1}^\infty m^*(E_k)
\]

只能取到不等号。因此，虽然其他几条（非负、平移不变、单调等）都满足，但是外测度并不是一个测度。但是外测度是可以度量 $\mathbb{R}$ 的所有子集的，所以说也是有得必有失呀。另外这里还要注意一点用词，数学里似乎经常会出现这样的“白马非马”的名词，比如“外测度 (Outer measure)”并不是一个“测度 (measure)”，还有诸如“带边流形 (manifold with boundary)”并不一定是一个“流形 (manifold)”等等，看起来好像都是随手取出来的名字，但是由于历史原因也一直沿用了，而且似乎一时也想不出什么更好的名字来。 🙂 anyway ，这个不是重点。

根据次可加性，我们可以得到，对于任意集合 $A$ 和 $E$ ，有

\[
m^*(A) = m^*\left((A\cap E)\cup (A\cap E^c)\right) \leq m^*(A\cap E) + m^*(A\cap E^c)
\]

如果这里是个测度的话，不等号里的等号就应该成立了，但是刚才我们也看到了我们没有办法在所有的子集上定义测度，于是我们直接将“Lebesgue 可测集”定义为使得上面的式子中等号成立的那些集合。更具体地来说，一个集合 $E$ 被称为 Lebesgue 可测的，当且仅当对于任意集合 $A\subset \mathbb{R}$ ，满足：

\[
m^*\left((A\cap E)\cup (A\cap E^c)\right) \geq m^*(A\cap E) + m^*(A\cap E^c)
\]

注意由外测度本身的性质已经得到了反方向的不等号，再根据这个方向的不等号，实际上就可以得到等号成立：

\[
m^*\left((A\cap E)\cup (A\cap E^c)\right) = m^*(A\cap E) + m^*(A\cap E^c)
\]

将外测度限制在所有的 Lebesgue 可测集上，我们就得到了 Lebesgue 测度。也就是说，如果 $E$ 是一个 Lebesgue 可测集，那么我们的 Lebesgue 测度在 $E$ 上的取值就是它的外测度 $m(E)=m^*(E)$ 。可以证明，这样定义的 Lebesgue 可测集构成一个 $\sigma$-Algebra （就是说，如果 $E$ 可测，那么 $E^c$ 也可测，等等），并且，这样构造的 Lebesgue 测度满足可列可加性。

这个测度在分析里用得很多，因为它可以用来定义 Lebesgue 积分——可以看成 Riemann 积分的一种推广，具有更多优良的性质。当然这里的积分的也是概率论里的重要基础概念，不过在讲积分之前，先看几个 Lebesgue 测度相关的性质。以下如非特别说明，都用“可测”代替“Lebesgue 可测”，因为写起来真是好长…… =.=

首先，任意外测度为零的集合都是可测的。这个很好证明，假设 $m^*(E)=0$ ，那么对任意集合 $A\subset \mathbb{R}$ ，我们有 $A\cap E\subset E$ ，由外测度的单调性，有 $m^*(A\cap E)\leq m^*(E)=0$ ，再由外测度的非负性知 $m^*(A\cap E)=0$ 。另一方面，又有 $A\cap E^c\subset A$ ，再利用外测度的单调性，即可得到

\[
m^*(A) \geq m^*(A\cap E^c) = m^*(A\cap E^c) + 0 = m^*(A\cap E^c) + m^*(A\cap E)
\]

即证明了 $E$ 是可测的。关于零测集，也是比较有意思的，根据外测度的定义，我们可以证明，实数轴的任意有限子集是零测集，不仅如此，任意可数子集也是零测的，比如，所有有理数组成的集合 $\mathbb{Q}$ 的 Lebesgue 测度为零。这在直观上也是可以理解的：Lebesgue 测度主要是用来测量“区间长度”这个尺度下的度量，任意一个区间都包含了不可数无穷多个点，因此像有理数这种只有可数无穷多个点的集合，也就只有沦落到测度为零了。不过，也并不是包含了不可数个点，就能保证测度非零的，最著名的例子当属 Cantor set 了：这个奇葩的集合包含了不可数无穷多个点，但是它的 Lebesgue 测度为零。

本来打算接下去介绍通过 Lebesgue 测度来定义的 Lebesgue 积分的概念，从而很自然地得出概率论中的几个基本概念，并解决那个困扰我许多年的“问题”。然而发现这个篇幅好像已经太长了，于是索性留到下一篇再接着吧。