概率第7讲：期望的性质 | Properties of Expectation

一、知识回顾 (Recap)

1. 期望的定义

• 离散型随机变量 (Discrete Random Variable):
  
  $E(X) = \sum_{x} x \cdot p(x) = \sum_{x} x \cdot P(X = x)$

• 连续型随机变量 (Continuous Random Variable):
  
  $E(X) = \int_{-\infty}^{\infty} x \cdot f(x) \, dx$

• 非负整数值随机变量 (Non-negative Integer-valued R.V.):
  
  $E(Y) = \sum_{i=1}^{\infty} P(Y \geq i)$

• 非负随机变量 (Non-negative R.V.):
  
  $E(Y) = \int_{0}^{\infty} P(Y > y) \, dy$

二、期望的基本性质

1. 函数的期望

对于联合分布函数为 $p(x,y)$ 或 $f(x,y)$ 的随机变量 $X$ 和 $Y$，任意函数 $g(X,Y)$ 的期望：

• 离散情况:

• 连续情况:

2. 有界性 (Boundedness, N2)

若随机变量 $X$ 满足 $a \leq X \leq b$ 几乎必然成立，则：

例子：

设 $X$ 表示骰子的点数，取值范围为 $\{1,2,3,4,5,6\}$，则：

$1 \leq E(X) = 3.5 \leq 6$

3. 线性性 (Linearity, N3)

若 $E(X)$ 和 $E(Y)$ 存在且有限，则：

证明：

利用联合概率密度函数：


$\begin{aligned} E(X + Y) &= \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} (x + y) f(x,y) \, dx \, dy \\ &= \int_{-\infty}^{\infty} x \cdot f_X(x) \, dx + \int_{-\infty}^{\infty} y \cdot f_Y(y) \, dy \\ &= E(X) + E(Y) \end{aligned}$

学习建议：尝试用离散情况自行推导（例如 $X,Y$ 为两个骰子的点数）。

4. 单调性 (Monotonicity, N4)

若随机变量满足 $X \geq Y$ 几乎必然成立，则：

5. 样本均值的期望 (Sample Mean, N5)

设 $X_1, X_2, \dots, X_n$ 是独立同分布 (i.i.d.) 的随机变量，分布函数为 $F(x)$，且 $E(X_i) = \mu$。定义样本均值为：

则有：

证明：

利用期望的线性性：

例子：

抛掷 $n$ 次公平硬币，定义 $X_i$ 为第 $i$ 次正面朝上的指示变量（1表示正面，0反面）。则样本均值 $\bar{X}$ 的期望为：

$E(\bar{X}) = \frac{1}{n} \sum_{i=1}^{n} E(X_i) = \frac{1}{n} \cdot n \cdot \frac{1}{2} = 0.5$

三、关键总结

1. 线性性是期望最重要的性质，允许"分拆"计算复杂表达式的期望。

2. 样本均值的期望等于总体均值，这一性质是统计推断的基础。

3. 实际应用中，注意验证期望存在的条件（例如积分/求和收敛）。

学习建议：

• 通过具体例子（如骰子、扑克牌抽取）加深对性质的理解

• 尝试将性质 N2-N5 推广到多个随机变量的情况

附：练习合集