4.7 泊松随机变量

定义

泊松随机变量：如果一个取值于 $ 0, 1, 2, \ldots $ 的随机变量对某一个 $ \lambda > 0 $，其分布列为：

$\boxed{p(i) = P\{X = i\} = e^{-\lambda} \frac{\lambda^i}{i!} \qquad i = 0, 1, 2, \cdots} \tag{7.1}$

则称该随机变量为服从参数 $ \lambda $ 的泊松随机变量。

分布列验证：
$\sum_{i=0}^{\infty} p(i) = e^{-\lambda} \sum_{i=0}^{\infty} \frac{\lambda^{i}}{i!} = e^{-\lambda} e^{\lambda} = 1$

近似二项分布

当 $ n $ 足够大，$ p $ 充分小，而使得 $ np $ 保持适当大小时，参数为 $ (n, p) $ 的二项随机变量可近似地看做是参数为 $ \lambda = np $ 的泊松随机变量。

证明：

设 $ X $ 是参数为 $ (n, p) $ 的二项随机变量，令 $ \lambda = np $
则：
$\begin{aligned} P\{X = i\} &= \frac{n!}{(n-i)!i!}p^{i}(1-p)^{n-i} \\ &= \frac{n!}{(n-i)!i!} \left(\frac{\lambda}{n}\right)^{i} \left(1 - \frac{\lambda}{n}\right)^{n-i} \\ &= \frac{n(n-1)\cdots(n-i+1)}{n^{i}} \frac{\lambda^{i}}{i!} \frac{(1-\lambda/n)^{n}}{(1-\lambda/n)^{i}} \end{aligned}$
当 $ n $ 充分大且 $ \lambda $ 适当时：
[!NOTE]
1. $(1−λn)n≈e−λ\left(1 - \frac{\lambda}{n}\right)^n \approx e^{-\lambda}$
这个近似是基于自然指数函数 $e^x$ 的基本定义和极限性质。

数学定义：
$e^x = \lim_{n \to \infty} \left(1 + \frac{x}{n}\right)^n$

当 $-\lambda$ 时：
$e^{-\lambda} = \lim_{n \to \infty} \left(1 - \frac{\lambda}{n}\right)^n$

证明过程：
1. 令 $\left(1 - \frac{\lambda}{n}\right)^n$ ，取自然对数：
  $\ln y = n \ln \left(1 - \frac{\lambda}{n}\right)$
2. 使用泰勒展开（当 $∣ x ∣ < 1$ 时）：
  $\ln(1-x) = -x - \frac{x^2}{2} - \frac{x^3}{3} - \cdots$
  代入 $\frac{\lambda}{n}$ ：
  $\ln y = n \left(-\frac{\lambda}{n} - \frac{\lambda^2}{2n^2} - \frac{\lambda^3}{3n^3} - \cdots\right) = -\lambda - \frac{\lambda^2}{2n} - \frac{\lambda^3}{3n^2} - \cdots$
3. 当 $n$ 很大时， $λ22n,λ33n2,⋯\frac{\lambda^2}{2n}, \frac{\lambda^3}{3n^2}, \cdots$ 都趋近于 0：
  $\ln y \approx -\lambda$
4. 因此：
  $\left(1 - \frac{\lambda}{n}\right)^n \approx e^{-\lambda}$
1. $n(n−1)⋯(n−i+1)ni≈1\frac{n(n-1)\cdots(n-i+1)}{n^i} \approx 1$
  使用泰勒展开： $ln⁡(1−x)≈−x\ln(1-x) \approx -x$ （当 $x$ 很小时）
$\begin{aligned} \ln\left[\frac{n(n-1)\cdots(n-i+1)}{n^i}\right] &= \sum_{k=0}^{i-1} \ln\left(1-\frac{k}{n}\right) \\ &\approx \sum_{k=0}^{i-1} \left(-\frac{k}{n}\right) \\ &= -\frac{1}{n} \sum_{k=0}^{i-1} k \\ &= -\frac{1}{n} \cdot \frac{(i-1)i}{2} \end{aligned}$

因此：
$\frac{n(n-1)\cdots(n-i+1)}{n^i} \approx e^{-\frac{i(i-1)}{2n}}$

当 $n$ 相对于 $i$ 很大时， $i(i−1)2n≈0\frac{i(i-1)}{2n} \approx 0$ ，所以：
$e^{-\frac{i(i-1)}{2n}} \approx 1 - \frac{i(i-1)}{2n} \approx 1$
1. $(1−λn)i≈1\left(1 - \frac{\lambda}{n}\right)^i \approx 1$
泰勒展开法：
$\left(1 - \frac{\lambda}{n}\right)^i = e^{i \ln(1 - \frac{\lambda}{n})} \approx e^{i \left(-\frac{\lambda}{n}\right)} = e^{-\frac{i\lambda}{n}}$

当 $n$ 很大时， $iλn\frac{i\lambda}{n}$ 很小，所以：
$e^{-\frac{i\lambda}{n}} \approx 1 - \frac{i\lambda}{n} \approx 1$

二项展开法：
$\left(1 - \frac{\lambda}{n}\right)^i = 1 - i\frac{\lambda}{n} + \frac{i(i-1)}{2}\left(\frac{\lambda}{n}\right)^2 - \cdots$

当 $n$ 很大时， $λn\frac{\lambda}{n}$ 很小，高阶项可以忽略，主要项是 $i\frac{\lambda}{n}$ ，而 $iλni\frac{\lambda}{n}$ 也很小，因此：
$\left(1 - \frac{\lambda}{n}\right)^i \approx 1$
$\left(1 - \frac{\lambda}{n}\right)^n \approx e^{-\lambda}, \quad \frac{n(n-1)\cdots(n-i+1)}{n^i} \approx 1, \quad \left(1 - \frac{\lambda}{n}\right)^i \approx 1$
因此：
$P\{X=i\} \approx e^{-\lambda} \frac{\lambda^i}{i!}$

应用场景

以下随机变量通常服从泊松分布：

1. 一本书里一页或若干页中印刷错误的数量
1. 某地区居民活到 100 岁的人数
1. 一天中拨错电话号码的次数
1. 一家便利店里每天卖出狗粮饼干的盒数
1. 某一天进入一个邮局的顾客数
1. 一年中联邦司法系统中空缺位置数
1. 某放射性材料在一个固定时期内放射出来的 α 粒子数

[!TIP]
这些例子中，每个事件发生的概率都很小，但试验次数很多，使得 $ np $ 保持适当大小。

例题

例 7a：印刷错误概率

假设某页印刷错误数服从参数为 $ \lambda = 1/2 $ 的泊松分布，求该页至少有一处错误的概率。

设 $ X $ 为错误数：
$P\{X \geq 1\} = 1 - P\{X = 0\} = 1 - e^{-1/2} \approx 0.393$

例 7b：残次品概率

某机器生产零件的残次品率为 0.1，求 10 个零件样本中至多有一个残次品的概率。

二项分布精确计算：
$\binom{10}{0} \times 0.1^0 \times 0.9^{10} + \binom{10}{1} \times 0.1^1 \times 0.9^9 = 0.7361$
泊松近似（$ \lambda = np = 1 $）：
$e^{-1} + e^{-1} \approx 0.7358$

例 7c：放射性粒子计数

1 克放射性物质在 1 秒内放出的 α 粒子数的平均值为 3.2，求放出的 α 粒子数不超过 2 的概率。

设 $ X $ 为 α 粒子数，服从参数为 $ \lambda = 3.2 $ 的泊松分布：
$P\{X \leq 2\} = e^{-3.2} + 3.2e^{-3.2} + \frac{3.2^2}{2}e^{-3.2} \approx 0.3799$

期望和方差

期望
$\begin{aligned} E[X] &= \sum_{i=0}^{\infty} \frac{i e^{-\lambda} \lambda^i}{i!} \\ &= \lambda \sum_{i=1}^{\infty} \frac{e^{-\lambda} \lambda^{i-1}}{(i-1)!} \\ &= \lambda e^{-\lambda} \sum_{j=0}^{\infty} \frac{\lambda^j}{j!} \qquad (j = i-1) \\ &= \lambda e^{-\lambda} e^{\lambda} = \lambda \end{aligned}$

[!NOTE]
$e^x = \sum_{k=0}^{\infty} \frac{x^k}{k!}, \quad \text{对所有 } x \in \mathbb{R} \text{ 成立}$

方差

先计算 $ E[X^2] $：
$\begin{aligned} E[X^2] &= \sum_{i=0}^{\infty} \frac{i^2 e^{-\lambda} \lambda^i}{i!} \\ &= \lambda \sum_{i=1}^{\infty} \frac{i e^{-\lambda} \lambda^{i-1}}{(i-1)!} \\ &= \lambda \sum_{j=0}^{\infty} \frac{(j+1) e^{-\lambda} \lambda^j}{j!} \qquad (j = i-1) \\ &= \lambda \left[ \sum_{j=0}^{\infty} \frac{j e^{-\lambda} \lambda^j}{j!} + \sum_{j=0}^{\infty} \frac{e^{-\lambda} \lambda^j}{j!} \right] \\ &= \lambda(\lambda + 1) \end{aligned}$

[!NOTE]

$∑j=0∞e−λλjj!\sum_{j=0}^{\infty} e^{-\lambda} \frac{\lambda^j}{j!}$ 是泊松分布的概率和，应该等于 1

因此：
$E[X^2] - (E[X])^2 = \lambda(\lambda + 1) - \lambda^2 = \lambda$

泊松过程

如果事件的发生满足以下假设条件：

在任意长度为 $ h $ 的时间区间内，恰好发生一个事件的概率为 $ \lambda h + o(h) $
在任意长度为 $ h $ 的时间区间内发生 2 个或更多个事件的概率为 $ o(h) $
对于任意 $ n $ 个互不相交的时间区间，各区间内事件发生的次数相互独立

如果一个过程满足上述三个条件，那么：

在任意长度为 $t$ 的时间区间内，事件发生的次数 $N (t)$ 服从参数为 $λt\lambda t$ 的泊松分布：
$P\{N(t) = k\} = e^{-\lambda t} \frac{(\lambda t)^k}{k!}, \quad k = 0, 1, 2, \ldots$
$N (t)$ 的期望和方差都是 $λt\lambda t$ ：
$\lambda t$
连续事件之间的时间间隔服从参数为 $λ\lambda$ 的指数分布：
$P\{X > t\} = e^{-\lambda t}, \quad F(t) = P\{X \leq t\} = 1 - e^{-\lambda t}$

例 7e：地震发生概率

假设美国西部地震发生强度 $ \lambda = 2 $（每周 2 次）

时间区间长度 $t = 2$ 周
参数 $λt=2×2=4\lambda t = 2 \times 2 = 4$
因此， $N (2)$ 服从参数为 4 的泊松分布

(a) 求接下来 2 周内至少发生 3 次地震的概率：
$P\{N(2) \ge 3\} = 1 - P\{N(2) = 0\} - P\{N(2) = 1\} - P\{N(2) = 2\} = 1 - 13e^{-4}$

(b) 求从现在开始直到下次发生地震的时间间隔 $ X $ 的分布：
$P\{X > t\} = P\{N(t) = 0\} = e^{-\lambda t}$

$P\{X \leq t\} = 1 - e^{-\lambda t} = 1 - e^{-2t}$

递推关系

泊松分布的递推关系：
$\frac{P\{X = i + 1\}}{P\{X = i\}} = \frac{e^{-\lambda} \lambda^{i+1} / (i+1)!}{e^{-\lambda} \lambda^i / i!} = \frac{\lambda}{i+1} \tag{7.6}$

从 $ P{X=0} = e^{-\lambda} $ 开始，可依次计算：
$\begin{aligned} P\{X=1\} &= \lambda P\{X=0\} \\ P\{X=2\} &= \frac{\lambda}{2}P\{X=1\} \\ &\vdots \\ P\{X = i+1\} &= \frac{\lambda}{i+1}P\{X = i\} \end{aligned}$

4.8 其他离散型概率分布

4.8.1 几何随机变量

定义

几何随机变量：考虑独立重复试验，每次成功概率为 $ p $ ($ 0 < p < 1 $)，重复直到首次成功。令 $ X $ 表示需要的试验次数，则：
$P\{X = n\} = (1-p)^{n-1}p \qquad n = 1,2,\ldots \tag{8.1}$
由于：
$\sum_{n=1}^{\infty} P\{X = n\} = p \sum_{n=1}^{\infty} (1-p)^{n-1} = \frac{p}{1 - (1-p)} = 1$
试验最终会成功的概率为 1。

期望和方差

期望：
$\sum_{i=1}^{\infty} i(1-p)^{i-1}p = \frac{1}{p}$

一个成功概率为 $ p $ 的试验，需要进行的期望试验次数为 $ 1/p $
方差：
$\frac{1-p}{p^2}$

[!NOTE]

要证明：
$\boxed{E[X] = \frac{1}{p}}$

方法一：递归法（最直观的推导）

这是原始笔记中使用的方法，也是最直观的推导方式。

$\sum_{i=1}^{\infty} i \cdot q^{i-1}p$

$\begin{aligned} E[X] &= \sum_{i=1}^{\infty} i \cdot q^{i-1}p \\ &= \sum_{i=1}^{\infty} (i-1+1) \cdot q^{i-1}p \\ &= \sum_{i=1}^{\infty} (i-1) \cdot q^{i-1}p + \sum_{i=1}^{\infty} q^{i-1}p \end{aligned}$

令 $j = i - 1$ ，则当 $i = 1$ 时 $j = 0$ ，当 $\to \infty$ 时 $\to \infty$

代入得：
$\sum_{i=1}^{\infty} (i-1) \cdot q^{i-1}p = \sum_{j=0}^{\infty} j \cdot q^j p$

注意到 $qj=q⋅qj−1q^j = q \cdot q^{j-1}$ ，所以：
$\sum_{j=0}^{\infty} j \cdot q^j p = q \cdot \sum_{j=1}^{\infty} j \cdot q^{j-1} p = q \cdot E[X]$

$\sum_{i=1}^{\infty} q^{i-1}p = p \sum_{i=0}^{\infty} q^i = p \cdot \frac{1}{1-q} = p \cdot \frac{1}{p} = 1$

$\begin{aligned} E[X] &= q \cdot E[X] + 1 \\ E[X] - q \cdot E[X] &= 1 \\ E[X] \cdot (1 - q) &= 1 \\ E[X] \cdot p &= 1 \\ E[X] &= \frac{1}{p} \end{aligned}$

方法二：级数求和法

步骤 1：提取常数 $p$
$\sum_{i=1}^{\infty} i \cdot q^{i-1}$

步骤 2：使用已知级数公式

我们知道，当 $∣ x ∣ < 1$ 时：
$\sum_{i=0}^{\infty} x^i = \frac{1}{1-x}$

对两边关于 $x$ 求导：
$\sum_{i=1}^{\infty} i \cdot x^{i-1} = \frac{1}{(1-x)^2}$

步骤 3：代入 $x = q$
$\sum_{i=1}^{\infty} i \cdot q^{i-1} = \frac{1}{(1-q)^2} = \frac{1}{p^2}$

步骤 4：计算期望
$\cdot \frac{1}{p^2} = \frac{1}{p}$

方法三：直接求和法

步骤 1：写出期望表达式
$3q^2p + 4q^3p + \ldots$

步骤 2：两边同时乘以 $q$
$2q^2p + 3q^3p + 4q^4p + \ldots$

步骤 3：用第一式减去第二式
$\begin{aligned} S - qS &= p + (2qp - qp) + (3q^2p - 2q^2p) + (4q^3p - 3q^3p) + \ldots \\ &= p + qp + q^2p + q^3p + \ldots \end{aligned}$

步骤 4：简化右边

右边是一个几何级数：
$q^2p + q^3p + \ldots = p(1 + q + q^2 + q^3 + \ldots) = p \cdot \frac{1}{1-q} = p \cdot \frac{1}{p} = 1$

步骤 5：求解 $S$
$\begin{aligned} S(1-q) &= 1 \\ S \cdot p &= 1 \\ S &= \frac{1}{p} \end{aligned}$

[!IMPORTANT]

方法一：递归法
$E[X^2] = \sum_{i=1}^{\infty} i^2 q^{i-1} p$

考虑第一次试验的结果：

以概率 $p$ 成功 → $X = 1$ ，此时 $X^2 = 1$
以概率 $q$ 失败 → 相当于从头开始，但已进行 1 次试验，所以总试验次数为 $1 + X^{'}$ ，其中 $X^{'}$ 与 $X$ 同分布

因此：
$E[X^2] = p \cdot 1^2 + q \cdot E[(1 + X)^2]$

展开右边：
$E[X^2] = p + q \cdot E[1 + 2X + X^2] = p + q(1 + 2E[X] + E[X^2])$

代入 $\frac{1}{p}$ ：
$E[X^2] = p + q\left(1 + 2 \cdot \frac{1}{p} + E[X^2]\right)$

移项整理：
$E[X^2] - q E[X^2] = p + q + \frac{2q}{p}$

$E[X^2] = p + q + \frac{2q}{p}$

整理得
$E[X^2] = 1 + \frac{q}{p} + \frac{2q}{p^2} = \frac{p^2}{p^2} + \frac{pq}{p^2} + \frac{2q}{p^2} = \frac{p^2 + pq + 2q}{p^2}$

但更简洁的方式是保留：
$E[X^2] = \frac{1 + q}{p^2} \quad \text{（见方法二）}$

方法二：级数法

步骤 1：写出 $E[X^2]$
$E[X^2] = \sum_{i=1}^{\infty} i^2 q^{i-1} p = p \sum_{i=1}^{\infty} i^2 q^{i-1}$

令 $\sum_{i=1}^{\infty} i^2 x^{i-1}$ ，其中 $∣ x ∣ < 1$

步骤 2：使用已知幂级数公式

我们使用以下标准结果（可通过微分几何级数得到）：

$\sum_{i=1}^{\infty} i x^{i-1} = \frac{1}{(1 - x)^2}$

对其两边关于 $x$ 求导：

$\frac{d}{dx} \left( \sum_{i=1}^{\infty} i x^{i-1} \right) = \sum_{i=1}^{\infty} i(i-1) x^{i-2} = \frac{d}{dx} \left( \frac{1}{(1-x)^2} \right) = \frac{2}{(1-x)^3}$

但我们需要的是 $∑i2xi−1\sum i^2 x^{i-1}$ ，注意：
$i^2 = i(i-1) + i$

所以：
$\sum_{i=1}^{\infty} i^2 x^{i-1} = \sum_{i=1}^{\infty} i(i-1) x^{i-2} \cdot x + \sum_{i=1}^{\infty} i x^{i-1} = x \cdot \frac{2}{(1-x)^3} + \frac{1}{(1-x)^2}$

$\frac{2x}{(1-x)^3} + \frac{1}{(1-x)^2} = \frac{2x + (1-x)}{(1-x)^3} = \frac{1 + x}{(1-x)^3}$

因此：
$\sum_{i=1}^{\infty} i^2 x^{i-1} = \frac{1 + x}{(1 - x)^3}$

步骤 3：代入 $x = q = 1 - p$
$\sum_{i=1}^{\infty} i^2 q^{i-1} = \frac{1 + q}{(1 - q)^3} = \frac{1 + q}{p^3}$

所以：
$E[X^2] = p \cdot \frac{1 + q}{p^3} = \frac{1 + q}{p^2}$

步骤 4：计算方差
$\begin{aligned} Var(X) &= E[X^2] - (E[X])^2 \\ &= \frac{1 + q}{p^2} - \left( \frac{1}{p} \right)^2 \\ &= \frac{1 + q - 1}{p^2} \\ &= \frac{q}{p^2} \\ &= \frac{1 - p}{p^2} \end{aligned}$

例题

例 8a：取球问题

坛中有 $ N $ 个白球和 $ M $ 个黑球，有放回取球直到取到黑球。

(a) 恰好取球 $ n $ 次的概率：
$P\{X = n\} = \left(\frac{N}{M+N}\right)^{n-1} \frac{M}{M+N} = \frac{MN^{n-1}}{(M+N)^n}$

(b) 至少取球 $ k $ 次的概率：
$P\{X \ge k\} = \left(\frac{N}{M+N}\right)^{k-1}$

至少需要 $ k $ 次取球意味着前 $ k-1 $ 次都取到白球。

4.8.2 负二项随机变量

定义

负二项随机变量：考虑独立重复试验，每次成功概率为 $ p $ ($ 0 < p < 1 $)，试验持续进行直到累计成功 $ r $ 次。令 $ X $ 表示试验总次数，则：
$\boxed{P\{X = n\} = \binom{n-1}{r-1} p^r (1-p)^{n-r} \qquad n = r, r+1, \cdots} \tag{8.2}$
证明：要使第 $ n $ 次试验时恰好 $ r $ 次成功，前 $ n-1 $ 次试验中必须有 $ r-1 $ 次成功，且第 $ n $ 次试验成功。

[!NOTE]
几何随机变量是参数为 $ (1, p) $ 的负二项随机变量的特例。

期望和方差

期望：$ E[X] = \frac{r}{p} $
方差：$ Var(X) = \frac{r(1-p)}{p^2} $

[!IMPORTANT]

定义随机变量 $Y$

$Y$ 是参数为 $(r + 1, p)$ 的负二项随机变量

表示在独立重复试验中，直到累计成功 $r + 1$ 次所需的试验总次数

概率质量函数为：
$P\{Y = m\} = \binom{m-1}{r} p^{r+1} (1-p)^{m-(r+1)} \qquad m = r+1, r+2, \ldots$

步骤 1：建立递归关系 $E[Xk]=rpE[(Y−1)k−1]E[X^k] = \frac{r}{p} E[(Y-1)^{k-1}]$

首先，写出 $E[X^k]$ 的定义：
$E[X^k] = \sum_{n=r}^{\infty} n^k P\{X = n\} = \sum_{n=r}^{\infty} n^k \binom{n-1}{r-1} p^r (1-p)^{n-r}$

应用组合恒等式 $\binom{n-1}{r-1} = r \binom{n}{r}$ ：
$\begin{aligned} E[X^k] &= \sum_{n=r}^{\infty} n^k \binom{n-1}{r-1} p^r (1-p)^{n-r} \\ &= \sum_{n=r}^{\infty} n^{k-1} \cdot n \binom{n-1}{r-1} p^r (1-p)^{n-r} \\ &= \sum_{n=r}^{\infty} n^{k-1} \cdot r \binom{n}{r} p^r (1-p)^{n-r} \\ &= \frac{r}{p} \sum_{n=r}^{\infty} n^{k-1} \binom{n}{r} p^{r+1} (1-p)^{n-r} \end{aligned}$

现在，令 $m = n + 1$ ，则：

当 $n = r$ 时， $m = r + 1$
当 $\to \infty$ 时， $\to \infty$
$n = m - 1$

代入得：
$\begin{aligned} E[X^k] &= \frac{r}{p} \sum_{m=r+1}^{\infty} (m-1)^{k-1} \binom{m-1}{r} p^{r+1} (1-p)^{(m-1)-r} \\ &= \frac{r}{p} \sum_{m=r+1}^{\infty} (m-1)^{k-1} \binom{m-1}{r} p^{r+1} (1-p)^{m-(r+1)} \end{aligned}$

注意到求和式正是随机变量 $Y$ 的期望 $E[(Y-1)^{k-1}]$ ：
$E[(Y-1)^{k-1}] = \sum_{m=r+1}^{\infty} (m-1)^{k-1} P\{Y = m\} = \sum_{m=r+1}^{\infty} (m-1)^{k-1} \binom{m-1}{r} p^{r+1} (1-p)^{m-(r+1)}$

因此：
$\boxed{E[X^k] = \frac{r}{p} E[(Y-1)^{k-1}]}$

步骤 2：计算期望 $E [X]$

当 $k = 1$ 时：
$\begin{aligned} E[X] &= E[X^1] \\ &= \frac{r}{p} E[(Y-1)^{0}] \\ &= \frac{r}{p} E[1] \\ &= \frac{r}{p} \end{aligned}$

步骤 3：计算二阶矩 $E[X^2]$

当 $k = 2$ 时：
$\begin{aligned} E[X^2] &= \frac{r}{p} E[(Y-1)^{1}] \\ &= \frac{r}{p} E[Y-1] \\ &= \frac{r}{p} (E[Y] - 1) \end{aligned}$

其中 $Y$ 是参数为 $(r + 1, p)$ 的负二项随机变量，根据步骤 2 的结论：
$\frac{r+1}{p}$

代入得：
$\begin{aligned} E[X^2] &= \frac{r}{p} \left(\frac{r+1}{p} - 1\right) \\ &= \frac{r}{p} \cdot \frac{r+1-p}{p} \\ &= \frac{r(r+1-p)}{p^2} \end{aligned}$

步骤 4：计算方差 $Va r (X)$

方差定义为：
$Var(X) = E[X^2] - (E[X])^2$

代入已知结果：

$\begin{aligned} Var(X) &= \frac{r(r+1-p)}{p^2} - \left(\frac{r}{p}\right)^2 \\ &= \frac{r(r+1-p)}{p^2} - \frac{r^2}{p^2} \\ &= \frac{r^2 + r - rp - r^2}{p^2} \\ &= \frac{r - rp}{p^2} \\ &= \frac{r(1-p)}{p^2} \end{aligned}$

例题

例 8d：第 r 次成功发生在 m 次失败之前

求第 $ r $ 次成功发生在 $ m $ 次失败之前的概率：
$\sum_{n=r}^{r+m-1} \binom{n-1}{r-1} p^r (1-p)^{n-r}$

[!NOTE]
当且仅当第 $ r $ 次成功的时刻不晚于第 $ (r+m-1) $ 次试验，才能保证在 $ m $ 次失败之前出现第 $ r $ 次成功。

例 8e：巴拿赫火柴问题

一个抽烟的数学家总是随身带着两盒火柴：

一盒放在左边口袋，另一盒放在右边口袋
每次需要火柴时，随机地从两个口袋中任取一盒（每个口袋被选中的概率为 $ \frac{1}{2} $）
每次从选中的盒子里取出一根火柴
开始时两盒中各有 $ N $ 根火柴

问题：当他第一次发现其中有一个盒子已经空了的时候，另一盒中恰好有 $ k $ 根火柴的概率是多少？

“第一次发现一盒空”：这意味着他尝试从某一盒取火柴时，发现该盒已经空了
此时另一盒还有 $ k $ 根：说明另一盒尚未完全用完
对称性：左右口袋情况相同，可以先计算一种情况再乘以 2

要使"右边口袋空而左边有 $ k $ 根"发生，必须满足以下条件：

右边口袋变空：他从右边口袋取了 $ N+1 $ 次火柴
- 前 $ N $ 次取走了所有 $ N $ 根火柴
- 第 $ N+1 $ 次尝试取火柴时，发现右边口袋空了
左边口袋还有 $ k $ 根：他从左边口袋取了 $ N-k $ 次火柴
- 左边口袋原本有 $ N $ 根，取走 $ N-k $ 根后，还剩 $ k $ 根
总取火柴次数：$ (N+1) + (N-k) = 2N-k+1 $ 次
- 前 $ 2N-k $ 次：从右边取 $ N $ 次，从左边取 $ N-k $ 次
- 第 $ 2N-k+1 $ 次：尝试从右边取，但发现右边空了
关键约束：最后一次（第 $ 2N-k+1 $ 次）必须是从右边口袋取
- 因为这次取火柴时，他发现右边口袋空了
前 $ 2N-k $ 次取火柴的组合方式：
- 从 $ 2N-k $ 次中选择 $ N $ 次从右边取（其余 $ N-k $ 次从左边取）
- 组合数为：$ \binom{2N-k}{N} $
每次取火柴的概率：
- 从任一口袋取火柴的概率均为 $ \frac{1}{2} $
- 前 $ 2N-k $ 次取火柴的概率：$ \left(\frac{1}{2}\right)^{2N-k} $
- 第 $ 2N-k+1 $ 次尝试从右边取的概率：$ \frac{1}{2} $
"右边口袋空而左边有 $ k $ 根"的概率：
$\binom{2N-k}{N} \left(\frac{1}{2}\right)^{2N-k} \times \frac{1}{2} = \binom{2N-k}{N} \left(\frac{1}{2}\right)^{2N-k+1}$
考虑左右对称性：
- "左边口袋空而右边有 $ k $ 根"的概率也是 $ P(E) $
- 因此，所求总概率为：
  $\times \binom{2N-k}{N} \left(\frac{1}{2}\right)^{2N-k+1} = \binom{2N-k}{N} \left(\frac{1}{2}\right)^{2N-k}$

例 8g：掷骰子问题

连续掷骰子直到点数 1 出现 4 次，求投掷总次数的期望和方差。

$ X $ 是参数 $ r=4 $, $ p=1/6 $ 的负二项随机变量：
$\frac{4}{1/6} = 24$

$\frac{4 \times 5/6}{(1/6)^2} = 120$

4.8.3 超几何随机变量

定义

超几何随机变量：坛中有 $ N $ 个球，其中 $ m $ 个白球，$ N-m $ 个黑球。无放回抽取 $ n $ 个球，令 $ X $ 表示白球数，则：
$\boxed{P\{X=i\} = \frac{\binom{m}{i} \binom{N-m}{n-i}}{\binom{N}{n}} \qquad i = 0, 1, \cdots, n} \tag{8.4}$
注释：$ P{X=i} = 0 $，除非 $ \max(0, n-(N-m)) \leq i \leq \min(n, m) $

期望和方差

期望：$ E[X] = \frac{nm}{N} $
方差：$ Var(X) = np(1-p)\left(1 - \frac{n-1}{N-1}\right) $，其中 $ p = \frac{m}{N} $

例题

例 8h：动物数量估计

捕捉 $ m $ 个动物标记后放回，再捕捉 $ n $ 个，其中有 $ i $ 个标记
$ X $ 为超几何随机变量：
$P\{X=i\} = \frac{\binom{m}{i}\binom{N-m}{n-i}}{\binom{N}{n}} \equiv P_i(N)$
极大似然估计：使 $ P_i(N) $ 最大的 $ N $ 值
计算得：$ N $ 的估计值为不超过 $ \frac{mn}{i} $ 的最大整数
例如：$ m = 50 $, $ n = 40 $, $ i = 4 $，估计 $ N = 500 $

例 8i：超几何随机变量的期望和方差

期望：
$\frac{mn}{N}$

从 $ N $ 个球（$ m $ 个白球）中抽取 $ n $ 个，白球数的期望为 $ \frac{nm}{N} $
方差：
$np(1-p)\left(1 - \frac{n-1}{N-1}\right), \quad p = \frac{m}{N}$
当 $ N $ 相对 $ n $ 很大时：
$\approx np(1-p)$

例 8j：电子元件检验

采购员抽查 10 个一包的电子元件，随机抽查 3 个，若全好则购买。

30% 的包有 4 个残次品，70% 的包有 1 个残次品
采购员购买的概率：
$\frac{\binom{4}{0}\binom{6}{3}}{\binom{10}{3}} \times \frac{3}{10} + \frac{\binom{1}{0}\binom{9}{3}}{\binom{10}{3}} \times \frac{7}{10} = \frac{54}{100}$
拒绝比例：$ 1 - P(A) = 46% $

4.8.4 ζ 分布

定义

ζ 分布：如果随机变量有如下分布列：
$P\{X=k\} = \frac{C}{k^{\alpha+1}}, \qquad k = 1,2,\cdots$
其中 $ \alpha > 0 $ 为参数，$ C $ 为归一化常数：
$\left[\sum_{k=1}^{\infty} \left(\frac{1}{k}\right)^{\alpha+1}\right]^{-1}$
ζ 函数：
$\zeta(s) = 1 + \left(\frac{1}{2}\right)^s + \left(\frac{1}{3}\right)^s + \cdots$
这是数学中熟知的黎曼 ζ 函数。