確率分布と期待値・分散主な分布の平均と分散・共分散・計算例

分散の計算式

$$\operatorname{Var}(X) = \operatorname{E}[X^2] - (\operatorname{E}[X])^2$$

1次変換

$$\operatorname{Var}(aX + b) = a^2 \operatorname{Var}(X)$$

和の分散

$$\operatorname{Var}(X + Y) = \operatorname{Var}(X) + \operatorname{Var}(Y) + 2\operatorname{Cov}(X,Y)$$

一般に $\operatorname{Var}\left(\sum a_i X_i\right) = \sum_{i,j} a_i a_j \operatorname{Cov}(X_i, X_j)$。

共分散の計算式

$$\operatorname{Cov}(X,Y) = \operatorname{E}[XY] - \operatorname{E}[X]\operatorname{E}[Y]$$

相関係数の範囲

$$-1 \le \rho \le 1$$

コーシー・シュワルツの不等式から出る。$|\rho| = 1$ は $Y = aX + b$（確率1で）と同値。

確率関数・平均・分散

ベルヌーイ分布 $\mathrm{Be}(p)$

$$P(X=1) = p,\ P(X=0) = 1-p; \quad \operatorname{E}[X] = p,\ \operatorname{Var}(X) = p(1-p)$$

二項分布 $\mathrm{Bin}(n,p)$

$$P(X=k) = \binom{n}{k} p^k (1-p)^{n-k}; \quad \operatorname{E}[X] = np,\ \operatorname{Var}(X) = np(1-p)$$

$k = 0, 1, \dots, n$。独立な $\mathrm{Be}(p)$ の $n$ 個の和。

ポアソン分布 $\mathrm{Po}(\lambda)$

$$P(X=k) = e^{-\lambda}\frac{\lambda^k}{k!}; \quad \operatorname{E}[X] = \operatorname{Var}(X) = \lambda$$

$k = 0, 1, 2, \dots$、$\lambda > 0$。$np = \lambda$ を保って $n\to\infty$ とした二項分布の極限。

幾何分布 $\mathrm{Geo}(p)$

$$P(X=k) = (1-p)^{k-1} p; \quad \operatorname{E}[X] = \frac{1}{p},\ \operatorname{Var}(X) = \frac{1-p}{p^2}$$

$k = 1, 2, \dots$。初めて成功するまでの試行回数。失敗回数 $X-1$ で定める教科書もあり、そのとき平均は $(1-p)/p$。

密度・平均・分散

一様分布 $U(a,b)$

$$f(x) = \frac{1}{b-a}\ (a<x<b); \quad \operatorname{E}[X] = \frac{a+b}{2},\ \operatorname{Var}(X) = \frac{(b-a)^2}{12}$$

指数分布 $\mathrm{Exp}(\lambda)$

$$f(x) = \lambda e^{-\lambda x}\ (x>0); \quad \operatorname{E}[X] = \frac{1}{\lambda},\ \operatorname{Var}(X) = \frac{1}{\lambda^2}$$

$\lambda$ は率（単位時間あたりの発生数）。平均 $\theta = 1/\lambda$ で書く流儀もある。

正規分布 $N(\mu,\sigma^2)$

$$f(x) = \frac{1}{\sqrt{2\pi}\,\sigma}\exp\left(-\frac{(x-\mu)^2}{2\sigma^2}\right); \quad \operatorname{E}[X] = \mu,\ \operatorname{Var}(X) = \sigma^2$$

$Z = (X-\mu)/\sigma$ は標準正規分布 $N(0,1)$ に従う。

ガンマ分布 $\mathrm{Ga}(\alpha,\beta)$

$$f(x) = \frac{\beta^\alpha}{\Gamma(\alpha)} x^{\alpha-1} e^{-\beta x}\ (x>0); \quad \operatorname{E}[X] = \frac{\alpha}{\beta},\ \operatorname{Var}(X) = \frac{\alpha}{\beta^2}$$

$\alpha$ は形状、$\beta$ は率。$\alpha = 1$ で指数分布、$\alpha = k/2,\ \beta = 1/2$ で自由度 $k$ のカイ二乗分布。正規化にはガンマ関数を使う。