容斥原理#

\mathrm{P} (\bigcup_{i=1}^{n}{A_i}) = \sum_{k=1}^{n}(-1)^{k-1} \sum_{i_{1} \lt i_{2} \lt \ldots \lt i_{k}}{\mathrm{P}(A_{i_1}A_{i_2}\ldots A_{i_k})}

自由度为n-1，但在取值特殊的情况部分项会退化成平凡，在那时不需要已知n-1个项

常见分布#

离散#

离散型随机变量一般先写分布律：

P\{X=x_i\}=p_i,\qquad \sum_i p_i=1

二项分布#

X\sim B(n,p),\qquad P\{X=k\}=C_n^k p^k(1-p)^{n-k}

含义是 $n$ 次独立重复试验中事件 $A$ 发生 $k$ 次的概率。

E(X)=np,\qquad D(X)=np(1-p)

当 $n$ 很大， $p$ 较小， $\lambda=np$ 适中时，可以用泊松分布近似：

B(n,p)\approx P(\lambda)

泊松分布#

X\sim P(\lambda),\qquad P\{X=k\}=\frac{\lambda^k}{k!}e^{-\lambda}

常用于单位时间、单位面积内随机事件发生次数。

E(X)=\lambda,\qquad D(X)=\lambda

可加性：

X\sim P(\lambda_1),\;Y\sim P(\lambda_2),\;X,Y\text{ 独立} \Rightarrow X+Y\sim P(\lambda_1+\lambda_2)

几何分布#

X\sim Ge(p),\qquad P\{X=k\}=(1-p)^{k-1}p,\quad k=1,2,\cdots

含义是第一次成功发生在第 $k$ 次试验。

E(X)=\frac{1}{p},\qquad D(X)=\frac{1-p}{p^2}

无记忆性：

P\{X>m+n\mid X>m\}=P\{X>n\}

超几何分布#

总体 $N$ 个，其中有 $M$ 个目标元素，不放回抽取 $n$ 个，抽到 $k$ 个目标元素：

P\{X=k\}=\frac{C_M^kC_{N-M}^{n-k}}{C_N^n}

E(X)=n\frac{M}{N}

方差：

D(X)=n\frac{M}{N}\left(1-\frac{M}{N}\right)\frac{N-n}{N-1}

负二项分布#

P\{X=k\}=C_{k-1}^{r-1}p^r(1-p)^{k-r},\quad k=r,r+1,\cdots

含义是第 $r$ 次成功发生在第 $k$ 次试验。

E(X)=\frac{r}{p},\qquad D(X)=\frac{r(1-p)}{p^2}

连续#

连续型随机变量通常先写密度函数 $f(x)$ ：

P\{a<X\le b\}=\int_a^b f(x)dx,\qquad \int_{-\infty}^{+\infty}f(x)dx=1

分布函数：

F(x)=P\{X\le x\}=\int_{-\infty}^{x}f(t)dt

均匀分布#

X\sim U(a,b),\qquad f(x)= \begin{cases} \frac{1}{b-a}, & a<x<b\\ 0, & \text{其他} \end{cases}

E(X)=\frac{a+b}{2},\qquad D(X)=\frac{(b-a)^2}{12}

指数分布#

X\sim E(\lambda),\qquad f(x)= \begin{cases} \lambda e^{-\lambda x}, & x>0\\ 0, & x\le 0 \end{cases}

分布函数：

F(x)= \begin{cases} 1-e^{-\lambda x}, & x>0\\ 0, & x\le 0 \end{cases}

E(X)=\frac{1}{\lambda},\qquad D(X)=\frac{1}{\lambda^2}

无记忆性：

P\{X>s+t\mid X>s\}=P\{X>t\}

正态分布#

X\sim N(\mu,\sigma^2),\qquad f(x)=\frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(x-\mu)^2}{2\sigma^2}}

标准化：

Z=\frac{X-\mu}{\sigma}\sim N(0,1)

P\{a<X<b\}=\Phi\left(\frac{b-\mu}{\sigma}\right)-\Phi\left(\frac{a-\mu}{\sigma}\right)

可加性：

X\sim N(\mu_1,\sigma_1^2),\;Y\sim N(\mu_2,\sigma_2^2),\;X,Y\text{ 独立} \Rightarrow X+Y\sim N(\mu_1+\mu_2,\sigma_1^2+\sigma_2^2)

随机变量的函数#

一般#

设 $Y=g(X)$ 。

离散型直接合并概率：

P\{Y=y\}=\sum_{x:g(x)=y}P\{X=x\}

连续型常用分布函数法：

F_Y(y)=P\{Y\le y\}=P\{g(X)\le y\}

先把事件转化成 $X$ 的范围，再对 $F_Y(y)$ 求导得到 $f_Y(y)$ 。

若 $g(x)$ 在区间上单调可导，反函数为 $x=h(y)$ ，则：

f_Y(y)=f_X(h(y))|h'(y)|

多元函数常见线性变换：

Y=aX+b

有

E(Y)=aE(X)+b,\qquad D(Y)=a^2D(X)

最值#

设 $X_1,\cdots,X_n$ 相互独立同分布，分布函数为 $F(x)$ ，密度为 $f(x)$ 。

最大值：

M=\max\{X_1,\cdots,X_n\}

F_M(x)=P\{M\le x\}=F^n(x)

f_M(x)=nF^{n-1}(x)f(x)

最小值：

m=\min\{X_1,\cdots,X_n\}

F_m(x)=P\{m\le x\}=1-[1-F(x)]^n

f_m(x)=n[1-F(x)]^{n-1}f(x)

随机过程#

随机过程是一族按参数 $t$ 变化的随机变量，记作：

\{X(t),\;t\in T\}

其中 $t$ 常表示时间， $X(t)$ 表示时刻 $t$ 系统所处的随机状态。若 $T$ 为离散集合，称为离散时间随机过程；若 $T$ 为连续区间，称为连续时间随机过程。

泊松过程#

泊松过程常用来描述随机事件随时间发生的次数。设 $N(t)$ 表示时间区间 $[0,t]$ 内事件发生的次数，若 $\{N(t),t\ge0\}$ 为强度为 $\lambda$ 的泊松过程，则：

N(t)\sim P(\lambda t)

即：

P\{N(t)=k\}=\frac{(\lambda t)^k}{k!}e^{-\lambda t},\quad k=0,1,2,\cdots

它满足：

$N(0)=0$ ；
独立增量：互不相交时间区间内发生的事件数相互独立；
平稳增量：长度相同的时间区间内事件数分布相同，且只与区间长度有关。

若 $T_1,T_2,\cdots$ 表示相邻两次事件发生的时间间隔，则：

T_i\sim E(\lambda),\qquad f(t)=\lambda e^{-\lambda t},\quad t>0

也就是说，泊松过程中两个相邻事件的时间间隔服从指数分布，且：

E(T_i)=\frac{1}{\lambda}

证明思路是把“等待第一次事件超过 $t$ ”转化为“ $[0,t]$ 内没有事件”：

P\{T_1>t\}=P\{N(t)=0\}=e^{-\lambda t}

所以：

F_{T_1}(t)=P\{T_1\le t\}=1-e^{-\lambda t}

这正是参数为 $\lambda$ 的指数分布。

数字特征#

分布数字特征总结#

期望：

E(X)=\sum_i x_ip_i

或

E(X)=\int_{-\infty}^{+\infty}xf(x)dx

函数期望：

E[g(X)]=\sum_i g(x_i)p_i

或

E[g(X)]=\int_{-\infty}^{+\infty}g(x)f(x)dx

方差：

D(X)=E[(X-E(X))^2]=E(X^2)-[E(X)]^2

常用性质：

E(aX+bY+c)=aE(X)+bE(Y)+c

D(aX+b)=a^2D(X)

若 $X,Y$ 独立，则：

E(XY)=E(X)E(Y)

D(X+Y)=D(X)+D(Y)

最值期望#

对非负随机变量，有尾和公式：

E(X)=\int_0^{+\infty}P\{X>x\}dx

离散非负整数型：

E(X)=\sum_{k=0}^{+\infty}P\{X>k\}

所以最值期望通常先求最值的分布函数，再转成尾概率。

最大值：

E(M)=\int_{-\infty}^{+\infty}x\cdot nF^{n-1}(x)f(x)dx

最小值：

E(m)=\int_{-\infty}^{+\infty}x\cdot n[1-F(x)]^{n-1}f(x)dx

切比雪夫不等式#

若 $E(X)=\mu,\;D(X)=\sigma^2$ ，则：

P\{|X-\mu|\ge \varepsilon\}\le \frac{\sigma^2}{\varepsilon^2}

等价形式：

P\{|X-\mu|<\varepsilon\}\ge 1-\frac{\sigma^2}{\varepsilon^2}

这个不要求知道具体分布，只要期望和方差存在即可。

协方差#

Cov(X,Y)=E[(X-E(X))(Y-E(Y))]

常用计算式：

Cov(X,Y)=E(XY)-E(X)E(Y)

方差展开：

D(X+Y)=D(X)+D(Y)+2Cov(X,Y)

若 $X,Y$ 独立，则 $Cov(X,Y)=0$ 。

依概率收敛#

随机变量序列 $X_n$ 依概率收敛到 $X$ ，记作：

X_n\overset{P}{\longrightarrow}X

定义为对任意 $\varepsilon>0$ ：

\lim_{n\rightarrow\infty}P\{|X_n-X|\ge \varepsilon\}=0

直观理解是 $n$ 足够大时， $X_n$ 偏离 $X$ 的概率趋于0。

大数定律#

大数定律说明样本均值在概率意义下趋近于总体期望。

切比雪夫大数定理#

若 $X_1,\cdots,X_n$ 两两不相关，且方差有共同上界，即存在 $C$ 使 $D(X_i)\le C$ ，则：

\frac{1}{n}\sum_{i=1}^{n}(X_i-E(X_i))\overset{P}{\longrightarrow}0

特别地，若同分布且 $E(X_i)=\mu$ ，则：

\frac{1}{n}\sum_{i=1}^{n}X_i\overset{P}{\longrightarrow}\mu

辛钦定理大数定理#

若 $X_1,X_2,\cdots$ 独立同分布，且 $E(X_i)=\mu$ 存在，则：

\frac{1}{n}\sum_{i=1}^{n}X_i\overset{P}{\longrightarrow}\mu

辛钦定理不要求方差存在，只要求期望存在。

伯努利大数定理#

设 $n$ 次独立重复试验中事件 $A$ 发生次数为 $X$ ，每次发生概率为 $p$ ，频率为 $\frac{X}{n}$ ，则：

\frac{X}{n}\overset{P}{\longrightarrow}p

也就是频率稳定于概率。

中心极限定理#

中心极限#

设 $X_1,X_2,\cdots$ 独立同分布， $E(X_i)=\mu,\;D(X_i)=\sigma^2$ ，则：

\frac{\sum_{i=1}^{n}X_i-n\mu}{\sigma\sqrt{n}}\overset{d}{\longrightarrow}N(0,1)

所以当 $n$ 较大时：

\sum_{i=1}^{n}X_i\approx N(n\mu,n\sigma^2)

样本均值：

\bar X=\frac{1}{n}\sum_{i=1}^{n}X_i\approx N\left(\mu,\frac{\sigma^2}{n}\right)

棣莫弗-拉普拉斯定理#

若 $X\sim B(n,p)$ ，则当 $n$ 较大时：

\frac{X-np}{\sqrt{np(1-p)}}\approx N(0,1)

因此：

P\{a\le X\le b\} \approx \Phi\left(\frac{b-np}{\sqrt{np(1-p)}}\right) - \Phi\left(\frac{a-np}{\sqrt{np(1-p)}}\right)

做连续性修正时常写成：

P\{a\le X\le b\} \approx \Phi\left(\frac{b+0.5-np}{\sqrt{np(1-p)}}\right) - \Phi\left(\frac{a-0.5-np}{\sqrt{np(1-p)}}\right)

音乐

音乐

容斥原理#

常见分布#

离散#

二项分布#

泊松分布#

几何分布#

超几何分布#

负二项分布#

连续#

均匀分布#

指数分布#

正态分布#

随机变量的函数#

一般#

最值#

随机过程#

泊松过程#

数字特征#

分布数字特征总结#

最值期望#

切比雪夫不等式#

协方差#

相关系数#

依概率收敛#

大数定律#

切比雪夫大数定理#

辛钦定理大数定理#

伯努利大数定理#

中心极限定理#

中心极限#

棣莫弗-拉普拉斯定理#

文章分享

评论区

音乐

目录

音乐

音乐

16-概率论

容斥原理#

常见分布#

离散#

二项分布#

泊松分布#

几何分布#

超几何分布#

负二项分布#

连续#

均匀分布#

指数分布#

正态分布#

随机变量的函数#

一般#

最值#

随机过程#

泊松过程#

数字特征#

分布数字特征总结#

最值期望#

切比雪夫不等式#

协方差#

相关系数#

依概率收敛#

大数定律#

切比雪夫大数定理#

辛钦定理大数定理#

伯努利大数定理#

中心极限定理#

中心极限#

棣莫弗-拉普拉斯定理#

文章分享

评论区

音乐

目录