概率论与数理统计 思维导图(公式已转 LaTeX,KaTeX 渲染)
概率论与数理统计
第一章 随机事件和概率
两个基本原理
乘法原理
- 完成某事需要 $k$ 个步骤,每一步分别有 $A_1,A_2,\dots,A_k$ 种方法,则完成此事共有 $A_1A_2\cdots A_k$ 种方法
加法原理
- 完成某事有 $k$ 类办法,每一类分别有 $A_1,A_2,\dots,A_k$ 种方法,则完成此事共有 $A_1+A_2+\cdots+A_k$ 种方法
排列、组合
排列
- 从 $n$ 个不同元素中任取 $r$ 个($0<r\le n$)按一定顺序排成一列,其个数记为 $A_n^r$
- 不放回抽样:$A_n^r=n(n-1)\cdots(n-r+1)$;当 $r=n$ 时 $A_n^n=n!$,称为全排列
- 有放回抽样(有重复的排列):方法数为 $n^r$
组合
- 从 $n$ 个不同元素中任取 $r$ 个($0\le r\le n$)不计顺序拼成一组,记为 $C_n^r$
- 计算公式:$C_n^r=\frac{n!}{r!(n-r)!}$;性质:$C_n^r=C_n^{n-r}$
随机试验 $E$
- 满足以下三个条件的试验称为随机试验
- 可以在相同的条件下重复地进行
- 进行一次试验之前不能确定哪一个结果会出现
- 可能结果不止一个,且能事先明确试验的所有可能结果
样本空间
- 样本点 $\omega$:随机试验的每一个可能的结果
- 样本空间 $\Omega$:所有样本点组成的集合
随机事件
- 随机事件:样本空间 $\Omega$ 的子集,用大写字母 $A,B,C$ 表示
- 基本事件:由一个样本点组成的单点集
- 事件发生:当且仅当事件中有一个样本点出现
- 必然事件:$\Omega$ 在每次试验中总发生,记为 $\Omega$
- 不可能事件:$\varnothing$ 在每次试验中都不发生,记为 $\varnothing$
随机事件的关系
- 包含关系:$A\subset B$,表示 $A$ 发生一定导致 $B$ 发生
- 事件相等:若 $A\subset B$ 且 $B\subset A$,则 $A=B$
- 和事件 $A\cup B=\{x\mid x\in A \text{ 或 } x\in B\}$,表示 $A,B$ 至少有一个发生,记为 $A+B$
- 积事件 $A\cap B=\{x\mid x\in A \text{ 且 } x\in B\}$,表示 $A,B$ 同时发生,记为 $AB$
- 差事件 $A-B=\{x\mid x\in A \text{ 且 } x\notin B\}$,表示 $A$ 发生且 $B$ 不发生,记为 $A\bar B$
- 互斥事件(互不相容):当 $AB=\varnothing$ 时,$A,B$ 不能同时发生
- 对立事件(逆事件):若 $A\cup B=\Omega$ 且 $A\cap B=\varnothing$,则 $A,B$ 互为对立,$A$ 记作 $\bar A$
- 完全(备)事件组:$A_1,\dots,A_n$ 两两互不相容且并为 $\Omega$,是样本空间的一个划分
- 对立一定互斥,但互斥不一定对立
随机事件的运算律
- 交换律:$A\cup B=B\cup A$,$A\cap B=B\cap A$
- 结合律:$A\cup(B\cup C)=(A\cup B)\cup C$,$A\cap(B\cap C)=(A\cap B)\cap C$
- 分配律:$A\cup(B\cap C)=(A\cup B)\cap(A\cup C)$,$A\cap(B\cup C)=(A\cap B)\cup(A\cap C)$
- 对偶律(德摩根律):$\overline{A\cup B}=\bar A\cap\bar B$,$\overline{A\cap B}=\bar A\cup\bar B$
古典概型与几何概型
古典概型
- 定义:样本空间有限 $\Omega=\{e_1,e_2,\dots,e_n\}$,且等可能 $P(e_1)=P(e_2)=\cdots=P(e_n)$
- 计算方法:$P(A)=\frac{A \text{ 中基本事件的个数}}{\Omega \text{ 中基本事件总数}}$
- 性质:非负性 $0\le P(A)\le 1$,规范性 $P(\varnothing)=0$、$P(\Omega)=1$
- 性质:有限可加性,两两互不相容时 $P(A_1\cup\dots\cup A_n)=P(A_1)+\dots+P(A_n)$
几何概型
- 定义:从线段(或平面、空间中有界区域)$\Omega$ 任取一点,落在测度相等的子区域内的可能性相同
- 计算公式:$P(A)=\frac{A \text{ 的长度(面积、体积)}}{\Omega \text{ 的长度(面积、体积)}}$
- 使用场景:区间(区域)内随机取数或取点、时间段内随机到达、取值概率与长度(面积)成正比
- 一个变量用长度比,两个变量用面积比;与长度成正比用长度比,与面积成正比用面积比
概率的公理化定义及性质
概率的公理化定义
- 非负性:$P(A)\ge 0$;规范性:$P(\Omega)=1$
- 可列可加性:$A_1,A_2,\dots$ 两两互不相容时 $P(A_1\cup A_2\cup\dots)=P(A_1)+P(A_2)+\dots$
概率的性质
- 非负性:$0\le P(A)\le 1$;规范性:$P(\varnothing)=0$,$P(\Omega)=1$
- 逆事件的概率:$P(\bar A)=1-P(A)$
- 可比性:若 $A\subset B$,则 $P(A)\le P(B)$ 且 $P(B-A)=P(B)-P(A)$
- 减法公式:$P(B-A)=P(B\bar A)=P(B)-P(AB)$
- 加法公式:$P(A+B)=P(A)+P(B)-P(AB)$
- 三事件加法公式:$P(A+B+C)=P(A)+P(B)+P(C)-P(AB)-P(BC)-P(AC)+P(ABC)$
- 概率为 $0$ 的事件不一定是不可能事件,概率为 $1$ 的事件不一定是必然事件
条件概率及其性质
条件概率的定义
- 设 $P(A)>0$,$P(B\mid A)=\frac{P(AB)}{P(A)}$ 为在 $A$ 发生的条件下 $B$ 发生的条件概率
条件概率的性质
- 非负性:$P(B\mid A)\ge 0$;规范性:$P(\Omega\mid A)=1$
- 可列可加性:$P(B_1\cup B_2\cup\dots\mid A)=P(B_1\mid A)+P(B_2\mid A)+\dots$
- 逆事件的概率:$P(\bar B\mid A)=1-P(B\mid A)$
- 加法公式:$P(B_1+B_2\mid A)=P(B_1\mid A)+P(B_2\mid A)-P(B_1B_2\mid A)$
乘法公式
- 两个事件:若 $P(A)>0$,则 $P(AB)=P(B\mid A)P(A)$
- 三个事件:若 $P(AB)>0$,则 $P(ABC)=P(C\mid AB)P(B\mid A)P(A)$
抽签原理
- 各次取到某物品的概率相同,与取物(抓阄)的先后次序无关
全概率公式与贝叶斯公式
全概率公式
- 设 $A_1,\dots,A_n$ 为完全事件组且 $P(A_i)>0$,则 $P(B)=\sum_{i=1}^{n}P(A_i)P(B\mid A_i)$
- 本质:用完全事件组将复杂事件分解为若干简单事件,是解决复杂事件概率的重要思维
- 使用场景:试验分两阶段,第一阶段结果未知但所有可能结果已知,求第二阶段某个结果的概率
贝叶斯公式
- 设 $A_1,\dots,A_n$ 为完全事件组,$P(B)>0$,$P(A_i)>0$,则 $P(A_i\mid B)=\frac{P(A_i)P(B\mid A_i)}{\sum_{j=1}^{n}P(A_j)P(B\mid A_j)}$
- 使用场景:已知第二阶段某结果发生的概率,求其受第一阶段某结果影响的概率,本质是求条件概率
事件的独立性
两个事件的独立性
- 定义:若 $P(AB)=P(A)P(B)$,则称 $A,B$ 相互独立
- 本质:一个事件发生与否不影响另一个事件发生的概率
- 独立与互斥的关系:独立推不出互斥,互斥也推不出独立;对非零概率事件,独立一定不互斥,互斥一定不独立
- 概率为 $0$ 或 $1$ 的事件与任何事件都独立
两个事件独立的性质
- 若 $A,B$ 相互独立,则 $A$ 与 $\bar B$、$\bar A$ 与 $B$、$\bar A$ 与 $\bar B$ 也相互独立
- 四对事件中只要一对独立,其余三对也独立
两个事件独立的等价说法
- 若 $0<P(A)<1$,则 $A,B$ 独立 $\Leftrightarrow P(B)=P(B\mid A) \Leftrightarrow P(B)=P(B\mid\bar A) \Leftrightarrow P(B\mid A)=P(B\mid\bar A)$
三个事件的两两独立性
- $P(AB)=P(A)P(B)$,$P(AC)=P(A)P(C)$,$P(BC)=P(B)P(C)$
三个事件的相互独立性
- 两两独立之外还需 $P(ABC)=P(A)P(B)P(C)$
- 相互独立一定两两独立,两两独立不一定相互独立
n 重伯努利概型及概率计算
- 定义:只有两个结果 $A$ 和 $\bar A$ 的试验称为伯努利试验;独立重复进行 $n$ 次称为 $n$ 重伯努利试验
- 二项概率公式:$P(A_k)=C_n^k p^k(1-p)^{n-k}$,$k=0,1,2,\dots,n$
- 应用关键:确定试验次数 $n$ 与每次事件发生的概率 $p$
题型一 事件的关系与运算
方法要点
- 事件的关系:包含 $A\subset B$、相等 $A=B$、和 $A\cup B$、积 $A\cap B$、差 $A-B=A\bar B$
- 互斥 $AB=\varnothing$;对立 $A\cup B=\Omega$ 且 $AB=\varnothing$;完全事件组是样本空间的一个划分
- 运算律:交换律、结合律、分配律、德摩根律 $\overline{A\cup B}=\bar A\cap\bar B$,$\overline{A\cap B}=\bar A\cup\bar B$
- 用已知事件表示复合事件:至少一个发生用和、同时发生用积、恰有一个发生用 $A\bar B+\bar A B$
- 对偶律的运用:$\overline{BC}=\bar B\cup\bar C$
精选例题
- 例1.1 由 $A=BC$ 得 $\bar A=\bar B\cup\bar C$,即“甲种产品滞销或乙种产品畅销”
- 例1.2 $A\cup B=B$ 等价于 $A\subset B$、$\bar B\subset\bar A$、$A\bar B=\varnothing$,不等价于 $AB=\varnothing$
题型二 概率的性质
方法要点
- 非负性 $0\le P(A)\le 1$;规范性 $P(\varnothing)=0$,$P(\Omega)=1$
- 逆事件的概率 $P(\bar A)=1-P(A)$,是解决复杂事件概率的重要思维
- 可比性:若 $A\subset B$,则 $P(A)\le P(B)$ 且 $P(B-A)=P(B)-P(A)$
- 互斥与对立的关系:对立一定互斥,互斥不一定对立
- 概率为 $0$ 的事件不一定是不可能事件,概率为 $1$ 的事件不一定是必然事件
- 概率不等式:$AB\subset A\subset A+B$,故 $P(AB)\le P(A)\le P(A+B)$
精选例题
- 例1.3 若 $AB\subset C$,则 $P(C)\ge P(A)+P(B)-1$
- 例1.4 当 $P(B)>0$ 时 $P(A-B)=P(A)-P(AB)\ge P(A)-P(B)$
- 例1.5 由 $P(A\cup B)=1$ 且 $P(A)=P(B)=\frac12$ 得 $P(AB)=0$,故 $P(\bar A\cup\bar B)=1$
- 例1.6 $A,B$ 互不相容则 $P(A\cup B)=1$
题型三 计算事件的概率
方法要点
- 古典概型:$P(A)=\frac{A \text{ 中基本事件个数}}{\Omega \text{ 中基本事件总数}}$,常用排列组合数数
- 几何概型:$P(A)=\frac{A \text{ 的长度(面积、体积)}}{\Omega \text{ 的长度(面积、体积)}}$
- 计算概率的五大公式:加法、减法、乘法、全概率、贝叶斯公式
- 计算复杂事件的两个重要思维:逆事件思维与全概率思维
- 全概率公式适用:试验分两阶段,第一阶段结果未知但所有可能结果已知
- 独立性考点:独立与互斥的关系、概率为 $0$ 或 $1$ 的事件与任何事件独立、判定事件独立性
精选例题
- 例1.7 由 $P(\bar A\bar B)=\frac19$ 及 $P(A\bar B)=P(B\bar A)$ 得 $P(A)=\frac23$
- 例1.9 由三事件加法公式求 $P(A+B+C)$
- 例1.10 由 $P(A\bar B\cup\bar A B)=0.3$ 且 $P(A)+P(B)=0.5$ 得 $P(AB)=0.1$,故 $P(\bar A\cup\bar B)=0.9$
- 例1.13 逐个检查恰在第 5 个查出第 3 个次品,用乘法公式
- 例1.15 有放回取球直到三种颜色都取到,取球次数恰为 4 的概率
- 例1.16 用抽签原理求第二人取得黄球的概率
- 例1.17 全概率公式求白球概率,贝叶斯公式求该球属于第二个箱子的概率
- 例1.18 用几何概型求两数之差的绝对值小于某值的概率
- 例1.21 甲、乙独立射击,求目标被命中时由甲射中的概率(贝叶斯)
- 例1.28 两两独立时 $A,B,C$ 相互独立的充要条件是 $A$ 与 $BC$ 独立
题型四 伯努利概型
方法要点
- 伯努利试验:只有两个结果 $A$ 和 $\bar A$;$n$ 重伯努利试验是独立重复进行 $n$ 次
- 二项概率公式:$P(A_k)=C_n^k p^k(1-p)^{n-k}$,$k=0,1,\dots,n$
- 应用关键:确定试验次数 $n$ 与每次事件发生的概率 $p$
- $A$ 至少发生一次的概率为 $1-(1-p)^n$,至多发生一次的概率为 $(1-p)^n+np(1-p)^{n-1}$
精选例题
- 例1.31 求 $A$ 至少发生一次与至多发生一次的概率
- 例1.32 由至少成功一次条件下全部成功的概率求每次成功概率 $p$
- 例1.33 先用全概率公式求能出厂概率 $p=0.94$,再用二项概率公式求 $\alpha,\beta,\gamma$
第二章 一维随机变量及其分布
随机变量
定义
- 在样本空间 $\Omega=\{e\}$ 上定义的一个实值单值函数 $X=X(e)$,称为随机变量
- 随机变量常用大写字母 $X,Y,Z$ 表示,其取值通常用小写字母 $x,y,z$ 等表示
分类
- 离散型随机变量
- 连续型随机变量
- 既非离散型也非连续型随机变量
随机变量的分布函数
定义
- 设 $X$ 是随机变量,对任意实数 $x$,令 $F(x)=P\{X\le x\}$($-\infty<x<+\infty$),称 $F(x)$ 为 $X$ 的分布函数
利用分布函数求各种随机事件的概率
- $P\{X\le a\}=F(a)$
- $P\{X>a\}=1-F(a)$
- $P\{X<a\}=\lim\limits_{x\to a^-}F(x)=F(a-0)$
- $P\{X\ge a\}=1-F(a-0)$
- $P\{X=a\}=F(a)-F(a-0)$
- $P\{a<X\le b\}=F(b)-F(a)$
- $P\{a\le X<b\}=F(b-0)-F(a-0)$
- $P\{a<X<b\}=F(b-0)-F(a)$
- $P\{a\le X\le b\}=F(b)-F(a-0)$
性质
- ① 非负性:$0\le F(x)\le 1$
- ② 规范性:$F(-\infty)=\lim\limits_{x\to-\infty}F(x)=0$,$F(+\infty)=\lim\limits_{x\to+\infty}F(x)=1$
- ③ 单调不减性:对任意 $x_1<x_2$,有 $F(x_1)\le F(x_2)$
- ④ 右连续性:$F(x_0)=F(x_0+0)$
- 四条性质是判定分布函数的充要条件;含未知参数时常用性质②④确定参数
一维离散型随机变量及其概率分布
定义
- 若随机变量 $X$ 的取值是有限个或可列无穷多个,则称 $X$ 为离散型随机变量
分布律
- 设 $X$ 所有可能取值为 $x_1,x_2,\cdots$,且 $P\{X=x_k\}=p_k$,$k=1,2,\cdots$
- 非负性与规范性:$p_k\ge 0$,$\sum\limits_{k=1}^{\infty}p_k=1$
- 计算分布律三步:定取值、算概率、验证 1
分布函数
- 由分布律求分布函数时,以取值点为分段点,区间左闭右开
- 由分布函数求分布律:$P\{X=x_k\}=F(x_k)-F(x_k-0)$
常见的离散型分布
二项分布
- 设事件 $A$ 每次出现概率为 $p$($0<p<1$),$X$ 表示 $n$ 重伯努利试验中 $A$ 发生的次数
- $P\{X=k\}=\binom{n}{k}p^k(1-p)^{n-k}$,$k=0,1,\cdots,n$
- 记作 $X\sim B(n,p)$
- 期望 $E(X)=np$,方差 $D(X)=np(1-p)$
- 背景:$n$ 次独立重复试验中成功的次数;失败的次数 $n-X\sim B(n,1-p)$
0-1 分布
- $P\{X=k\}=p^k(1-p)^{1-k}$,$k=0,1$,$0<p<1$
- 期望 $E(X)=p$,方差 $D(X)=p(1-p)$
- 是 $n=1$ 的二项分布,即 $X\sim B(1,p)$
泊松分布
- $P\{X=k\}=\frac{\lambda^k}{k!}e^{-\lambda}$,$k=0,1,2,\cdots$,$\lambda>0$
- 记作 $X\sim P(\lambda)$
- 期望 $E(X)=\lambda$,方差 $D(X)=\lambda$
几何分布
- $P\{X=k\}=(1-p)^{k-1}p$,$0<p<1$,$k=1,2,\cdots$
- 背景:独立重复试验直到成功为止的试验次数
超几何分布
- $P\{X=k\}=\frac{\binom{M}{k}\binom{N-M}{n-k}}{\binom{N}{n}}$,$k=0,1,2,\cdots$
- $M,N,n$ 为正整数,$n\le M\le N$,记作 $X\sim H(n,M,N)$
- 背景:$N$ 件产品中含 $M$ 件次品,任取 $n$ 件中的次品数
泊松定理
- 设 $\lambda>0$ 为常数,$n$ 为任意正整数,$\lambda=np$,则对任一固定非负整数 $k$,有 $\lim\limits_{n\to\infty}\binom{n}{k}p^k(1-p)^{n-k}=\frac{\lambda^k}{k!}e^{-\lambda}$
- 本质:$n$ 较大、$p$ 相对较小时用泊松分布近似二项分布,$\lambda\approx np$
一维连续型随机变量及其概率分布
定义
- 若存在非负可积函数 $f(x)$,使对任意实数 $x$,有 $F(x)=\int_{-\infty}^{x}f(t)\,dt$,则称 $X$ 为连续型随机变量
- $f(x)$ 称为 $X$ 的概率密度函数,其定义域为 $(-\infty,+\infty)$
- 连续型随机变量的分布函数 $F(x)$ 是连续函数
- 连续型随机变量在任意一点取值的概率为 $0$
概率密度的性质
- ① 非负性:$f(x)\ge 0$
- ② 规范性:$\int_{-\infty}^{+\infty}f(x)\,dx=1$
- ③ $P\{a<X\le b\}=P\{a\le X<b\}=P\{a<X<b\}=P\{a\le X\le b\}=\int_a^b f(x)\,dx$
- ④ 在 $f(x)$ 的连续点处 $F'(x)=f(x)$
- 性质①②是判定一个函数是否为密度函数的充要条件
常见的连续型分布
均匀分布
- 密度 $f(x)=\frac{1}{b-a}$($a\le x\le b$),其他为 $0$,记作 $X\sim U(a,b)$
- 分布函数 $F(x)=\frac{x-a}{b-a}$($a\le x<b$)
- 期望 $E(X)=\frac{a+b}{2}$,方差 $D(X)=\frac{(b-a)^2}{12}$
- 对应几何概型,可用有效长度与总长度之比求概率
指数分布
- 密度 $f(x)=\lambda e^{-\lambda x}$($x>0$),$x\le 0$ 时为 $0$
- $\lambda>0$ 为参数,记作 $X\sim E(\lambda)$
- 分布函数 $F(x)=1-e^{-\lambda x}$($x\ge 0$)
- 期望 $E(X)=\frac{1}{\lambda}$,方差 $D(X)=\frac{1}{\lambda^2}$
- 无记忆性:$P\{X>s+t\mid X>t\}=P\{X>s\}$
正态分布
- 密度 $f(x)=\frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(x-\mu)^2}{2\sigma^2}}$,$-\infty<x<+\infty$,记作 $X\sim N(\mu,\sigma^2)$
- 期望 $E(X)=\mu$,方差 $D(X)=\sigma^2$
- 密度图像关于 $x=\mu$ 对称
标准正态分布
- 当 $\mu=0,\sigma=1$ 时称标准正态分布,记作 $X\sim N(0,1)$,密度记为 $\varphi(x)$,分布函数记为 $\Phi(x)$
- 性质:$\varphi(-x)=\varphi(x)$,$\Phi(0)=\frac{1}{2}$,$\Phi(-x)=1-\Phi(x)$
- 若 $X\sim N(0,1)$,则 $P\{|X|\le a\}=2\Phi(a)-1$
上 $\alpha$ 分位点
- 设 $X\sim N(0,1)$,对给定 $\alpha$($0<\alpha<1$),若 $u_\alpha$ 满足 $P\{X>u_\alpha\}=\alpha$,则称 $u_\alpha$ 为标准正态分布的上 $\alpha$ 分位点
标准化
- 若 $X\sim N(\mu,\sigma^2)$,则 $Z=\frac{X-\mu}{\sigma}\sim N(0,1)$
一维随机变量函数的分布
一维离散型随机变量函数的分布
- 设 $P\{X=x_k\}=p_k$,$k=1,2,\cdots$,$Y=g(X)$ 取值为 $g(x_k)$ 的概率 $P\{Y=g(x_k)\}=p_k$
- 若 $g(x)$ 出现相同的函数值,则将其相应概率之和作为 $Y$ 取该值的概率
一维连续型随机变量函数的分布
- 求 $Y=g(X)$ 的概率分布一般用分布函数法
- 先求分布函数 $F_Y(y)=P\{Y\le y\}=P\{g(X)\le y\}$,再对 $y$ 求导得密度 $f_Y(y)=F_Y'(y)$
- 讨论 $y$ 的范围:将 $f_X(x)$ 的分段点代入 $g(x)$,并求 $g(x)$ 在 $f_X(x)>0$ 区间上的最值,用这些点将数轴分段
- 结论:若 $X$ 的分布函数 $F(x)$ 单调增加,则 $Y=F(X)$ 服从 $[0,1]$ 上的均匀分布
题型一 分布函数的概念与性质
方法要点
- 已知分布函数求某事件概率,用分布函数的概率公式
- 求分布函数中的未知参数,用性质②或④
- 判定函数是否为分布函数,逐一验证四条性质
- 设 $F_1,F_2$ 均为分布函数,若 $a\ge 0,b\ge 0$ 且 $a+b=1$,则 $aF_1+bF_2$ 一定为分布函数
精选例题
- 例2.2 $F=aF_1+bF_2$ 为分布函数需 $a+b=1$
- 例2.3 $F(x)$ 为分布函数,则 $F(x-1)$ 也一定为分布函数
题型二 一维离散型随机变量及其分布
方法要点
- 计算分布律三部曲:定取值、算概率、验证 1
- 分布律中未知参数可用 $\sum p_k=1$ 解决
- 二项分布背景:$n$ 次独立重复试验成功的次数,先找参数 $n$ 和 $p$
- 泊松分布的关键是熟记分布律与数字特征,由条件确定参数 $\lambda$
- 几何分布背景:直到成功为止的试验次数,确定参数 $p$
- 泊松定理本质:用泊松分布近似代替二项分布,$\lambda\approx np$
精选例题
- 例2.5 由 $\sum p_k=1$ 求分布律中的参数
- 例2.7 对 $X$ 进行 $n$ 次独立重复观测,观测值不大于 0.1 的次数服从二项分布
- 例2.9 有放回抽取直到出现 2 白 2 黑,抽取次数 $X$ 的分布
- 例2.10 首次成功所需试验次数(几何分布)取偶数的概率
题型三 一维连续型随机变量及其分布
方法要点
- 已知密度函数求分布函数:$F(x)=\int_{-\infty}^{x}f(t)\,dt$
- 密度函数中未知参数可用规范性 $\int_{-\infty}^{+\infty}f(x)\,dx=1$ 求解
- 判定函数是否为密度函数,验证性质①②
- 已知密度函数求事件概率,用性质③
- 求密度函数通常先求分布函数,再用 $F'(x)=f(x)$
- 正态分布解题步骤:标准化、利用对称性、查表计算
精选例题
- 例2.11 由规范性确定密度中的常数
- 例2.15 $f_1F_2+f_2F_1$ 必为概率密度
- 例2.17 指数分布与二项分布结合求参数
- 例2.19 $P\{|X-\mu|<\sigma\}$ 与 $\sigma$ 的大小无关
- 例2.22 电源电压正态分布与全概率公式综合
- 例2.23 正态分布、二项分布与泊松近似综合
题型四 一维随机变量函数的分布
方法要点
- 分布函数法:先求 $F_Y(y)=P\{g(X)\le y\}$,再对 $y$ 求导得 $f_Y(y)=F_Y'(y)$
精选例题
- 例2.24 $Y=F(X)$ 的分布函数
- 例2.25 由 $X$ 的密度求 $Y$ 的密度函数
- 例2.27 $Y=\min\{X,2\}$ 的分布函数
- 例2.28 分段密度函数求 $Y$ 的分布函数及概率
- 例2.29 区间随机取点,求较短段长度与比值的概率密度
题型五 计算随机变量的分布
方法要点
- 计算复杂事件概率的两个重要思维:逆事件思维与全概率思维;离散型与连续型混合时,将离散取值看成完全事件组用全概率公式
精选例题
- 例2.30 绝对值不大于 1 且子区间条件概率与长度成正比,求分布函数
- 例2.31 混合分布:$Y\mid X=i$ 服从均匀分布,用全概率公式求 $Y$ 的分布函数
- 例2.32 泊松过程相邻两次故障时间间隔 $T$ 服从指数分布,并求条件概率
第三章 多维随机变量及其分布
基础知识
一 二维随机变量的概念
- 设 $X=X(e)$,$Y=Y(e)$ 是定义在样本空间 $\Omega=\{e\}$ 上的两个随机变量,则称向量 $(X,Y)$ 为二维随机变量
二 二维随机变量的分布函数及其性质
(一)分布函数定义
- $F(x,y)=P\{X\le x,Y\le y\}$ 称为 $(X,Y)$ 的分布函数,或称 $X$ 和 $Y$ 的联合分布函数
(二)分布函数的性质
- 非负性:对任意实数 $x,y$ 有 $0\le F(x,y)\le 1$
- 规范性:$F(-\infty,y)=F(x,-\infty)=F(-\infty,-\infty)=0$,$F(+\infty,+\infty)=1$
- 单调不减性:$F(x,y)$ 分别关于 $x$ 和 $y$ 单调不减
- 右连续性:$F(x,y)$ 分别关于 $x$ 和 $y$ 右连续,即 $F(x,y)=F(x+0,y)=F(x,y+0)$
三 二维随机变量的边缘分布函数
- $F_X(x)=F(x,+\infty)$,$F_Y(y)=F(+\infty,y)$ 分别为 $(X,Y)$ 关于 $X$ 和关于 $Y$ 的边缘分布函数
四 随机变量 X 和 Y 的独立性
- 定义:若对所有的 $x,y$ 有 $F(x,y)=F_X(x)F_Y(y)$,则称 $X$ 和 $Y$ 相互独立
- 已知 $(X,Y)$ 的分布函数时,先求两个边缘分布函数,再验证乘积关系是否成立
- 分布函数未知时,通常判定不独立:找到一对 $x_0,y_0$ 使 $P\{X\le x_0,Y\le y_0\}\ne P\{X\le x_0\}P\{Y\le y_0\}$
- 若 $X,Y$ 相互独立,则 $f(X)$ 与 $g(Y)$ 也相互独立,其中 $f,g$ 均为连续函数
五 二维离散型随机变量及其概率分布
(一)定义
- 若 $(X,Y)$ 的可能取值为有限对或可列无穷多对实数,则称 $(X,Y)$ 为二维离散型随机变量
(二)分布律
- $P\{X=x_i,Y=y_j\}=p_{ij}$($i,j=1,2,\cdots$),通常用表格形式表示
(三)边缘分布律
- $P\{X=x_i\}=\sum_j p_{ij}=p_{i\cdot}$,$P\{Y=y_j\}=\sum_i p_{ij}=p_{\cdot j}$
(四)条件分布律
- 在 $Y=y_j$ 的条件下 $X$ 的条件分布律为 $P\{X=x_i\mid Y=y_j\}=\dfrac{p_{ij}}{p_{\cdot j}}$
- 在 $X=x_i$ 的条件下 $Y$ 的条件分布律为 $P\{Y=y_j\mid X=x_i\}=\dfrac{p_{ij}}{p_{i\cdot}}$
- 已知一个边缘分布律和一个条件分布律,相乘即得联合分布律
(五)两个离散型随机变量的独立性
- 若对任意 $i,j$ 有 $P\{X=x_i,Y=y_j\}=P\{X=x_i\}P\{Y=y_j\}$,则称 $X$ 和 $Y$ 相互独立
(六)两个离散型随机变量函数的分布
- $Z=g(X,Y)$ 的分布律为 $P\{Z=z\}=P\{g(X,Y)=z\}=\sum\limits_{g(x_i,y_j)=z}P\{X=x_i,Y=y_j\}$
六 二维连续型随机变量及其分布
(一)定义
- 若存在非负可积函数 $f(x,y)$ 使 $F(x,y)=\int_{-\infty}^{x}\int_{-\infty}^{y}f(u,v)\,du\,dv$,则称 $f(x,y)$ 为 $(X,Y)$ 的联合概率密度
(二)概率密度函数的性质
- 非负性:$f(x,y)\ge 0$
- 规范性:$\int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}f(x,y)\,dx\,dy=1$
- 区域内概率:$P\{(X,Y)\in D\}=\iint_D f(x,y)\,dx\,dy$
- 与分布函数关系:$\dfrac{\partial^2 F(x,y)}{\partial x\,\partial y}=f(x,y)$
(三)边缘密度函数
- $f_X(x)=\int_{-\infty}^{+\infty}f(x,y)\,dy$,$f_Y(y)=\int_{-\infty}^{+\infty}f(x,y)\,dx$
(四)条件密度函数
- $f_{X\mid Y}(x\mid y)=\dfrac{f(x,y)}{f_Y(y)}$ 为在 $Y=y$ 的条件下 $X$ 的条件密度函数
- $f_{Y\mid X}(y\mid x)=\dfrac{f(x,y)}{f_X(x)}$ 为在 $X=x$ 的条件下 $Y$ 的条件密度函数
(五)两个连续型随机变量的独立性
- 若对任意实数 $x,y$ 均有 $f(x,y)=f_X(x)f_Y(y)$,则称 $X$ 与 $Y$ 相互独立
七 两个常见的二维连续型分布
(一)二维均匀分布
定义
- 设区域 $G$ 的面积为 $|G|$,若 $f(x,y)=\dfrac{1}{|G|}$($(x,y)\in G$),则称 $(X,Y)$ 服从区域 $G$ 上的二维均匀分布
性质
- 在矩形区域 $D=\{(x,y)\mid a\le x\le b,c\le y\le d\}$ 上服从二维均匀分布,则 $X$ 和 $Y$ 相互独立,且分别服从一维均匀分布
(二)二维正态分布
定义
- $(X,Y)\sim N(\mu_1,\mu_2;\sigma_1^2,\sigma_2^2;\rho)$,其中 $\sigma_1>0$,$\sigma_2>0$,$-1<\rho<1$
性质
- $X$ 和 $Y$ 分别服从一维正态分布,即 $X\sim N(\mu_1,\sigma_1^2)$,$Y\sim N(\mu_2,\sigma_2^2)$
- $X$ 和 $Y$ 不相关(或 $\rho=0$)与 $X$ 和 $Y$ 相互独立等价
- $X$ 与 $Y$ 的非零线性组合仍服从一维正态分布,即 $k_1X+k_2Y\sim N(\mu,\sigma^2)$
- $X$ 与 $Y$ 的非零线性组合 $(X_1,Y_1)$ 仍服从二维正态分布
八 两个连续型随机变量函数的分布
(一)分布函数法
- $F_Z(z)=P\{Z\le z\}=P\{g(X,Y)\le z\}=\iint\limits_{g(x,y)\le z}f(x,y)\,dx\,dy$,$f_Z(z)=F_Z'(z)$
(二)卷积公式
- 和的卷积公式:$f_Z(z)=\int_{-\infty}^{+\infty}f(x,z-x)\,dx$,独立时为 $f_Z(z)=\int_{-\infty}^{+\infty}f_X(x)f_Y(z-x)\,dx$
- 一般线性组合:$Z=aX+bY$($a\ne 0,b\ne 0$)的密度为 $f_Z(z)=\dfrac{1}{|b|}\int_{-\infty}^{+\infty}f\left(x,\dfrac{z-ax}{b}\right)dx$
- 乘积(商):$Z=XY$(或 $Z=\dfrac{X}{Y}$)的密度由 $F_Z$ 求导得到
(三)最大、最小分布
- $M=\max\{X,Y\}$:$F_M(z)=F_X(z)F_Y(z)$
- $N=\min\{X,Y\}$:$F_N(z)=1-[1-F_X(z)][1-F_Y(z)]$
- 可推广到 $n$ 个相互独立随机变量,同分布时 $F_M(z)=[F(z)]^n$,$F_N(z)=1-[1-F(z)]^n$
九 一个离散型与一个连续型随机变量函数的分布
- 设 $X$ 的分布律为 $P\{X=x_i\}=p_i$,$Y$ 的概率密度为 $f_Y(y)$,则 $F_Z(z)=\sum\limits_i P\{X=x_i\}P\{g(x_i,Y)\le z\}$,用全概率公式计算
【题型一 二维离散型随机变量及其分布】
基础知识回顾
- 二维随机变量的概念:称向量 $(X,Y)$ 为二维随机变量
- 分布函数 $F(x,y)=P\{X\le x,Y\le y\}$ 及其性质(非负性、规范性、单调不减性、右连续性)
- 边缘分布函数、独立性判定、二维离散型随机变量的定义与分布律、边缘分布律、条件分布律、函数分布
考点及方法小结
- 计算 $(X,Y)$ 的分布律:已知边缘分布律与条件分布律时相乘;应用问题按“定取值、算概率、验证 1”进行
- 已知 $(X,Y)$ 的分布律:计算事件概率、$X$ 和 $Y$ 的边缘分布律、条件分布律
- 判定独立性:$P\{X=x_i,Y=y_j\}=P\{X=x_i\}P\{Y=y_j\}$ 对任意 $i,j$ 成立则独立,否则不独立
- 计算函数 $Z=g(X,Y)$ 的分布:$P\{Z=z\}=\sum\limits_{g(x_i,y_j)=z}P\{X=x_i,Y=y_j\}$
精选例题
- 例3.1 X 在 1,2,3 中等可能取值,Y 在 1 与 X 之间等可能取整数值,求 $(X,Y)$ 分布、$Y$ 的分布、独立性及 $Z=XY$ 的分布
- 例3.2 设 $X,Y$ 相互独立且均服从 $B\left(0,\dfrac12\right)$,求 $P\{X\le 2Y\}$
- 例3.3 设 $X,Y$ 相互独立同分布,$P\{X=k\}=pq^{k-1}$($k=1,2,\cdots$),求 $P\{X=Y\}$
- 例3.4 已知 $X,Y$ 的概率分布,求 $(X,Y)$ 的联合分布及 $Z=XY$ 的分布
- 例3.5 设 $A,B$ 为随机事件,$X,Y$ 为示性变量,求联合分布及 $Z=X^2+Y^2$ 的分布
- 例3.6 有放回地从袋中取球两次,求联合分布及在 $X=1$ 条件下 $Y$ 的条件分布律
- 例3.7 从箱中随机取出两个球,求联合分布及红球与白球个数相同的概率
- 例3.8 射击进行到第二次击中目标为止,求 $(X,Y)$ 的分布律
【题型二 二维连续型随机变量及其分布】
基础知识回顾
- 二维连续型随机变量的定义与联合概率密度
- 概率密度函数的性质(非负性、规范性、区域内概率、与分布函数关系)
- 边缘密度函数、条件密度函数、独立性判定
- 两个常见的二维连续型分布:二维均匀分布与二维正态分布
考点及方法小结
- 由分布函数求概率密度:$f(x,y)=\dfrac{\partial^2 F(x,y)}{\partial x\,\partial y}$
- 利用概率密度性质求常数、求区域上的概率
- 由联合密度求边缘密度、条件密度,并判定独立性
- 区域 $G$ 上二维均匀分布:$f(x,y)=\dfrac{1}{|G|}$($(x,y)\in G$)
- 二维正态分布性质:边缘正态、不相关与独立等价、线性组合仍正态
精选例题
- 例3.9 已知分布函数 $F(x,y)=A\left(B+\arctan\dfrac{x}{2}\right)\left(C+\arctan\dfrac{y}{3}\right)$,求系数、概率密度、边缘及独立性
- 例3.10 已知含参数 $k$ 的联合密度,求 $k$、判断 $X$ 与 $Y$ 是否独立、计算条件概率
- 例3.11 三角形区域 $G$ 上服从二维均匀分布,求 $X$ 的概率密度与条件概率密度
- 例3.12 已知联合概率密度,求常数 $A$ 及条件概率密度
- 例3.13 已知条件概率密度,求联合概率密度、边缘密度及概率
- 例3.14 设 $X\sim E(1)$,$Y\sim E(4)$ 且相互独立,求联合密度与 $P\{X<Y\}$
- 例3.15 设 $X,Y$ 独立且均服从 $(0,1)$ 上的均匀分布,求 $P\{X^2+Y^2\le 1\}$
- 例3.16 设 $(X,Y)\sim N(1,0;1,1;0)$,求 $P\{XY-Y<0\}$
- 例3.17 设 $(X,Y)\sim N\left(0,0;1,4;-\dfrac12\right)$,找出服从标准正态分布且与 $X$ 独立的随机变量
【题型三 两个连续型随机变量函数的分布】
基础知识回顾
- 分布函数法:$F_Z(z)=\iint\limits_{g(x,y)\le z}f(x,y)\,dx\,dy$,求导得 $f_Z(z)$
- 卷积公式:和的卷积、一般线性组合、乘积(商)的密度公式
- 最大、最小分布:$F_{\max}(z)=F_X(z)F_Y(z)$,$F_{\min}(z)=1-[1-F_X(z)][1-F_Y(z)]$
考点及方法小结
- 讨论 $z$ 的范围:将区域顶点坐标代入 $z=g(x,y)$,并结合区域内 $g(x,y)$ 的最大、最小值分段
- 独立正态分布的线性组合仍是正态分布,可先求期望与方差再写出密度
- 解题常用分布函数法与卷积公式两种方法
精选例题
- 例3.18 设 $X,Y$ 相互独立且均服从 $N(\mu,\sigma^2)$,判断 $P\{|X-Y|\le\sigma\}$ 与参数的关系
- 例3.19 设 $X,Y$ 相互独立且密度已知,求 $Z=2X+Y$ 的概率密度
- 例3.20 已知联合密度,求 $P\{X>2\}$ 与 $Z=X+Y$ 的概率密度
- 例3.21 设 $X\sim N(\mu,\sigma^2)$,$Y$ 服从 $[-\pi,\pi]$ 上均匀分布且独立,求 $Z=X+Y$ 的密度(用 $\Phi(x)$ 表示)
- 例3.22 已知联合密度,求参数 $A$ 与 $Z=XY$ 的概率密度
- 例3.23 设 $(X,Y)$ 在正方形区域上服从均匀分布,求 $U=|X-Y|$ 的概率密度
- 例3.24 求 $M=\max\{X,Y\}$ 与 $N=\min\{X,Y\}$ 的概率密度
- 例3.25 三个独立元件寿命服从指数分布,求电路正常工作时间 $T=\min(X_1,X_2,X_3)$ 的分布
【题型四 一个离散型与一个连续型随机变量函数的分布】
基础知识回顾
- 设 $X$ 的分布律为 $P\{X=x_i\}=p_i$,$Y$ 的概率密度为 $f_Y(y)$,求 $Z=g(X,Y)$ 的分布
- 用分布函数法:将离散型随机变量的所有可能取值当成完全事件组,用全概率公式求 $P\{g(X,Y)\le z\}$
考点及方法小结
- 讨论 $z$ 的范围:将离散型随机变量取值点与连续型随机变量密度分段点组合,代入 $z=g(x,y)$ 后分段
精选例题
- 例3.26 设 $X$ 服从二项分布、$Y$ 密度已知且相互独立,求 $P\{X+Y\le\cdots\}$ 的值
- 例3.27 求 $Z=X+Y$ 的分布函数与概率密度
- 例3.28 设 $(X,Y)$ 在区域 $D$ 上服从均匀分布,写出概率密度、判断独立性、求 $Z=U+X$ 的分布函数
- 例3.29 设 $X\sim U(0,2)$,$Y=[X]+X$($[\ \cdot\ ]$ 为取整函数),求 $Y$ 的概率密度
第四章 数字特征
一、离散型随机变量的数学期望
(一)定义
- 设离散型随机变量 $X$ 的分布律为 $P\{X=x_i\}=p_i$,$i=1,2,\cdots$
- 若级数 $\sum_{i} x_i p_i$ 绝对收敛,则称其为 $X$ 的数学期望,记作 $E(X)=\sum_{i} x_i p_i$
- 若级数发散,则 $X$ 的数学期望不存在
- 期望也叫均值,本质是取值乘以其概率后的加权平均值
(二)离散型随机变量函数(含二维)的数学期望
- 设 $Y=g(X)$,$g(x)$ 为连续实函数;若 $\sum_{i} g(x_i)p_i$ 绝对收敛,则 $E(Y)=E[g(X)]=\sum_{i} g(x_i)p_i$
- 设 $Z=g(X,Y)$,分布律为 $P\{X=x_i,Y=y_j\}=p_{ij}$;若 $\sum_{i}\sum_{j} g(x_i,y_j)p_{ij}$ 绝对收敛,则 $E(Z)=\sum_{i}\sum_{j} g(x_i,y_j)p_{ij}$
- 离散型可先求随机变量函数的分布,再计算其期望
二、连续型随机变量的数学期望
(一)定义
- 设连续型随机变量 $X$ 的概率密度为 $f(x)$
- 若积分 $\int_{-\infty}^{+\infty} x f(x)\,\mathrm{d}x$ 绝对收敛,则 $E(X)=\int_{-\infty}^{+\infty} x f(x)\,\mathrm{d}x$
- 若积分不绝对收敛,则 $X$ 的数学期望不存在
(二)连续型随机变量函数(含二维)的数学期望
- 设 $Y=g(X)$;若 $\int_{-\infty}^{+\infty} g(x)f(x)\,\mathrm{d}x$ 绝对收敛,则 $E(Y)=\int_{-\infty}^{+\infty} g(x)f(x)\,\mathrm{d}x$
- 设 $Z=g(X,Y)$,联合概率密度为 $f(x,y)$;若积分绝对收敛,则 $E(Z)=\int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty} g(x,y)f(x,y)\,\mathrm{d}x\,\mathrm{d}y$
- 求连续型随机变量函数的期望时直接代公式,不必先求 $Y$ 的分布
三、随机变量数学期望的性质
- $E(C)=C$,其中 $C$ 为常数
- $E(CX)=CE(X)$,其中 $C$ 为常数
- $E(k_1X\pm k_2Y)=k_1E(X)\pm k_2E(Y)$
- $X$ 与 $Y$ 相互独立时 $E(XY)=E(X)E(Y)$
- 计算期望时先考虑用性质化简,不能化简再用公式计算
- $E(XY)=E(X)E(Y)$ 是 $X,Y$ 相互独立的必要而非充分条件;若 $E(XY)\neq E(X)E(Y)$,则 $X,Y$ 一定不独立
四、随机变量的方差
(一)方差的定义
- 若 $E\{[X-E(X)]^2\}$ 存在,则称之为 $X$ 的方差,记作 $D(X)=E\{[X-E(X)]^2\}$
- 称 $\sqrt{D(X)}$ 为标准差或均方差
(二)方差的计算公式
- 离散型:$D(X)=\sum_{i}[x_i-E(X)]^2 p_i$
- 连续型:$D(X)=\int_{-\infty}^{+\infty}[x-E(X)]^2 f(x)\,\mathrm{d}x$
- $D(X)=E(X^2)-[E(X)]^2$
- 已知 $E(X),D(X)$ 求 $E(X^2)$:$E(X^2)=D(X)+[E(X)]^2$
(三)方差的性质
- $D(C)=0$,其中 $C$ 为常数
- $D(CX)=C^2D(X)$,其中 $C$ 为常数
- $D(X+C)=D(X)$,其中 $C$ 为常数
- $X$ 与 $Y$ 相互独立时 $D(X\pm Y)=D(X)+D(Y)$
- 有限个相互独立随机变量和(差)的方差等于方差的和
常见分布的期望与方差
- 二项分布 $X\sim B(n,p)$:$E(X)=np$,$D(X)=np(1-p)$
- 0-1分布 $X\sim B(1,p)$:$E(X)=p$,$D(X)=p(1-p)$
- 泊松分布 $X\sim P(\lambda)$:$E(X)=\lambda$,$D(X)=\lambda$
- 几何分布 $X\sim G(p)$:$E(X)=\frac{1}{p}$,$D(X)=\frac{1-p}{p^2}$
- 均匀分布 $X\sim U(a,b)$:$E(X)=\frac{a+b}{2}$,$D(X)=\frac{(b-a)^2}{12}$
- 指数分布 $X\sim E(\lambda)$:$E(X)=\frac{1}{\lambda}$,$D(X)=\frac{1}{\lambda^2}$
- 正态分布 $X\sim N(\mu,\sigma^2)$:$E(X)=\mu$,$D(X)=\sigma^2$
五、随机变量的矩
- $k$ 阶原点矩:若 $E(X^k)$($k=1,2,\cdots$)存在,则称 $E(X^k)$ 为 $X$ 的 $k$ 阶原点矩,$E(X)$ 即一阶原点矩
- $k$ 阶中心矩:若 $E\{[X-E(X)]^k\}$($k=2,3,\cdots$)存在,则称其为 $X$ 的 $k$ 阶中心矩,$D(X)$ 即二阶中心矩
- $k+l$ 阶混合中心矩:若 $E\{[X-E(X)]^k[Y-E(Y)]^l\}$($k,l=1,2,\cdots$)存在,则称其为 $X$ 与 $Y$ 的 $k+l$ 阶混合中心矩
六、协方差
(一)协方差的定义
- 若 $E\{[X-E(X)][Y-E(Y)]\}$ 存在,则称其为 $X$ 与 $Y$ 的协方差
- $\mathrm{Cov}(X,Y)=E\{[X-E(X)][Y-E(Y)]\}$
(二)协方差的计算公式
- $\mathrm{Cov}(X,Y)=E(XY)-E(X)E(Y)$
(三)协方差的性质
- $\mathrm{Cov}(X,Y)=\mathrm{Cov}(Y,X)$
- $\mathrm{Cov}(X,X)=D(X)$
- $\mathrm{Cov}(C,X)=0$,其中 $C$ 为常数
- $\mathrm{Cov}(aX,bY)=ab\,\mathrm{Cov}(X,Y)$,其中 $a,b$ 为常数
- $\mathrm{Cov}(k_1X_1\pm k_2X_2,Y)=k_1\mathrm{Cov}(X_1,Y)\pm k_2\mathrm{Cov}(X_2,Y)$
- $D(X\pm Y)=D(X)+D(Y)\pm 2\mathrm{Cov}(X,Y)$
- $X$ 与 $Y$ 相互独立时 $\mathrm{Cov}(X,Y)=0$
七、相关系数
(一)相关系数的定义
- 设 $D(X)\neq 0$、$D(Y)\neq 0$,则称 $\rho_{XY}=\frac{\mathrm{Cov}(X,Y)}{\sqrt{D(X)}\sqrt{D(Y)}}$ 为 $X$ 与 $Y$ 的相关系数
- 已知 $\rho_{XY}$ 求协方差:$\mathrm{Cov}(X,Y)=\rho_{XY}\sqrt{D(X)}\sqrt{D(Y)}$
(二)相关系数的性质
- $|\rho_{XY}|\leq 1$
- $|\rho_{XY}|=1$ 的充要条件是存在常数 $a,b$($a\neq 0$),使 $P\{Y=aX+b\}=1$
- $a>0$ 时 $\rho_{XY}=1$;$a<0$ 时 $\rho_{XY}=-1$
- $\rho_{XY}$ 描述 $X$ 与 $Y$ 线性关系的紧密程度
(三)随机变量 $X$ 和 $Y$ 不相关
定义
- 当 $\rho_{XY}=0$ 时,称 $X$ 和 $Y$ 不相关
不相关的等价说法
- $\rho_{XY}=0\Leftrightarrow \mathrm{Cov}(X,Y)=0$
- $\Leftrightarrow E(XY)=E(X)E(Y)$
- $\Leftrightarrow D(X\pm Y)=D(X)+D(Y)$
与相互独立的关系
- 若 $X$ 与 $Y$ 相互独立,则 $X$ 与 $Y$ 不相关,但不相关不一定相互独立
- 若 $(X,Y)$ 服从二维正态分布,则 $X$ 与 $Y$ 不相关与相互独立等价
题型一 计算随机变量的期望与方差
基础知识回顾
- 离散型与连续型期望公式,以及随机变量函数的期望公式
- 期望性质:$E(C)=C$、$E(CX)=CE(X)$、$E(k_1X\pm k_2Y)=k_1E(X)\pm k_2E(Y)$、独立时 $E(XY)=E(X)E(Y)$
- 方差:$D(X)=E(X^2)-[E(X)]^2$、$D(CX)=C^2D(X)$、$D(X+C)=D(X)$、独立时 $D(X\pm Y)=D(X)+D(Y)$
- 常见分布 $B(n,p)$、$P(\lambda)$、$G(p)$、$U(a,b)$、$E(\lambda)$、$N(\mu,\sigma^2)$ 的期望与方差
考点及方法小结
- 已知 $E(X),D(X)$ 求 $E(X^2)$:$E(X^2)=D(X)+[E(X)]^2$
- 利用指数分布与正态分布的结论计算复杂积分
- 将积分凑成常见分布的密度函数求值
- $X,Y$ 相互独立时 $E(XY)=E(X)E(Y)$、$D(X\pm Y)=D(X)+D(Y)$,反之不一定
精选例题
- 由常见分布的数字特征反求参数(例4.1、4.2、4.4、4.5)
- 常见分布与随机变量函数期望的积分计算(例4.6、4.7、4.8)
- 分布函数为两分布函数线性组合时求期望(例4.9、4.17)
- 独立性与 $D(XY)$、正态线性组合(例4.10、4.11、4.12、4.18)
- $F(X)\sim U(0,1)$ 及随机变量函数的期望(例4.14、4.15、4.16)
- 离散型随机变量的数字特征(例4.3、4.19、4.20)
- 最值分布与实际应用优化(例4.13、4.21、4.22、4.23、4.24)
题型二 计算协方差与相关系数
基础知识回顾
- $\mathrm{Cov}(X,Y)=E\{[X-E(X)][Y-E(Y)]\}=E(XY)-E(X)E(Y)$
- 协方差性质:$\mathrm{Cov}(X,X)=D(X)$、$D(X\pm Y)=D(X)+D(Y)\pm 2\mathrm{Cov}(X,Y)$
- $\rho_{XY}=\frac{\mathrm{Cov}(X,Y)}{\sqrt{D(X)}\sqrt{D(Y)}}$,$|\rho_{XY}|\leq 1$
- 当 $\rho_{XY}=0$ 时,$X$ 与 $Y$ 不相关
考点及方法小结
- 求 $\mathrm{Cov}(X,Y)$ 的三种方法:$E(XY)-E(X)E(Y)$、$\frac{D(X+Y)-D(X)-D(Y)}{2}$、$\rho_{XY}\sqrt{D(X)}\sqrt{D(Y)}$
- $X,Y$ 相互独立时 $\mathrm{Cov}(X,Y)=0$、$\rho_{XY}=0$,反之不一定
- $X,Y$ 为线性关系 $Y=aX+b$($a\neq 0$)时 $|\rho_{XY}|=1$,$a>0$ 取 $1$,$a<0$ 取 $-1$
- 先算协方差再算标准差;协方差为 $0$ 时相关系数为 $0$
精选例题
- 协方差的计算与独立同分布(例4.25、4.32)
- 由相关系数反求线性关系(例4.26、4.27、4.28、4.29)
- 联合分布与相关系数(例4.30、4.31)
- 不相关与不独立的辨析(例4.33、4.34)
- 二维正态与二维均匀的综合(例4.35、4.36)
第五章 大数定律和中心极限定理
大纲要求
- 了解切比雪夫不等式
- 了解切比雪夫大数定律、伯努利大数定律和辛钦大数定律(独立同分布随机变量序列的大数定律)
- 了解棣莫弗-拉普拉斯定理(二项分布以正态分布为极限分布)和列维-林德伯格定理(独立同分布随机变量序列的中心极限定理)
本章重点
- 切比雪夫不等式
- 大数定律的条件与结论
- 中心极限定理的条件与结论
基础知识
一、切比雪夫不等式
- 设随机变量 $X$ 具有数学期望 $E(X)=\mu$、方差 $D(X)=\sigma^2$,则对任意 $\varepsilon>0$,有 $P\{|X-E(X)|\ge\varepsilon\}\le\dfrac{D(X)}{\varepsilon^2}$ 或 $P\{|X-E(X)|<\varepsilon\}\ge 1-\dfrac{D(X)}{\varepsilon^2}$
- 本质是在分布未知而 $E(X)$、$D(X)$ 已知时,估计概率 $P\{|X-E(X)|<\varepsilon\}$ 或 $P\{|X-E(X)|\ge\varepsilon\}$ 的范围;两种形式只需熟记其一,另一种由逆事件推得
二、依概率收敛
- 设 $X_1,X_2,\cdots,X_n,\cdots$ 为随机变量序列,$a$ 为常数,若对任意给定的正数 $\varepsilon$ 有 $\lim\limits_{n\to\infty}P\{|X_n-a|<\varepsilon\}=1$,则称序列依概率收敛于 $a$,记为 $X_n\xrightarrow{P}a$
- 与数列收敛类似:$n$ 充分大时 $X_n$ 与 $a$ 的距离任意小的概率为 $1$
- 逆事件形式:$\lim\limits_{n\to\infty}P\{|X_n-a|\ge\varepsilon\}=0$
三、大数定律
(一)切比雪夫大数定律(一般情形)
- 条件:$X_1,X_2,\cdots$ 两两不相关(或两两独立),且方差有公共上界,即存在正数 $M$ 使 $D(X_i)\le M$,$i=1,2,\cdots$
- 结论:对任意给定的正数 $\varepsilon$,有 $\lim\limits_{n\to\infty}P\left\{\left|\dfrac{1}{n}\sum\limits_{i=1}^n X_i-\dfrac{1}{n}\sum\limits_{i=1}^n E(X_i)\right|<\varepsilon\right\}=1$
(二)独立同分布的切比雪夫大数定律
- 条件:$X_1,X_2,\cdots$ 相互独立、服从相同分布,具有数学期望 $E(X_i)=\mu$ 和方差 $D(X_i)=\sigma^2$,$i=1,2,\cdots$
- 结论:对任意给定的正数 $\varepsilon$,$\dfrac{1}{n}\sum\limits_{i=1}^n X_i\xrightarrow{P}\mu$
(三)辛钦大数定律
- 条件:$X_1,X_2,\cdots$ 相互独立、服从相同分布,具有数学期望 $E(X_i)=\mu$,$i=1,2,\cdots$
- 结论:对任意给定的正数 $\varepsilon$,有 $\lim\limits_{n\to\infty}P\left\{\left|\dfrac{1}{n}\sum\limits_{i=1}^n X_i-\mu\right|<\varepsilon\right\}=1$
(四)伯努利大数定律
- 条件:每次试验中事件 $A$ 发生的概率 $P(A)=p$,$n$ 次独立重复试验中事件 $A$ 发生的频率为 $\dfrac{n_A}{n}$
- 结论:对任意正数 $\varepsilon$,有 $\lim\limits_{n\to\infty}P\left\{\left|\dfrac{n_A}{n}-p\right|<\varepsilon\right\}=1$
- 本质:在一定条件下(随机变量序列相互独立、同分布、期望存在),若干随机变量的均值 $\dfrac{1}{n}\sum\limits_{i=1}^n X_i$ 依概率收敛到均值的期望
四、中心极限定理
(一)列维-林德伯格中心极限定理
- 条件:$X_1,X_2,\cdots$ 相互独立、服从相同分布,具有数学期望 $E(X_i)=\mu$ 和方差 $D(X_i)=\sigma^2$,$i=1,2,\cdots$
- 结论:对任意实数 $x$,有 $\lim\limits_{n\to\infty}P\left\{\dfrac{\sum\limits_{i=1}^n X_i-n\mu}{\sqrt{n}\sigma}\le x\right\}=\Phi(x)$
(二)棣莫弗-拉普拉斯中心极限定理
- 条件:$X_n\sim B(n,p)$,$0<p<1$,$n=1,2,\cdots$
- 结论:对任意实数 $x$,有 $\lim\limits_{n\to\infty}P\left\{\dfrac{X_n-np}{\sqrt{np(1-p)}}\le x\right\}=\Phi(x)$
本质与考法
- 列维-林德伯格定理:足够多相互独立同分布且期望、方差存在的随机变量之和近似服从正态分布,标准化后按标准正态分布处理
- 棣莫弗-拉普拉斯定理是列维-林德伯格定理的特殊情形:$B(n,p)$ 可视为 $n$ 个独立同分布 $0$-$1$ 变量之和,$n$ 充分大时二项分布近似正态分布
- 考查方向①考条件(相互独立、同分布、期望与方差均存在);②考结论(足够多随机变量之和近似服从正态分布)
题型一 切比雪夫不等式
基础知识回顾
- 设随机变量 $X$ 具有数学期望 $E(X)$、方差 $D(X)$,则对任意 $\varepsilon>0$ 有 $P\{|X-E(X)|\ge\varepsilon\}\le\dfrac{D(X)}{\varepsilon^2}$ 或 $P\{|X-E(X)|<\varepsilon\}\ge 1-\dfrac{D(X)}{\varepsilon^2}$
精选例题
例5.1
- 题:随机变量 $X$ 和 $Y$ 的数学期望分别为 $-2$ 和 $2$,方差分别为 $1$ 和 $4$,相关系数 $\rho_{XY}=-0.5$,用切比雪夫不等式估计 $P\{|X+Y|<6\}$
- 解:$E(X+Y)=0$,$D(X+Y)=1+4+2\times(-0.5)\times1\times2=3$,故 $P\{|X+Y|<6\}\ge 1-\dfrac{3}{36}=\dfrac{11}{12}$
例5.2
- 题:$X_i\sim B(i,0.2)$,$i=1,2,\cdots,10$,且相互独立,用切比雪夫不等式估计
- 解:$E(X_i)=0.2i$,$D(X_i)=0.16i$,由独立性求和后代入切比雪夫不等式
例5.3
- 题:$X_1,X_2,X_3$ 独立同分布,$4$ 阶矩存在,$\mu_k=E(X_i^k)$,$k=1,2,3,4$,由切比雪夫不等式估计
- 解:利用 $4$ 阶矩计算相应方差,代入切比雪夫不等式
题型二 大数定律
基础知识回顾
- 依概率收敛:若对任意正数 $\varepsilon$ 有 $\lim\limits_{n\to\infty}P\{|X_n-a|<\varepsilon\}=1$,则 $X_n\xrightarrow{P}a$
- 大数定律:切比雪夫大数定律(两两不相关或独立、方差有公共上界)、独立同分布的切比雪夫大数定律、辛钦大数定律、伯努利大数定律,均给出均值(或频率)依概率收敛于其期望(或概率)
- 考法:①考条件(相互独立、服从相同分布、$E(X_i)$ 存在);②考结论(均值 $\dfrac{1}{n}\sum\limits_{i=1}^n X_i$ 依概率收敛到均值的期望)
精选例题
例5.4
- 题:将一个骰子独立重复掷 $n$ 次,各次点数依次为 $X_1,X_2,\cdots,X_n$,则当 $n\to\infty$ 时 $\dfrac{1}{n}\sum\limits_{i=1}^n X_i$ 依概率收敛于
- 解:$X_i$ 相互独立同分布,由辛钦大数定律收敛于 $E(X)=3.5$
题型三 中心极限定理
基础知识回顾
- 列维-林德伯格中心极限定理:$X_1,X_2,\cdots$ 相互独立同分布,$E(X_i)=\mu$,$D(X_i)=\sigma^2$,则 $\lim\limits_{n\to\infty}P\left\{\dfrac{\sum\limits_{i=1}^n X_i-n\mu}{\sqrt{n}\sigma}\le x\right\}=\Phi(x)$
- 棣莫弗-拉普拉斯中心极限定理:$X_n\sim B(n,p)$,则 $\lim\limits_{n\to\infty}P\left\{\dfrac{X_n-np}{\sqrt{np(1-p)}}\le x\right\}=\Phi(x)$
- 考法:①考条件(相互独立、同分布、$E(X_i)$ 与 $D(X_i)$ 均存在);②考结论(足够多随机变量之和近似服从正态分布,标准化后按标准正态分布解决)
精选例题
例5.6
- 题:$X_1,X_2,\cdots$ 是总体 $X$ 的简单随机样本,$E(X)=5$,$D(X)=25$,$\bar X=\dfrac{1}{n}\sum\limits_{i=1}^n X_i$,要使 $P\{\bar X\le 6\}\ge 0.95$(已知 $\Phi(1.64)=0.95$),用中心极限定理求最小样本容量 $n$
- 解:$P\left\{\sum\limits_{i=1}^n X_i\le 6n\right\}=P\left\{\dfrac{\sum X_i-5n}{5\sqrt{n}}\le\dfrac{n}{5\sqrt{n}}\right\}=\Phi\left(\dfrac{\sqrt{n}}{5}\right)\ge 0.95$,即 $\dfrac{\sqrt{n}}{5}\ge 1.64$,解得 $n\ge 67.24$,故 $n$ 至少为 $68$
例5.7
- 题:$X\sim\chi^2(200)$,用中心极限定理求 $P\{X\le 240\}$ 的近似值(结果用标准正态分布函数 $\Phi(x)$ 表示)
- 解:$E(X)=200$,$D(X)=400$,$X$ 近似服从 $N(200,400)$,故 $P\{X\le 240\}\approx\Phi\left(\dfrac{240-200}{20}\right)=\Phi(2)$
例5.8
- 题:索赔户中被盗户占 $20\%$,$X$ 为抽查 $100$ 个索赔户中因被盗索赔的户数:①写出 $X$ 的概率分布;②用棣莫弗-拉普拉斯定理求 $P\{14\le X\le 30\}$ 的近似值
- 解:$X\sim B(100,0.2)$,$P\{X=k\}=C_{100}^k0.2^k0.8^{100-k}$;$E(X)=20$,$D(X)=16$,$X$ 近似服从 $N(20,16)$,故 $P\{14\le X\le 30\}\approx\Phi(2.5)-\Phi(-1.5)=\Phi(2.5)-[1-\Phi(1.5)]=0.927$
第六章 数理统计的基本概念
大纲要求
- 理解总体、简单随机样本、统计量、样本均值、样本方差及样本矩的概念
- 了解 $\chi^2$ 分布、$t$ 分布和 $F$ 分布的概念及性质,了解上侧 $\alpha$ 分位数的概念并会查表计算,了解正态总体的常用抽样分布
本章重点
- 样本均值、样本方差的形式及其数字特征
- $\chi^2$ 分布、$t$ 分布和 $F$ 分布的构成模式
- 正态总体的抽样分布
基础知识
一、总体与样本
(一)总体
- 在数理统计中研究对象的某项数量指标 $X$ 取值的全体称为总体,$X$ 是随机变量,其分布函数和数字特征分别称为总体的分布函数和数字特征
(二)个体
(三)总体容量
- 总体中个体的数量称为总体的容量,容量有限称有限总体,容量无限称无限总体
(四)简单随机样本
- 与总体 $X$ 同分布且 $X_1,X_2,\cdots,X_n$ 相互独立,则称为来自总体 $X$ 的简单随机样本,$n$ 为样本容量,观测值 $x_1,\cdots,x_n$ 为样本值;两层理解:①相互独立且同分布;②抽取 $n$ 个样本相当于对总体做 $n$ 次独立重复观测,可结合二项分布
二、样本的联合分布
(一)联合分布函数
- 设总体 $X$ 的分布函数为 $F(x)$,则 $F(x_1,\cdots,x_n)=\prod\limits_{i=1}^n F(x_i)$
(二)联合概率密度
- 设总体 $X$ 的概率密度为 $f(x)$,则 $f(x_1,\cdots,x_n)=\prod\limits_{i=1}^n f(x_i)$
三、统计量
(一)定义
- 设 $X_1,X_2,\cdots,X_n$ 是来自总体 $X$ 的样本,$g(X_1,X_2,\cdots,X_n)$ 是不含未知参数的 $n$ 元函数,则称随机变量 $T=g(X_1,X_2,\cdots,X_n)$ 为统计量
(二)样本均值
- $\bar X=\dfrac1n\sum\limits_{i=1}^n X_i$ 称为样本均值,其观测值为 $\bar x=\dfrac1n\sum\limits_{i=1}^n x_i$
(三)样本方差
- $S^2=\dfrac{1}{n-1}\sum\limits_{i=1}^n(X_i-\bar X)^2$ 称为样本方差
- $E(S^2)=D(X)=\sigma^2$;计算 $E\left[\sum(X_i-\bar X)^2\right]$ 时凑成样本方差,用 $(n-1)E(S^2)=(n-1)\sigma^2$
(四)样本的 $k$ 阶原点矩与中心矩
- $A_k=\dfrac1n\sum\limits_{i=1}^n X_i^k$ 称为样本的 $k$ 阶原点矩,若 $E(X^k)=\mu_k$ 存在,则 $A_k\xrightarrow{P}\mu_k$,是矩估计的理论依据
- $B_k=\dfrac1n\sum\limits_{i=1}^n(X_i-\bar X)^k$ 称为样本的 $k$ 阶中心矩
(五)顺序统计量
- $X_{(1)}=\min(X_1,\cdots,X_n)$、$X_{(n)}=\max(X_1,\cdots,X_n)$ 分别称为最小、最大顺序统计量;若总体分布函数为 $F(x)$,则 $F_{X_{(n)}}(x)=[F(x)]^n$,$F_{X_{(1)}}(x)=1-[1-F(x)]^n$,据此可求其期望与方差
四、三大分布
(一)$\chi^2$ 分布
典型模式
- $X_1,X_2,\cdots,X_n$ 相互独立且均服从 $N(0,1)$,则 $\sum\limits_{i=1}^n X_i^2\sim\chi^2(n)$;特别地 $X\sim N(0,1)$ 时 $X^2\sim\chi^2(1)$
性质
- 构成 $\chi^2$ 分布需独立标准正态分布平方相加,自由度为标准正态个数;缺少独立条件时得不到 $\chi^2$ 分布
上 $\alpha$ 分位点
- 对任给 $\alpha(0<\alpha<1)$,$\chi^2_\alpha(n)$ 满足 $P\{\chi^2>\chi^2_\alpha(n)\}=\alpha$
数字特征
- 若 $\chi^2\sim\chi^2(n)$,则 $E(\chi^2)=n$,$D(\chi^2)=2n$
(二)$t$ 分布
典型模式
- $X\sim N(0,1)$,$Y\sim\chi^2(n)$ 且相互独立,则 $t=\dfrac{X}{\sqrt{Y/n}}\sim t(n)$(学生氏 $t$ 分布)
性质
- 自由度由 $\chi^2$ 分布自由度确定,$X$ 与 $Y$ 不独立则无法确定 $\dfrac{X}{\sqrt{Y/n}}$ 的分布;$n$ 充分大时 $t(n)$ 近似 $N(0,1)$ 分布
上 $\alpha$ 分位点
- 对任给 $\alpha(0<\alpha<1)$,$t_\alpha(n)$ 满足 $P\{t>t_\alpha(n)\}=\alpha$;因密度为偶函数,$t_{1-\alpha}(n)=-t_\alpha(n)$
(三)$F$ 分布
典型模式
- $X\sim\chi^2(m)$,$Y\sim\chi^2(n)$ 且相互独立,则 $F=\dfrac{X/m}{Y/n}\sim F(m,n)$
性质与关系
- 若 $F\sim F(m,n)$,则 $\dfrac1F\sim F(n,m)$;若 $T\sim t(n)$,则 $T^2\sim F(1,n)$;构成 $F$ 分布需两个独立 $\chi^2$ 分布分别除以自身自由度相比
上 $\alpha$ 分位点
- 对任给 $\alpha(0<\alpha<1)$,$F_\alpha(m,n)$ 满足 $P\{F>F_\alpha(m,n)\}=\alpha$,且有 $F_{1-\alpha}(m,n)=\dfrac{1}{F_\alpha(n,m)}$
五、正态总体抽样分布
(一)一个正态总体的抽样分布
- 设 $X_1,\cdots,X_n$ 来自正态总体 $X\sim N(\mu,\sigma^2)$,$\bar X$ 为样本均值,$S^2$ 为样本方差
- $\bar X\sim N\left(\mu,\dfrac{\sigma^2}{n}\right)$,$U=\dfrac{\bar X-\mu}{\sigma/\sqrt n}\sim N(0,1)$;$\bar X$ 与 $S^2$ 相互独立,且 $\dfrac{(n-1)S^2}{\sigma^2}\sim\chi^2(n-1)$
- $T=\dfrac{\bar X-\mu}{S/\sqrt n}\sim t(n-1)$;由 $\dfrac{(n-1)S^2}{\sigma^2}\sim\chi^2(n-1)$ 得 $D(S^2)=\dfrac{2\sigma^4}{n-1}$
(二)两个正态总体的抽样分布
- 设 $X\sim N(\mu_1,\sigma_1^2)$,$Y\sim N(\mu_2,\sigma_2^2)$ 相互独立,$\bar X,\bar Y,S_1^2,S_2^2$ 为相应样本均值与样本方差,则 $\dfrac{\bar X-\bar Y-(\mu_1-\mu_2)}{\sqrt{\sigma_1^2/n_1+\sigma_2^2/n_2}}\sim N(0,1)$
- 当 $\sigma_1^2=\sigma_2^2=\sigma^2$ 时 $\dfrac{(n_1-1)S_1^2+(n_2-1)S_2^2}{\sigma^2}\sim\chi^2(n_1+n_2-2)$,$T=\dfrac{(\bar X-\bar Y)-(\mu_1-\mu_2)}{S_w\sqrt{1/n_1+1/n_2}}\sim t(n_1+n_2-2)$;又 $F=\dfrac{S_1^2/\sigma_1^2}{S_2^2/\sigma_2^2}\sim F(n_1-1,n_2-1)$
题型一 计算统计量数字特征
基础知识回顾
- 熟记 $E(S^2)=D(X)=\sigma^2$;计算 $E\left[\sum(X_i-\bar X)^2\right]$ 时凑成样本方差用 $(n-1)\sigma^2$
- 从一个正态总体抽样时,$\bar X$ 与 $S^2$ 相互独立,据此化简统计量
- 遇正态分布平方求方差,用 $D[\chi^2(n)]=2n$;计数型统计量常结合二项分布
精选例题
例6.1
- 设总体 $X\sim P(\lambda)$,$X_1,\cdots,X_n$ 为简单随机样本,比较相应统计量的期望与方差,由 $E(X)=D(X)=\lambda$ 计算,选(D)
例6.2
- 设 $X\sim B(m,\theta)$,求 $E\left[\sum\limits_{i=1}^n(X_i-\bar X)^2\right]$:由 $D(X)=m\theta(1-\theta)$ 得 $(n-1)m\theta(1-\theta)$,选(B)
例6.3
- 设总体 $X$ 的概率密度为 $f(x)=\dfrac12 e^{-|x|}$,求 $E(S^2)$:$E(S^2)=D(X)=E(X^2)-[E(X)]^2=2$
例6.8
- 设 $X\sim N(\mu,\sigma^2)$,$\bar X,S^2$ 为样本均值与样本方差,求含 $\bar X^2$ 与 $S^2$ 的统计量 $T$ 的方差:由 $\bar X$ 与 $S^2$ 独立,$D(T)=\{D(\bar X)+[E(\bar X)]^2\}\{D(S^2)+[E(S^2)]^2\}-[E(\bar X)]^2[E(S^2)]^2$
例6.9~6.10
- 例6.9:$X\sim N(\mu,\sigma^2)$,$X_1,\cdots,X_{2n}$ 为样本,$\bar X=\dfrac{1}{2n}\sum\limits_{i=1}^{2n}X_i$,求 $Y=\sum\limits_{i=1}^n(X_i+X_{n+i}-2\bar X)^2$ 的期望,得 $E(Y)=2(n-1)\sigma^2$;例6.10:求 $E(T)$,当 $\mu=0,\sigma=1$ 时求 $D(T)$,用 $D(S^2)=\dfrac{2\sigma^4}{n-1}$ 及独立性
例6.11
- 设总体 $X$ 的概率密度 $f(x,\theta)$($\theta>0$ 未知),$T=\max(X_1,X_2,X_3)$:由 $F(x)$ 求 $T$ 的概率密度,再由 $E(aT)=\theta$ 确定 $a$
例6.12
- 设总体概率分布含参数 $\theta\in(0,1)$,$N_i$ 为样本中等于 $i$ 的个数($i=1,2,3$),$N_i\sim B(n,p_i)$,$T=\sum a_iN_i$:由 $E(T)=\theta$ 及 $N_1+N_2+N_3=n$ 求 $a_i$,再用二项分布求 $D(T)$
题型二 三大分布
基础知识回顾
- 构成 $\chi^2$ 分布需独立标准正态平方相加,自由度为正态个数,缺独立条件得不到 $\chi^2$ 分布
- 构成 $t$ 分布需一个标准正态与一个独立 $\chi^2$ 分布除以自身自由度开方之比
- 构成 $F$ 分布需两个独立 $\chi^2$ 分布分别除以自身自由度相比,缺独立条件得不到 $F$ 分布
精选例题
例6.13
- 设 $X_1,\cdots,X_n$($n\ge2$)来自 $N(\mu,1)$,$\bar X=\dfrac1n\sum X_i$,用三大分布构成模式逐项判断结论,不正确的是(B)
例6.14
- 设 $X_1,\cdots,X_n$ 来自 $N(\mu,\sigma^2)$,$\bar X,S^2$ 为样本均值与样本方差,构造自由度 $n$ 的 $\chi^2$ 变量:$\dfrac{(\bar X-\mu)^2}{\sigma^2/n}\sim\chi^2(1)$ 与 $\dfrac{(n-1)S^2}{\sigma^2}\sim\chi^2(n-1)$ 相加,选(D)
例6.15
- 设 $X_1,X_2,X_3,X_4$ 来自 $N(1,\sigma^2)$,$\dfrac{X_1-X_2}{\sqrt{X_3+X_4-2}}$ 的分布:$\dfrac{(X_1-X_2)^2}{2\sigma^2}\sim\chi^2(1)$,选(B)
例6.16
- 设 $X_1,\cdots,X_n$($n\ge2$)来自 $N(0,\sigma^2)$,$\dfrac{n\bar X^2}{S^2}\sim F(1,n-1)$,参数为 $1,n-1$
例6.17
- 设 $X,Y$ 独立且均服从 $N(0,\sigma^2)$,$X_1,\cdots,X_n$ 与 $Y_1,\cdots,Y_m$ 为样本,统计量服从 $t(m)$ 分布,由 $t$ 分布模式令 $\sqrt{m/n}=2$,选(D)
例6.18
- 设 $X\sim N(0,\sigma^2)$,$X_1,\cdots,X_{10}$ 为样本,$Y=4\dfrac{X_1^2+X_2^2}{X_3^2+\cdots+X_{10}^2}$ 服从 $F$ 分布,由 $\dfrac{i}{10-i}=4$ 解得 $i=2$,选(D)
例6.19
- 设 $X\sim t(n)$,$Y\sim F(1,n)$,$P\{X>c\}=\alpha$($0<\alpha<0.5$),因 $X^2\sim F(1,n)$,$P\{Y>c^2\}=P\{|X|>c\}=2\alpha$,选(C)
例6.20
- 设 $X_1,\cdots,X_n$ 来自 $X\sim N(\mu,\sigma^2)$,应用一个正态总体抽样分布逐项判断,注意 $\bar X$ 与 $S^2$ 独立性的前提,选出正确选项
例6.21
- 设 $X\sim N(\mu_1,\sigma^2)$ 与 $Y\sim N(\mu_2,\sigma^2)$ 独立,$\bar X,\bar Y,S_1^2,S_2^2$ 相互独立,$\dfrac{4n(\bar X-\bar Y)^2}{S_1^2+S_2^2}\sim\chi^2(2n-2)$,逐项判断选项
第七章 参数估计与假设检验
点估计的概念
- 设总体 $X$ 的分布函数 $F(x;\theta)$ 形式已知,$\theta$ 为待估参数
- 构造统计量 $\hat\theta(X_1,X_2,\dots,X_n)$ 用以估计 $\theta$,称 $\hat\theta$ 为估计量
- 代入样本观测值得 $\hat\theta(x_1,x_2,\dots,x_n)$,称为 $\theta$ 的估计值
矩估计法
- 思想:K.Pearson 替换原则,用样本矩替换总体矩
- 样本 $k$ 阶原点矩 $A_k=\frac{1}{n}\sum_{i=1}^n X_i^k$ 依概率收敛于总体 $k$ 阶原点矩 $E(X^k)$
- 令 $A_k=E(X^k)$,$k=1,2,\dots$,从中解出未知参数
- 一个未知参数:令 $\frac{1}{n}\sum_{i=1}^n X_i=E(X)$
- 一阶矩不含参数时改用二阶矩:令 $\frac{1}{n}\sum_{i=1}^n X_i^2=E(X^2)$
- 两个未知参数:建立方程组求解
- 从一阶矩开始建立方程
最大似然估计法
离散型总体
- 概率分布 $P(X=x_i)=p(x_i;\theta)$
- 似然函数 $L(\theta)=\prod_{i=1}^n p(x_i;\theta)$
- 取 $\hat\theta$ 使 $L(\theta)$ 达到最大
连续型总体
- 概率密度 $f(x;\theta)$
- 似然函数 $L(\theta)=\prod_{i=1}^n f(x_i;\theta)$
解题步骤
- 写出似然函数 $L(\theta)$
- 取对数 $\ln L(\theta)$
- 对 $\theta$ 求导得 $\frac{d\ln L(\theta)}{d\theta}$
- 令 $\frac{d\ln L(\theta)}{d\theta}=0$ 求解
- 若唯一解即为最大似然估计;若多个解按题干条件取舍;若无解则常在端点取得
估计量的评选标准
- 无偏性:对任意 $\theta\in\Theta$,有 $E(\hat\theta)=\theta$
- 有效性:$\hat\theta_1,\hat\theta_2$ 均为无偏估计,若 $D(\hat\theta_1)\le D(\hat\theta_2)$ 则 $\hat\theta_1$ 更有效
- 一致性(相合性):当 $n\to\infty$ 时 $\hat\theta$ 依概率收敛于 $\theta$
- 矩估计量一定是相合估计量
置信区间
- 定义:对给定 $\alpha\in(0,1)$,若 $P(\hat\theta_1<\theta<\hat\theta_2)=1-\alpha$,称 $ (\hat\theta_1,\hat\theta_2)$ 为置信水平 $1-\alpha$ 的置信区间
- 一个正态总体均值 $\mu$ 的区间估计
一个正态总体方差 $\sigma^2$ 的区间估计
- $\mu$ 已知时构造 $\frac{\sum_{i=1}^n (X_i-\mu)^2}{\sigma^2}\sim\chi^2(n)$
- $\mu$ 未知时构造 $\frac{(n-1)S^2}{\sigma^2}\sim\chi^2(n-1)$
两个正态总体均值差 $\mu_1-\mu_2$ 的区间估计
- $\sigma_1^2,\sigma_2^2$ 已知
- $\sigma_1^2,\sigma_2^2$ 未知但相等时用 $S_w=\frac{(n_1-1)S_1^2+(n_2-1)S_2^2}{n_1+n_2-2}$
- 两个正态总体方差比 $\sigma_1^2/\sigma_2^2$ 的区间估计(用 $F$ 分布)
- 区间估计核心是构造统计量
- 一个正态总体中 $\mu$ 的置信区间关于样本均值 $\bar X$ 对称
假设检验
- 原假设 $H_0$ 与备择假设 $H_1$
- 原理:实际推断原理,小概率事件在一次试验中几乎不发生
两类错误
- 第一类错误(弃真):$P(\text{拒绝}H_0\mid H_0\text{为真})=\alpha$
- 第二类错误(纳伪):$P(\text{接受}H_0\mid H_0\text{为假})=\beta$
- 显著性检验:控制犯第一类错误的概率不大于 $\alpha$,$\alpha$ 称为显著性水平
- 显著性水平常取 $\alpha=0.1,0.05,0.01,0.001$
- 检验统计量与拒绝域
显著性检验的一般步骤
- 提出原假设 $H_0$ 与备择假设 $H_1$
- 给出显著性水平 $\alpha$ 及样本容量 $n$
- 确定检验统计量及拒绝域形式
- 按犯第一类错误概率等于 $\alpha$ 求出拒绝域
- 由样本值计算统计量观测值,落入拒绝域则拒绝 $H_0$,否则接受 $H_0$
正态总体参数的假设检验
- 单个正态总体均值检验:$\sigma^2$ 已知用 $U$ 检验,$\sigma^2$ 未知用 $t$ 检验
- 单个正态总体方差检验:用 $\chi^2$ 检验
- 两个正态总体均值与方差的假设检验
题型一 矩估计与最大似然估计
考点及方法小结
- 矩估计从一阶矩开始建立方程,一个参数建立一个方程,两个参数建立方程组
- 最大似然估计的核心是构造似然函数
- 离散型总体的似然函数是取到样本值的概率,即每个样本点概率之积
- 连续型总体的似然函数是样本的联合密度函数,即每个边缘密度函数之积
精选例题
- 离散型分布求最大似然估计值
- 含参数密度求矩估计量与最大似然估计量
- 端点型最大似然估计(似然单调时取 $\min$ 或 $\max$)
- 正态总体 $N(\mu,\sigma^2)$ 的最大似然估计量
- 由独立指数分布最小值 $Z=\min(X,Y)$ 求最大似然估计量
- 含已知参数与未知参数的指数族密度求最大似然估计
题型二 估计量的评选标准
- 无偏性的验证:计算 $E(\hat\theta)$ 并与 $\theta$ 比较
- 有效性的比较:比较无偏估计量的方差
- 一致性:可由矩估计的相合性判断
精选例题
- 由 $E(\bar X+kS^2)=np^2$ 求 $k$
- 判断 $\frac{1}{2}\bar X$ 是否为 $\theta$ 的无偏估计量
- 由 $c(X_1+X_2)$ 的无偏性确定常数 $c$
题型三 区间估计
考点及方法小结
- 一个正态总体中 $\mu$ 的置信区间关于样本均值 $\bar X$ 对称
- 已知置信上、下限与样本均值中任意两个可求第三个
- 估计 $\mu$ 时:$\sigma$ 已知构造 $U=\frac{\bar X-\mu}{\sigma/\sqrt n}\sim N(0,1)$,$\sigma$ 未知构造 $t=\frac{\bar X-\mu}{S/\sqrt n}\sim t(n-1)$
精选例题
- 已知样本均值与置信上限求置信区间
- 由正态总体样本求 $\mu$ 的置信区间
- 置信区间长度 $L$ 与置信度 $1-\alpha$ 的关系
题型四 假设检验
考点及方法小结
- 先提出 $H_0$ 与 $H_1$,再选检验统计量并确定拒绝域
- 正态总体均值检验:$\sigma$ 已知用 $U$ 检验,$\sigma$ 未知用 $t$ 检验
- 正态总体方差检验:用 $\chi^2$ 检验
- 两类错误的计算:弃真概率控制为 $\alpha$,纳伪需计算接受域上的概率
精选例题
- 检验水平 $\alpha$ 变化时接受或拒绝 $H_0$ 的变化
- 方差未知时单个正态总体均值的 $t$ 检验
- 求检验统计量 $t=\sqrt{n(n-1)}\frac{\bar X}{\sqrt{\sum(X_i-\bar X)^2}}$
- 由拒绝域 $W=\{\bar X\ge 11\}$ 计算第二类错误概率