第4章 随机变量的数字特征
4.1 随机变量的数学期望
4.1.1 离散型随机变量的数学期望
数学期望:$E(X)=\sum_{k=1}^{+\infty}x_kp_k$
若$\sum_{k=1}^{+\infty}|x_k|p_k$不收敛,则称随机变量X的数学期望不存在。
(级数$\sum_{k=1}^{+\infty}|x_k|p_k$收敛保证了级数的各项任意重排后所得级数的和保持不变)
4.1.2 连续型随机变量的数学期望
数学期望:$E(X)=\int_{-\infty}^{+\infty}xf(x)dx$
若$\int_{-\infty}^{+\infty}|x|f(x)dx$不收敛,则称随机变量X的数学期望不存在。
4.1.3 随机变量函数的数学期望
一维:
设X是随机变量,令$Y=g(X)$。
①. 若X是离散型随机变量,概率分布律为$P\{X=x_k\}=p_k,k=1,2…$,则当$\sum_{k=1}^{+\infty}|g(x_k)p_k|$收敛时,随机变量Y的数学期望$E(Y)$存在,且
②. 若X是连续型随机变量,概率密度函数为$f(x)$,则当$\int_{-\infty}^{+\infty}|g(X)|f(x)dx$收敛时,随机变量Y的数学期望$E(Y)$存在,且
二维:
设$(X,Y)$是二维随机变量,令$Z=g(X,Y)$。
①. 若$(X,Y)$是二维离散型随机变量,联合概率分布律为$P\{X=x_i,Y=y_i\}=p_{ij},i,j=1,2…$,则当$\sum_{i=1}^{+\infty}\sum_{j=1}^{+\infty}|g(x_i,y_i)|p_{ij}$收敛时,随机变量Z的数学期望$E(Z)$存在,且
②. 若$(X,Y)$是二维连续型随机变量,联合概率密度函数为$f(x,y)$,则当$\int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}|g(x,y)|f(x,y)dxdy$收敛时,随机变量Z的数学期望存在,且
4.1.4 数学期望的性质
①. c是常数,则$E(c)=c$
②. a,b是常数,则$E(aX+b)=aE(X)+b$
③. $E(X+Y)=E(X)+E(Y)$
④. 若X,Y相互独立,则$E(XY)=E(X)E(Y)$
$X \sim (n,p)$,则$E(X)=np$,可以根据分解法求得。
4.2 随机变量的方差
4.2.1 方差的概念
方差:$D(X)=E[X-E(X)]^2$
标准差:$σ(X)=\sqrt{D(X)}$
计算:
①. 定义法:
离散型:$D(X)=\sum_{k=1}^{+\infty}[x_k-E(X)]^2p_k$
连续型:$D(X)=\int_{-\infty}^{+\infty}[x-E(X)]^2f(x)dx$
②. 公式法:
$D(X)=E(X^2)-[E(X)]^2$
4.2.2 方差的基本性质
①. $D(c)=0$,但$D(x)=0\nRightarrow X=c$
②. $D(aX+b)=a^2D(X)$
推论:$D(X+b)=D(X)$
③. 若随机变量X与Y独立,则$D(X+Y)=D(X)+D(Y)$
推论1:$X_1,X_2…X_n$相互独立,则$D(\sum_{i=1}^nX_i)=\sum_{i=1}^nD(X_i)$
推论2:若X与Y相互独立,则$D(aX+bY)=a^2D(X)+b^2D(Y)$,$D(X-Y)=D(X)+D(Y)$
④. $D(X)=0$的充要条件是$P\{X=c\}=1$
⑤. $D(X)≤E(X-x)^2$,当$x=E(X)$时,取等号。
标准化变换:
$E(X^\star)=0,D(X^\star)=1$
几种常用分布的数学期望和方差
分布 | 期望 | 方差 |
---|---|---|
两点分布$X \sim B(1,p)$ | $p$ | $p(1-p)$ |
二项分布$X\sim B(n,p)$ | $np$ | $np(1-p)$ |
泊松分布$X\sim P(λ)$ | $λ$ | $λ$ |
几何分布$X\sim g(p)$ | $\frac 1 p$ | $\frac {1-p}{p^2}$ |
均匀分布$X\sim U(a,b)$ | $\frac {a+b} 2$ | $\frac {(b-a)^2} {12}$ |
指数分布$X\sim Exp(λ)$ | $\frac 1 λ$ | $\frac 1 {λ^2}$ |
正态分布$X\sim N(μ,σ^2)$ | $μ$ | $σ^2$ |
4.3 随机变量的协方差和相关系数
4.3.1 协方差
协方差:$Cov(X,Y)=E\{[X-E(X)][Y-E(Y)]\}$
计算:
①. 定义法:
离散型:$Cov(X,Y)=\sum_{i=1}^{+\infty}\sum_{j=1}^{+\infty}(x_i-E(X))(y_i-E(Y))P_{ij}$
连续型:$Cov(X,Y)=\int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}(x-E(X))(y-E(Y))f(x,y)dxdy$
②. 公式法:
$Cov(X,Y)=E(XY)-E(X)E(Y)$
性质:
①. $Cov(X,X)=D(X)$
②. $Cov(X,Y)=Cov(Y,X)$
③. $Cov(X+Y,Z)=Cov(X,Z)+Cov(Y,Z)$
④. $Cov(aX+b,cY+d)=acCov(X,Y)$
⑤. $D(X±Y)=D(X)±2Cov(X,Y)+D(Y)$
4.3.2 相关系数
相关系数:前提$D(X)>0,D(Y)>0$
性质:
①. $|ρ_{X,Y}|≤1$
②. $|ρ_{X,Y}|=1$的充要条件是X与Y以概率1有线性关系,即存在常数$a≠0,b$,使得$P\{Y=aX+b\}=1$
意义:
$ρ=0$:不(线性)相关
$ρ>0$:正(线性)相关
$ρ<0$:负(线性)相关
定理:设$(X,Y)$是二维随机变量,则下列四个命题等价
①. $E(XY)=E(X)E(Y)$
②. $D(X+Y)=D(X)+D(Y)$
③. $Cov(X,Y)=0$
④. X与Y不(线性)相关,即$ρ_{X,Y}=0$
但是对于二维正态随机变量和0-1分布来说,不相关与独立性等价。
4.4 矩与协方差矩阵
4.4.1 随机变量的矩
$X$的k阶原点矩:$E(X^k)$
$X的$k阶中心矩:$E[X-E(X)]^k$
$X$和$Y$的k+l阶混合原点矩:$E(X^kY^k)$
$X$和$Y$的k+l阶混合中心矩:$E\{[X-E(X)]^k[Y-E(Y)]^k\}$
$E(X)$是$X$的一阶原点矩,$D(X)$是$X$的二阶中心矩,$Cov(X,Y)$是$X$和$Y$的二阶混合中心矩。