多元正态分布及参数估计.ppt

2023-9-81第二章多元正态分布及参数第二章多元正态分布及参数的估计的估计 2023-9-8应用统计方法22.1 2.1 随机向量随机向量 本课程讨论多变量总体。把p个随机变量放在一起得 为一个p维随机向量，如果同时对p个变量做一次观测，得观测值：它是一个样品，观测n次得n个样品：而这n个样品就构成一个样本),(21pXXXX,),()1(11211Xxxxdefp),(21)(ipiiixxxX,2,1ni2023-9-8应用统计方法3是一个随机阵。据阵维随机向量，而样本数观测，在观测前是一个次个变量的列表示第的第维随机向量。矩阵是一个测前，它个样品的观测值，在观行表示第的第矩阵记为：矩阵，称为样本数据阵个样品排成一个常把或XnnjjXpiiXXXXXXXxxxxxxxxxXpnpdefndefnpnnpp).,(n21)()2()1(1122221112112023-9-8应用统计方法4 非降的右连续函数；随机向量的联合分布，边缘分布，条件分布随机向量的联合分布，边缘分布，条件分布 一、多元概率分布1、联合分布函数随机向量 的联合概率分布函数定义为),(21 pxxxx121122(,)(,)pppF a aaP xa xaxa 2、分布函数的性质121122(,)(,)pppF a aaP xa xaxa2023-9-8应用统计方法5 分布函数的取值范围为0，1，即 120(,)1pF a aa 分布函数当变量取值为无穷大时，函数值收敛到1，即(,)1F 2023-9-8应用统计方法6 二、两个常用的离散多元分布 1、多项分布有如下分布若),(21 mxxxxmkmkmmmppkkknkxkxkxP11212211!),(，其中10 ipmi,2,1 nkkkm 21121 mppp 则称 服从多项分布。),(21 mxxxx2023-9-8应用统计方法7 2、多元超几何分布有如下分布若),(21 mxxxx nNkNkNkxkxkxPmmmm112211),(),min(,1,0iiNnk 则 服从多元超几何。mi,2,1 nkkkm 21NNNNm 21),(21 mxxxx2023-9-8应用统计方法8 三、联合概率密度 1、定义随机向量 的联合分布函数可以表示为),(21 pxxxx),(),(221121pppaxaxaxPaaaF ppaadxdxxxxfp121),(1 则称 为连续型随机向量。称为的联合概率密度函数。),(21pxxxf),(21 pxxxx2023-9-8应用统计方法9若 在点 连续，则),(21pxxxf),(21pxxx),(),(212121ppppxxxFxxxxxxf 0),(121 pxxxF且有1),(1211 ppdxdxxxxf2023-9-8应用统计方法10 四、边缘分布 设有连续随机向量),(21 pxxxx不妨设 是 的q个分量组成。则 的分布为),(21)1(qxxxx),(21pxxxx),(21)1(qxxxx),(),(221121)1(qqqaxaxaxPaaaF),(12211pqqqxxaxaxaxPppaadxdxxxxfq121),(12023-9-8应用统计方法11qpqpaadxdxdxdxxxxfq1121),(1所以 的边际密度为),(21)1(qxxxxpqpqdxdxxxxfxxf1211)1(),(),(例 随机向量 有联合概率密度函数),(21xxx)sinsin1(21),(212212221xxexxfxx 试分别求 的边际密度。21,xx22111),()(dxxxfxf2023-9-8应用统计方法12221211)sinsin1(21)(2221dxxxexfxx2212211)sinsin1(2121)(2221dxxxeexfxx2221222211sinsin212121)(32212221dxxexedxeexfxxxx22121xe1x2222221)(xexf同理1x2023-9-8应用统计方法13五、条件分布 1、问题的引入 若A和B是任意两个事件，且 ，则称为在B事件发生的条件下，事件A发生的条件概率。0)(BP)(/)()/(BPABPBAP考虑随机向量 ，其中 表示人的身高（单位：米），表示人的体重（单位：公斤），在身高为1.9米的人群中，体重 的分布就再也不是原来的分布了。而是在 的条件分布。),(21xxx1x2x90.11x2x2023-9-8应用统计方法142023-9-8应用统计方法15 2、条件分布 连续随机向量),(21 pxxxx 不妨设 是 的q个分量组成。是余下的p-q个分量组成。),(21)1(qxxxx),(21pxxxx),(21)2(pqqxxxx),(),(),|,(1)2(2111pqppqqxxfxxxfxxxxf是 条件下，的分条件密度函数。),(21)2(pqqxxxx),(21)1(qxxxx2023-9-8应用统计方法16 例 设X=(x1,x2)有概率密度函数其它010,10)1(56),(21212121xxxxxxxf试求条件密度函数f(x1/x2）和f(x2/x1）。)(),()|(112112xfxxfxxf)(),()|(222121xfxxfxxf因为2023-9-8应用统计方法17所以先求 102212111)14(56)(dxxxxxf1022121)14(56dxxxx212156512xx 5256)(222xxf同理2023-9-8应用统计方法1810121456512)14(56)(),()|(2,112121222121222112xxxxxxxxxxxfxxfxxf13)14(35256)14(56)(),()|(1212122121222121xxxxxxxxxfxxfxxf2023-9-8应用统计方法19六、独立性 1、定义设 和 是两个随机向量，若 对一切 、成立，则称 和 相互独立。y)()(),(yxyxyFFFxxxyxy 2、设 和 是两个连续随机向量，和 相互独立，当且仅当 或对一切 、成立。)()(),(yxyxyFFFx)()|(xyxxffxyxyxy2023-9-8应用统计方法203、设 是 个随机向量，若 对一切 成立，则 相互独立。n21xxx,n)()()(),(21mmmFFFFxxxxxx2121nm n21xxx,n21xxx,2023-9-8应用统计方法21数字特征 一、数学期望1、定义pqppqqxxxxxxxxx212221212111X 是有随机变量构成的随机矩阵，定义X的数学期望为2023-9-8应用统计方法22)()()()()()()()()()(212221212111pqppqqxExExExExExExExExEEX特别当时 ，便可得到随机向量 的数学期望为1q),(21pxxxx)(,),(),()(21pxExExEEx2023-9-8应用统计方法23 2、性质 1）设为常数，则 ；)()(XXaEaE2）设 分别为常数矩阵，则CBA,CBXACAXB)()(EE 3）设 为 个同阶矩阵，则n21XXX,n)(n21XXXEn21XXXEEE2023-9-8应用统计方法24 二、协方差矩阵 1、定义：设 和 分别为 维和 维随机向量，则其协方差矩阵为),(21pxxxx),(21qyyyypq)()()()()()(22112211qqppyEyyEyyEyxExxExxExE2023-9-8应用统计方法25),cov(),cov(),cov(),cov(),cov(),cov(),cov(),cov(),cov(),cov(212221212111YXyxyxyxyxyxyxyxyxyxqpppqq的协方差矩阵为),(21pxxxx)var(),cov(),cov(),cov()var(),cov(),cov(),cov()var()(2122121211pppppxxxxxxxxxxxxxxxVarx2023-9-8应用统计方法262、性质 1）若(x1,x2,，xp)和(y1,y2,，yp)相互独立。则反之不成立0),cov(),cov(),cov(),cov(),cov(),cov(),cov(),cov(),cov(212221212111qpppqqyxyxyxyxyxyxyxyxyx2023-9-8应用统计方法27 若(x1,x2,，xp)的分量相互独立,则协方差矩阵，除主对角线上的元素外均为零，即)var(000)var(000)var()(21pxxxVarx2023-9-8应用统计方法28 2）随机向量X的协方差矩阵是非负定矩阵。证：设a为任意与X有相同维数的常数向量，则axxEaaa)()(axxaE0)(2xaE 3）设A是常数矩阵，b为常数向量，则V(AX+b)=AV(X)A；)(bAX V)()(bAbAXE)()(bAbAXAxxA)(EAxA)(V2023-9-8应用统计方法29 4、若(x1,x2,，xp)和(y1,y2,，yp)分别是p和q维随机向量，A和B为常数矩阵，则 ByxAByAx),(),(CovCov),(ByAxCov证)()(xBBxxAAxEEEBxxA)(E 5、若(k1,k2,，kp)是n个不全为零的常数，(x1,x2,，xp)是相互独立的p维随机向量，则)(21n21xxxnkkkV)()()(22221n21xxxVkVkVkn2023-9-8应用统计方法300,000000,0,621112LLLLLLppp，使得正交矩阵证明：由于为非负定矩阵。其中2023-9-8应用统计方法31 三、相关系数矩阵 若(x1,x2,，xp)和(y1,y2,，yp)分别是p和q维随机向量，则其相关系数矩阵为),(),(),(),(),(),(),(),(),(),(212221212111qpppqqyxyxyxyxyxyxyxyxyxyx，两随机向量不相关。若0yx),(2023-9-8应用统计方法32 随机向量的变换随机向量的变换 一、一元随机变量的变换 设x具有概率密度函数fx(x)，函数y=(x)严格单调，其反函数x=(x)有连续导数，则y的概率密度函数为|)(|)()(yyfyfxy 其中y的取值范围与x的取值范围相对应。例 设随机变量x服从均匀分布U(0,1),即密度函数 其他0101)(xxfx2023-9-8应用统计方法33的密度函数。求)0(ln1xyyeyx)(解y的取值范围为(0,),则|)(|)()(yyfyfxy|)(|1|)(|)(yyyxeeefye2023-9-8应用统计方法34 二、多元随机向量的变换 若(x1,x2,xp)有密度函数f(x1,x2,xp),有函数组),(21piixxxypi,2,1其逆变换存在),(21pjjyyyxpj,2,1则 的概率密度函数为),(21pyyyy2023-9-8应用统计方法35|),(,),(),(2121121Jppppyyyyyyfyyygppppppppyxyxyxyxyxyxyxyxyxyyyxxx2122212121112121),(),(J2023-9-8应用统计方法36特别：若 ，其中 为 阶可逆常数矩阵，为 维常数向量，则bAxyApbp1|)(AAyxJ1