0508-2006 京情系 数学 P26

概率统计 多元随机变量 卡方分布 参数估计

問1 確率変数 $X_1,X_2$ の結合確率密度関数 $f(x_1,x_2)$ を

$$f(x_1,x_2)=\{\begin{array}{ll}8x_1{x}_2& (0<x_1<x_2<1\text{のとき})\\ 0& (\text{その他のとき})\end{array}$$

とする．このとき，以下の問に答えよ．
(i) 確率変数 $X_1,X_2$ のそれぞれの周辺確率密度関数を求め，互いに独立かどうかについて述べよ．
(ii) つぎの変換により確率変数 $Y_1,Y_2$ を作る．

$$Y_1=\frac{X_1}{X_2},Y_2=X_2$$

$Y_1,Y_2$ の結合確率密度関数とそれぞれの周辺確率密度関数を求め，互いに独立かどうかについて述べよ．

問2 確率変数 $X$ が自由度 $k$ の ${\chi }^2$ 分布に従うとき，その確率密度関数 $f(x)$ は

$$f(x)=\frac{1}{2^{k/2}\Gamma (k/2)}{x}^{(k/2)-1}{e}^{-x/2}(x>0)$$

で与えられる．ただし，$\Gamma (\alpha )$ はガンマ関数で

$$\Gamma (\alpha )={\int }_0^{\infty }{e}^{-t}{t}^{\alpha -1}dt(\alpha >0)$$

で定義され，$\Gamma (\alpha +1)=\alpha \Gamma (\alpha )$ を満足する．このとき，以下の問に答えよ．ただし，以下では $E[\cdot ]$, $\text{Var}[\cdot ]$ はそれぞれ，期待値，分散を表す．
(i) $E[X]=k$, $\text{Var}[X]=2k$ であることを示せ．
(ii) 平均値 ${\mu }_x$，分散 ${\sigma }^2$ が未知の正規母集団 $\mathcal{N}({\mu }_x,{\sigma }^2)$ から大きさ $n$ の互いに独立なサンプル $\{x_1,\dots ,x_n\}$ をとる．そして，このサンプルに対する標本平均 $\bar{x}$，標本分散 $s_x^2$ をそれぞれ，

$$\bar{x}=\frac{1}{n}\sum _{i=1}^n{x}_i,s_x^2=\frac{1}{n-1}\sum _{i=1}^n(x_i-\bar{x}{)}^2(1)$$

とする．このとき，式(1)の定義に基づき，$E[s_x^2]={\sigma }^2$ であることを示せ．
(iii) $s_x^2={\sigma }^{2}Z/(n-1)$ とおくと，$Z$ は自由度 $n-1$ の ${\chi }^2$ 分布に従う．いま，平均値 ${\mu }_y$，分散 ${\sigma }^2$ が未知の別の独立な正規母集団 $\mathcal{N}({\mu }_y,{\sigma }^2)$ から大きさ $m$ の互いに独立なサンプル $\{y_1,\dots ,y_m\}$ をとる．そして，このサンプルに対する標本平均を $\bar{y}$，標本分散 $s_y^2$ をそれぞれ，式(1)と同様に定義する．このとき，$E[s_y^2]={\sigma }^2$ であり，$s_y^2={\sigma }^{2}W/(m-1)$ とおくと，$W$ は自由度 $m-1$ の ${\chi }^2$ 分布に従う．あらたに二つの母集団に共通な ${\sigma }^2$ の推定値として

$$s_p^2=\lambda s_x^2+(1-\lambda )s_y^2$$

を考えると，$E[s_p^2]={\sigma }^2$ である．このとき，$\text{Var}[s_p^2]$ を最小にする $\lambda$ を求めよ．

---

解答：

問1
(i) $X_1$ の周辺確率密度関数 $f_{X_1}(x_1)$ は，$0<x_1<1$ のとき

$$f_{X_1}(x_1)={\int }_{x_1}^{1}8x_1{x}_{2}d{x}_2={\left[4x_1{x}_2^2\right]}_{x_1}^1=4x_1(1-x_1^2)$$

$X_2$ の周辺確率密度関数 $f_{X_2}(x_2)$ は，$0<x_2<1$ のとき

$$f_{X_2}(x_2)={\int }_0^{x_2}8x_1{x}_{2}d{x}_1={\left[4x_1^2{x}_2\right]}_0^{x_2}=4x_2^3$$

ここで，$f_{X_1}(x_1)f_{X_2}(x_2)=16x_1{x}_2^3(1-x_1^2)\ne 8x_1{x}_2=f(x_1,x_2)$ であるため，互いに独立ではない．

$$\boxed{\begin{array}{rl}{f}_{X_1}(x_1)& =\{\begin{array}{ll}4x_1(1-x_1^2)& (0<x_1<1)\\ 0& (\text{その他})\end{array}\\ f_{X_2}(x_2)& =\{\begin{array}{ll}4x_2^3& (0<x_2<1)\\ 0& (\text{その他})\end{array}\\ \text{独立ではない}& \end{array}}$$

(ii) $x_1=y_1{y}_2,x_2=y_2$ より，ヤコビアン $J$ は

$$J=\det \left(\begin{array}{cc}\frac{\partial x_1}{\partial y_1}& \frac{\partial x_1}{\partial y_2}\\ \frac{\partial x_2}{\partial y_1}& \frac{\partial x_2}{\partial y_2}\end{array}\right)=\det \left(\begin{array}{cc}{y}_2& y_1\\ 0& 1\end{array}\right)=y_2$$

$0<x_1<x_2<1$ より $0<y_1{y}_2<y_2<1$ であり，$y_2>0$ であるため $0<y_1<1$ かつ $0<y_2<1$．
結合確率密度関数 $g(y_1,y_2)$ は

$$g(y_1,y_2)=f(y_1{y}_2,y_2)|J|=8(y_1{y}_2)y_2\cdot y_2=8y_1{y}_2^3(0<y_1<1,0<y_2<1)$$

それぞれの周辺確率密度関数は

$$g_{Y_1}(y_1)={\int }_0^{1}8y_1{y}_2^{3}d{y}_2={\left[2y_1{y}_2^4\right]}_0^1=2y_1(0<y_1<1)$$ $$g_{Y_2}(y_2)={\int }_0^{1}8y_1{y}_2^{3}d{y}_1={\left[4y_1^2{y}_2^3\right]}_0^1=4y_2^3(0<y_2<1)$$

$g(y_1,y_2)=(2y_1)(4y_2^3)=g_{Y_1}(y_1)g_{Y_2}(y_2)$ が成立するため，互いに独立である．

$$\boxed{\begin{array}{rl}g(y_1,y_2)& =\{\begin{array}{ll}8y_1{y}_2^3& (0<y_1<1,0<y_2<1)\\ 0& (\text{その他})\end{array}\\ g_{Y_1}(y_1)& =\{\begin{array}{ll}2y_1& (0<y_1<1)\\ 0& (\text{その他})\end{array}\\ g_{Y_2}(y_2)& =\{\begin{array}{ll}4y_2^3& (0<y_2<1)\\ 0& (\text{その他})\end{array}\\ \text{独立である}& \end{array}}$$

問2
(i) $t=x/2$ と変数変換すると $dx=2dt,x=2t$．

$$\begin{array}{rl}E[X]& ={\int }_0^{\infty }x\frac{1}{2^{k/2}\Gamma (k/2)}{x}^{(k/2)-1}{e}^{-x/2}dx=\frac{1}{2^{k/2}\Gamma (k/2)}{\int }_0^{\infty }(2t{)}^{k/2}{e}^{-t}2dt\\ & =\frac{2^{(k/2)+1}}{2^{k/2}\Gamma (k/2)}{\int }_0^{\infty }{t}^{(k/2+1)-1}{e}^{-t}dt=\frac{2\Gamma (k/2+1)}{\Gamma (k/2)}=\frac{2(k/2)\Gamma (k/2)}{\Gamma (k/2)}=k\end{array}$$

同様に $E[X^2]$ を求める．

$$\begin{array}{rl}E[X^2]& ={\int }_0^{\infty }{x}^2\frac{1}{2^{k/2}\Gamma (k/2)}{x}^{(k/2)-1}{e}^{-x/2}dx=\frac{1}{2^{k/2}\Gamma (k/2)}{\int }_0^{\infty }(2t{)}^{(k/2)+1}{e}^{-t}2dt\\ & =\frac{2^{(k/2)+2}}{2^{k/2}\Gamma (k/2)}\Gamma (k/2+2)=4\frac{(k/2+1)(k/2)\Gamma (k/2)}{\Gamma (k/2)}=k(k+2)\end{array}$$

よって，分散は

$$\text{Var}[X]=E[X^2]-(E[X]{)}^2=k^2+2k-k^2=2k$$

(証明終)

(ii)

$$\sum _{i=1}^n(x_i-\bar{x}{)}^2=\sum _{i=1}^n{\left((x_i-{\mu }_x)-(\bar{x}-{\mu }_x)\right)}^2=\sum _{i=1}^n(x_i-{\mu }_x{)}^2-n(\bar{x}-{\mu }_x{)}^2$$

両辺の期待値をとると，$E[(x_i-{\mu }_x{)}^2]=\text{Var}[x_i]={\sigma }^2$ であり，$E[(\bar{x}-{\mu }_x{)}^2]=\text{Var}[\bar{x}]={\sigma }^2/n$ であるから，

$$E\left[\sum _{i=1}^n(x_i-\bar{x}{)}^2\right]=\sum _{i=1}^n{\sigma }^2-n\left(\frac{{\sigma }^2}{n}\right)=n{\sigma }^2-{\sigma }^2=(n-1){\sigma }^2$$

したがって，

$$E[s_x^2]=E\left[\frac{1}{n-1}\sum _{i=1}^n(x_i-\bar{x}{)}^2\right]=\frac{1}{n-1}(n-1){\sigma }^2={\sigma }^2$$

(証明終)

(iii) 独立なサンプルであるため $s_x^2$ と $s_y^2$ は独立である．$Z\sim {\chi }^2(n-1)$，$W\sim {\chi }^2(m-1)$ より，(i)の結果から $\text{Var}[Z]=2(n-1)$, $\text{Var}[W]=2(m-1)$．

$$\text{Var}[s_x^2]=\text{Var}\left[\frac{{\sigma }^2}{n-1}Z\right]={\left(\frac{{\sigma }^2}{n-1}\right)}^2\text{Var}[Z]=\frac{{\sigma }^4}{(n-1{)}^2}2(n-1)=\frac{2{\sigma }^4}{n-1}$$

同様に $\text{Var}[s_y^2]=\frac{2{\sigma }^4}{m-1}$．$s_p^2$ の分散は

$$\text{Var}[s_p^2]={\lambda }^2\text{Var}[s_x^2]+(1-\lambda {)}^2\text{Var}[s_y^2]=2{\sigma }^4\left(\frac{{\lambda }^2}{n-1}+\frac{(1-\lambda {)}^2}{m-1}\right)$$

これを最小化する $\lambda$ を求めるために $\lambda$ で微分して 0 とおくと，

$$\frac{\partial }{\partial \lambda }\text{Var}[s_p^2]=2{\sigma }^4\left(\frac{2\lambda }{n-1}-\frac{2(1-\lambda )}{m-1}\right)=0$$ $$\frac{\lambda }{n-1}=\frac{1-\lambda }{m-1}⟹\lambda (m-1)=(1-\lambda )(n-1)⟹\lambda (m+n-2)=n-1$$ $$\boxed{\lambda =\frac{n-1}{m+n-2}}$$

---

这套题目考察了概率论与数理统计中的几个核心知识点。问1主要涉及多元连续型随机变量的联合分布、边缘分布以及变量代换。在第一小问中，通过对联合概率密度在相应区域上积分求得边缘密度，进而利用两边缘密度的乘积是否等于联合密度来判断独立性。第二小问则考察了二维随机变量的雅可比变换，在求出新变量组合的联合密度后再次验证独立性，这里特别需要注意变换后新变量的支撑集范围。问2过渡到了统计学中的抽样分布与参数估计。第一小问要求利用伽马函数的定义和性质推导卡方分布的期望与方差，核心技巧是积分中的换元法。第二小问是证明样本方差为总体方差的无偏估计，通过恒等变形将平方和拆分并分别求期望即可。最后一小问则是在两个独立样本方差无偏估计的基础上，构造其线性组合，并利用前两问得到的卡方分布方差公式，将组合估计量的方差表示为权重的二次函数，最后通过求导得到使得方差最小的最优权重（即最小方差无偏估计的思路）。