0502-2005 京情系 数学 P14

概率统计 正态分布 无偏估计 最小方差

問1 以下の量を考える．ただし，$a>0$ とする．

$$Q(a)=\frac{1}{\sqrt{2\pi }}{\int }_a^{\infty }{e}^{-\frac{x^2}{2}}dx$$

このとき，以下の問に答えよ．
(i) 確率変数 $X,Y$ は互いに独立でそれぞれ標準正規分布 $\mathcal{N}(0,1)$ に従うとするとき

$$(Q(a){)}^2=\mathrm{Pr}(X\ge a,Y\ge a)$$

であることを示せ．
(ii) つぎの不等式を示せ．

$$\mathrm{Pr}(X\ge a,Y\ge a)<\frac{1}{4}\mathrm{Pr}(X^2+Y^2\ge 2a^2)$$

(iii) 上記の右辺の確率を計算し，$Q(a)$ の上界を求めよ．

問2 $X_1,X_2,\dots ,X_N$ は互いに独立で同一分布に従うサンプルで，平均値は $\mu$，分散は ${\sigma }^2$ とする．ただし，$N>1$ とする．このとき，以下の問に答えよ．
(i) $\mu$ の推定量として

$$\hat{\mu }=\sum _{i=1}^N{g}_i{X}_i$$

を考える．ただし，$g_1,g_2,\dots ,g_N$ は定数で

$$\sum _{i=1}^N{g}_i=1$$

を満足する．この $\hat{\mu }$ は $\mu$ の不偏推定量であること，すなわち，

$$E[\hat{\mu }]=\mu$$

であることを示せ．
(ii) $\hat{\mu }$ の分散を最小とする $g_1,g_2,\dots ,g_N$ を求めよ．
(iii) ${\sigma }^2$ の推定量として

$${\hat{\sigma }}^2=k\sum _{i=1}^{N-1}(X_{i+1}-X_i{)}^2$$

を考える．この ${\hat{\sigma }}^2$ が ${\sigma }^2$ の不偏推定量となるよう定数 $k$ を定めよ．

---

解答：

問1
(i)
確率変数 $X,Y$ は独立であるため，同時確率は周辺確率の積となる．

$$\begin{array}{rl}\mathrm{Pr}(X\ge a,Y\ge a)& =\mathrm{Pr}(X\ge a)\mathrm{Pr}(Y\ge a)\\ & =\left(\frac{1}{\sqrt{2\pi }}{\int }_a^{\infty }{e}^{-\frac{x^2}{2}}dx\right)\left(\frac{1}{\sqrt{2\pi }}{\int }_a^{\infty }{e}^{-\frac{y^2}{2}}dy\right)\\ & =Q(a)Q(a)\\ & =(Q(a){)}^2\end{array}$$

(証明終)

(ii)
標準正規分布の同時確率密度関数は原点に対して対称な分布である．
領域 $D_1=\{(x,y)\mid x\ge a,y\ge a\}$ と，領域 $D_2=\{(x,y)\mid x^2+y^2\ge 2a^2,x\ge 0,y\ge 0\}$ を考える．
$x\ge a>0$ かつ $y\ge a>0$ のとき，$x^2+y^2\ge a^2+a^2=2a^2$ が成り立つため，$D_1$ は $D_2$ の真部分集合となる（点 $(a,a)$ を除き厳密に含まれる）．
同時確率密度関数は全域で正であるため，

$$\mathrm{Pr}(X\ge a,Y\ge a)<\mathrm{Pr}(X\ge 0,Y\ge 0,X^2+Y^2\ge 2a^2)$$

また，確率分布の円対称性より，第1象限に含まれる確率は全平面における確率の $\frac{1}{4}$ である．

$$\mathrm{Pr}(X\ge 0,Y\ge 0,X^2+Y^2\ge 2a^2)=\frac{1}{4}\mathrm{Pr}(X^2+Y^2\ge 2a^2)$$

ゆえに，

$$\mathrm{Pr}(X\ge a,Y\ge a)<\frac{1}{4}\mathrm{Pr}(X^2+Y^2\ge 2a^2)$$

(証明終)

(iii)
極座標変換 $X=r\cos \theta ,Y=r\sin \theta$ を用いる．確率密度関数は $\frac{1}{2\pi }{e}^{-\frac{r^2}{2}}$ であり，$dxdy=rdrd\theta$ であるから，

$$\begin{array}{rl}\mathrm{Pr}(X^2+Y^2\ge 2a^2)& ={\int }_0^{2\pi }{\int }_{\sqrt{2}a}^{\infty }\frac{1}{2\pi }{e}^{-\frac{r^2}{2}}rdrd\theta \\ & ={\int }_{\sqrt{2}a}^{\infty }r{e}^{-\frac{r^2}{2}}dr\\ & ={\left[-e^{-\frac{r^2}{2}}\right]}_{\sqrt{2}a}^{\infty }\\ & =e^{-a^2}\end{array}$$

(ii) の結果より，

$$(Q(a){)}^2<\frac{1}{4}{e}^{-a^2}$$

$a>0$ より $Q(a)>0$ であるため，両辺の正の平方根をとると上界が得られる．

$$\boxed{Q(a)<\frac{1}{2}{e}^{-\frac{a^2}{2}}}$$

問2
(i)
期待値の線形性を用いる．

$$\begin{array}{rl}E[\hat{\mu }]& =E\left[\sum _{i=1}^N{g}_i{X}_i\right]\\ & =\sum _{i=1}^N{g}_{i}E[X_i]\\ & =\sum _{i=1}^N{g}_i\mu \\ & =\mu \sum _{i=1}^N{g}_i\end{array}$$

条件 $\sum _{i=1}^N{g}_i=1$ より，

$$E[\hat{\mu }]=\mu$$

したがって，$\hat{\mu }$ は $\mu$ の不偏推定量である．(証明終)

(ii)
$X_i$ は互いに独立であるため，和の分散は分散の和となる．

$$\begin{array}{rl}V(\hat{\mu })& =V\left(\sum _{i=1}^N{g}_i{X}_i\right)\\ & =\sum _{i=1}^N{g}_i^{2}V(X_i)\\ & ={\sigma }^2\sum _{i=1}^N{g}_i^2\end{array}$$

コーシー・シュワルツの不等式より，

$${\left(\sum _{i=1}^N{g}_i\cdot 1\right)}^2\le \left(\sum _{i=1}^N{g}_i^2\right)\left(\sum _{i=1}^N{1}^2\right)$$

条件を代入すると，

$$1\le N\sum _{i=1}^N{g}_i^2⟹\sum _{i=1}^N{g}_i^2\ge \frac{1}{N}$$

等号が成立し分散が最小となるのは $g_1=g_2=\cdots =g_N$ のときである．和が1であるから，

$$\boxed{g_1=g_2=\cdots =g_N=\frac{1}{N}}$$

(iii)
推定量 ${\hat{\sigma }}^2$ の期待値を計算する．

$$\begin{array}{rl}E[{\hat{\sigma }}^2]& =k\sum _{i=1}^{N-1}E[(X_{i+1}-X_i{)}^2]\\ & =k\sum _{i=1}^{N-1}\left(E[X_{i+1}^2]-2E[X_{i+1}{X}_i]+E[X_i^2]\right)\end{array}$$

分散の公式 $V(X_i)=E[X_i^2]-(E[X_i]{)}^2$ より，$E[X_i^2]={\sigma }^2+{\mu }^2$ である．
また，$X_{i+1}$ と $X_i$ は独立であるため，$E[X_{i+1}{X}_i]=E[X_{i+1}]E[X_i]={\mu }^2$ である．これらを代入すると，

$$\begin{array}{rl}E[(X_{i+1}-X_i{)}^2]& =({\sigma }^2+{\mu }^2)-2{\mu }^2+({\sigma }^2+{\mu }^2)\\ & =2{\sigma }^2\end{array}$$

したがって，

$$E[{\hat{\sigma }}^2]=k\sum _{i=1}^{N-1}2{\sigma }^2=2k(N-1){\sigma }^2$$

これが ${\sigma }^2$ の不偏推定量となるためには $E[{\hat{\sigma }}^2]={\sigma }^2$ を満たす必要があるため，

$$2k(N-1){\sigma }^2={\sigma }^2$$

$N>1$ より，求める定数は，

$$\boxed{k=\frac{1}{2(N-1)}}$$

---

这两道概率统计的题目分别考察了正态分布尾部概率的放缩技巧与点估计的基本性质。第一问围绕标准正态分布的互补累积分布函数展开，利用二维独立正态变量的联合概率将一维积分的平方巧妙转化为二维平面上的重积分。通过观察积分区域的几何包含关系，并借助极坐标系下二维正态密度的旋转对称性，成功分离出了便于解析求解的指数形式，从而严谨推导出了正态尾部概率的一个经典且常用的指数级上界。第二问则聚焦于数理统计中估计量的无偏性与有效性评估。利用期望的线性运算性质可以轻松验证加权样本均值的无偏性，随后通过独立样本方差可加的特性写出方差的多项式表达式。借助柯西施瓦茨不等式可以直观证明当所有样本权重相等时方差达到极小值。最后，通过展开相邻样本差的平方，代入二阶原点矩和独立变量期望乘积的代数关系，计算出该统计量的理论期望，进而通过调整常系数使其满足无偏估计的定义。整体过程综合了概率密度的积分计算和统计量性能评估的基础理论。