設問1 θ ~ n \widetilde\theta_n θ n は不偏推定量か
不偏性と、確率関数の和の恒等式
推定量 T T T が θ \theta θ の不偏推定量であるとは、母数の範囲 0 < θ < 1 0<\theta<1 0 < θ < 1 のすべての値で E θ [ T ] = θ E_\theta[T]=\theta E θ [ T ] = θ となることをいう。離散分布の期待値は E [ g ( Y ) ] = ∑ y g ( y ) P ( Y = y ) E[g(Y)]=\sum_yg(y)P(Y=y) E [ g ( Y )] = ∑ y g ( y ) P ( Y = y ) で、g ( y ) = n − 1 n − 1 + y g(y)=\frac{n-1}{n-1+y} g ( y ) = n − 1 + y n − 1 の係数が組合せ数 ( n + y − 1 ) ! y ! ( n − 1 ) ! \frac{(n+y-1)!}{y!(n-1)!} y ! ( n − 1 )! ( n + y − 1 )! の因数 ( n + y − 1 ) (n+y-1) ( n + y − 1 ) を消し、指数 n n n を n − 1 n-1 n − 1 に下げる。その結果、和が1つ下の n − 1 n-1 n − 1 の負の二項分布の確率の総和に変わる。n ≥ 2 n\ge2 n ≥ 2 の仮定は、分母 n − 1 + Y n n-1+Y_n n − 1 + Y n が 0 0 0 にならないことと、階乗 ( n − 2 ) ! (n-2)! ( n − 2 )! が定義されることのために要る。
n = 2 n=2 n = 2 での直接確認
n = 2 n=2 n = 2 では P ( Y 2 = y ) = ( y + 1 ) θ 2 q y P(Y_2=y)=(y+1)\theta^2q^y P ( Y 2 = y ) = ( y + 1 ) θ 2 q y で、θ ~ 2 = 1 1 + Y 2 \widetilde\theta_2=\frac1{1+Y_2} θ 2 = 1 + Y 2 1 なので
E [ θ ~ 2 ] = ∑ y = 0 ∞ 1 1 + y ( y + 1 ) θ 2 q y = θ 2 ∑ y = 0 ∞ q y = θ 2 1 − q = θ .
E[\widetilde\theta_2]=\sum_{y=0}^\infty\frac1{1+y}(y+1)\theta^2q^y=\theta^2\sum_{y=0}^\infty q^y=\frac{\theta^2}{1-q}=\theta .
E [ θ 2 ] = y = 0 ∑ ∞ 1 + y 1 ( y + 1 ) θ 2 q y = θ 2 y = 0 ∑ ∞ q y = 1 − q θ 2 = θ .
n = 2 , 3 , 5 , 10 n=2,3,5,10 n = 2 , 3 , 5 , 10 と θ = 0.1 , 0.3 , 0.5 , 0.9 \theta=0.1,0.3,0.5,0.9 θ = 0.1 , 0.3 , 0.5 , 0.9 の16通りで、確率関数を足して数値的に(10 − 34 10^{-34} 1 0 − 34 の精度で)確かめても、期待値は θ \theta θ と一致した。
最尤推定量との違い
n − 1 n − 1 + y ≤ n n + y \frac{n-1}{n-1+y}\le\frac n{n+y} n − 1 + y n − 1 ≤ n + y n (y > 0 y>0 y > 0 では真の不等号)なので、θ ~ n \widetilde\theta_n θ n は最尤推定量 θ ^ n = n n + Y n \widehat\theta_n=\frac n{n+Y_n} θ n = n + Y n n 以下である。E [ θ ~ n ] = θ E[\widetilde\theta_n]=\theta E [ θ n ] = θ なので、設問2の E [ θ ^ n ] E[\widehat\theta_n] E [ θ n ] は θ \theta θ より大きいことになる。最尤推定量の分子と分母の n n n を n − 1 n-1 n − 1 に取り替えることで、偏りが消える。
Y n Y_n Y n を期待値 E [ Y n ] = n ( 1 − θ ) θ E[Y_n]=\frac{n(1-\theta)}\theta E [ Y n ] = θ n ( 1 − θ ) に置き換えて E [ θ ~ n ] = n − 1 n − 1 + E [ Y n ] E[\widetilde\theta_n]=\frac{n-1}{n-1+E[Y_n]} E [ θ n ] = n − 1 + E [ Y n ] n − 1 とする誤りがある。この値は ( n − 1 ) θ n − θ \frac{(n-1)\theta}{n-\theta} n − θ ( n − 1 ) θ で、θ \theta θ に一致しない。n = 2 n=2 n = 2 、θ = 0.5 \theta=0.5 θ = 0.5 では 1 3 \frac13 3 1 、n = 5 n=5 n = 5 、θ = 0.3 \theta=0.3 θ = 0.3 では 12 47 ≈ 0.255 \frac{12}{47}\approx0.255 47 12 ≈ 0.255 、n = 10 n=10 n = 10 、θ = 0.1 \theta=0.1 θ = 0.1 では 1 11 ≈ 0.091 \frac1{11}\approx0.091 11 1 ≈ 0.091 となる。E [ g ( Y ) ] ≠ g ( E [ Y ] ) E[g(Y)]\ne g(E[Y]) E [ g ( Y )] = g ( E [ Y ]) で、g ( y ) = n − 1 n − 1 + y g(y)=\frac{n-1}{n-1+y} g ( y ) = n − 1 + y n − 1 が凸関数であることから、期待値は g ( E [ Y ] ) g(E[Y]) g ( E [ Y ]) より大きくなる。また θ ^ n \widehat\theta_n θ n (分子が n n n )を不偏と取り違える誤りもあり、n = 5 n=5 n = 5 、θ = 0.3 \theta=0.3 θ = 0.3 では E [ θ ^ n ] = 0.3447 E[\widehat\theta_n]=0.3447 E [ θ n ] = 0.3447 で、θ = 0.3 \theta=0.3 θ = 0.3 より大きい。
設問2 lim n → ∞ ∣ E [ θ ^ n ( M L ) ] − θ ∣ \lim_{n\to\infty}\bigl|E[\widehat\theta_n^{(\mathrm{ML})}]-\theta\bigr| lim n → ∞ E [ θ n ( ML ) ] − θ
最尤推定量の定義と、幾何分布の平均・分散
最尤推定量は尤度を 0 < θ < 1 0<\theta<1 0 < θ < 1 で最大にする値で、対数をとると積が和になって扱いやすい。幾何分布 P ( X = x ) = θ q x P(X=x)=\theta q^x P ( X = x ) = θ q x では E [ X ] = ∑ x x θ q x = θ ⋅ q ( 1 − q ) 2 = q θ E[X]=\sum_xx\theta q^x=\theta\cdot\frac q{(1-q)^2}=\frac q\theta E [ X ] = ∑ x x θ q x = θ ⋅ ( 1 − q ) 2 q = θ q 、E [ X ( X − 1 ) ] = θ ∑ x ( x − 1 ) q x = 2 q 2 θ 2 E[X(X-1)]=\theta\sum x(x-1)q^x=\frac{2q^2}{\theta^2} E [ X ( X − 1 )] = θ ∑ x ( x − 1 ) q x = θ 2 2 q 2 なので、V [ X ] = 2 q 2 θ 2 + q θ − q 2 θ 2 = q θ 2 V[X]=\frac{2q^2}{\theta^2}+\frac q\theta-\frac{q^2}{\theta^2}=\frac q{\theta^2} V [ X ] = θ 2 2 q 2 + θ q − θ 2 q 2 = θ 2 q である。この2つは、θ = 0.2 , 0.5 , 0.8 \theta=0.2,0.5,0.8 θ = 0.2 , 0.5 , 0.8 の確率関数の数値和でも確かめた。θ ^ n \widehat\theta_n θ n が標本平均の関数 1 1 + X ‾ n \frac1{1+\overline X_n} 1 + X n 1 になることが解答の要点で、g ( x ) = 1 1 + x g(x)=\frac1{1+x} g ( x ) = 1 + x 1 は x ≥ 0 x\ge0 x ≥ 0 で 0 < g ≤ 1 0<g\le1 0 < g ≤ 1 の有界な滑らかな関数である。
偏りは 0 0 0 にならないが消える
g g g は凸関数(g ′ ′ ( x ) = 2 ( 1 + x ) 3 > 0 g''(x)=\frac2{(1+x)^3}>0 g ′′ ( x ) = ( 1 + x ) 3 2 > 0 )なので、イェンセンの不等式から E [ g ( X ‾ n ) ] > g ( E [ X ‾ n ] ) = θ E[g(\overline X_n)]>g(E[\overline X_n])=\theta E [ g ( X n )] > g ( E [ X n ]) = θ となり、θ ^ n \widehat\theta_n θ n は各 n n n で上にずれる。偏りの大きさは2次近似から 1 2 g ′ ′ ( μ ) V [ X ‾ n ] = 1 2 ⋅ 2 θ 3 ⋅ 1 − θ θ 2 n = θ ( 1 − θ ) n \frac12g''(\mu)V[\overline X_n]=\frac12\cdot2\theta^3\cdot\frac{1-\theta}{\theta^2n}=\frac{\theta(1-\theta)}n 2 1 g ′′ ( μ ) V [ X n ] = 2 1 ⋅ 2 θ 3 ⋅ θ 2 n 1 − θ = n θ ( 1 − θ ) である。θ = 0.3 \theta=0.3 θ = 0.3 で確率関数を直接足した値は、次のとおりである。
n n n
2 2 2
5 5 5
20 20 20
100 100 100
400 400 400
E [ θ ^ n ] − θ E[\widehat\theta_n]-\theta E [ θ n ] − θ
0.1149 0.1149 0.1149
0.0447 0.0447 0.0447
0.0107 0.0107 0.0107
0.00211 0.00211 0.00211
0.000526 0.000526 0.000526
θ ( 1 − θ ) / n \theta(1-\theta)/n θ ( 1 − θ ) / n
0.105 0.105 0.105
0.042 0.042 0.042
0.0105 0.0105 0.0105
0.0021 0.0021 0.0021
0.000525 0.000525 0.000525
n n n が大きいほど2つの行が近づく。解答の上界 ( 1 − θ ) / n \sqrt{(1-\theta)/n} ( 1 − θ ) / n は、n = 100 n=100 n = 100 で 0.084 0.084 0.084 と、実際の偏り 0.0021 0.0021 0.0021 より大きいが、0 0 0 に収束することを示すには足りる。
別の導き方
1 n + y = ∫ 0 1 t n + y − 1 d t \frac1{n+y}=\int_0^1t^{n+y-1}dt n + y 1 = ∫ 0 1 t n + y − 1 d t と二項級数 ∑ y ( n + y − 1 y ) u y = ( 1 − u ) − n \sum_y\binom{n+y-1}yu^y=(1-u)^{-n} ∑ y ( y n + y − 1 ) u y = ( 1 − u ) − n により
E [ θ ^ n ] = n θ n ∫ 0 1 t n − 1 ( 1 − q t ) − n d t
E[\widehat\theta_n]=n\theta^n\int_0^1t^{n-1}\bigl(1-qt\bigr)^{-n}dt
E [ θ n ] = n θ n ∫ 0 1 t n − 1 ( 1 − q t ) − n d t
という積分表示が得られる。被積分関数の主要部分 ( t 1 − q t ) n \bigl(\frac t{1-qt}\bigr)^n ( 1 − q t t ) n は t = 1 t=1 t = 1 で最大値 θ − n \theta^{-n} θ − n をとり、n n n が大きいほど t = 1 t=1 t = 1 の近くに集中する。数値積分でこの表示が n = 2 , 5 , 20 n=2,5,20 n = 2 , 5 , 20 で確率関数の和と一致することを確かめた。
θ ^ n \widehat\theta_n θ n が設問1の θ ~ n \widetilde\theta_n θ n と同じ形だから、そのまま不偏と書く誤りがある。偏りは 0 0 0 ではなく、θ = 0.3 \theta=0.3 θ = 0.3 の n = 2 n=2 n = 2 では E [ θ ^ 2 ] = 0.4149 E[\widehat\theta_2]=0.4149 E [ θ 2 ] = 0.4149 と θ \theta θ を 0.1149 0.1149 0.1149 上回る。一方、不偏でないことと lim ∣ E [ θ ^ n ] − θ ∣ ≠ 0 \lim|E[\widehat\theta_n]-\theta|\ne0 lim ∣ E [ θ n ] − θ ∣ = 0 を取り違える答案もある。設問の量は、偏りが n → ∞ n\to\infty n → ∞ で消えるかどうかで、θ ( 1 − θ ) / n → 0 \theta(1-\theta)/n\to0 θ ( 1 − θ ) / n → 0 により消える。極限が 0 0 0 であることと、各 n n n で偏りが 0 0 0 であることは別である。
設問3 θ ^ n ( M L ) \widehat\theta_n^{(\mathrm{ML})} θ n ( ML ) は一致推定量か
一致性とチェビシェフの不等式
推定量の列 θ ^ n \widehat\theta_n θ n が一致推定量であるとは、任意の ε > 0 \varepsilon>0 ε > 0 に対して P ( ∣ θ ^ n − θ ∣ ≥ ε ) → 0 P(|\widehat\theta_n-\theta|\ge\varepsilon)\to0 P ( ∣ θ n − θ ∣ ≥ ε ) → 0 (確率収束)となることである。チェビシェフの不等式 P ( ∣ W − E [ W ] ∣ ≥ c ) ≤ V [ W ] / c 2 P(|W-E[W]|\ge c)\le V[W]/c^2 P ( ∣ W − E [ W ] ∣ ≥ c ) ≤ V [ W ] / c 2 (c > 0 c>0 c > 0 )は、分散から確率を押さえる。ここでは W = X ‾ n W=\overline X_n W = X n 、E [ W ] = μ E[W]=\mu E [ W ] = μ 、V [ W ] = σ 2 n V[W]=\frac{\sigma^2}n V [ W ] = n σ 2 で、設問2で得た「θ ^ n \widehat\theta_n θ n の誤差は X ‾ n \overline X_n X n の誤差の θ \theta θ 倍以下」により、θ ^ n \widehat\theta_n θ n の評価が標本平均の評価に移る。非線形な写像 g ( x ) = 1 1 + x g(x)=\frac1{1+x} g ( x ) = 1 + x 1 を通した誤差は、設問2の式から ∣ g ( x ) − g ( μ ) ∣ ≤ θ ∣ x − μ ∣ |g(x)-g(\mu)|\le\theta|x-\mu| ∣ g ( x ) − g ( μ ) ∣ ≤ θ ∣ x − μ ∣ (x ≥ 0 x\ge0 x ≥ 0 )と評価できる。
確率の数値とチェビシェフの上界
θ = 0.3 \theta=0.3 θ = 0.3 、ε = 0.05 \varepsilon=0.05 ε = 0.05 のとき、P ( ∣ θ ^ n − θ ∣ ≥ ε ) P(|\widehat\theta_n-\theta|\ge\varepsilon) P ( ∣ θ n − θ ∣ ≥ ε ) を確率関数から直接計算すると、n = 10 , 50 , 200 , 800 n=10,50,200,800 n = 10 , 50 , 200 , 800 でそれぞれ 0.5416 , 0.1597 , 0.00628 , 1.4 × 10 − 7 0.5416,\ 0.1597,\ 0.00628,\ 1.4\times10^{-7} 0.5416 , 0.1597 , 0.00628 , 1.4 × 1 0 − 7 と急速に減る。チェビシェフの上界 1 − θ n ε 2 = 280 n \frac{1-\theta}{n\varepsilon^2}=\frac{280}n n ε 2 1 − θ = n 280 は n = 800 n=800 n = 800 で 0.35 0.35 0.35 、n = 10 4 n=10^4 n = 1 0 4 で 0.028 0.028 0.028 と粗いが、0 0 0 に収束する。分散の近似は、n V [ θ ^ n ] ≈ θ 2 ( 1 − θ ) n\,V[\widehat\theta_n]\approx\theta^2(1-\theta) n V [ θ n ] ≈ θ 2 ( 1 − θ ) (デルタ法)である。θ = 0.3 \theta=0.3 θ = 0.3 、n = 400 n=400 n = 400 を6000回発生させた数値実験では n V [ θ ^ n ] = 0.0625 n\,V[\widehat\theta_n]=0.0625 n V [ θ n ] = 0.0625 (理論値 0.063 0.063 0.063 )で、平均は 0.3004 0.3004 0.3004 だった。θ 2 ( 1 − θ ) \theta^2(1-\theta) θ 2 ( 1 − θ ) は幾何分布のフィッシャー情報量 1 θ 2 ( 1 − θ ) \frac1{\theta^2(1-\theta)} θ 2 ( 1 − θ ) 1 の逆数と一致し、最尤推定量は漸近的に最良の分散をもつ。
不偏性・漸近不偏性・一致性の関係
設問1の θ ~ n \widetilde\theta_n θ n は不偏で、設問2の θ ^ n \widehat\theta_n θ n は不偏でないが、どちらも一致推定量である。θ ~ n \widetilde\theta_n θ n も同様に ∣ θ ~ n − θ ∣ ≤ ∣ θ ~ n − θ ^ n ∣ + ∣ θ ^ n − θ ∣ |\widetilde\theta_n-\theta|\le|\widetilde\theta_n-\widehat\theta_n|+|\widehat\theta_n-\theta| ∣ θ n − θ ∣ ≤ ∣ θ n − θ n ∣ + ∣ θ n − θ ∣ で、第1項は Y n ( n + Y n ) ( n − 1 + Y n ) ≤ 1 n → 0 \frac{Y_n}{(n+Y_n)(n-1+Y_n)}\le\frac1n\to0 ( n + Y n ) ( n − 1 + Y n ) Y n ≤ n 1 → 0 なので一致性が従う。不偏性があれば自動的に一致するわけではなく、分散が 0 0 0 に近づくことが別に要る。たとえば 1 { X 1 = 0 } \mathbf 1_{\{X_1=0\}} 1 { X 1 = 0 } は E = P ( X 1 = 0 ) = θ E=P(X_1=0)=\theta E = P ( X 1 = 0 ) = θ で不偏だが、X 1 X_1 X 1 しか使わないので n n n を増やしても精度が上がらず、一致推定量ではない。
極限の値を取り違える誤りがある。X ‾ n → μ = 1 − θ θ \overline X_n\to\mu=\frac{1-\theta}\theta X n → μ = θ 1 − θ から θ ^ n = 1 1 + X ‾ n \widehat\theta_n=\frac1{1+\overline X_n} θ n = 1 + X n 1 ではなく 1 X ‾ n \frac1{\overline X_n} X n 1 を作ると、θ 1 − θ \frac\theta{1-\theta} 1 − θ θ に収束し、θ = 0.3 \theta=0.3 θ = 0.3 では 0.4286 0.4286 0.4286 と θ \theta θ に一致しない。また「θ ^ n \widehat\theta_n θ n は不偏でないから一致推定量ではない」とするのも誤りで、偏りが θ ( 1 − θ ) / n \theta(1-\theta)/n θ ( 1 − θ ) / n で消えるうえ、分散も消える。逆に「偏りが 0 0 0 に近づくから一致推定量」とするのも不十分で、P ( ∣ θ ^ n − θ ∣ ≥ ε ) → 0 P(|\widehat\theta_n-\theta|\ge\varepsilon)\to0 P ( ∣ θ n − θ ∣ ≥ ε ) → 0 には、偏りに加えて分散(または確率の直接評価)が要る。
解答
設問1 θ ~ n \widetilde\theta_n θ n は不偏推定量か
n ≥ 2 n\ge2 n ≥ 2 なので n − 1 + Y n ≥ 1 n-1+Y_n\ge1 n − 1 + Y n ≥ 1 で θ ~ n \widetilde\theta_n θ n は常に定義される。期待値を確率関数で書くと
E [ θ ~ n ] = ∑ y = 0 ∞ n − 1 n − 1 + y ⋅ ( n + y − 1 ) ! y ! ( n − 1 ) ! θ n ( 1 − θ ) y .
E[\widetilde\theta_n]=\sum_{y=0}^\infty\frac{n-1}{n-1+y}\cdot\frac{(n+y-1)!}{y!\,(n-1)!}\,\theta^n(1-\theta)^y .
E [ θ n ] = y = 0 ∑ ∞ n − 1 + y n − 1 ⋅ y ! ( n − 1 )! ( n + y − 1 )! θ n ( 1 − θ ) y .
(各項は非負で、n − 1 n − 1 + y ≤ 1 \frac{n-1}{n-1+y}\le1 n − 1 + y n − 1 ≤ 1 により P ( Y n = y ) P(Y_n=y) P ( Y n = y ) 以下だから、和は収束する。)係数を整理する。( n + y − 1 ) ! = ( n + y − 1 ) ( n + y − 2 ) ! (n+y-1)!=(n+y-1)(n+y-2)! ( n + y − 1 )! = ( n + y − 1 ) ( n + y − 2 )! と ( n − 1 ) ! = ( n − 1 ) ( n − 2 ) ! (n-1)!=(n-1)(n-2)! ( n − 1 )! = ( n − 1 ) ( n − 2 )! より
n − 1 n − 1 + y ⋅ ( n + y − 1 ) ! y ! ( n − 1 ) ! = ( n − 1 ) ( n + y − 2 ) ! y ! ( n − 1 ) ( n − 2 ) ! = ( n + y − 2 ) ! y ! ( n − 2 ) ! .
\frac{n-1}{n-1+y}\cdot\frac{(n+y-1)!}{y!\,(n-1)!}=\frac{(n-1)\,(n+y-2)!}{y!\,(n-1)\,(n-2)!}=\frac{(n+y-2)!}{y!\,(n-2)!}.
n − 1 + y n − 1 ⋅ y ! ( n − 1 )! ( n + y − 1 )! = y ! ( n − 1 ) ( n − 2 )! ( n − 1 ) ( n + y − 2 )! = y ! ( n − 2 )! ( n + y − 2 )! .
したがって
E [ θ ~ n ] = θ ∑ y = 0 ∞ ( ( n − 1 ) + y − 1 ) ! y ! ( ( n − 1 ) − 1 ) ! θ n − 1 ( 1 − θ ) y .
E[\widetilde\theta_n]=\theta\sum_{y=0}^\infty\frac{\bigl((n-1)+y-1\bigr)!}{y!\,\bigl((n-1)-1\bigr)!}\,\theta^{\,n-1}(1-\theta)^y .
E [ θ n ] = θ y = 0 ∑ ∞ y ! ( ( n − 1 ) − 1 ) ! ( ( n − 1 ) + y − 1 ) ! θ n − 1 ( 1 − θ ) y .
和の中身は、n − 1 ( ≥ 1 ) n-1\ (\ge1) n − 1 ( ≥ 1 ) 個の独立な幾何分布の和の確率関数 P ( Y n − 1 = y ) P(Y_{n-1}=y) P ( Y n − 1 = y ) そのもので、y y y について 0 0 0 から ∞ \infty ∞ まで足すと 1 1 1 である。よって
E [ θ ~ n ] = θ ⋅ 1 = θ ( 0 < θ < 1 )
E[\widetilde\theta_n]=\theta\cdot1=\theta\qquad(0<\theta<1)
E [ θ n ] = θ ⋅ 1 = θ ( 0 < θ < 1 )
となり、θ ~ n \widetilde\theta_n θ n は θ \theta θ の不偏推定量である。
設問2 lim n → ∞ ∣ E [ θ ^ n ( M L ) ] − θ ∣ \lim_{n\to\infty}\bigl|E[\widehat\theta_n^{(\mathrm{ML})}]-\theta\bigr| lim n → ∞ E [ θ n ( ML ) ] − θ
最尤推定量
X 1 , … , X n X_1,\dots,X_n X 1 , … , X n の尤度は ∏ i θ ( 1 − θ ) x i = θ n ( 1 − θ ) y \prod_i\theta(1-\theta)^{x_i}=\theta^n(1-\theta)^{y} ∏ i θ ( 1 − θ ) x i = θ n ( 1 − θ ) y (y = ∑ x i y=\sum x_i y = ∑ x i )で、対数尤度は ℓ ( θ ) = n log θ + y log ( 1 − θ ) \ell(\theta)=n\log\theta+y\log(1-\theta) ℓ ( θ ) = n log θ + y log ( 1 − θ ) である。ℓ ′ ( θ ) = n θ − y 1 − θ = 0 \ell'(\theta)=\frac n\theta-\frac y{1-\theta}=0 ℓ ′ ( θ ) = θ n − 1 − θ y = 0 から θ = n n + y \theta=\frac n{n+y} θ = n + y n で、ℓ ′ ′ ( θ ) = − n θ 2 − y ( 1 − θ ) 2 < 0 \ell''(\theta)=-\frac n{\theta^2}-\frac y{(1-\theta)^2}<0 ℓ ′′ ( θ ) = − θ 2 n − ( 1 − θ ) 2 y < 0 なので、これが最大点である。よって
θ ^ n = n n + Y n = 1 1 + X ‾ n .
\widehat\theta_n=\frac n{n+Y_n}=\frac1{1+\overline X_n}.
θ n = n + Y n n = 1 + X n 1 .
(Y n = 0 Y_n=0 Y n = 0 のとき ℓ \ell ℓ は増加関数で、θ ^ n = 1 \widehat\theta_n=1 θ n = 1 と定める。この確率 θ n \theta^n θ n は 0 0 0 に近づく。)
偏りの評価
1個の X i X_i X i の平均と分散は μ = E [ X 1 ] = 1 − θ θ \mu=E[X_1]=\frac{1-\theta}\theta μ = E [ X 1 ] = θ 1 − θ 、σ 2 = V [ X 1 ] = 1 − θ θ 2 \sigma^2=V[X_1]=\frac{1-\theta}{\theta^2} σ 2 = V [ X 1 ] = θ 2 1 − θ で、θ = 1 1 + μ \theta=\frac1{1+\mu} θ = 1 + μ 1 である。したがって
θ ^ n − θ = 1 1 + X ‾ n − 1 1 + μ = μ − X ‾ n ( 1 + X ‾ n ) ( 1 + μ ) = θ ( μ − X ‾ n ) 1 + X ‾ n
\widehat\theta_n-\theta=\frac1{1+\overline X_n}-\frac1{1+\mu}=\frac{\mu-\overline X_n}{(1+\overline X_n)(1+\mu)}=\frac{\theta\,(\mu-\overline X_n)}{1+\overline X_n}
θ n − θ = 1 + X n 1 − 1 + μ 1 = ( 1 + X n ) ( 1 + μ ) μ − X n = 1 + X n θ ( μ − X n )
で、1 + X ‾ n ≥ 1 1+\overline X_n\ge1 1 + X n ≥ 1 から ∣ θ ^ n − θ ∣ ≤ θ ∣ X ‾ n − μ ∣ |\widehat\theta_n-\theta|\le\theta\,|\overline X_n-\mu| ∣ θ n − θ ∣ ≤ θ ∣ X n − μ ∣ である。∣ E [ Z ] ∣ ≤ E ∣ Z ∣ |E[Z]|\le E|Z| ∣ E [ Z ] ∣ ≤ E ∣ Z ∣ と、コーシー・シュワルツの不等式による E ∣ Z ∣ ≤ E [ Z 2 ] E|Z|\le\sqrt{E[Z^2]} E ∣ Z ∣ ≤ E [ Z 2 ] を使って
∣ E [ θ ^ n ] − θ ∣ ≤ E ∣ θ ^ n − θ ∣ ≤ θ E ∣ X ‾ n − μ ∣ ≤ θ V [ X ‾ n ] = θ ⋅ σ n = 1 − θ n ⟶ 0.
\bigl|E[\widehat\theta_n]-\theta\bigr|\le E\bigl|\widehat\theta_n-\theta\bigr|\le\theta\,E\bigl|\overline X_n-\mu\bigr|\le\theta\sqrt{V[\overline X_n]}=\theta\cdot\frac\sigma{\sqrt n}=\sqrt{\frac{1-\theta}n}\longrightarrow0 .
E [ θ n ] − θ ≤ E θ n − θ ≤ θ E X n − μ ≤ θ V [ X n ] = θ ⋅ n σ = n 1 − θ ⟶ 0.
したがって極限は 0 0 0 である。
設問3 θ ^ n ( M L ) \widehat\theta_n^{(\mathrm{ML})} θ n ( ML ) は一致推定量か
一致推定量である。設問2の式より ∣ θ ^ n − θ ∣ ≤ θ ∣ X ‾ n − μ ∣ |\widehat\theta_n-\theta|\le\theta\,|\overline X_n-\mu| ∣ θ n − θ ∣ ≤ θ ∣ X n − μ ∣ である。任意の ε > 0 \varepsilon>0 ε > 0 に対し、チェビシェフの不等式から
P ( ∣ θ ^ n − θ ∣ ≥ ε ) ≤ P ( ∣ X ‾ n − μ ∣ ≥ ε θ ) ≤ V [ X ‾ n ] ( ε / θ ) 2 = σ 2 θ 2 n ε 2 = 1 − θ n ε 2 ⟶ 0 ( n → ∞ ) .
P\bigl(|\widehat\theta_n-\theta|\ge\varepsilon\bigr)\le P\Bigl(|\overline X_n-\mu|\ge\frac\varepsilon\theta\Bigr)\le\frac{V[\overline X_n]}{(\varepsilon/\theta)^2}=\frac{\sigma^2\theta^2}{n\varepsilon^2}=\frac{1-\theta}{n\varepsilon^2}\longrightarrow0\qquad(n\to\infty).
P ( ∣ θ n − θ ∣ ≥ ε ) ≤ P ( ∣ X n − μ ∣ ≥ θ ε ) ≤ ( ε / θ ) 2 V [ X n ] = n ε 2 σ 2 θ 2 = n ε 2 1 − θ ⟶ 0 ( n → ∞ ) .
よって θ ^ n \widehat\theta_n θ n は θ \theta θ に確率収束し、θ \theta θ の一致推定量である。
最終答
設問1 θ ~ n \widetilde\theta_n θ n は不偏推定量か
不偏推定量である。E [ θ ~ n ] = θ E[\widetilde\theta_n]=\theta E [ θ n ] = θ (0 < θ < 1 0<\theta<1 0 < θ < 1 、n ≥ 2 n\ge2 n ≥ 2 )。
設問2 lim n → ∞ ∣ E [ θ ^ n ( M L ) ] − θ ∣ \lim_{n\to\infty}\bigl|E[\widehat\theta_n^{(\mathrm{ML})}]-\theta\bigr| lim n → ∞ E [ θ n ( ML ) ] − θ
lim n → ∞ ∣ E [ θ ^ n ( M L ) ] − θ ∣ = 0 \displaystyle\lim_{n\to\infty}\Bigl|E\bigl[\widehat\theta_n^{(\mathrm{ML})}\bigr]-\theta\Bigr|=0 n → ∞ lim E [ θ n ( ML ) ] − θ = 0 (θ ^ n ( M L ) = n n + Y n \widehat\theta_n^{(\mathrm{ML})}=\dfrac n{n+Y_n} θ n ( ML ) = n + Y n n は漸近不偏)。
設問3 θ ^ n ( M L ) \widehat\theta_n^{(\mathrm{ML})} θ n ( ML ) は一致推定量か
一致推定量である。P ( ∣ θ ^ n − θ ∣ ≥ ε ) ≤ 1 − θ n ε 2 → 0 P\bigl(|\widehat\theta_n-\theta|\ge\varepsilon\bigr)\le\dfrac{1-\theta}{n\varepsilon^2}\to0 P ( ∣ θ n − θ ∣ ≥ ε ) ≤ n ε 2 1 − θ → 0 。