数理統計学 ( 第九回） 尤度比検定とは？

1. 数理統計学(第九回）尤度比検定とは？ 浜田知久馬 数理統計学第９回

2. 胃がんのスクリーニング検査 正常 胃癌 計 検査の 陽性 1497 16 1513 判定 陰性 8483 4 8487 計 9980 20 10000 αエラー 1497/9980=0.15 βエラー 4/20=0.20 数理統計学第９回

3. 問題1 ２つの検査のα,βエラーどちらを選ぶ 検査Ａ 正常 胃癌 計 検査の 陽性 4990 20 5010 判定 陰性 4990 0 4990 計 9980 20 10000 検査Ｂ 正常 胃癌 計 検査の 陽性 50 10 60 判定 陰性 9930 10 9940 計 9980 20 10000 数理統計学第９回

4. 問題2 ２つの妊娠診断薬どちらを選ぶ 検査Ａ 非妊娠 妊娠 計 検査の 陽性 25 250 275 判定 陰性 475 250 725 計 500 500 1000 検査Ｂ 非妊娠 妊娠 計 検査の 陽性 250 475 725 判定 陰性 250 25 275 計 500 500 1000 数理統計学第９回

5. 妊娠診断薬 • アルミ包装されたテストスティックを箱から取り出し, • 　開封してください。 • キャップを取り、テストスティックを下に向け、 • 　サンプラーに少なくとも5秒間直接尿をかけ • サンプラー全体を尿で濡らします。 • 3.青い線が、「終了確認窓(丸い窓)」に現われたら、 • 　テスト終了です(約1分)。「終了確認窓(丸い窓)」に • 　青い線が出ていなければ、正しくテストできなかったということです. • 　別のテストスティックで再テストしてください。 • 4.「判定窓(四角い窓)」に色の濃い薄いに関わらず、 • 　青い線が出ていれば陽性、出ていなければ陰性です。 数理統計学第９回

6. 妊娠診断薬 この検査薬は、妊娠の早期判定の補助として用いるもので、確定診断は、他の所見とともに医師により総合的になされるものです。 妊娠すると妊婦の尿中に分泌されるヒト絨毛性性腺刺激ホルモン(hCG)を鋭敏な抗原・抗体反応で検出する診断薬 尿が希釈され過ぎているか反対に濃縮されている場合 ：妊娠してても陰性 病気の場合やホルモン値に影響を及ぼすお薬を飲んでいる場合：妊娠してなくても陽性 数理統計学第９回

7. 問題 ３　麻原彰晃を無罪と判定した場合についてαエラー，βエラーの観点から論ぜよ ４　美人は必ずしも幸せな人生をおくるとは限らない．この仮説について 　　背理法を用いて証明せよ. 数理統計学第９回

8. 美人だけど不幸な人生を送った人達 数理統計学第９回

9. 検定の構成法 ・一様最強力検定は存在しないことが多い. ・推定問題の原理的構成法 　最尤法,最小二乗法,モーメント法 　最尤法では確率が最大になるように母数推定 ・ネイマン・ピアソンの基本定理 　確率の比(尤度比)に着目すればよい. 　最尤法に基づいた検定(尤度比検定） 数理統計学第９回

10. 尤度比検定の例 ダーウィンのデータ 仮説：自家受精群と他家受精群で 　　　母平均μが等しいか？ 帰無仮説：Ｈ0：μ1= μ2 対立仮説：Ｈ1：μ1≠μ2 σ2=32 (既知） 数理統計学第９回

11. 仮説の母数空間における表現 Ｈ0： (μ1 ,μ2)　∈　ω0 Ｈ1： (μ1 ,μ2)　∈　ω1 ω0 μ2 ω1 μ1 数理統計学第９回

12. 尤度比検定統計量 ｆ(Y;θ)＝ｆ(θ; Y) Yをgivenとして確率をθの関数と考えたとき 尤度(likelihood)とよぶ. maxH1ｆ(θ; Y)maxθ∈ω1ｆ(θ; Y) ───────＝ ─────────＞ｃ maxH0ｆ(θ; Y)maxθ∈ω0ｆ(θ; Y) log(maxH1ｆ(θ; Y))- log(maxH0ｆ(θ; Y))＞logｃ ならば,Ｈ0を棄却 数理統計学第９回

13. 正規分布の確率密度関数 σ２は既知 ｎ個Ｙ１ ，・・・，Ｙｎ のｎ個のデータの得られる確率ｆ f＝ｆ(y１) ・ｆ(y2) ・・・ｆ(yｎ) ＝Πｆ(yi) 数理統計学第９回

14. 尤度(Ｈ0) Ｈ0：μ1=μ2=μ 第ｈ群（ｈ＝１：自家受精群，ｈ＝２：他家受精群）の ｉ番目の観測値をｙｈｉ（i＝１,2,・・・15）で表すことにする． 数理統計学第９回

15. 対数尤度(Ｈ0) 尤度最大　⇒　対数尤度最大 を代入すると logfＨ0＝－76.458 数理統計学第９回

16. 対数尤度(Ｈ1) μ1≠μ2 数理統計学第９回

17. 対数尤度(Ｈ1) μ1≠μ2 logfＨ1に代入すると logfＨ1＝－33.450(自家受精)－40.438(他家受精） 　　　＝－73.888 数理統計学第９回

18. 対数尤度比 尤度比： maxH1f／maxH0f 対数尤度比：log(maxH1f)- log(maxH0f) 数理統計学第９回

19. 対数尤度比 群内平方和　　　　　　　　　　群間平方和 対数尤度比=(全平方和－群内平方和)／２σ２ =群間平方和／２σ２ 数理統計学第９回

20. 対数尤度比 数理統計学第９回

21. Z検定 自由度∞,σ既知の平均値の差の検定 Ｈ0の下でZは標準正規分布, Z ２は自由度1のカイ2乗分布にしたがう. ZがZαを越えるときＨ0を棄却 2×対数尤度比がχ2αを越えるときＨ0を棄却 数理統計学第９回

22. 尤度の計算プログラム data mle;set mle; do m1=16to22by0.1; do m2=16to22by0.1;s=3; f1=1/(2*3.141728*s**2)**.5 *exp(-(y1-m1)**2/s**2/2); f2=1/(2*3.141728*s**2)**.5 *exp(-(y2-m2)**2/s**2/2); logl=log(f1*f2); output;end;end; 数理統計学第９回

23. 尤度曲面 数理統計学第９回

24. 対数尤度曲面 数理統計学第９回

25. 22 -78.3879 -78.3879 -81.3869 -84.3859 -87.3849 -90.3840 20 -75.3888 m -90.3840 2 18 -93.3830 -96.3820 -99.3811 -102.3801 -90.3840 16 16 18 20 22 m1 等高線プロット 数理統計学第９回

26. 帰無仮説(μ1=μ2 )の下での尤度 数理統計学第９回

27. 尤度比検定likelihood ratio test ・ネイマン・ピアソンの基本定理の拡張 　確率の比に基づいた検定 ・検定統計量 2×[log(maxH1ｆ(θ; Y))- log(maxH0ｆ(θ; Y))] H0の下で DF(H1) - DF(H0)のカイ2乗分布に従う. 　ダーウィンの例） H0：DF=1(μ), H1：DF=2 (μ1, μ2) 　　自由度1のカイ2乗分布にしたがう. 数理統計学第９回

28. 最尤推定量(MLE)の復習 U＝dlogｆ（θ；ｙ）／ｄθ：スコア関数とすると MLEθはlogｆ（θ；ｙ）=0の解となる. E[U]=0，V [U]=E[U2]= E[-U’]=I(情報量） V [θ]= 1/I １)ｎが大きくなれば，MLEは真値に一致する　 ２) MLEは，漸近的に正規分布にしたがう (漸近正規性）　　　　　 ３)最尤推定量の分散は，漸近的にFisherの情報量の逆数(1/I)となる. ＾ ＾ ＾ 数理統計学第９回

29. 3種類の検定 尤度比検定，Wald検定，スコア検定 例　H0：μ＝ μ 0　の検定 1)尤度比検定　L(μ)－ L(μ0) 　山の高さの違い 2) Wald検定　　 μ－μ0 MLEからの隔たり 3）スコア検定　　Ｕ(μ0) μ0における傾きが0に近いか ＾ ＾ 数理統計学第９回

30. 3種類の検定の模式図 数理統計学第９回

31. 山のてっぺんを捜すには． （１）地図で位置を 確認する （２）　　高度を 測ってみる． （３）　傾斜角度を 測ってみる． 数理統計学第９回

32. 三蔵法師が山の最高点に 誘拐された． 最尤解を探せ． 数理統計学第９回

33. 孫悟空　尤度比検定 觔斗雲でひとっ飛び，如意棒で山の高さを測る． 数理統計学第９回

34. 　スコア検定　沙悟浄 水を流して勾配を測り， 傾きが0になる点を探す． 数理統計学第９回

35. Wald検定　猪八戒 地図を頼りにひたすら掘り進む 数理統計学第９回

36. 正規分布の確率密度関数 σ２は既知 ｎ個Ｙ１ ，・・・，Ｙｎ のｎ個のデータの得られる確率ｆ f＝ｆ(y１) ・ｆ(y2) ・・・ｆ(yｎ) ＝Πｆ(yi) 数理統計学第９回

37. 対数尤度(log likelihood) Lはμについての2次関数 尤度ｆの最大化⇒　対数尤度Lの最大化　 ⇒ｄL/ｄμ＝0となるμを探す. 数理統計学第９回

38. 正規分布の場合：一標本問題 分散σ２が既知（3２=9）の場合 対数尤度： スコア統計量： MLE： 情報量： H0：μ＝μ0　の検定は？ 数理統計学第９回

39. 尤度比検定 数理統計学第９回

40. 尤度比検定 Ｈ0：μ０＝20の検定 L(17.708 )＝-33.450 L(20 )＝　 -37.827 χ２ＬＲ＝２｛L(μ)－L(μ０）｝ ＝ ２｛ -33.450－ -37.827 ｝ ＾ 数理統計学第９回

41. Wald検定 Ｈ0：μ０＝20の検定 (17.708－20)２ ＝ ─────── ＝ 8.76 (32/15) 数理統計学第９回

42. ラオのスコア検定 Ｈ0：μ０＝20の検定 ＝15 (17.708-20)2／(32) ＝ 8.76 数理統計学第９回

43. 3種類の検定 1）漸近的に等価な検定 　（ｎが大きくなると結果はほぼ等しくなる） 2）各検定の特徴 　　尤度比：検定・信頼区間の 　　　　　　　　計算に反復計算が必要 Wald：対称性がある 　　スコア：推定値が不明でも検定できる. 　　　　　　　収束しない場合，総当たり法 ３）正規分布のときは完全に一致 　　対数尤度が２次関数となるため. 数理統計学第９回

44. スコア検定 ・Wald，尤度比検定は,MLEが求まらないと検定できない． ・ MLEを求めるためには反復計算が必要 ・スコア検定はＨ0の下でのＵとＩがわかれば 　計算できる． ・多くのモデルについての計算が必要な場合,総当り法では,スコア検定が行われる． ・スコア検定では収束しない場合でも, 　Ｈ0の検定が可能 数理統計学第９回

45. 信頼区間の構成 Ｈ0：μ＝μ０をα水準で検定して,棄却されない範囲が信頼区間 尤度比検定ベースの95%信頼区間 自家受精群：17.708±1.96×3／15 0.5 ＝16.190，19.226 数理統計学第９回

46. 信頼区間の模式図尤度比検定で有意とならない範囲信頼区間の模式図尤度比検定で有意とならない範囲 Ｌが1.92までおちる範囲 数理統計学第９回

47. スコア検定とWald検定 テーラー展開 正規分布の場合，近似は正確 数理統計学第９回

48. 尤度比検定とWald検定 数理統計学第９回

49. 尤度比検定とWald検定 対数尤度関数L（θ）＝logｆ（θ）をMLEθの周辺でテーラー展開して,2次式で近似できる 対数尤度は, θの2次関数で近似される Wald検定の結果は,尤度比検定を近似する. 対数尤度比を２倍するとカイ２乗統計量 正規分布の場合，近似は正確 数理統計学第９回

50. 演習 ２項分布について ｆ（π；y）=nCｙπｙ（1－π）ｎ-ｙ 1)対数尤度を示せ. 2)スコア統計量を計算せよ U＝ｄlogｆ（π；y）／ｄπ 3) U＝0となるπ(πの最尤推定量)を求めよ 4)情報量I=E[U2]を計算せよ. 5) 1/Iが何をあらわしているか述べよ. 6)π=π0の下でIとUを求め,スコアカイ２乗 (U2/I)を計算せよ. 数理統計学第９回