140 likes | 404 Vues
ベイジアンネットワーク概説 3.3 ベイジアンネットワークの母数推定. 茨城大学工学部 佐々木稔. はじめに. サンプルデータ数の影響を考慮した推論 母数(パラメトリック)モデルの導出 母数モデル 確率構造 B S のとき、 3.2 節より θ ijk : 親ノード変数集合 pa ( X i ) のうち、 j 番目の パターンをとり、 X i = k となる条件付き確率の母数 Θ= {θ ijk } ( i =1, ・・・ , n ; j =1, ・・・ , q i ; k =0, ・・・ , r i -1).
E N D
ベイジアンネットワーク概説3.3 ベイジアンネットワークの母数推定 茨城大学工学部 佐々木稔
はじめに • サンプルデータ数の影響を考慮した推論 • 母数(パラメトリック)モデルの導出 • 母数モデル • 確率構造 BSのとき、3.2節より • θijk : 親ノード変数集合 pa(Xi) のうち、j番目の パターンをとり、Xi = kとなる条件付き確率の母数 • Θ= {θijk} (i=1, ・・・, n ; j=1, ・・・, qi; k=0, ・・・,ri-1)
W = (a1, a2, ・・・, at)がパターン このパターンが qi個存在 W1 = a1 Wt = at i Xi = k W = (a1, a2, ・・・, at)と Xi = k となるデータ数が Nijk
Θについての尤度 • Xを所与としたときのパラメータΘについての尤度 • 多項分布に従う • この尤度が最大となる母数を求める
独立試行確率の計算 全試行回数
事前分布の推定 • パラメータθについての事前分布 p(θ|BS) • 自然共益事前分布の導入 • ディリクレ(Dirichlet)分布 • 事前、事後の分布形を同一にする • N’ijkは Nijkに対応するハイパーパラメータ
事前分布の推定 • i, j, k以外は積分するとベータ分布になる
母数値とベータ分布の形状 ホールデン事前分布 β(0.5, 0.5) β(10, 9) β(1.0, 1.0)
母数推定 • 事後分布 p(X, θ|BS) • 尤度と事前分布の積
母数推定 • 事後分布 p(X, θ|BS) を最大化する • このとき、 • より、
母数推定 • θijkで偏微分したものが 0 となる θijk を求める
母数推定 • 推定値は • ただし、
数値例 • θijk の推定値と真の値との平均二乗誤差 • 3.2節のデータを利用