雑感等

音楽,数学,語学,その他に関するメモを記す.

ベイズ推論

モチベーション

  • 点推定よりも多くのことがわかる
    • 分布全体がわかる
      • 定量の自信のなさがわかる

ベイズ推論と「ベイズの定理」の関係

  • ベイズの定理は確率分布と確率分布の組み合わせ方を示すだけ
    • 事前分布(常識とか前知識)と尤度関数(観測したこと)とを組み合わせる方法を示すだけ
    • ベイズの定理の式に深遠な意味を求めようとしてしまうのは落とし穴
      • ベイズ推論を勉強する中で,ベイズの定理を理解するのにおそらくそれほど多くの時間は必要としない
  • ベイズの定理と事前分布と尤度関数から,事後分布全体が求まる
    • 確率分布全体を表す式が求まるのであって,あるパラメータの最適値が求まるわけじゃない
      • もちろん,確率分布全体を表す式から何らかの最適値を求められる場合はある
  • むしろ事前分布と尤度関数を,どのように表現するかが重要
    • だからベイズ推論を解説する本では,個々の確率分布をいちいち細かく説明してる