入門的な統計学の本には出て来ないけれども、その次の段階の本には、当たり前のようにして出て来るのが、尤度（ゆうど）です。 ここでは、「尤度モデル」という名前にしましたが、尤度を使って、現象を使った現象の表現を、「尤度モデル」とここでは表現しています。
尤度というのは、一言で言うなら、「確率」と言って良いのではないかと思います。 ただ、「確率」と表現する時とは、以下のような違いがあるというのが、筆者の理解です。
尤度として、確率密度関数が使われることが多いです。
連続変数の場合、確率ではなく、確率密度関数が確率を表す数式になるので、このようになります。
推定や検定では、例えば、正規分布の確率密度関数の母平均と、母分散のところに、データから求めた平均と分散の推定値を入れて、モデルにします。
ここで、「データから求めた平均と分散」というものを通過することが、この方法の制約になっています。
尤度モデルの場合、「データから求めた平均と分散」というものを計算せずに、データからモデルを構成することができます。 正規分布を使えば、「データから求めた平均と分散」を使うモデルと同じものになりますが、そうでないモデルも作れます。 「そうでないモデルも作れる」というところが、尤度モデルの柔軟さです。
ベイズ統計では、コンピュータも大いに活用することで、様々なモデルが使われています。
尤度モデルは、そのままを分析するのではなく、応用の方がよく知られています。
ベイズ統計 では、ベイズの定理で扱うことができる２つの事象について、「原因と結果」や、「事前と事後」、「データと仮説」という解釈をします。
そうした解釈をいったん外して、改めて、ベイズ統計で出て来る式を見ると、尤度モデルの式になっています。 尤度モデルの右辺と左辺の使い方のガイドが、「原因と結果」や、「事前と事後」、「データと仮説」といったものになっているのが、ベイズ統計です。
事前分布が「１」の特別な場合のモデルと、最尤推定のモデルは同じです。
最尤推定 では、「平均値は、もっとも起きやすい値」という見方になります。点推定を広い視点で見ています。
尤度比検定 では、パラメタの置き方によって、t検定やF検定を導けます。
ベイズ統計 では、尤度を意味で使い分けたり、尤度を積極的に計算統計学で扱います。
統計学の解説書では、尤度モデルは、最尤推定、 尤度比検定、 ベイズ統計 、それぞれを解説する時に、前提知識として解説するのが一般的です。
「頻度論 vs ベイズ統計」のような話題もありますが、「尤度モデル」を上位に置くと、
「頻度論 vs ベイズ統計」は相反する何かではなく、体系の中の一部ということになりそうです。
また、頻度論やベイズ統計で、見過ごしていた領域も開発できるかもしれないです。
「In All Likelihood Statistical Modelling And Inference Using Likelihood」 Yudi Pawitan 著 Oxford University Press 2013
筆者が読んだのは、2013年の電子版ですが、2001年の初版と、特に大きな違いはないようです。
尤度を中心にして、統計学を体系化しています。500ページ以上ある本です。
フィッシャーは頻度論から始まっているものの、フィッシャーによる尤度の統計学は、ベイズ統計と頻度論とは異なる第３の流派としています。
尤度の統計学では、対数尤度や、対数尤度の微分が、統計量として重要になっています。
対数尤度の微分がS(θ)という統計量なのですが、これの分散は、これの微分のマイナスと同じになっているそうです。
「Likelihood methods in statistics」 Thomas A. Severini 著 Oxford University Press 2000
尤度の統計学の専門書です。
漸近理論関係が多めです。
「Likelihood」 A.W.F. Edwards 著 Johns Hopkins University Press 1992
ベイズ統計や、最大尤度の話題があります。
「Likelihood Methods in Biology and Ecology A Modern Approach to Statistics」 Michael Brimacombe 著 Chapman and Hall 2019
頻度論とベイズ統計における尤度を説明してから、生物関係の研究のケーススタディになっています。
「Introductory statistical inference with the likelihood function」 Charles A. Rohde 著 Springer 2014
統計的推論の入門書として書かれています。
ベイズ統計が多めです。
「統計学入門 2 尤度によるデータ生成過程の表現」 豊田秀樹 著 朝倉書店 2022
回帰モデル、ロジスティック回帰、ポアソンモデル、項目反応理論などの解説書です。
それらの数式を、事前分布、事後分布、という形で表現する中で、尤度を使うので、副題に「尤度」が入っているようです。
この本には、「1」があります。1では、従来の検定でやろうとしたことを、ベイズ統計を基盤とした方法で行うための入門書として作られているようです。
「道具としてのベイズ統計」 涌井良幸 著 日本実業出版社 2009
事前分布を一様分布にすると、最尤推定とベイズ推定の結果が同じになることが説明されています。
次は
最尤推定
