次は
尤度の活用
尤度には、いくつかの特性があります。
確率という量は、０から１の範囲を扱います。
尤度は、確率のかけ合わせです。 例えば、0.1を５回掛け合わせただけでも、0.000001、という、とても小さな数字になります。
簡単な尤度を扱う場合は、これでも良いのですが、コンピュータの計算では、「グラフにできない」等の問題が起きます。
対数に変換してしまうと、この問題がかなり解消します。 また、対数にすると、掛け算が足し算になるので、計算しやすくなる利点もあります。
対数尤度から作られる、スコア関数やフィッシャー情報量は、尤度統計学で、よく出て来ます。
対数尤度の微分です。S（θ）と書きます。
スコア関数の微分のマイナスです。I（θ）と書きます。
フィッシャー情報量は、クラメール・ラオの下限や、AIC（赤池情報量基準）の導出などで、出て来ます。
尤度に関する議論として、「尤度原理」と呼ばれている「原理」が語られることがあります。
ただ、筆者の知る限りでは、尤度原理にまつわる話として語られる事は、データのサンプリングに関することなので、尤度に特化したことではないです。 データを扱う上での前提に関する話です。
「統計学の手法を勉強する時は、数字の集まりとしてデータを扱っても良いが、それを統計学以外の研究の中で使う時は、どのようなデータなのかに注意して結果を解釈しましょう」という、理解しておけば、それで良い、と筆者は考えています。
「Nuisance parameter」をここでは、「迷惑パラメータ」と訳しましたが、「撹乱母数」、「局外母数」、「迷惑母数」、と訳している文献もあります。
ネットで調べると、「迷惑パラメータは、 系統誤差」 という理解の元で、系統誤差をモデルに組み入れて考えることがあるようです。
下記の文献では、迷惑パラメータの考え方が違います。 例えば、正規分布を使う尤度では、パラメータとしてμとσの２つがありますが、μについて知りたい時に、σの事を考慮しなければならないです。 この場合は、σが迷惑パラメータになります。
「In All Likelihood Statistical Modelling And Inference Using Likelihood」 Yudi Pawitan 著 Oxford University Press 2013
尤度原理、尤度の期待値、AIC、ロバスト性と大標本理論、迷惑パラメータについての解説があります。
・S(θ)の分散 = I(θ)の平均
・迷惑パラメータは、最尤推定した値を代入する。このようにした作ったのが、profile likelihood
・迷惑パラメータの処理の仕方は、ノンパラメトリックの尤度を作る時に役に立つようです。
順路
次は
尤度の活用
