確率と尤度の違い

確率と尤度（ゆうど）の違いですが、英語でも、違う単語です。

尤度の「尤」は、訓読みで「もっとも（尤も）」と読みます。最尤推定の説明としては、「もっともらしさ」と説明しても、何となくわかりますが、「尤度」自体は「もっともらしさ」と違う尺度です。

尤度とは

尤度を、一言で言うなら、「確率の一種」です。

「コインで表の出る確率は、1/2」、「サイコロで１の出る確率は、1/6」というのが、「確率」という言葉の使い方として、一番多いと思います。

尤度は、「表、表、裏」という順番で出る確率のことです。

１回投げて、表か裏かという確率が1/2（0.5）の時は、0.5 * 0.5 * 0.5です。例えば、表が出る確率が0.4の時は、尤度は0.4 * 0.4 * 0.6となります。

コインやサイコロの場合の尤度の計算は、上記のようになります。これらは、質的変数の場合です。

連続変数の場合、「確率」というもので直接扱えないです。確率ではなく、確率密度関数を代わりに使って、尤度を表現します。

表が出る確率をpとします。

表、裏、表、裏、裏となった場合の尤度は、以下になります。

整理すると、以下になります。

グラフで表すと滑らかな曲線です。

データが、3.5、2.2、3.3だったとします。それらは、正規分布を仮定します。母平均がμ、母分散がσ2です。尤度は、以下になります。

σを0.7に固定して、グラフを描くと、以下のようになります。