対数尤度情報量分析

有向情報量分析では、相互情報量行列にある、相互情報量と平均情報量を使って、有向グラフを作ります。

これはこれで良いのですが、有向グラフを作るための行列データが対称行列なところが、ネットワークグラフの一般的な作り方と違っています。

このページの対数尤度情報量分析は、有向情報量分析と同等な分析を、非対称な行列データから作る方法として、筆者が考えてみたものです。

対数尤度情報量とは

対数尤度情報量というのは、筆者が考えたものです。もしかしたら、世の中には、既に同じものがあるかもしれないのですが、今のところなさそうなので、この名前にしています。

対数尤度情報量は、対数尤度の符号を逆にして、サンプル数で割ったものです。

この定義をすると、サンプル数の影響がなくなり、相互情報量と似た計算式になります。

また、BICやMDLのような対数尤度を使う尺度と同じで、向きによって、値が異なります。つまり、有向グラフを作るための尺度になります。

対数尤度情報量は、２変数の関係の強さと、それぞれの変数の情報量の、２つの要因で決まります。

有向情報量分析では、２変数の関係の強さと、２変数の情報量の差の、それぞれについて、しきい値を決めて分析を進められるのですが、対数尤度情報量分析では、そういう進め方ができません。そのため、対数尤度情報量分析は、使い勝手が悪いです。