グラフニューラルネットワークというのは、 ベイジアンネットワーク のようなグラフ構造を持つ ニューラルネットワーク です。
グラフニューラルネットワークの文献では、グラフニューラルネットワークを ニューラルネットワーク からの発展形として説明するのが普通のようです。 グラフニューラルネットワークでは、モデルの係数の計算を、 逐次学習 にするのが慣例になっているようで、その点では、確かに ニューラルネットワーク の発展形です。
しかし、 逐次学習 にこだわらずに、「グラフ構造を扱う、パス解析やベイジアンネットワークなどの理論を一般化して、様々な活性化関数に発展させたもの」とすると、 グラフニューラルネットワークは、さらに応用が広がるように筆者は考えています。
パス解析 や SEM・共分散構造分析 では、要素間の関係を、 重回帰分析 で定式化します。
この意味では、パス解析・SEM・共分散構造分析は、グラフニューラルネットワークの一種です。 活性化関数が恒等式の場合、ということになります。
ベイジアンネットワーク では、要素間の関係を、条件付き確率で定式化します。
逐次学習 のモデルとして、「ある頂点の次の時点の計算に、その頂点の前の時点の値も使う」というものもあります。 これは、 時系列解析 にある ARモデルとその発展形 と似ています。
重回帰分析 をベースにした理論では、 変数の選択 をして、モデルを作ります。
ベイジアンネットワーク では、 ベイジアンネットワークによるデータの構造解析 として、ネットワーク構造を探索的に見つける方法があります。
グラフニューラルネットワークでは、これらに相当する方法は、「接続予測」と呼ばれることが多いようです。 ただ、構造が決まっているところからの計算方法の研究が盛んで、接続予測の研究は、あまりないようです。
研究が進めば、 回帰モデルになるデータの構造 が、非線形に対応して、もっと汎用的になりそうです。
スペクトルグラフ理論 は、グラフ構造の大域的な分析方法です。 グラフニューラルネットワークの定式化には、 スペクトルグラフ理論 をベースにしたアプローチがあります。
ベイジアンネットワーク の分野で、筆者は見た事のない分析方法です。
ちなみに、 ベイジアンネットワーク では、 スコアによる条件付き確率の探索 が大域的なネットワークの評価方法になっていますが、ネットワークの大域的な特徴を見る方法ではないです。
冒頭に書いたように、グラフニューラルネットワークは、 ベイジアンネットワーク のようなグラフ構造を持つ ニューラルネットワーク です。
世の中には、「ベイジアンニューラルネットワーク」と呼ばれているものがあるのですが、グラフニューラルネットワークのことではなく、 ニューラルネットワークにベイズ統計を持ち込んだもののようです。
「深層学習」 岡谷貴之 著 講談社 2022
グラフニューラルネットワークやベイジアンニューラルネットワークが出て来ます。
深層学習全般の本なので、グラフニューラルネットワークについては少しですが、コンパクトにまとまっています。
・グラフニューラルネットワークは、グラフのデータを更新していく方法
・トランスフォーマーは、全ノードが互いにつながったグラフニューラルネットワーク
・「エッジ同士が結ばれるかどうか？」、というタスクは、「接続予測（link prediction）」という名前で紹介しています。
グラフ自己符号化器（graph autoencoder）を使います。
「グラフニューラルネットワーク PyTorchによる実装」 村田剛志 著 オーム社 2022
グラフニューラルネットワークを体系的に解説しています。実装が詳しいです。
「エッジ同士が結ばれるかどうか？」、というタスクは、「リンク予測」という名前で簡単に紹介しています。
「グラフニューラルネットワーク」 佐藤竜馬 著 講談社 2024
グラフニューラルネットワークを体系的に解説しています。理論が詳しいです。
スペクトルグラフ理論に、ひとつの章を使って詳しく説明しています。
・接続予測：頂点埋め込みの対を用いる方法と、グラフ分類に帰着する方法に分かれる。
前者は、２つの頂点の組合せごとに内積を見る方法なので、
相関行列と内積
にある方法と、ほぼ同じようです。
後者は、２つの頂点の周辺も含めて、計算するようなので、
偏相関係数
と似ているようです。
「Python機械学習プログラミング PyTorch & scikit‐learn編」 Sebastian Raschka 著 インプレス 2022
１つの章を使って、グラフニューラルネットワークを解説しています。
・隣接するエッジとだけで定式化すると、局所的な変化を中心としたモデルになる。
大域的な変化を扱えるグラフニューラルネットワークが、スペクトルグラフ畳み込みの方法。
「Pythonで実践 基礎からの物理学とディープラーニング入門」 福嶋健二・桂法称 著 科学情報出版 2022
量子力学の研究にニューラルネットワークを活用する方法の本です。
モデルのひとつとして、グラフニューラルネットワークが出て来ます。
順路
次は
画像認識と音声認識
