サポートベクターマシンは、Yが質的変数の時に、 ラベル分類 の手法です。
サポートベクター回帰分析（Support Vector Regression：SVR）は、Yが量的変数なところ以外は、サポートベクターマシンと似ています。
サポートベクター回帰分析の一般的な解説は、 カーネル法 を使った非線形なモデルとしての特徴が中心になることが多いようです。
ただ、それだと「サポートベクター」の部分は関係ないです。 サポートベクターの部分はいらないのなら、 カーネルリッジ回帰分析 とサポートベクター回帰分析は同じです。
カーネル法の部分を除いたサポートベクター回帰分析の特徴は、外れ値の影響が小さいロバストな分析方法です。
下のグラフは、左から順に、元データ、普通の回帰分析（LM）の予測値、サポートベクター回帰分析（SVR）の予測値になります。 元データは、Xが0と20の時の値が外れ値になっています。 SVRは、Rのkernlabライブラリを使い、カーネル関数は、vanilladot（線形変換）を使っています。
普通の回帰分析（LM）の場合は、外れ値に引っ張られるようにして、直線が決まっています。
サポートベクター回帰分析（SVR）の場合は、２つの外れ値以外に対して、当てはめたような直線になっています。
ちょうど、「Y = X」という式が当てはまる直線です。
元データは、「Y = X」からばらつくようにして作ったデータなので、SVRでは正解が求まっていることがわかります。
このように、サポートベクター回帰分析は、ロバストな分析方法になっています。
順路
次は
ガウス過程回帰分析
Tweet
