ご質問ありがとうございます。
関連付けると申しますか、与えられた説明変数の値を、それぞれの回帰モデルに入力して、それぞれ目的変数の値を計算することになります。
目的変数の間の関係を調べたい場合は、目的変数のみで主成分分析などの手法を用いるのがよいかと思います。

ご質問ありがとうございます。
またこのたびはプログラムのご購入をいただき感謝致します。
プログラムについてご不便をおかけ致しまして申し訳ございません。

---

サンプルデータについて、今回は目的変数の数を 3 にしているにもかかわらず、data.csvの説明変数の数と、data_prediction2.csvの説明変数の数とが異なることが原因でした。

---

data_prediction2.csvを開いていただき、X1 と X2 の二列を削除していただけないでしょうか。
申し訳ございませんがよろしくお願い致します。

ご質問ありがとうございます。
基本的には、時系列データでも普通のデータと同じようにクロスバリデーションをします。おっしゃる通り、クロスバリデーションの中では時間の概念はありません。ただ、問題なくハイパーパラメータの設定はできます。
クロスバリデーションはハイパーパラメータの最適化と割り切って用いて、ハイパーパラメータを決めた後に、トレーニングデータより後の時間のテストデータで予測性能を検証する、といった考え方がよいと思います。

ご質問いただきありがとうございます。
このたびはご不便をおかけ致しまして申し訳ございません。
85, 92, 99行目をそれぞれ

---

Score_LLE = manifold.LocallyLinearEmbedding(n_neighbors=n_neighbors_LLE, n_components=2,eigen_solver="dense").fit_transform(X)

---

Score_MLLE = manifold.LocallyLinearEmbedding(n_neighbors=n_neighbors_MLLE, n_components=2, method='modified', modified_tol=modified_tol_MLLE,eigen_solver="dense").fit_transform(X)

---

Score_HLLE = manifold.LocallyLinearEmbedding(n_neighbors=n_neighbors_HLLE, n_components=2, method='hessian', modified_tol=modified_tol_HLLE,eigen_solver="dense").fit_transform(X)

---

に変更するとよいかと存じます。
よろしくお願い致します。

再度のご連絡ありがとうございます。
エラーを拝見致しましたところ、SVRモデルが構築されていないようです。
28行目の
TunedSVR = ...
の手前で、X や Y を確認して、変な値が入っていないかや値が同じ変数がないかなど確認されるとよいと思います。

---

ちなみに、こちらではサンプル数 20未満でも問題なくSVRのモデル構築ができております。
よろしくお願い致します。

このたびはご購入いただき感謝申し上げます。

---

ご不便をおかけ致しまして申し訳ございません。
エラーの原因を特定するため、エラーメッセージを教えていただけないでしょうか？
お手数おかけ致しまして申し訳ございません。
よろしくお願い致します。

再度のご指摘をいただき感謝申し上げます。
こちらでも同じ状況になることを確認致しました。
該当する箇所を

---

NLSVRResltGS = GridSearchCV(svm.SVR(kernel='rbf', gamma=OptimalNLSVRGamma), TunedParameters, cv=FoldNumber, scoring='neg_mean_squared_error' )

---

に変更していただけないでしょうか？
他にも GridSearchCV が使われているところで、
scoring='neg_mean_squared_error'
を追加すると leave one out でも正常に動作致します。

---

お手数をおかけ致しまして申し訳ございませんがよろしくお願い致します。

ご質問いただきありがとうございます。
ご不便をおかけ致しまして申し訳ございません。

---

ご質問の中に、

---

> NLSVRのﾊｲﾊﾟﾗﾒｰﾀｰの最適値が最も精度が高いものになりません。

---

とございましたが、ここでおっしゃっている "精度が高い" とは具体的に何のことをおっしゃっているのでしょうか？
ちなみに、NLSVRのGridSearchCVではクロスバリデーション (質問された方の状況ですと leave one out クロスバリデーション) 後の r2 が最大になるようにハイパーパラメータを選んでいます。

---

よろしくお願い致します。

ご質問ありがとうございます。
PLSとリッジ回帰の違いについてはこちらに書きました。
http://univprof.com/archives/16-06-08-3768097.html

---

ご参照ください。

ご質問ありがとうございます。
はい、基本的にどんな手法でも前処理としてオートスケーリング(標準化)をするものです。混合分布モデルのときも例外ではありません。
実装頑張ってください。