在許多心理學的研究都特別強調 R-squared (或 R²)的重要，這無可厚非也可以理解，因為從定義上來說，R² 告訴你在你的模型裡，有多少的 variance 是可以被你的自變數解釋的。

然而，事情並不是那麼簡單，journal reviewers 並不會看到你有很高的 R² 就欣然地收下你的文章，不要求你作任何修改。我有一個老師更是直接說：R²  is (almost) nothing。

有什麼例子可以證明這個觀點呢？綠角財經筆記有一篇文章 Stupid Data Miner Tricks讀後感—-不斷尋求相關性的危害，提到了個有趣的例子：孟加拉的奶油產量與美國股市指數呈現高度相關，R²高達0.75。

很驚訝，是不是？還有更驚訝的！美國與孟加拉的奶油總產量，美國的起司產量與美國和孟加拉的羊隻總數，這三個數字與標普500做迴歸，發現 R² 高達0.99。這樣，你還相信 R² 嗎？

我不是要大家不相信這個數據，而是別被很高的R² 嚇著了。還需要具體一點的例子嗎？假設你有前、後測，實驗組與控制組，如果你跑第一個模型：用迴歸分析，前測與treatment dummy為自變量；與第二個模型：用迴歸分析，依變量是後測減前測，自變量是treatment dummy，你會發現第一個模型的 R² 比第二個模型高許多。你可以說第一個模型比第二個模型好嗎？

那到底什麼才重要呢？準確地預測 (precise estimation) 才是最重要的。至於如何準確地預測，這就是另外一個問題了。

相關閱讀：

如何讓你的p value significant??…

(承前文 探索性因素分析的設計與使用 (一) )
選擇因素個數
這點作者說的很好，要決定因素個數，就是在最精簡模型 (也就是最少的因素) 與有理 (也就是有足夠的因素能解釋這些因子) 之間作平衡。
傳統上來說，方法學家認為指明過少的因素個數比指明過多的因素個數還要來得嚴重，因為當因素過少時，本應該 load 在 B 因素的因子，因為模型並沒有納入 B 因素，變成錯誤地 load 在包含在模型的 A 因素。這當然會造成扭曲的結果，並影響到後來的轉軸與解讀。
相對地，選擇過多的因素會導致在轉軸時，主要因素正確呈現出來，但一些次要因素並沒有因子 load 在其上或是僅有單一因子。然而，選擇過多的因素仍是要避免的。
因為這些原因，許多方法學家就在探討如何找出最適合的因素數，其中一個非常有名的方法是 Kaiser criterion，這個準則就是看有幾個特徵值 (eigenvalues) 是否大於 1，並用這個數值來決定因素的數量。雖然這個方法看似簡單、客觀，但其實存在著一些問題 (詳細討論請見原文章)，特別是經常會採取過多的因素數 (有時候是採取過少的因素數)。
第二種方法就是 scree test，也就是畫出相關矩陣的特徵值，並看在哪一個點之後有明顯的下降。在這個下降前有幾個特徵值決定了因素數。這種方式也受到不少批評，特別是它的主觀性。此外，有時候得到的圖並沒有明顯的下降。
第三種方法是平行分析 (parallel analysis)，簡單地說，就是比較你從樣本裡得到的特徵值與從隨機資料產生的特徵值 (詳情請讀文章)，模擬分析的結果認為平行分析所提供的結果還不錯，雖然統計軟體並未列入這種分析法。

註：parallel analysis 在 SAS 和 SPSS 中的使用，可參考：https://people.ok.ubc.ca/brioconn/nfactors/nfactors.html…

許多人的研究通常都會用問卷，而使用問卷時，常常為了要減少變數的數量，而會採用因素分析 (不懂的請參考：因素分析(Factor Analysis) )，特別是探索性因素分析 (請參考探索性與驗證性因素分析)。

探索性因素分析有其本身的限制，有的研究利用模擬數據質疑探索性因素分析並不能正確地表現出資料之間的結構，有的研究則著重於分析探索性因素分析適合與不適合使用的情形。Fabrigar, Wegener, MacCallm, and Strahan (1999) 這篇在心理學上非常有名的文章，就是在討論探索性因素分析的適用情形。我在閱讀之後收獲不少，因此就將這篇文章的重點節錄下來跟大家分享。

作者提到，在進行探素性因分析前，有五個需要考慮到的地方。1) 什麼變數要納入，sample的大小與特性；2) 要決定探索性因素分析是不是最適合的分析方式；3) 如果探索性因素分析是適合的，那接下來要決定有什麼方式來 fit the model.…

針對不同種類的研究問題，研究者會利用各種不同的研究方法、資料來回答。許多研究方法的書都列了研究問題種類與研究方法的對照表，我下面列的是摘自 Yin (2009) 的 case study reserach (這本書有 kindle 版)。