迴歸分析(ordinary least squares)的假設很多都是跟殘差有關 例如 (1)殘差為一個平均數為零的常態分配 並且(2)殘差不會隨著預測值起舞

關於(1) 從迴歸分析的公式就可以判斷 例如: Y = a + bx + e(residuals) e要為零才能產生我們想要的模型

關於(2) 如果依變項與獨變項互為因果性(reciprocal causation)那麼殘差就會間接成為獨變項因 這就會讓獨變項與殘差有系統性相關 

還有一個(3):當迴歸分析有多個獨變項時 就會變成三維的分析(人類很難理解三維的資料) 但是殘差還是只有最初那樣的簡單形式 這真是令人鬆了一口氣 因為我們只要聚焦於殘差 就可以告訴我們想要的資訊

(1)與(2)使得迴歸分析具有如實驗般的操弄反應效果 雖然用的是觀察資料(observational data) 這真是自然的奧秘

(3)使得人類大腦能夠間接理解更複雜的資料形式 感謝上帝

殘差是甚麼? 它是觀察值(也就是手中握有的樣本)與預測值之間的"差"