2015年咨詢工程師:回歸檢驗
回歸檢驗
在利用回歸模型進行預測時,需要對回歸系數(shù)、回歸方程進行檢驗,以判定預測模型的合理性和適用性。檢驗方法有方差分析、相關檢驗、t檢驗、F檢驗。對于一元回歸,相關檢驗與t檢驗、F檢驗的效果是等同的,因此,在一般情況下,通過其中一項檢驗就可以了。對于多元回歸分析,t檢驗與F檢驗的作用卻有很大的差異。
1.方差分析
通過推導,可以得出:
∑(yi—y-)2=∑(yi—yi‘)2+∑(yi—y-)2
其中:
∑(yi‘—y-)2=TSS,稱為偏差平方和,
反映了n個y值的分散程度,又稱總變差。
∑(yi—yi‘)2=RSS,稱為回歸平方和,
反映了x對y線性影響的大小,又稱可解釋變差。
∑(yi—yi‘)2=ESS,稱為殘差平方和,根據(jù)回歸模型的假設條件,ESS是由殘差項e造成的,它反映了除x對y的線性影響之外的一切使y變化的因素,其中包括x對y的非線性影響及觀察誤差。因為它無法用x來解釋,故又稱未解釋變差。
所以,TSS=RSS+ESS其實際意義是總變差等于可解釋變差與未解釋變差之和。
在進行檢驗時,通常先進行方差分析,一方面可以檢驗在計算上有無錯誤;另一方面,也可以提供其他檢驗所需要的基本數(shù)據(jù)。
定義可決系數(shù)R2,R2 =RSS/TSS R2的大小表明了y的變化中可以用x來解釋的百分比,因此,R2是評價兩個變量之間線性關系強弱的一個指標??梢詫С?,R2 = RSS/TSS=∑(yi—yi‘)2 /∑(yi—y-)2 =1- ESS/ TSS=1-∑(yi—y-)2 /∑(yi—y-)2。