
2015年咨詢工程師:回歸檢驗(yàn)
回歸檢驗(yàn)
在利用回歸模型進(jìn)行預(yù)測時,需要對回歸系數(shù)、回歸方程進(jìn)行檢驗(yàn),以判定預(yù)測模型的合理性和適用性。檢驗(yàn)方法有方差分析、相關(guān)檢驗(yàn)、t檢驗(yàn)、F檢驗(yàn)。對于一元回歸,相關(guān)檢驗(yàn)與t檢驗(yàn)、F檢驗(yàn)的效果是等同的,因此,在一般情況下,通過其中一項(xiàng)檢驗(yàn)就可以了。對于多元回歸分析,t檢驗(yàn)與F檢驗(yàn)的作用卻有很大的差異。
1.方差分析
通過推導(dǎo),可以得出:
∑(yi—y-)2=∑(yi—yi‘)2+∑(yi—y-)2
其中:
∑(yi‘—y-)2=TSS,稱為偏差平方和,
反映了n個y值的分散程度,又稱總變差。
∑(yi—yi‘)2=RSS,稱為回歸平方和,
反映了x對y線性影響的大小,又稱可解釋變差。
∑(yi—yi‘)2=ESS,稱為殘差平方和,根據(jù)回歸模型的假設(shè)條件,ESS是由殘差項(xiàng)e造成的,它反映了除x對y的線性影響之外的一切使y變化的因素,其中包括x對y的非線性影響及觀察誤差。因?yàn)樗鼰o法用x來解釋,故又稱未解釋變差。
所以,TSS=RSS+ESS其實(shí)際意義是總變差等于可解釋變差與未解釋變差之和。
在進(jìn)行檢驗(yàn)時,通常先進(jìn)行方差分析,一方面可以檢驗(yàn)在計(jì)算上有無錯誤;另一方面,也可以提供其他檢驗(yàn)所需要的基本數(shù)據(jù)。
定義可決系數(shù)R2,R2 =RSS/TSS R2的大小表明了y的變化中可以用x來解釋的百分比,因此,R2是評價兩個變量之間線性關(guān)系強(qiáng)弱的一個指標(biāo)。可以導(dǎo)出,R2 = RSS/TSS=∑(yi—yi‘)2 /∑(yi—y-)2 =1- ESS/ TSS=1-∑(yi—y-)2 /∑(yi—y-)2。
