Regressioanalyysi

Regressioanalyysi on tilastotieteen menetelmä, jonka avulla tarkastellaan vastemuuttujan riippuvuutta valituista selittävistä muuttujista.

Regressioanalyysissa lasketaan vastemuuttujan tai muuttujien Y odotusarvo ehdolla selittävät tekijät X, formaalisti regressiofunktio E(Y|X). Tämä perustuu oletukseen, että E(Y|X) on mahdollista päätellä X:ää ja Y:tä koskevasta havaintoaineistosta.

Kun tehdään tavallinen lineaarinen regressioanalyysi skalaarimuuttujille X ja Y, oletetaan että E(Y|X) = aX + b. Tämän funktion estimaatti on y* = a*X + b*, missä a* ja b* ovat aineistosta estimoitavat regressiokertoimet, a* = Cov(X,Y) / Var(X), ja b* = Keskiarvo(Y) - a*Keskiarvo(X).

(Integroituva) satunnaismuuttuja/vektori Y voidaan yleisesti kirjoittaa hajotelmana Y = E(Y|X) + u. Tällöin E(Y|X) on regressiofunktio, joka pyritään laskemaan, ja u on satunnaisvaihtelua, jonka määritelmä on yksinkertaisesti u:= Y - E(Y|X). Riippuu E(Y|X):n ja u:n tapauskohtaisista ominaisuuksista (E(Y|X):n funktioluokka, sileys ym.; u:n varianssi, mahdollinen autokorrelaatiorakenne ym.), pystytäänkö regressioanalyysia soveltamaan, ja mikä analyysimenetelmä on suositeltavin.

Regressioanalyysin menetelmiä ovat muun muassa:

• Lineaarinen regressioanalyysi
• Epälineaarinen lineaarinen malli
• Yleistetty lineaarinen malli
• Ei-parametrinen regressioanalyysi
• Yleistetty additiivinen malli

Aiheesta muualla

• Sykes, A.O. "An Introduction to Regression Analysis" (Inaugural Coase Lecture)