b) Szórásbecslések

Tételezzük fel, hogy az y mennyiség valóban lineáris függvénye x független változónak. Ebben az esetben csak a mérési hiba az oka annak, hogy a mért pontok nem esnek pontosan a becsült egyenesre. Ebbõl következik, hogy ebben az esetben az

mennyiség a mérési hiba becslése. (A szabadsági fok azért n - 2, mert az egyenes két állandója két megkötést jelent az y mért értékek között). Ez a becslés egyébként

módon is számítható.

Felvetõdik ezekután a paraméterek és a kapott paraméterekkel számitott értékek szórásának becslése. Ezek rendre a következõk:

Normális eloszlású y értékek esetén adott valószínûségû konfidencia tartományt is megadhatunk a paraméterekhez.

A becsült paraméterekkel bármely x* változóhoz kiszámítható egy érték várható értékének szórása:

Ez az x*-tól függõ mennyiség a regressziós egyenes felett és alatt megadja a konfidencia "övet", tájékoztat arról, milyen határok között mozog a regressziós egyenes 1 - a valószínûséggel.(7.1 ábra). Mint látható, a konfidencia tartomány az egyenes "súlypontjában" (az pontban) legkeskenyebb és az egyenes két széle felé nõ.

Bármely x* változónál jövõben mért y várható helyének bizonytalansága nagyobb. A jóslási (predikciós) szórás:

amit a 7.1 ábrán a külsõ öv mutat meg.
 

c) Az illesztés jósága

A 7.2 ábrát tanulmányozva látható, hogy hogy az  távolság nem az egyetlen, amelyiket definiálni lehet. Beszélhetünk az távolságról, és az  távolságokról is. Belátható, hogy az távolságok

négyzetösszege ill. az azokból számított "modell okozta szórás" arról vall, miért térnek el az y mért értékek átlaguktól amiatt, hogy azok x függvényei. Az is érthetõ, hogy ha ez a szórás összemérhetõ a kisérleti szórást becslõ,  különbségek

négyzetösszegébõl számított "reziduális szórással", akkor kétséges a függés léte. Ezért számos esetben a regressziós számítást variancia analízis (l. 6. pont) követi, ahol ennek a két szórásnak négyzetét (varianciáját) F próbával hasonlítják össze. Minél nagyobb F, annál biztosabb a függés. Megjegyezhetõ, hogy a modell okozta eltérésnégyzetösszeg és a reziduális eltérésnégyzetösszeg kiadja az  távolságok

totális négyzetösszegét, mert

A regresszió jóságát szokás a modell okozta eltérésnégyzetösszeg (7.24) és a teljes (totális) eltérésnégyzetösszeg (7.26) hányadosával is jellemezni.

Ez a mennyiség azt adja meg, hogy az y értékek x-menti változásának hányadrésze tulajdonítható a lineárisnak tekintett függésnek. Az r² hányados az r korrelációs együttható (l. 7.2 pont) négyzete. Nem túl érzékeny mutató. Ha a mért pontok valamennyien pontosan az egyenesen vannak, értéke 1, de szemmelláthatóan szóró és nem is lineárisan függõ mért értékeknél is viszonylag magas (0.9 feletti) lehet.
 

7.1.3 Nemlineáris paraméterbecslés

Nemlineáris (pl. hatványfüggvénnyel leírható, reciprokos, exponenciális) össszefüggések paramétereinek becslésére a legkisebb négyzetek módszere ugyancsak alkalmazható. Az optimális paramétereket megadó

kritériumban az F függvény nemlineáris , így a deriválás után (ha az lehetséges) kapott (7.8), (7.9) összefüggésekre emlékeztetõ egyenletek nem lineárisak és megoldásukhoz a numerikus matematika erre alkalmas módszerei használhatók.

Egyes esetekben nem kell ehhez a nehéz eljáráshoz folyamodni. Az

függvényben például helyettesíthetünk. Legyen . Ezzel a (7.30) egyváltozós összefüggés az

háromváltozós, ám lineáris fügvénnyé alakult, amelyikbõl a lineáris regresszió szabályai szerint a keresett paraméterek meghatározhatók. (l. a 7.16 egyenletrendszert). Hasonlóan lehet eljárni pl. az  modell esetén is.

Függvények gyakran úgy linearizálhatók, hogy a transzformáció az y függõ változót is érinti. Az

összefüggés mindkét oldalát logaritmizálva az

lineáris függvényhez jutunk, amelynek paraméterei lineáris regresszióval becsülhetõk.

Az

összefüggés y = ln k és x = 1/T helyettesítéssel lineárissá alakítható.

A mért értékeket érintõ átalakításoknál azonban figyelni kell arra a következményre, hogy az eredetileg (alkalmasint) egyenlõ nagyságú hibák a transzformációk után eltérõkké, sõt esetleg aszimmetrikusakká válnak, igy a becsült paraméterek torzítottak lehetnek és hibáikról gondos munka után lehet nyilatkozni. A súlyozott legkisebb négyzetek módszerének alkalmazása mindenképpen indokolt.
 

7.2 Valószínûségi változók összefüggése

Két valószínûségi változó ugyancsak összefügghet. Az összefüggés abban nyilvánul meg, hogy az egyik változó növekedése vagy csökkenése együttjár a másik változó csökkenésével vagy növekedésével. Ezt az összefüggést a kovariancia méri:

Ez a mennyiség pozitív, ha az X és Y valószínûségi változók együtt mozognak, negatív, ha ellentétesen. Szokás a kovarianciát a két változó szórásával osztva a - 1 és +1 határok közé szorítani. A kapott mennyiség a korrelációs együttható:

Minél inkább megközelíti r a +1 vagy - 1 értéket, annál szorosabb a két változó közötti összefüggés. Ha el is éri, a két változó egymás lineáris függvénye. Ha a korrelációs együttható 0, akkor a két változó korrelálatlan. Ha két változó független, akkor korrelálatlan is. Fordítva a megállapítás nem érvényes. Attól, hogy r 0-értékû, a két változó között még lehet függvénykapcsolat. Kivételt ez alól a normális eloszlású változók képviselnek.

A korrelációs együtthatót mintából az

statisztika becsli.

Ha a korrelációs együttható szignifikáns 0 értékét akarjuk megvizsgálni, a

értéket kell kiszámítani. Ha ez nagyobb, mint  , akkor a  nullahipotézist  tévedési valószínûséggel elvetjük.

Korrelált valószínûségi változók lineáris összefüggését lehet regresszióval vizsgálni. A regressziós egyenes azonban más helyzetû, ha Y-t X függvényében, avagy X-et Y függvényéban vizsgáljuk.

Általában fennáll, hogy a korreláció nem jelent szükségképpen oksági kapcsolatot. A függõ és független változó fogalma ebben a környezetben gyakran értelmezhetetlen.