Presentasjon lastes. Vennligst vent

Presentasjon lastes. Vennligst vent

Metode - Rolf Gjestad www.gjestad.biz 1 Å forklare sosiale fenomener Introduksjon til regresjonsanalyse Kap. 8.

Liknende presentasjoner


Presentasjon om: "Metode - Rolf Gjestad www.gjestad.biz 1 Å forklare sosiale fenomener Introduksjon til regresjonsanalyse Kap. 8."— Utskrift av presentasjonen:

1 Metode - Rolf Gjestad 1 Å forklare sosiale fenomener Introduksjon til regresjonsanalyse Kap. 8

2 Metode - Rolf Gjestad 2www.gjestad.biz Introduksjon til regresjonsanalyse (Kap 8)  Hva brukes regresjonsanalyse til?  Beskrivelse av den lineære regresjonsmodellen  Minste kvadrats(sums) metode  Hvor mye modellen forklarer (R 2 ).  Konfidensintervall og hypotesetesting  Hva hvis regresjonsparameteren ikke blir signifikant?  Prediksjon og prediksjonsfeil  Skifte av måleenhet – Standardiserte regr.koeffisienter

3 Metode - Rolf Gjestad 3www.gjestad.biz Hvorfor regresjonsanalyse?  Korrelasjonskoeffisienten: et symmetrisk mål  Regresjonsanalyse: asymmetrisk behandling av variablene  Årsak – virkning  Ren prediksjon  r: samvariasjon  MR: Finne predikerte verdier

4 Metode - Rolf Gjestad 4www.gjestad.biz Viktige spørsmål som kan besvares 1. Styrke og retning 2. Kvantifisering av sammenheng  Økning/reduksjon i variablene forbundet med hverandre 3. Bakenforliggende variabler?  Spuriøse variabler / konfunderende variabler 4. Direkte eller indirekte sammenhenger mellom Y og X ved å kontrollere for mellomliggende variabler

5 Metode - Rolf Gjestad 5www.gjestad.biz Viktige spørsmål som kan besvares 5. Relativ betydning av ulike prediktorer  Grad av innvirkning på Y 6. Prognose - prediksjon 7. Samme regresjonsmodell i flere grupper?  Lik modell for kvinner og menn? 8. Samspill – statistisk interaksjon  Modererende effekter: eks.: stressor (X1) – støtte (X2) – stressor x støtte (X1 x X2) og Reaksjon (Y)

6 Metode - Rolf Gjestad 6www.gjestad.biz Regresjon: Variablenes metrikk  Avhengig: kontinuerlig (ordinal, intervall, ratio)  Hvis dikotom / få kategorier: logistisk regresjon  Uavhengige / prediktorer: alle nivå  Både nominale (eks. dikotome - 2 kategorier), ordinale, intervall og ratio nivå  Kvalitative variabler med flere enn 2 kategorier kan håndteres med dummy-variabler

7 Metode - Rolf Gjestad 7www.gjestad.biz Den lineære regresjonsmodellen  Formel:  Intercept: a/b 0 – Skjæringspunkt med Y-aksen, dvs. når X=0. - Tolkning av denne!  Slope: b 1 – Helningsvinkel, dvs. hvor mange enhenter stiger / synker Y når X øker med 1 enhet.  Ved lineær sammenheng: endringen er uavhengig av hvilket nivå X ligger på.  Ikke slik ved IKKE-lineære sammenhenger

8 Metode - Rolf Gjestad 8www.gjestad.biz Den lineære regresjonsmodellen  Restledd  Andre variabler som påvirker Y, men som ikke er med i modellen.  Måles ikke direkte, men finnes ved forskjellen mellom faktisk observert skåre på Y og forventet (predikert) skåre  Residualvariasjon (varians)  Underrepresentasjon av modellen – en mer avansert modell vil treffe data bedre og dermed gi mindre avvik mellom observert skåre og predikert skåre

9 Metode - Rolf Gjestad 9www.gjestad.biz Den lineære regresjonsmodellen  Restledd / Residual :  Både positive og negative  Gjennomsnitt = null for en gitt X-verdi  Prediksjon:  Finne Y-predikert når kjenne X, b 0 og b 1  Observert skåre=Predikert skåre + rest skåre  Avviket uttrykker i hvilken grad andre prediktorer skaper variasjon i den avhengige variabelen.

10 Metode - Rolf Gjestad 10www.gjestad.biz Den lineære regresjonsmodellen  Standardavviket til restleddet = s ε  Utregning – se side 220  Regresjonslinjen beskriver hovedtendensen i data  Empirisk regresjonskurve (side 221)  Deler X i intervaller og finner snittverdier for Y  Viser at forutsetningen om linearitet er oppfylt.

11 Metode - Rolf Gjestad 11www.gjestad.biz Minste kvadrat(sums) metode (OLS)  Velger regresjonslinjen som gir et så lite avvik fra de observerte skårene til de predikerte.  Minimering av feil (e) og maksimering av regresjonen.  Formler for utregning av a og b – se side 222  Annen formel for b:

12 Metode - Rolf Gjestad 12www.gjestad.biz  Dekomponering av variansen i Y:  Forklart varians (r 2 )  Forklaring og forklaring? Årsaksforklaring? Predikert varians?  NB! R 2 gir litt for høye verdier, særlig ved lite N og ved mange prediktorer. Redning: Adjusted R 2 Hvor mye forklarer modellen – R 2

13 Metode - Rolf Gjestad 13www.gjestad.biz Konfidensintervall for parameterestimat – hypotesetest  Finne standardfeilen til b 1  Side 225  Påvirket av telleren (variansen til residualen) og nevneren (N og variansen i X)  Standardfeilen blir mindre når:  Jo mindre residualvarians  Jo større N / flere observasjoner  Jo større variasjon i X

14 Metode - Rolf Gjestad 14www.gjestad.biz Konfidensintervall for parameterestimat – hypotesetest  Teste hypotesen om at b 1 = 0  t = b 1 / SE(b 1 )  Store positive/negative verdier er lite sannsynlige under H0, forkaste H0.  Se p-verdier i datautskriften og sammenligne denne med vår kritiske p-verdi.

15 Metode - Rolf Gjestad 15www.gjestad.biz Hvis regresjonsparameteren ikke blir signifikant – Forklaring:  Det er ingen sammenheng  For strengt signifikansnivå  For lavt antall observasjoner  For liten variasjonsbredde  Spesifikasjonsfeil (misspecification)  Ikke-lineær modell  Andre viktige forklaringsvariabler er ikke tatt med

16 Metode - Rolf Gjestad 16www.gjestad.biz Prediksjon og prediksjonsfeil  Prediksjonsfeil: hvor store variasjoner vi må forvente i den avhengige variabelen Y når vi holder X fast.  Konfidensintervall til b

17 Metode - Rolf Gjestad 17www.gjestad.biz  Endring av metrikk medfører endring i b  Endring av X: endring av b 1  Endring av Y: endring av b 0 og b 1  Beta:  Område for beta: -1 til +1 Skifte av måleenhet. Standardiserte regresjonskoeffisienter.

18 Metode - Rolf Gjestad 18 Å forklare sosiale fenomener Regresjonsanalysens forutsetninger Kap. 9

19 Metode - Rolf Gjestad 19www.gjestad.biz Regresjonsanalyse – Forutsetninger  Linearitet  Homoskedastisitet  Normalfordelte residualer  Fravær av autokorrelasjon i residualen  Fravær av korrelasjon mellom residualen og den uavhengige variabelen.  Konsekvenser av målefeil i X og Y

20 Metode - Rolf Gjestad 20www.gjestad.biz Linearitetsforutsetningen  Ofte brutt  Pragmatisk syn: Ofte en god / tilstrekkelig tilnærming til data.  Side 238. Tolkning av intercept når denne er negativ sannsynliggjør en ikke-lineær sammenheng.  Figur 9.2 viser at en modell som forutsetter linearitet kan resultere i en IKKE-relasjon når data er IKKE-lineære (C).

21 Metode - Rolf Gjestad 21www.gjestad.biz Linearitetsforutsetningen  Avdekke ved å:  Se spredning (scatterplot)  Empirisk regresjon – dele opp X i intervaller og se på snittet i Y  Substansiell teori  Velge en annen regresjonsmodell  se boka hvis du har fryktelig lyst.

22 Metode - Rolf Gjestad 22www.gjestad.biz Homoskedastisitet  Lik utbredelse mht variasjon rundt regresjonslinjen.  Skal være like stor for lave og høye X-verdier  Påvirker standardfeilen og dermed signifikanstesten  Løsning: IKKE-lineære omkodinger.

23 Metode - Rolf Gjestad 23www.gjestad.biz Normalitet  Variablene normalfordelte  Individuelle restledd skal også være normalfordelte  Hvis ikke: parameterestimatet vil ikke følge t- fordelingen

24 Metode - Rolf Gjestad 24www.gjestad.biz Utliggere  Brudd på normalitetsfordelingen  Feil i data? Utelukke data  Transformere variabler  Komplisere modellen for å fange opp dette.  Utelukke data?

25 Metode - Rolf Gjestad 25www.gjestad.biz Fravær av autokorrelasjon. Tidsseriedata  Overse dette.

26 Metode - Rolf Gjestad 26www.gjestad.biz Når restleddet er korrelert med den uavhengige variabelen  Det skal ikke finnes bakenforliggende årsaksfaktorer til Y som også korrelerer med årsaksfaktoren X.  Både et substansielt og teknisk problem.  Spuriøs korrelasjon og parameterestimatet b kan være sterkt påvirket av den bakenforliggende variabelen.  Problemet er når vi mangler en/flere årsaksfaktorer OG som samvarierer pos/neg med X

27 Metode - Rolf Gjestad 27www.gjestad.biz Målefeil  I den avhengige variabelen  Jo større feil, jo større utslag i estimeringen  Større residualer. Dette medfører større fare for å ikke få statistisk signifikante funn  I den uavhengige variabelen  Regresjonsparameteren blir underestimert hvis sammenhengen er positiv (b > 0).  Regresjonsparameteren blir overestimert hvis sammenhengen er negativ (b < 0).

28 Metode - Rolf Gjestad 28 Å forklare sosiale fenomener Multippel lineær regresjon (MR) Kap. 10

29 Metode - Rolf Gjestad 29www.gjestad.biz Hva man kan oppnå med en multivariat analyse  Finne en fullstendig forklaring/prediksjon av Y?  Finne total prediksjonskraft.  Likning:  Innebærer:  hvis endring i en x, og de andre holdes konstant, så vil Y endres med et visst antall enheter.  Kontroll for alternative prediktorer, eks. spuriøse sammenhenger eller mellomliggende variabler.

30 Metode - Rolf Gjestad 30www.gjestad.biz Hva kan man oppnå med en multivariat analyse  Eks.:  Timelønn vs. Kjønn.  Mellomliggende variabel: Utdanning  Y = b 0 + b 1 K + b 2 U + e  Finner effekten av Kjønn på Lønn, kontrollert for ulikheter i Utdanning.  Behandlingsresultat vs. Behandlingens lengde  Bakenforliggende variabel: Behandlingsmotivasjon

31 Metode - Rolf Gjestad 31www.gjestad.biz Tolkning og estimering av parametere i den multivariate modellen  b0: Intercept er den verdien man får når alle prediktorene er satt lik null  b1: Parameteren måler hvor mye Y øker/minker når X1 økes med en enhet, mens alle de andre X-ene holdes konstant/forblir uforandret.  Det samme for b2, b3 osv.  Residualen (e) regnes ut som tidligere.  Det som er igjen uforklart etter at x-ene har gjort jobben.  Y predikert av X og Z  Sirkelforklaring – side 264

32 Metode - Rolf Gjestad 32www.gjestad.biz Tolkning og estimering av parametere i den multivariate modellen XYXY XY Z XY Z

33 Metode - Rolf Gjestad 33www.gjestad.biz Tolkning og estimering av parametere i den multivariate modellen  Adjustet (justert) R 2  Antall frihetsgrader: df=N-k-1, k=antall uavhengige variabler

34 Metode - Rolf Gjestad 34www.gjestad.biz Sammenligning av R 2 for bivariate og multivariate modeller  Økning i forklart varians avhengig av kovariansen mellom X og Z  Eksempelet i boka: Korrelasjonen mellom X og Z er (r 2 =0.03)  Sirklene forklarer derfor hver sine deler av variasjonen i Y XZ X Z Y Y

35 Metode - Rolf Gjestad 35www.gjestad.biz Sammenligning av R 2 for bivariate og multivariate modeller  Derfor forklarer disse prediktorene i en multivariat modell så godt som like mye som summen av hver enkelt bivariate modell.  Hadde det vært en sterk sammenheng mellom prediktorene, så hadde den multivariate modellen forklart mye mindre enn de 2 enkelte modellene gjorde til sammen.

36 Metode - Rolf Gjestad 36www.gjestad.biz Konsekvensen hvis en relevant prediktor utelates  En relevant prediktor dersom den påvirker Y  Hvis utelate en relevant prediktor OG som overlapper (korrelerer) lavt med de andre prediktorene: Endring i R 2.  Fjerne en relevant prediktor (X 2 ), betyr at denne legges inn i residualen. Hvis denne korrelerer med X 1, blir effekten tillagt X 1.  Resultatet blir også korrelasjon mellom X 1 og e, fordi X 2 inngår her.  Betyr at en av grunnforutsetningene er brutt.

37 Metode - Rolf Gjestad 37www.gjestad.biz Konsekvensen hvis en relevant prediktor utelates  Resultatet blir at b1 blir for høy i den bivariate modellen.  HVIS r x1x2 < 0: b1 blir for liten i den bivariate modellen.  Jo større korrelasjon mellom x 1 og x 2, jo større skjevhet i estimering av b hvis en x blir utelatt.  Intercept/konstant er når alle x-ene = null. Eks i boka: når utdanning er null OG kjønn = null (menn), mens bivariat modell: bare utdanning=0

38 Metode - Rolf Gjestad 38www.gjestad.biz Konsekvensen hvis en relevant prediktor utelates  En reell sammenheng kan bli lik null pga. en bakenforliggende faktor (supressor)  Undertrykker / skjuler en sammenheng, så lenge man bare studerer bivariate sammenhenger.  Side 275 for eksempel  En sammenheng kan også endre fortegn når det kontrolleres for en tredje variabel.  Eks: side : Kjønnseffekten som forsvant!

39 Metode - Rolf Gjestad 39www.gjestad.biz Faktorer som påvirker standardfeilen: Kolinearitet  Standardfeilen ved bivariat regresjon er påvirket av:  N  Variasjon i X  Størrelsen på residualvariansene  Ved Multippel regresjon (MR), i tillegg:  Høy korrelasjon mellom X-ene. Multikolinearitet.  Fjerne variabler som overlapper i stor grad (r=.6/.7), som opptrer samtidig

40 Metode - Rolf Gjestad 40www.gjestad.biz Konsekvenser for standardfeilen hvis en relevant variabel utelates  Dersom vi fjerner en variabel fra regresjons- ligningen og dette fører til at standard-feilen til en eller flere av de gjenværende variablene blir markert redusert, er dette en indikasjon på kolinearitet mellom den variabelen vi har fjernet og den eller dem som har fått mindre standardfeil.

41 Metode - Rolf Gjestad 41www.gjestad.biz Sammenligning av regresjonsmodeller med F-test  Testing av hver parameter (b)  Testing av hele modeller  Testing av forskjellen mellom modeller  Eks.: gir 2 ekstra variabler et statistisk signifikant bidrag til modellen?  Signifikanstester altså ikke mot null-hypotesen, men mot en alternativ modell !

42 Metode - Rolf Gjestad 42 Å forklare sosiale fenomener Flere regresjonstemaer: samspill, dummyvariabler, stianalyse Kap. 11

43 Metode - Rolf Gjestad 43www.gjestad.biz Innledning  Samspill / Interaksjon – Situasjonsbetinget sammenheng  Effekten av en uavhengig variabel på en avhengig variabel, avhenger av effekten av en tredje variabel.  r Y,x1 varierer med ulike nivåer av x 2.  Kvalitative variabler kan analyseres med dummyvariabler.  Viser tilstedeværelsen av en egenskap eller ikke (0 eller 1)  Stianalyse:  Flere modeller analyseres

44 Metode - Rolf Gjestad 44www.gjestad.biz Samspill  Y = b0 + b1x1 + b2x2 + e  Der x2 er kjønn (0 og 1)  Når kjønn er 0: Y = b0 + b1x1 + e  Når kjønn er 1: intercept = b0 + b2  Resultatet blir 2 parallelle linjer  Hvis empiri tilsier avvik fra 2 parallelle linjer: samspill

45 Metode - Rolf Gjestad 45www.gjestad.biz Samspill – Analyseres ved å: 1. Dele data i 2 utvalg (forskjellige intercept og slope), eller: 2. Lage interaksjonsvariabel (produktledd): x 3 = x 1 * x 2  Både intercept og slope kan bli forskjellige

46 Metode - Rolf Gjestad 46www.gjestad.biz Samspill  x1 og x2 er hovedeffekter  x3 er en interaksjonseffekt.  Mulig å få x1 og x2 = 0, mens x3 stat. signifikant  Se side 304  Sammenligning av modell med og uten samspillsledd  side  Forandring i R 2 / F

47 Metode - Rolf Gjestad 47www.gjestad.biz Dummyvariabler  En indikator som viser om en egenskap er tilstede eller ikke (1 eller 0).  En kvalitativ variabel med flere kategorier kan deles opp i antall kategorier – 1 nye dummyvariabler.  Side 315  Gruppetilhørighet kan også spesifiseres  Eksp.gruppe = 1, kontrollgruppe = 0 Lav00 Middels10 Høy01

48 Metode - Rolf Gjestad 48www.gjestad.biz Modellering av kausale systemer: Stianalyse – strukturelle ligningsmodeller  Flere avhengige variabler – endogene variabler  Flere prediktorer – eksogene variabler  Direkte og Indirekte stier  SEM:  Observerte og latente variabler  Multisample analyser  Latent vekstmodeller


Laste ned ppt "Metode - Rolf Gjestad www.gjestad.biz 1 Å forklare sosiale fenomener Introduksjon til regresjonsanalyse Kap. 8."

Liknende presentasjoner


Annonser fra Google