Datamatrisen: observasjoner, variabler og verdier. Variablers målenivå: Nominal Ordinal Intervall Forholdstall (ratio)

Transkript

1 Datamatrisen: observasjoner, variabler og verdier. Variablers målenivå: Nominal Ordinal Intervall Forholdstall (ratio)

2 Beskrive fordelinger (sentraltendens, variasjon og form): Observasjon y i Sentraltendens (gjennomsnitt) m y = y i / n Variasjon (spredning) SS (kvadratsummen) (y i m y ) 2 Variansen (var) (y i m y ) 2 / (n-1) = SS / (n-1) Standardavviket [ (y i m y ) 2 / (n-1)] = (SS / (n-1)) = (var) Fordeling

3 Generelt: Ved multivariate analyser (flere uavhengige variabler) i SPSS, vil de mest aktuelle prosedyrene være: Logistic regression, Regression Linear og GLM Univariate.

4 Regresjonslinja: y = a + b*x Husk tolkning av a og b fra psy1010/psyc1100! b (regresjonskoeffisienten) vil være å tolke som endring i y når x øker med en. Og forklart varians (R 2 ) vil her være.44 Her: Predikert Salnow = *Edlevel dvs. vi forventer her en økning i Salnow på 1564 dollar når Edlevel øker med ett år. Men hva betyr øker med en når x-variabelen er en kvalitativ variabel? Da er det nyttig å formulere problemet på en annen måte!

5 Enveis variansanalyse

6 Dersom den uavhengige variabelen er kvalitativ (nominalnivå) og har flere enn to nivåer, må vi beregne varianskomponentene ( forklart og uforklart ) på en annen måte enn vi gjorde ved den lineære regresjonsanalysen. Da benytter vi de metodene som historisk har fått betegnelsen variansanalyse.

7 Vi bruker oppgave-2.pdf som eksempel:

8 Vi er (som vanlig) interesserte i om variasjon i den uavhengige variabelen (x) kan antas å skape variasjon i den avhengige variabelen (y). Eller i dette konkrete tilfellet om variasjon i gruppe skaper variasjon i symptomnivå. Dette kunne vi også kunne formulere som et spørsmål om gjennomsnittsforskjeller mellom grupper i noen bøker foretrekkes det... Vi beregner totalvariasjonen i symptomnivå ved kvadratsummen (SS): SS total ( y i y)

9 Denne totalvariasjonen kan vi nå spalte opp i to komponenter. Vi beregner først variasjonen under forutsetning av at alle personene i hver gruppe har samme symptomnivå: SS b g j1 n j i1 ( y j y) 2 g j1 n j ( y j y) Dette ser jo komplisert ut men vi gir ganske enkelt hver person et symptomnivå tilsvarende gjennomsnittsnivået i den gruppa personen tilhører og beregner deretter SS på vanlig måte. Dette kaller vi mellomgruppe (between groups) variasjonen og denne er da helt uavhengig av den variasjonen som måtte være mellom personer innen samme gruppe.

10 Vi beregner nå variasjonen ved hver persons avvik fra gjennomsnittet i den gruppa personen tilhører: SS w g 1 ng j 1 ( y ij y j ) 2 24 Vi beregner ganske enkelt hver persons avvik fra gjennomsnittet i sin egen gruppe og beregner deretter SS på vanlig måte. Dette kaller vi innen gruppe (within groups) variasjonen og denne er da helt uavhengig av eventuelle gjennomsnittsforskjeller mellom gruppene. Vi har nå tre variasjonsmål og det er lett å se at dersom det ikke hadde vært noen forskjeller mellom gruppene så ville SS w blitt den samme som SS total. Tilsvarende ville SS b blitt den samme som SS total dersom det ikke hadde vært noen forskjeller innen gruppene.

11 SStotal = SSb + SSw = Forklart + Uforklart Her: = Dersom vi ønsker det kan vi nå enkelt definere en indeks som sier oss hvor mye den forklarte variasjonen utgjør av totalvariasjonen. eta 2 " Forklart" Total SSb SStotal R 2 I variansanalyse sammenheng kalles denne gjerne eta 2. Dere kjenner den fra regresjonsanalysen som R 2. Dette er bare ulike navnekonvensjoner. Her får vi: eta

12 Vanligvis vil dere selvsagt bruke et av de mange programmene for variansanalyse i Spss. Da ville en utskrift kunne se slik ut: De andre tallene i tabellen benytter vi for å konstruere en signifikanstest for den forklarte variansen. Se også Fronter: oppgave-2-beregninger.xlsx for mer detaljerte beregninger.

13 F-testen : Problemet er at resultatene vi har fått kunne oppstått som resultat av en helt tilfeldig prosess! Dersom vi her hadde trukket tre tilfeldige utvalg av størrelse 5 fra en og samme populasjon (med et gitt totalgjennomsnitt og en gitt varians), kalt disse gruppe K, P og T, og gjennomført en variansanalyse, ville vi som en funksjon av tilfeldig samplingvariasjon ha fått en viss variasjon i gruppegjennomsnittene og dermed en R 2 > 0. Denne situasjonen betrakter vi som vår null-hypotese (H 0 ). Alternativt kunne det være systematikk her ved at en eller flere av gruppene faktisk stammer fra populasjoner med et annet gjennomsnitt. Vi ønsker her å ta et rasjonelt valg mellom disse to scenariene og signifikanstesten hjelper oss her. For å illustrere hva som vil skje når data genereres ved en slik tilfeldig prosess (H 0 er sann) simulerte jeg dette. Jeg konstruerte en populasjon med gjennomsnitt = 4.33 og varians = 2. Fra denne trakk jeg tre tilfeldige utvalg av størrelse n=5 og gjennomførte en enveis Anova med tre grupper. Dette gjentok jeg 3000 ganger, og hver gang beregnet jeg og tok vare på: F MSS MSS b w Dette skulle jeg egentlig ha fortsatt med i det uendelige, men det er jo veldig lenge da

14

15 En slik simulering trenger vi ikke å gjøre i praksis fordi: Dersom null-hypotesen stemmer vil vi kunne estimere variansen i populasjonen som observasjonene stammer fra ved enten MSSb eller MSSw! Men dersom null-hypotesen ikke stemmer vil det ikke lenger være likegyldig hvilket av disse vi velger. Da vil bare MSSw være et estimat av variansen i populasjonen. Dersom vi beregner en ratio mellom et variansestimat basert på SSb (MSSb) og et basert på SSw (MSSw), vil vi derfor forvente at denne ratioen skal bli 1 dersom null-hypotesen stemmer. En slik ratio vil være F-fordelt gitt null-hypotesen derfor kalles denne en F. I vårt tilfelle ville F-verdiene fordele seg slik dersom H 0 stemmer:

16 Vi kan dermed beregne sannsynligheten for å observere en så avvikende (eller mer avvikende), F-verdi enn den vi har observert dersom null-hypotesen stemmer den såkalte p-verdien (eller signifikansnivået ): obs H sann PF H sann P 0 0 Dersom denne er mindre enn en gitt verdi forkaster vi H 0. Som dere ser av figuren på forrige side er denne i dette tilfellet svært liten. Spss har også beregnet denne i Anova-tabellen. Vi forkaster dermed H 0 og antar at våre observasjoner er resultat av en systematisk prosess og ikke generert av en tilfeldighetsmekanisme. Denne testen er nærmere beskrevet i læreboka!

17 Generelt for alle signifikanstester : 1. Formuler en null-hypotese (H 0 ). Svært ofte velger vi null-hypoteser som tilsier at observerte data er generert av en tilfeldighetsmekanisme. 2. Beregn en testobservator (F, t, χ 2, osv.). 3. Finn samplingfordelinga til denne (hvordan denne vil fordele seg ved repetert sampling fra populasjonen) dersom H 0 er sann. Dette har heldigvis statistikerne løst for oss.. Vi bruker oftest testobservatorer som er F, t eller χ 2 fordelte, men det finnes mange andre teoretiske fordelinger som benyttes. 4. Finn fra samplingfordelinga sannsynligheten for den testobservatoren vi har observert. Her: P{F H 0 sann). 5. Dersom denne er liten forkast H 0. Og liten er det vanlig å operasjonalisere som P <.05 eller P <.01. Dersom vi ikke har et dataprogram (Excel, Spss, etc.) tilgjengelig, og må bruke kalkulatoren, vil det være vanskelig å beregne denne P-verdien. Da må vi nøye oss med kritiske verdier hentet fra en tabell. I slike tabeller finner vi hvor stor (eller liten) vår testobservator må være før vi kan forkaste H 0 på.05 eller.01 nivå. Se neste side.

18

19 Multiple Comparisons.

20 A B B-A Mean: Sd: Varians: Trekker tilfeldige tall fra to fordelinger. Den ene (A) har gjennomsnitt 50 og varians=100. Den andre har gjennomsnitt=60 og varians=100. Tallene A og B er trukket helt uavhengige av hverandre, og korrelasjonen (kovariansen) mellom dem er dermed 0. Beregner differansen mellom A og B. Legg merke til hva som skjer med variansen til denne differansen (B-A).

21 Vi ønsker å sammenligne to av flere mulige gjennomsnitt med hverandre, og kan bruke en «t-test»: Vi trenger da variansen til en differanse mellom gjennomsnitt eller variansen i samplingfordelinga til differanser mellom gjennomsnitt. Generelt (se simulerte tall på forrige side): var(a-b) = var(a) + var(b) 2*Kov(A,B) Her er det ingen kovarians mellom tallene vi er interesserte i siden gjennomsnittene er fra to grupper samplet uavhengig av hverandre (mer om dette når vi kommer til repeated measures Anova). Så her: var(a-b) = var(a) + var(b)

22 Vi er interesserte i variansen til differansen mellom to gjennomsnitt: Vi husker (fra psy1100/psyc1010) at variansen til et gjennomsnitt er: Dersom vi kan anta at observerte data for de to gruppene er samplet fra populasjoner med samme varians og har samme n, får vi: hvor n er antall i hvilken som helst av gruppene. Men som vanlig må vi estimere σ 2!

23 Vi vet fra det vi har snakket om tidligere at dersom H 0 er sann, vil både MSS between og MSS within være estimater av σ 2. Dersom H 0 ikke er sann vil fortsatt MSS within estimere σ 2 - selv om MSS between ikke vil det. Da kan vi bruke følgende som estimat: En stor fordel er at vi her kan bruke samme estimat av σ 2 uansett hvilke grupper vi sammenligner. Det gir mening dersom vi kan anta at gruppene er samplet fra populasjoner med samme varians. Og vi kan bruke en t-test: H 0 : µ 1 -µ 2 = 0 Og finne P{t H 0 =sann} fra en t-fordeling med df within (df error ) frihetsgrader.

24 Men hva gjør vi dersom n er forskjellig i de to gruppene? Her finnes det flere forslag. Vi går ikke gjennom dem i dette kurset. Her bruker vi tilnærmingen som brukes blant annet i SPSS. Vi kunne skrevet om formelen som vi brukte over: Denne brukes i SPSS også der hvor n 1 og n 2 er ulike:

25

26 Regne-eksempel fra data i oppgave-2.pdf :

27 Og utskrift fra Spss:

28 Effect-size.

29 For «forklart varians» (overall-effekten): For differanser mellom gjennomsnitt («kontraster»): Cohen's Standard d r r LARGE MEDIUM SMALL

30 Et nytt regne-eksempel med data fra filen (se Fronter): cortisol.sav.

31 cortisol N Mean Std SE 95% CI Min Max Lower Upper 1 Normals Major Depression Bipolar Depression Atypical Total ANOVA SS df MSS F Sig. Between Groups Within Groups Total Multiple Comparisons LSD (I) diag (J) diag Mean Diff SE Sig. 95% CI Lower Upper SE t p 1 Normals 2 Major Depression sqrt(17.939*(1/31+1/14))= Bipolar Depression sqrt(17.939*(1/31+1/14))= Atypical sqrt(17.939*(1/31+1/4))= Major Depression 1 Normals Bipolar Depression Atypical Bipolar Depression 1 Normals Major Depression Atypical Atypical 1 Normals Major Depression Bipolar Depression