Forelesning 7 STK3100/4100

Transkript

1 Forelesning 7 STK3100/4100 p. 1/2 Forelesning 7 STK3100/ november 2012 Geir Storvik Plan for forelesning: 1. Kontinuerlige positive responser 2. Gamma regresjon 3. Invers Gaussisk regresjon

2 Forelesning 7 STK3100/4100 p. 2/2 Kontinuerlige positive responser Eksempler Forsikring: Krav størrelser/tid mellom krav og overenskomst Medisin: Størkningstid av blod Biologi: Tid i ulike utviklingsstadier i bananfluer Meterologi: Mengde regn Modeller: GLM med Gammafordeling på respons Invers Gaussisk fordeling på respons

3 Forelesning 7 STK3100/4100 p. 3/2 Gamma regresjon Modell: Har y Gamma(µ,ν), g(µ) = x T β ( ) ν f(y) = y 1 yν e yν/µ,y > 0 Γ(ν) µ f(y) = yν 1 ν ν Γ(ν) e yν/µ ν log(µ) = y1/φ 1 φ 1/φ e φ 1 [yθ a(θ)] Γ(1/φ) θ = 1/µ, φ = 1/ν, a(θ) = log( θ) E[y] =a (θ) = 1 θ = µ, Kanonisk link: 1/µ Var[y] =φa (θ) = φ 1 θ 2 = µ2 ν

4 Forelesning 7 STK3100/4100 p. 4/2 Eksempel: Størkningstid av blod u time lot u time lot u: Konsentrasjon med prothrombin-fri plasma lot To typer thromboplastin y Respons, tid

5 Forelesning 7 STK3100/4100 p. 5/2 Første modell clot = read.table("clot.txt",header=t) clot$lot = as.factor(clot$lot) fit1 = glm(time lot+log(u),data=clot,family=gamma(link=log)) summary(fit1) Coefficients: Estimate Std. Error t value Pr(> t ) (Intercept) e-16 *** lot e-06 *** log(u) e-10 *** --- Signif. codes: 0 *** ** 0.01 * (Dispersion parameter for Gamma family taken to be ) Null deviance: on 17 degrees of freedom Residual deviance: on 15 degrees of freedom AIC:

6 Forelesning 7 STK3100/4100 p. 6/2 Utvidet modell med interaksjon > fit2 = glm(time lot+log(u)+lot:log(u),data=clot,family=gamma(link > summary(fit2) Coefficients: Estimate Std. Error t value Pr(> t ) (Intercept) e-14 *** lot * log(u) e-08 *** lot2:log(u) Signif. codes: 0 *** ** 0.01 * (Dispersion parameter for Gamma family taken to be ) Null deviance: on 17 degrees of freedom Residual deviance: on 14 degrees of freedom AIC:

7 Forelesning 7 STK3100/4100 p. 7/2 Sammenlikning av modell, Wald test Lineære Gaussiske modeller, σ kjent Z = ˆβ j SEˆβj N(0, 1),Z 2 χ 2 Lineære Gaussiske modeller, σ estimert T = ˆβ j SEˆβj t n p 1,T 2 F 1,n p 1 Gamma regresjon: Dispersjonsparameter estimert, mer naturlig med t/f fordeling. Estimate Std. Error t value Pr(> t ) lot2:log(u) > 2*(1-pt( ,14)) [1] Interaksjonsledd klart ikke-signifikant

8 Forelesning 7 STK3100/4100 p. 8/2 Devians Y i Gamma(µ i, ν), uavhengige µ i = exp{x T i β} l(µ, ν,y) = l(y, ν,y) = nx i=1 n h i o ν y i ln(µ µ i ) ln(γ(ν)) + ν ln(νy i ) ln(y i ) i nx {ν [ 1 ln(y i )] ln(γ(ν)) + ν ln(νy i ) ln(y i )} i=1 2[l(ˆµ, ν,y) l(y, ν,y)] = 2 nx ν i=1 = 2ν nx i=1 h i 1 ln(y i ) + y 1 ˆµi + ln(ˆµ i ) h ln( y i ˆµ i ) y 1 ˆµ i ˆµ i i = = Devians som definert i boka 2 P h i n i=1 ln( y i ) y 1 ˆµ i ˆµ i ˆµ i R: Devians = 2 P h i n i=1 ln( y i ) y 1 ˆµ i Mangler ν (eller φ)! ˆµ i ˆµ i φ

9 Forelesning 7 STK3100/4100 p. 9/2 Devians i R > deviance(fit1) [1] > D = -2*nu1*sum(log(clot$time/fit1$fit)-(clot$time-fit1$fit)/fit1$ > D [1] > deviance(fit1)/summary(fit1)$dispersion [1] > nu1 = 1/summary(fit1)$dispersion > deviance(fit1)*nu1 [1]

10 Forelesning 7 STK3100/4100 p. 10/2 Sammenlikning modeller med devians Direkte ved anova: > anova(fit1,fit2,test="f") Analysis of Deviance Table Model 1: time lot + log(u) Model 2: time lot + log(u) + lot:log(u) Resid. Df Resid. Dev Df Deviance F Pr(>F) Manuelt: > 1-pf((deviance(fit1)-deviance(fit2))/summary(fit2)$disp,1,14) [1] Devians i anovatabell tar ikke med φ. P-verdi tar med φ. Merk: En bruker dispersjonsparameter for den største modellen.

11 Forelesning 7 STK3100/4100 p. 11/2 AIC > AIC(fit1,fit2) df AIC fit fit

12 Forelesning 7 STK3100/4100 p. 12/2 Alternative link-funksjoner Mest vanlig: log-link: log(µ) = η Plot av log(y i ) mot x i bør være nært lineær Identitetslink: µ = η Plot av y i mot x i bør være nært lineær Invers link: µ = 1/η (kanonisk link) Plot av 1/y i mot x i bør være nært lineær De to siste: µ kan bli negativ

13 Forelesning 7 STK3100/4100 p. 13/2 Kryss-plott størkning av blod log(time) time log(u) 1/time log(u) log(u)

14 Forelesning 7 STK3100/4100 p. 14/2 Sammenlikning ulike link-funksjoner > fit1 = glm(time lot+log(u),data=clot,family=gamma(link=log)) > fit1.2 = glm(time lot+log(u),data=clot,family=gamma(link=identity > fit1.3 = glm(time lot+log(u),data=clot,family=gamma(link=inverse) > AIC(fit1,fit1.2,fit1.3) df AIC fit fit fit Invers link ser ut til å passe best!

15 Forelesning 7 STK3100/4100 p. 15/2 Eksempel: Krav for personlig skade y=total: Total skadekrav, kont. variabel x 1 =op_time: Tid fra krav til overenkomst, kont. variabel x 2 =legrep: legal representaasjon, binær variabel Modell η = β 0 + β 1 x 1 + β 2 x 2 + β 3 x 1 x 2

16 EDA for Gamma regresjon 1e+05 1e+01 1e+03 claims$total 2e+06 0e+00 claims$total 4e+06 plot(claims$op_time,claims$total,col=as.numeric(claims$legrep), log="") plot(claims$op_time,claims$total,col=as.numeric(claims$legrep), log="y") claims$op_time claims$op_time Forelesning 7 STK3100/4100 p. 16/2

17 Forelesning 7 STK3100/4100 p. 17/2 R kode > claims = read.xls("../data/persinj.xls") > claims$legrep = as.factor(claims$legrep) > fit = glm(total op_time+legrep+op_time:legrep,data=claims, family=gamma(link="log")) > summary(fit) Coefficients: Estimate Std. Error t value Pr(> t ) (Intercept) < 2e-16 *** op_time < 2e-16 *** legrep < 2e-16 *** op_time:legrep e-10 *** --- Signif. codes: 0 *** ** 0.01 * (Dispersion parameter for Gamma family taken to be ) Null deviance: on degrees of freedom Residual deviance: on degrees of freedom AIC:

18 log(claims$total) Residual plott claims$op_time Forelesning 7 STK3100/4100 p. 18/2

19 Forelesning 7 STK3100/4100 p. 19/2 Utvidet modell Avvik mellom data for små operasjonstider Innfør ny variabel x3=i(op_time<4.6) (5% kvantil) > claims$x3 = (claims$op_time<quantile(claims$op_time,0.05)) Ny modell η = β 0 + β 1 x 1 + β 2 x 2 + β 3 x 3 + β 4 x 1 x 2 + β 5 x 1 x 3 + β 6 x 2 x 3 + β 7 x 1 x 2 x 3

20 Forelesning 7 STK3100/4100 p. 20/2 Utvidet modell - R kode > form = total op_time+legrep+x3+op_time:legrep+op_time:x3+ + legrep:x3+op_time:legrep:x3 > fit2 = glm(form,data=claims,family=gamma(link="log")) > summary(fit2) Coefficients: Estimate Std. Error t value Pr(> t ) (Intercept) < 2e-16 *** op_time < 2e-16 *** legrep e-10 *** x3true < 2e-16 *** op_time:legrep ** op_time:x3true e-07 *** legrep1:x3true e-12 *** op_time:legrep1:x3true *** --- (Dispersion parameter for Gamma family taken to be ) Null deviance: on degrees of freedom Residual deviance: on degrees of freedom AIC:

21 Forelesning 7 STK3100/4100 p. 21/2 Sammenlikning modeller > anova(fit,fit2,test="f") Analysis of Deviance Table Model 2: total op_time + legrep + x3 + op_time:legrep + op_time:x Model 1: total op_time + legrep + op_time:legrep legrep:x3 + op_time:legrep:x3 Resid. Df Resid. Dev Df Deviance F Pr(>F) < 2.2e-16 *** --- Signif. codes: 0 *** ** 0.01 *

22 Forelesning 7 STK3100/4100 p. 22/2 Sammenlikning modeller > anova(fit2,test="f") Analysis of Deviance Table Model: Gamma, link: log Response: total Terms added sequentially (first to last) Df Devian Res. Df Res.Dev F Pr(>F) NULL op_time < 2.2e-16 *** legrep < 2.2e-16 *** x e-14 *** op_time:legrep e-10 *** op_time:x e-05 *** legrep:x e-16 *** op_time:legrep:x ** --- Signif. codes: 0 *** ** 0.01 *

23 Forelesning 7 STK3100/4100 p. 23/2 Kontraster Ved kategoriske variable α 1,...,α K For mange parametre, må lage begrensning/kontrast Vanlig: Behandlingskontrast: α 1 = 0. Default i R > options()$contrasts unordered "contr.treatment" ordered "contr.poly" I R kan referansenivå velges Alternativ: Sum-kontrast: k α k = 0 > options(contrasts=c("contr.sum","contr.sum" > options()$contrasts [1] "contr.sum" "contr.sum"

24 Forelesning 7 STK3100/4100 p. 24/2 Invers Gaussisk regresjon Modell: y IG(µ,ν), g(µ) = x T β { 1 f(y) = 2πy3 σ exp 1 ( ) } 2 y µ,y > 0 2y µσ { } 1 0.5yµ 2 = 2πy3 σ exp + µ 1 y 1 σ 2,y > 0 θ = 0.5µ 2, φ = σ 2, a(θ) = 2θ E[y] =a (θ) = 1 2θ = µ, Kanonisk link: 0.5µ 2 Var[y] =φa (θ) = σ 2 ( 2θ) 3/2 = σ2 µ 3

25 Forelesning 7 STK3100/4100 p. 25/2 Forsikringskrav for kjøretøy Ett års forsikring for kjøretøy, 4624 hadde minst et krav. Respons: claimcst0 Krav størrelse Forklaringsvariable: agecat Alderskategorier (1-6, 1 yngst) gender Kjønn (F/M) area Bopelsregion veh_value Verdi på kjøretøy veh_age Alder på kjøretøy veh_body Type kjøretøy (13 kategorier) exposure 0-1

26 Forelesning 7 STK3100/4100 p. 26/2 R kode Script car.r