Forelesning 7 STK3100/4100

Transkript

1 Gamma regresjon Forelesning 7 STK3100/ september 2008 Geir Storvik Plan for forelesning: 1. Kontinuerlige positive responser 2. Gamma regresjon 3. Invers Gaussisk regresjon Modell: Har y Gamma(µ,ν), g(µ) = x T β ( ) ν f(y) = y 1 yν e yν/µ,y 0 Γ(ν) µ f(y) = yν 1 ν ν Γ(ν) e yν/µ ν log(µ) = y1/φ 1 φ 1/φ Γ(1/φ) θ = 1/µ, φ = 1/ν, a(θ) = log( θ) e φ 1 [yθ a(θ)] E[y] =a (θ) = 1 θ = µ, Kanonisk link: 1/µ Var[y] =φa (θ) = φ 1 θ 2 = µ2 ν Forelesning 7 STK3100/4100 p. 1/26 Forelesning 7 STK3100/4100 p. 3/26 Kontinuerlige positive responser Eksempler Forsikring: Krav størrelser/tid mellom krav og overenskomst Medisin: Størkningstid av blod Biologi: Tid i ulike utviklingsstadier i bananfluer Meterologi: Mengde regn Modeller: GLM med Gammafordeling på respons Invers Gaussisk fordeling på respons Eksempel: Størkningstid av blod u lot1 lot u: Konsentrasjon med prothrombin-fri plasma lot To typer thromboplastin y Respons, tid Forelesning 7 STK3100/4100 p. 2/26 Forelesning 7 STK3100/4100 p. 4/26

2 Første modell clot = read.table("clot.txt",header=t) clot$lot = as.factor(clot$lot) fit1 = glm(time u+lot,data=clot,family=gamma(link=log)) summary(fit) (Intercept) e-13 *** u *** lot * Signif. codes: 0 *** ** 0.01 * (Dispersion parameter for Gamma family taken to be ) Null deviance: on 17 degrees of freedom Residual deviance: on 15 degrees of freedom AIC: Sammenlikning av modell, Wald test Lineære Gaussiske modeller, σ kjent Z = ˆβ j SEˆβj N(0, 1),Z 2 χ 2 Lineære Gaussiske modeller, σ estimert T = ˆβ j SEˆβj t n p 1,T 2 F 1,n p 1 Gamma regresjon: Dispersjonsparameter estimert, mer naturlig med t/f fordeling. lot2:log(u) *(1-pt( ,14)) [1] Interaksjonsledd klart ikke-signifikant Forelesning 7 STK3100/4100 p. 5/26 Forelesning 7 STK3100/4100 p. 7/26 Utvidet modell med interaksjon fit2 = glm(time lot+log(u)+lot:log(u),data=clot,family=gamma(link=log)) summary(fit2) (Intercept) e-14 *** lot * log(u) e-08 *** lot2:log(u) Signif. codes: 0 *** ** 0.01 * (Dispersion parameter for Gamma family taken to be ) Null deviance: on 17 degrees of freedom Residual deviance: on 14 degrees of freedom AIC: Devians Y i Gamma(µ i, ν), uavhengige µ i = exp{x T i β} nx n h i o l(µ, ν,y) = ν y i ln(µ µ i ) ln(γ(ν)) + ν ln(νy i ) ln(y i ) i nx l(y, ν,y) = {ν [ 1 ln(y i )] ln(γ(ν)) + ν ln(νy i ) ln(y i )} 2[l(ˆµ, ν,y) l(y, ν,y)] = 2 nx nx = 2 h i ν 1 ln(y i ) + y 1 ˆµi + ln(ˆµ i ) i h ν ln( y i ) y 1 ˆµ i ˆµ i ˆµ i = Devians som definert i boka R: Devians = 2 P h n ln( y i ) y 1 ˆµ i i! ˆµ i ˆµ i Forelesning 7 STK3100/4100 p. 6/26 Forelesning 7 STK3100/4100 p. 8/26

3 Devians i R deviance(fit1) [1] phi1 = summary(fit1)$dispersiongoodness-of-fit med devianstest: nu1 = 1/phi1 D = -2*nu1*sum(log(clot$time/fit1$fit)-(clot$time-fit1$fit)/fit1$fit) [1] deviance(fit1)*nu1 [1] AIC AIC(fit1,fit2) df AIC fit fit Forelesning 7 STK3100/4100 p. 9/26 Forelesning 7 STK3100/4100 p. 11/26 Sammenlikning modeller med devians Direkte ved anova: anova(fit1,fit2,test="f") Analysis of Deviance Table Model 1: time lot + log(u) Model 2: time lot + log(u) + lot:log(u) Resid. Df Resid. Dev Df Deviance F Pr(F) Manuelt: 1-pf((deviance(fit1)-deviance(fit2))/summary(fit2)$disp,1,14) [1] Devians i anovatabell tar ikke med φ. P-verdi tar med φ. Merk: En bruker dispersjonsparameter for den største modellen. Alternative link-funksjoner Mest vanlig: log-link: log(µ) = η Plot av log(y i ) mot x i bør være nært lineær Identitetslink: µ = η Plot av y i mot x i bør være nært lineær Invers link: µ = 1/η (kanonisk link) Plot av 1/y i mot x i bør være nært lineær De to siste: µ kan være negativ Forelesning 7 STK3100/4100 p. 10/26 Forelesning 7 STK3100/4100 p. 12/26

4 Kryss-plott størkning av blod Eksempel: Krav for personlig skade y=total: Total skadekrav, kont. variabel x1 =op_time: Tid fra krav til overenkomst, kont. variabel time log(time) Modell x2 =legrep: legal represenation, binær variabel η = β0 + β1 x1 + β2 x2 + β3 x1 x2 1.5 u u /time u Forelesning 7 STK3100/4100 p. 13/26 EDA for Gamma regresjon 1e+05 claims$total claims$op_time Forelesning 7 STK3100/4100 p. 14/26 1e+03 1e+01 0e+00 Invers link ser ut til å passe best! plot(claims$op_time,claims$total,col=as.numeric(claims$legrep),log="") plot(claims$op_time,claims$total,col=as.numeric(claims$legrep),log="y") 4e+06 fit1 = glm(time lot+log(u),data=clot,family=gamma(link=log)) fit1.2 = glm(time lot+log(u),data=clot,family=gamma(link=identity)) fit1.3 = glm(time lot+log(u),data=clot,family=gamma(link=inverse)) AIC(fit1,fit1.2,fit1.3) df AIC fit fit fit e+06 claims$total Sammenlikning ulike link-funksjoner Forelesning 7 STK3100/4100 p. 15/ claims$op_time Forelesning 7 STK3100/4100 p. 16/26

5 R kode claims = read.xls("../data/persinj.xls") claims$legrep = as.factor(claims$legrep) fit = glm(total op_time+legrep+op_time:legrep,data=claims, family=gamma(link="log")) summary(fit) (Intercept) < 2e-16 *** op_time < 2e-16 *** legrep < 2e-16 *** op_time:legrep e-10 *** Signif. codes: 0 *** ** 0.01 * (Dispersion parameter for Gamma family taken to be ) Null deviance: on degrees of freedom Residual deviance: on degrees of freedom AIC: Utvidet modell - R kode form = total op_time+legrep+x3+op_time:legrep+op_time:x3+ + legrep:x3+op_time:legrep:x3 fit2 = glm(form,data=claims,family=gamma(link="log")) summary(fit2) (Intercept) < 2e-16 *** op_time < 2e-16 *** legrep e-10 *** x3true < 2e-16 *** op_time:legrep ** op_time:x3true e-07 *** legrep1:x3true e-12 *** op_time:legrep1:x3true *** (Dispersion parameter for Gamma family taken to be ) Null deviance: on degrees of freedom Residual deviance: on degrees of freedom AIC: Forelesning 7 STK3100/4100 p. 17/26 Forelesning 7 STK3100/4100 p. 19/26 Utvidet modell Avvik mellom data for små operasjonstider Innfør ny variabel x3=i(op_time<4.6) (5% kvantil) claims$x3 = (claims$op_time<quantile(claims$op_time,0.05)) Ny modell η = β 0 + β 1 x 1 + β 2 x 2 + β 3 x 3 + β 4 x 1 x 2 + β 5 x 1 x 3 + β 6 x 2 x 3 + β 7 x 1 x 2 x 3 Sammenlikning modeller anova(fit,fit2,test="f") Analysis of Deviance Table Model 1: total op_time + legrep + op_time:legrep Model 2: total op_time + legrep + x3 + op_time:legrep + op_time:x3 + legrep:x3 + op_time:legrep:x3 Resid. Df Resid. Dev Df Deviance F Pr(F) < 2.2e-16 *** Signif. codes: 0 *** ** 0.01 * Forelesning 7 STK3100/4100 p. 18/26 Forelesning 7 STK3100/4100 p. 20/26

6 Sammenlikning modeller anova(fit2,test="f") Analysis of Deviance Table Model: Gamma, link: log Response: total Terms added sequentially (first to last) Df Deviance Resid. Df Resid. Dev F Pr(F) NULL op_time < 2.2e-16 *** legrep < 2.2e-16 *** x e-14 *** op_time:legrep e-10 *** op_time:x e-05 *** legrep:x e-16 *** op_time:legrep:x ** Signif. codes: 0 *** ** 0.01 * Kontraster Ved kategoriske variable α 1,...,α K For mange parametre, må lage begrensning/kontrast Vanlig: Behandlingskontrast: α 1 = 0. Default i R options()$contrasts unordered "contr.treatment" I R kan referansenivå velges Alternativ: Sum-kontrast: k α k = 0 ordered "contr.poly" options(contrasts=c("contr.sum","contr.sum")) options()$contrasts options()$contrasts [1] "contr.sum" "contr.sum" Forelesning 7 STK3100/4100 p. 21/26 Forelesning 7 STK3100/4100 p. 23/26 Residual/goodness-of-fit devians 1-pchisq(deviance(fit2)/summary(fit2)$disp,summary(fit2)$df.resid) [1] 1 Invers Gaussisk regresjon Modell: y IG(µ,ν), g(µ) = x T β { 1 f(y) = 2πy3 σ exp 1 ( ) } 2 y µ,y 0 2y µσ { } 1 0.5yµ 2 = 2πy3 σ exp + µ 1 y 1,y 0 σ 2 θ = 0.5µ 2, φ = σ 2, a(θ) = 2θ E[y] =a (θ) = 1 2θ = µ, Kanonisk link: 0.5µ 2 Var[y] =φa (θ) = σ 2 ( 2θ) 3/2 = σ2 µ 3 Forelesning 7 STK3100/4100 p. 22/26 Forelesning 7 STK3100/4100 p. 24/26

7 Forsikringskrav for kjøretøy Ett års forsikring for kjøretøy, 4624 hadde minst et krav. Respons: claimcst0 Krav størrelse Forklaringsvariable: agecat Alderskategorier (1-6, 1 yngst) gender Kjønn (F/M) area Bopelsregion veh_value Verdi på kjøretøy veh_age Alder på kjøretøy veh_body Type kjøretøy (13 kategorier) exposure 0-1 Forelesning 7 STK3100/4100 p. 25/26 R kode Script car.r Forelesning 7 STK3100/4100 p. 26/26