EXAMININATION FOR SOS3003. Advanced statistical data analysis in the social sciences

Transkript

1 NTNU, TRONDHEIM Norwegian University of Science and Technology Department of sociology and political science EXAMININATION FOR SOS3003 Advanced statistical data analysis in the social sciences Academic contact during the examination: Albert Andrew Simkus Telephone: Examination date and time: 21 May :00 15:00 Examination duration: 6 hours Study points: 15 Number of pages in bokmål, excluding appendix/attachments: 6 Number of pages in English, excluding appendix/attachments 8 including this page. Number of pages in appendix plus attachments: 20 Total pages: 34 Grading date: 09. June 2007 Permitted helpful materials in the examination: Calculator Lawrence Hamilton (1992): Regression with graphics. Belmont, Duxbury. Paul E. Specter (1992): Summated rating scale construction. Newberry Park, Sage. Structural Equation Modeling using AMOS: An Introduction. Additional textbooks in statistics for social scientists. Written notes, excluding former examinations and grader s advice.

2 BOKMÅL Generelle instrukser: For hvert spørsmålssett er den omtrentlige vekten spørsmålene i den delen utgjør av totalkarakteren angitt og den omtrentlige lengden for gode svar er angitt i parenteser før hvert spørsmålssett. Dette er retningslinjer som forteller deg omtrent hvor langt svar som er forventet for hver del, og du bør skrive verken for langt eller for kort. Kvaliteten på svarene er viktigere enn lengden. Eksamenskarakteren blir basert på samlet kvalitet på svarene, og særlig gode svar på noen spørsmål kan kanskje balansere for særlig dårlige svar. Det blir også vektlagt at noen uavhengig av spørsmålslengde spørsmål med hensikt er rimelig lette, mens andre er vanskeligere. Du må skrive tydelig! Skriv tydelig tittel og nummer på spørsmålene du besvarer, og ha samme rekkefølge på sidene som på spørsmålene. DEL I (TOTAL VEKT FOR ÅTTE DELER ER OMTRENT 40 PROSENT, OMTRENT FEM POENG FOR HVERT SPØRSMÅL) (INGEN SPØRSMÅL KREVER MER ENN ¼ - ¾ SIDE SVAR) 1. Beskriv fire statistiske metoder du kan bruke for å vurdere om et sett av 3-5 Likertskalerte indikatorer fra et spørreskjema kan kombineres til en endimensjonal skalavariabel. 2. Beskriv to fordeler med å bruke en strukturell likningsmodell (Structural equation model), slik som du kan estimerer med AMOS, sammenliknet med å bruke en enkel minste kvadraters metode (OLS) eller logistisk regresjonsmodell. 3. Når du formulerer en modell; hva er fordelene med å bruke en skala basert på 3-12 Likertskalerte holdningsspørsmål sammenliknet med å bruke en enkel indikator? 4. Beskriv tre eller fire måter for hvordan du kan vurdere om du har et seriøst multikollinearitetsproblem. 5. Hvilke forutsetninger som er viktige i OLS-regresjon er irrelevante i logistisk regresjon? Hvilket viktig problem i logistisk regresjon er irrelevant for OLS-regresjon? 6. Er en stor utvalgsstørrelse bedre, forutsatt den samme utvalgsmetoden? Spesielt, hvordan påvirker det å ha et stort utvalg si 900 enheter sammenliknet med 100 enheter hver av de følgende statistikker? (NB! Dette forutsetter at alle andre aspekt ved dataene er de samme. En stor utvalgsstørrelse trenger ikke nødvendigvis påvirke noen av disse 2

3 statistikkene, eller kan til og med gjøre dem mindre troverdige. Generelt, du trenger bare å svare om utvalgsstørrelse vil ha en effekt eller ikke, og retningen på effekten. Men i noen tilfeller kan et veldig godt svar være mer presist om hvor mye effekten omtrent vil være). a. Den ustandardiserte regresjonskoeffisienten. b. Sjansene for at modellens feilledd er normalfordelte. c. Kvadrert R og endringer i kvadrert R fra modell til modell. d. Standardfeilen til regresjonskoeffisienten. e. Sjansene for at individuelle uteliggere har viktige substansielle effekter på modellkoeffisientene. 7. Dersom du beskriver den univariate fordelingen for en enkelt variabel, hvilke av de følgende mål, begrep og grafer er relevante, og hvilke er ikke? (Du trenger bare å si om de er relevante eller ikke. Du trenger ikke å beskrive eller definere dem!) a. Skjev b. Kurtosis c. Heteroskedastisitet d. Tunge eller tykke haler e. Bimodal f. Autokorrelasjon g. Tosidig test h. Kollinearitet i. Spredningsplott j. Kvantil-normalplott 8. Dersom du mistenker at effekten av en uavhengig variabel i en OLS-regresjon ikke er lineær, beskriv kort tre eller flere måter å undersøke og teste for ikke-linearitet. DEL II (TOTAL VEKT FOR DENNE DELEN ER OMTRENT 30 PROSENT) Spørsmålene i denne delen (II), som omhandler OLS- regresjon, og i påfølgende del (III), som omhandler logistisk regresjon, er alle basert på analysene av en stor spørreundersøkelse gjennomført i Bosnia og Hercegovina i Dette var en stor undersøkelse basert på et representativt nasjonalt utvalg og ansikt-til-ansikt intervju. Kort fortalt var metodologien lik European Social Survey i mange av ESS sine medlemsland. Spørsmålene var like mange av dei i ESS. Faktisk var en del spørsmål tatt fra ESS. Utvalgsstørrelsen for eksemplene her er omtrent 3000 enheter. Data i eksemplene i denne eksamenen har ikke blitt vektet, vekting er heller ikke relevant for disse spørsmålene. 3

4 Ingen av spørsmålene forutsetter vesentlig kunnskap om Bosnia og Hercegovina i det hele tatt. Du skal enkelt og greit svare på hva dataanalysene avslører om forholdene mellom variablene. De uavhengige variablene er de samme i analysene i både del II og del III. Disse er: MALE en dummyvariabel der menn er kodet som 1 og kvinner kodet som 0. AGE Alderen til respondenten i år, med verdier mellom 21 og 80. AGESQ Alder (AGE) kvadrert. EDYEARS År med formell utdanning fullført av respondenten, med de få enhetene som rapporterer mer enn 20 år omkodet til et maksimum på 20. MALExEDYRS Et interaksjonsledd (samspillsledd) mellom MALE og EDYEARS. ETHNICITY Fire kategorier for etnisk gruppe: 1. kroat, 2. bosnier (muslim), 3. serber, og 4. annen. Disse er representert som tre dummyvariabler kroat, bosnier og serber, med annen som referansekategori. RURAL En skala for hvor urban eller rural stedet respondenten bor på er, rangert fra hovedstaden Sarajevo til en landsby med færre enn 200 innbyggere eller en isolert gård. Sarajevo er kodet som 1, en isolert gård som 7, og byer og landsbyer av ulik størrelse har verdier mellom disse laveste og høyeste verdiene. RURAL14 Skalaen for RURAL, men referer til stedet respondenten bodde på da vedkommende var 14 år. RELIGIOUS Respondentens egen vurdering av hvor religiøs vedkommende er, på en skala fra 0 til 10 der 10 er veldig religiøs. PRAYYL En kontinuerlig skala basert på den naturlige logaritmen av hvor ofte respondenten sier at han/hun ber i løpet av et år. RSPETHET En dummyvariabel kodet som 1 dersom respondenten har en ektefelle med annen etnisitet enn deres egen, og 0 dersom ikke. RSPARETHET En dummyvariabel kodet som 1 dersom respondenten har en forelder med annen etnisitet enn deres egen, og 0 dersom ikke. RGPETHET En dummyvariabel kodet som 1 dersom respondenten har minst en besteforelder med annen etnisitet enn deres egen, og 0 dersom ikke. OLDCOM Dersom respondenten var medlem av kommunistpartiet før 1990 har variabelen verdien 1. Dersom ikke har den verdien 0. FRCDMOVE Dersom respondenten ble tvunget til å forlate hans/hennes hjem og flytte på grunn av krigen har variabelen verdien 1, dersom ikke har den verdien 0. NATIONALISM En intervallskala som måler primordial nasjonalisme, basert på gjennomsnittet av fem Likert-skalerte holdningsindikatorer. YRKESGRUPPE / SYSSELSETTINGSSTATUS Dette er målt basert på en rekke av dummyvariabler for ulike kategorier yrker for de som er sysselsatt, og ulike kategorier for de som ikke er sysselsatt. Hver variabel er kodet 1 dersom respondenten hører til den kategorien, og 0 dersom ikke. Der denne gruppen av dummyvariabler er brukt er kategorien SKWORKER utelatt referansekategori. MANAGER direktør/administrativ leder. 4

5 HPROF høyere funksjonær. TECHNICIANS tekniker. CLERKS lavere funksjonær. SELFEMPLOYED selvstendig næringsdrivende kunstner, kjøpmann og entreprenør. SKWORKER faglært arbeidskraft. UNSKWORKER ufaglært arbeidskraft. FARMER bonde. UNEMPLOYED arbeidsledig. HOUSEWIFE hjemmeværende. PENSIONER pensjonist. STUDENT student. OTHERCL andre (syke, funksjonshemmede, i militær- eller siviltjeneste, vet ikke, ikke relevant) AVHENGIG VARIABEL FOR DEL II: ETHNICINT (ETNISK INTOLERANSE) For del II er den avhengige variabelen en skala for hva som generelt har blitt kalt etnisk intoleranse i tidligere publikasjoner. I output og analyser har den variabelnavnet ETHNICINT. Variabelen er basert på gjennomsnittsverdiene av fem Likert-skalerte holdningsspørsmål. Respondentene ble spurt om å svare på om de var veldig enige, enige, verken enige eller uenige, uenige eller veldig uenige med de følgende utsagnene: 1) Nasjonsblandede ekteskap må være mer ustabile enn andre, 2) Menn føler seg fullstendig trygge bare når majoriteten hører til deres nasjon(alitet), 3) Det er mulig å skape samarbeid mellom nasjoner, men ikke fullstendig tillit, 4) Nasjonalitet bør være er av de viktigste faktorene når man velger ektemake og 5) Det er best at landsbyer, småbyer og byer har innbyggere fra bare en nasjonalitet. Svarene ble omkodet slik at høye skår reflekterer høy etnisk intoleranse. (Gitt formuleringene på disse spørsmålene tror jeg etnisk ekskludering eller etnisk eksklusivitet vil være bedre uttrykk for den generelle holdningen, likevel bruker jeg uttrykket etnisk intoleranse for å være konsistent med tidligere publikasjoner basert på andre data.) SPØRSMÅL TIL DEL II Sidene i vedleggene viser en rekke tabeller av output statistikker for seks ulike OLSregresjonsmodeller med ETHNICINT som avhengig variabel. 1. Hva er den beste modellen av disse seks? Forklar hvorfor du mener dette. Foreslå en modell som kan være bedre enn de som er vist. 2. Hvilke uavhengige variabler har de største effektene på den avhengige variabelen? List opp variablene rangert etter viktighet og nevn retningen og størrelsen på effektene. Gi de spesifikke statistikkene som leder deg til disse konklusjonene. 3. Basert på modell 1; svar kort på det følgende: 5

6 Hva er effekten av å være kvinne sammenlignet med å være mann med hensyn til verdiene på den reelle skalaen? Legg merke til at verdien for t for RGPETHET mangler. Det kan enkelt regnes ut basert på de andre tallene i tabellen. Hva skal verdien være? Hvilke variabler har ikke statistisk signifikante effekter? Regn ut et 95 % konfidensintervall for regresjonskoeffisienten for PRAYYL. Dersom en respondent rangerte seg selv som 10 på variabelen RELIGIOUS, hvor mye vil hans predikerte skalaskår være ulik for en som rangerte seg selv som 5? 4. Anta at vi har følgende null- og alternativ hypotese. Nullhypotesen, H 0, uttrykkes som Effekten av år utdanning har enten ingen ulik effekt for menn eller kvinner, eller effekten er mer negativ for kvinner enn for menn. Den alternative hypotesen, H a, uttrykker at effekten av år utdanning er mer negativ for menn enn for kvinner. Bør vi forkaste nullhypotesen og akseptere den alternative hypotesen basert på informasjonen i disse tabellene? Hvorfor? (Vær oppmerksom, dette kan være mer komplisert enn det ser ut.) 5. Bidrar settet med dummyvariabler for yrkesgruppe og sysselsettingsstatus med en statistisk signifikant bedring av modellen? Hvorfor er dummyvariabelen for faglært arbeidskraft utelatt? Hvordan kan du ved å endre måten disse spesifikke dummyvariablene er definert oppnå en bedre (mer parsimonious ) modell med utgangspunkt i disse resultatene? 6. Sidene i vedleggene viser en rekke grafer basert på disse dataene og resultatene for modell 4. Hvilken graf er mest nyttig for å vurdere forutsetningen om homoskedastisitet og hva indikerer grafen? Hvilke(n) graf(er) er til hjelp for å vurdere om feilleddene er normalfordelte og hva indikerer de(n)? Hvilke(n) graf(er) indikerer om det er innflytelsesrike uteliggere som kan påvirke effekten av verdien på en bestemt regresjonskoeffisient? Hvilke er de mest mistenkelige enhetene? Ut fra verdiene på disse målene; hvor sannsynlig er det at noen av disse uteliggerne vil ha en substansiell effekt på koeffisientene i modell 4? 6

7 SPØRSMÅL TIL DEL III LOGISTISK REGRESJON (TOTAL VEKT FOR DENNE DELEN ER OMTRENT 30 PROSENT) Det samme datasettet inneholder et Likert-skalert holdningsspørsmål relatert til respondentenes holdning til den internasjonale krigsforbryterdomstolen i Haag. Respondentene ble spurt om de var enige eller uenige i utsagnet Jeg støtter innsatsen til den internasjonale domstolen for å få stilt krigsforbrytere i dette landet for retten, uavhengig av hvilken side de var på. Svarene veldig enig og enig ble kodet positivt til 1 og de andre svarene ble kodet til 0. Tabellene og figurene i vedleggene relatert til logistisk regresjon er basert på modeller der denne variabelen er avhengig variabel. 1. Tre modeller er testet. Hvilken modell er best? Gi et sammendrag av de viktigste funnene. Er tilsvarende til forklart varians i OLS-regresjon relativt lav eller relativt høy i forhold til mange andre logistiske regresjonsmodeller med en enkel holdningsindikator som avhengig variabel? 2. Hvilke enheter bør granskes nøye som innflytelsesrike enheter? I boka til Hamilton poengterer han at det er en viktig forskjell på hvordan individuelle enheter eller gruper av enheter er vurdert som innflytelsesrike uteliggere i logistisk regresjon i forhold til OLSregresjon. Denne forskjellen er ikke direkte reflektert i valgene for SPSS output. Hva er denne forskjellen? 3. Er betingede effektplott mer nødvendig å undersøke i OLS- eller i logistisk regresjon? Hvorfor? 4. Bruk enkle formler for å vise de ulike forholdene mellom logit, odds og sannsynlighet. 5. Basert på koeffisientene i den første modellen; hva er predikerte odds, logit og sannsynlighet for at en person er enig dersom han har de følgende karakteristikkene: En serbisk mann med 8 års utdanning, som rangerer sin religiøsitet som 8 og som aldri var tvunget til å flytte under krigen. 6. Hva er effekten av å være bosnier i forhold til å høre til en annen etnisitet på oddsen for enighet? 7

8 ENGLISH General Instructions: For each set of questions, the approximate weight given the answers for that section toward the total grade, and the approximate length of good answers for that section are given in parentheses before each set of questions. These are guidelines so that you can tell approximately how long an answer is expected for each part, and you should write neither too much nor too little. The quality of the answers is much more important than the length of the answers. The grading of the exam will be based on the overall quality of the examination, and particularly good answers for some questions may or may not balance out particularly bad answers. Weight will also be given to the consideration that regardless of question length - some questions are intentionally rather easy, while others are more difficult. You must write clearly! Clearly label and number the question you are answering, and keep your answer pages in the order of the questions. BLOCK I (THE TOTAL WEIGHT FOR EIGHT PARTS IS APPOXIMATELY 40 PERCENT, APPROXIMATELY FIVE POINTS FOR EACH QUESTION)(NO QUESTION SHOULD REQUIRE MORE THAN ¼ - ¾ PAGE TO ANSWER). 1. Describe four statistical methods you can use to evaluate whether a set of 3 5 Likert questionnaire items can be combined into a unidimensional scale variable. 2. Describe two advantages of using a structural equation model, such as you might estimate with AMOS, compared with using a single OLS or logistic regression model. 3. In formulating a model, what are the advantages of using a scale based on 3 12 Likertformat attitude questions, as compared to using a single item? 4. Describe three or four ways in which you can evaluate whether you have a serious problem of multicolinearity. 5. Which assumption which is important in OLS regression is irrelevant in logistic regression? Which important problem in logistic regression is irrelevant to OLS regression? 8

9 6. Is a bigger sample size better, assuming the same sampling method? Specifically, how does having a larger sample size say 900 cases compared to 100 cases influence each of the following statistics. (NB! This assumes that all other aspects of the data are the same. A large sample size might not necessarily affect some of these statistics, or might even make them less reliable. In general, you only need to answer whether or not sample size will have an effect, and the direction of the effect. But, in some instances, a very good answer might be more precise about approximately how much the effect would be.) a. The unstandardized regression coefficient b. The chances of the model residuals having a normal distribution. c. R-square and changes in R-square from model to model. d. The standard error of the regression coefficient e. The chances of individual outliers having important substantive effects on the model coefficients. 7. If you are describing the univariate distribution of a single variable, which of the following terms, expressions, and graphs are relevant, and which are not? (You only need to say whether or not they are relevant. You do not need to describe or define them!) a. skew b. kurtosis c. heteroskedasticity d. heavy or thick tails e. bimodal f. autocorrelation g. two-tailed test h. colinearity i. scatterplot j. quantile-normal plot 8. If you suspect that the effect of an independent variable in an OLS regression is not linear, briefly describe three or more ways to explore and test for non-linearity. 9

10 BLOCK II (THE TOTAL WEIGHT FOR THIS SECTION IS APPOXIMATELY 30 PERCENT). The questions in this block (II), dealing with OLS regression, and in the following block (III), dealing with logistic regression are all based on analyses of a large social survey conducted in Bosnia and Hercegovina in This was a large survey based on a representative national sample and face-to-face interviews. In short, the survey methodology was equivalent to that for the European Social Survey in many of its member countries. And, the questions were similar in type to many of those in the ESS. Indeed, a few questions were actually taken from the ESS. For the examples here, the sample size was approximately 3000 cases. For the examples in this exam, the data have not been weighted, and weighting is not a consideration for these questions. None of the questions requires any substantive knowledge about Bosnia and Hercegovina at all. You are simply asked what the data analyses reveals about the relationships among the variables. The independent variables are the same in the analyses in both Block II and Block III. These are: MALE A dummy variable in which males are coded 1 and females coded 0 AGE The age of the respondent in years, with a range of 21 to 80. AGESQ Age squared. EDYEARS The number of years of formal education completed by the respondent, with the few cases reporting more than 20 years recoded to a maximum of 20. MALExEDYRS An interaction effect between MALE and EDYEARS. ETHNICITY Four categories of ethnic group: 1. Croat, 2. Bosniak (Muslim), 3. Serb, and 4. Other. These are represented by three dummy variables Croat, Bosniak, and Serb, with others being the reference category. RURAL A scale of how urban or rural the place where the respondent was living, ranging from the capital city of Sarajevo to a village of less than 200 people or an isolated farm. Sarajevo was coded 1, an isolated farm 7, and cities and towns of various size ranges had values between these lowest and highest scores. RURAL14 The scale for RURAL, but referring to the place where the respondent lived when they were 14 years old. RELIGIOUS The respondent s self-evaluation of how religious they consider themselves to be, on a scale from 0 to 10, with 10 being very religious. PRAYYL A continuous scale based on the natural logarithm of how ofen the respondent says they pay in a year. RSPETHET A dummy variable coded 1 if the respondent had a spouse of a different ethnicity than their own, and 0 otherwise. RSPARETHET A dummy variable coded 1 if the respondent had a parent of different ethnicity than their own, and 0 otherwise. RGPETHET - A dummy variable coded 1 if the respondent had at least one grandparent of a different ethnicity than their own, and 0 otherwise. 10

11 OLDCOM If the respondent was a member of the Communist Party before 1990 the are coded 1. If not, they are coded 0. FRCDMOVE If the respondent was forced to leave his/her home and move due to the war, the code is 1, otherwise it is 0. NATIONALISM An interval scale measuring primordial nationalism, based on the average of five Likert attitude items. OCCUPATIONAL CLASS / EMPLOYMENT STATUS This is measured by a series of dummy variables for various categories of occupations for those who are employed, and categories of types of non-employment status. Each variable is coded 1 if the respondent belongs to that category, and 0 otherwise. When this group of dummy variables is used, the category SKWORKER is the omitted reference category. MANAGER Managers. HPROF Professionals requiring high educational levels. TECHNICIAN Technicians. CLERKS Clerks. SELFEMPLOYED Self-employed artisans, merchants, and entrepreneurs. SKWORKER Skilled manual workers. UNSKWORKER - Unskilled manual workers. FARMER Farmers. UNEMPLOYED Unemployed. HOUSEWIFE- Housewives. PENSIONER Retired. STUDENT Students. OTHERCL Others (Sick, disabled, in military or community service, DK/NA. THE DEPENDENT VARIABLE FOR BLOCK II : ETHNICINT (ETHNIC INTOLERANCE) For block II, the dependent variable is a scale of what has generally been called ethnic intolerance in previous publications. In the output and analyses it is given the variable name ETHNICINT. It is based on the mean value of five Likert-form attitude questions. Respondents were asked to respond whether they strongly agreed, agreed, neither agreed nor disagreed, disagreed, or disagreed strongly with the following statements: 1) Nationally mixed marriages must be more unstable than others; 2) Men can feel completely safe only when the majority belong to his nation(ality) ; 3) Among nations it is possible to create cooperation, but not full trust, 4) In choosing a spouse, nationality 11

12 should be one of the most important considerations; and 5) It is best that villages, towns, and cities be composed of only one nationality. The responses were recoded such that high scores reflect high ethnic intolerance. (Given the wording of these items, I believe a better expression for the general attitude is ethnic exclusionism or ethnic exclusiveness; however, I am using the expression ethnic intolerance to remain consistent with earlier publications based on other data.) QUESTIONS FOR BLOCK II Pages in the appendix show a series of tables of output statistics for six different OLS regression models with ETHNICINT as the dependent variable. 1. Which is the best model of the six? Explain why you think so. Suggest a model which might be better than any of those shown. 2. Which independent variables have the greatest effect on the dependent variable? List them in order of importance and state the direction and magnitude of their effects. Give the specific statistics which lead you to these conclusions. 3. In Model 1, briefly answer the following: What is the effect of being female compared to being male in terms of the actual units of the scale? Notice that the value of t for RGPETHET is missing. It can easily be calculated from the other numbers in the table. What should be its value? Which variables do not have statistically significant effects? Calculate a 95% confidence interval for the regression coefficient for PRAYYL. If one respondent rated himself as a 10 in terms of the variable RELIGIOUS, how much would his predicted scale score be different from someone who rated themselves as a 5.? 4. Assume that we have the following null and alternative hypotheses. The null hypothesis, H 0, states precisely The effect of years of education is either no different for men than for women, or its effect is more negative for females than for males. The alternative hypothesis, Ha, states that the effect of years of education is more negative for men than for women. Based on the information in these tables, should we reject the null hypothesis 12

13 and accept the alternative hypothesis? Why? (Be careful, this may be more complicated than it seems.) 5. Is the set of dummy variables for occupational category, class, and employment status lead to a statistically significant improvement in the model? Why is the dummy variable for skilled workers left out? How do the results suggest that you might change the way these particular dummy variables are defined to obtain a better (more parsimonious) model? 6. Pages in the appendix display a number of graphs based on these data and the results of model 4. Which graph is most useful for assessing the assumption of homoskedacity, and what does it indicate? Which graph or graphs are helpful in assessing if the residuals are normally distributed, and what does it/they indicate? Which graph or graphs indicate if there are influential outliers which could affect the value of a particular regression coefficient? Which are the most suspicious cases? From the values of these measures, how likely is it that some of these outliers will have a substantial effect on the coefficients in model 4? 13

14 QUESTIONS FOR BLOCK III LOGISTIC REGRESSION (THE TOTAL WEIGHT FOR THIS SECTION IS APPOXIMATELY 30 PERCENT). This same set of data includes a Likert-form attitude question related to the respondents attitude toward the International War Crimes Tribunal in the Hague. Respondents were asked if they agreed or disagreed with the statement I support the efforts of the International court to try war criminals from the war in this country, regardless of which side they were on. The responses of strongly agree, and agree were coded positively to 1 and the other responses were coded 0. The tables and figures on pages in the appendices related to logistic regression are based on models in which this variable is the dependent variable. 1. Three models are tested. Which is the best model? Summarize the most important findings. Relative to many other logistic regression models with a single attitude item as the dependent variable, is the equivalent of the explained variance in OLS regression relatively low or relatively high? 2. Which cases should be examined most closely as influential outliers? The text by Hamilton stresses that there is an important difference in how individual cases or groups of cases are considered as influential outliers in logistic regression as opposed to OLS regression. However, this distinction is not directly reflected in the choices for SPSS output options. What is this difference? 3. Are conditional effect plots more necessary to examine in OLS or in logistic regression? Why? 4. List in simple formulas the difference relationships between the logit, the odds, and the probability. 5. Based on the coefficients in the first model, what are the predicted odds, logit, and probability of a person agreeing if they have the following characteristics: A man, with 8 years of education, who rates his religiosity as 8, who was never forced to move during the war, and is a Serb. 6. What is the effect of being Bosniak as opposed to being of an other ethnicity on the odds of agreement? 14

15 APPENDICES: Tables and Figures for Blocks II and III. 1. Tables for Block II. Model Summary Model R Change Statistics Adjusted R Std. Error of R Square R Square Square the Estimate Change F Change df1 df2 Sig. F Change,504 a,254,249,76645,254 61, ,000,515 b,265,257,76255,011 2, ,000,517 c,268,259,76127,003 8, ,003,506 d,256,252, ,012 3, ,000,506 e,256,251,76543,000, ,750,507 f,257,252,76508,001 3, ,075 a. Predictors: (Constant), RGPETHET, AGE, FRCDMOVE, RURAL14, MALE, RURAL, RELIGIOUS, SERB, OLDCOM, CROAT, PRAYYL, RPARETHET, BOSNIAK b. Predictors: (Constant), RGPETHET, AGE, FRCDMOVE, RURAL14, MALE, RURAL, RELIGIOUS, SERB, OLDCOM, CROAT, PRAYYL, RPARETHET, BOSNIAK, OTHERCL, SELFEMPLOYED, MANAGER, TECHNICIAN, FARMER, UNSKWORKER, CLERKS, HPROF, UNEMPLOYED, HOUSEWIFE, STUDENT, PENSIONER c. Predictors: (Constant), RGPETHET, AGE, FRCDMOVE, RURAL14, MALE, RURAL, RELIGIOUS, SERB, OLDCOM, CROAT, PRAYYL, RPARETHET, BOSNIAK, OTHERCL, SELFEMPLOYED, MANAGER, TECHNICIAN, FARMER, UNSKWORKER, CLERKS, HPROF, UNEMPLOYED, HOUSEWIFE, STUDENT, PENSIONER, EDYRS d. Predictors: (Constant), RGPETHET, AGE, FRCDMOVE, RURAL14, MALE, RURAL, RELIGIOUS, SERB, OLDCOM, CROAT, PRAYYL, RPARETHET, BOSNIAK, EDYRS e. Predictors: (Constant), RGPETHET, AGE, FRCDMOVE, RURAL14, MALE, RURAL, RELIGIOUS, SERB, OLDCOM, CROAT, PRAYYL, RPARETHET, BOSNIAK, EDYRS, AGESQ f. Predictors: (Constant), RGPETHET, AGE, FRCDMOVE, RURAL14, MALE, RURAL, RELIGIOUS, SERB, OLDCOM, CROAT, PRAYYL, RPARETHET, BOSNIAK, EDYRS, AGESQ, MALExEDYRS

16 ANOVA g Model Regression Residual Total Regression Residual Total Regression Residual Total Regression Residual Total Regression Residual Total Regression Residual Total Sum of Squares df Mean Square F Sig. 465, ,835 61,002,000 a 1371, , , , ,471 33,485,000 b 1350, , , , ,918 32,644,000 c 1345, , , , ,616 57,398,000 d 1366, , , , ,379 53,558,000 e 1366, , , , ,534 50,456,000 f 1365, , , a. b. c. d. e. f. g. Predictors: (Constant), RGPETHET, AGE, FRCDMOVE, RURAL14, MALE, RURAL, RELIGIOUS, SERB, OLDCOM, CROAT, PRAYYL, RPARETHET, BOSNIAK Predictors: (Constant), RGPETHET, AGE, FRCDMOVE, RURAL14, MALE, RURAL, RELIGIOUS, SERB, OLDCOM, CROAT, PRAYYL, RPARETHET, BOSNIAK, OTHERCL, SELFEMPLOYED, MANAGER, TECHNICIAN, FARMER, UNSKWORKER, CLERKS, HPROF, UNEMPLOYED, HOUSEWIFE, STUDENT, PENSIONER Predictors: (Constant), RGPETHET, AGE, FRCDMOVE, RURAL14, MALE, RURAL, RELIGIOUS, SERB, OLDCOM, CROAT, PRAYYL, RPARETHET, BOSNIAK, OTHERCL, SELFEMPLOYED, MANAGER, TECHNICIAN, FARMER, UNSKWORKER, CLERKS, HPROF, UNEMPLOYED, HOUSEWIFE, STUDENT, PENSIONER, EDYRS Predictors: (Constant), RGPETHET, AGE, FRCDMOVE, RURAL14, MALE, RURAL, RELIGIOUS, SERB, OLDCOM, CROAT, PRAYYL, RPARETHET, BOSNIAK, EDYRS Predictors: (Constant), RGPETHET, AGE, FRCDMOVE, RURAL14, MALE, RURAL, RELIGIOUS, SERB, OLDCOM, CROAT, PRAYYL, RPARETHET, BOSNIAK, EDYRS, AGESQ Predictors: (Constant), RGPETHET, AGE, FRCDMOVE, RURAL14, MALE, RURAL, RELIGIOUS, SERB, OLDCOM, CROAT, PRAYYL, RPARETHET, BOSNIAK, EDYRS, AGESQ, MALExEDYRS Dependent Variable: ETHNICTOL 16

17 Unstandardized Coefficients a Coefficients Standardized Coefficients Collinearity Statistics Model 1 (Constant) MALE AGE CROAT BOSNIAK SERB RURAL14 RURAL RELIGIOUS PRAYYL OLDCOM FRCDMOVE RPARETHET RGPETHET B Std. Error Beta t Sig. Tolerance VIF 2,046,102 20,098,000,146,031,082 4,739,000,958 1,043,002,001,032 1,812,070,907 1,102,126,090,061 1,410,159,155 6,442 -,175,084 -,098-2,094,036,132 7,566,486,087,256 5,570,000,137 7,292,004,001,046 2,691,007,981 1,019,075,009,146 8,307,000,937 1,067,056,008,177 7,405,000,506 1,976,056,010,142 5,789,000,484 2,065 -,153,052 -,054-2,961,003,866 1,155,033,032,018 1,046,295,982 1,019 -,042,090 -,018 -,469,639,202 4,955 -,186,094 -,076,049,208 4,805 a. Dependent Variable: ETHNICTOL 17

18 Coefficients a Unstandardized Coefficients Standardized Coefficients Collinearity Statistics Model 2 (Constant) MALE B Std. Error Beta 2,105,113 18,561,000 t Sig. Tolerance VIF,194,033,110 5,849,000,814 1,229 AGE,001,001,020,803,422,441 2,266 CROAT,151,090,073 1,679,093,153 6,521 BOSNIAK -,179,084 -,100-2,145,032,131 7,624 SERB,482,087,254 5,528,000,136 7,361 RURAL14,004,001,044 2,543,011,973 1,028 RURAL,067,009,129 7,137,000,877 1,140 RELIGIOUS,053,008,167 6,944,000,497 2,011 PRAYYL,055,010,141 5,786,000,479 2,086 OLDCOM -,115,052 -,041-2,204,028,842 1,188 FRCDMOVE,043,032,023 1,361,174,968 1,033 RPARETHET -,035,089 -,015 -,394,693,201 4,965 RGPETHET -,128,090 -,053-1,429,153,208 4,812 UNEMPLOYED -,092,053 -,040-1,749,080,542 1,844 PENSIONER -,070,067 -,028-1,053,293,392 2,550 HOUSEWIFE,183,061,074 2,988,003,472 2,120 STUDENT -,021,067 -,007 -,317,752,628 1,593 MANAGER,026,121,004,212,832,903 1,108 SELFEMPLOYED,008,086,002,089,929,824 1,214 HPROF -,013,075 -,003 -,174,862,748 1,337 TECHNICIAN,006,079,002,079,937,782 1,279 CLERKS -,126,070 -,036-1,801,072,718 1,393 UNSKWORKER,086,082,020 1,053,293,791 1,264 FARMER,276,210,023 1,313,189,948 1,054 OTHERCL,268,138,034 1,941,052,912 1,096 a. Dependent Variable: ETHNICTOL 18

19 Coefficients a Unstandardized Coefficients Standardized Coefficients Collinearity Statistics Model 3 (Constant) MALE B Std. Error 2,444,151 16,199,000 Beta t Sig. Tolerance VIF,199,033,113 6,008,000,812 1,231 AGE,000,002 -,006 -,221,825,404 2,474 CROAT,159,090,077 1,778,076,153 6,526 BOSNIAK -,187,083 -,104-2,239,025,131 7,625 SERB,484,087,255 5,558,000,136 7,360 RURAL14,004,001,042 2,470,014,972 1,028 RURAL,060,010,116 6,317,000,843 1,187 RELIGIOUS,050,008,159 6,585,000,493 2,030 PRAYYL,055,010,140 5,750,000,480 2,085 OLDCOM -,093,052 -,033-1,767,077,829 1,207 FRCDMOVE,041,032,023 1,311,190,968 1,033 RPARETHET -,043,089 -,018 -,481,631,201 4,968 RGPETHET -,125,090 -,052-1,392,164,208 4,812 UNEMPLOYED -,098,053 -,043-1,869,062,542 1,847 PENSIONER -,075,067 -,031-1,130,259,392 2,551 HOUSEWIFE,131,063,053 2,087,037,444 2,254 STUDENT -,001,068,000 -,018,986,623 1,606 MANAGER,088,122,013,723,470,882 1,134 SELFEMPLOYED,008,086,002,098,922,824 1,214 HPROF,073,079,019,921,357,671 1,489 TECHNICIAN,030,080,007,372,710,776 1,289 CLERKS -,111,070 -,032-1,589,112,715 1,399 UNSKWORKER,060,082,014,727,467,784 1,275 FARMER,291,210,024 1,387,166,948 1,055 OTHERCL,237,138,030 1,716,086,908 1,101 EDYEARS -,020,006 -,080-3,398,001,512 1,953 a. Dependent Variable: ETHNICTOL 19

20 Model 4 (Constant) MALE AGE CROAT BOSNIAK SERB RURAL14 RURAL RELIGIOUS PRAYYL OLDCOM FRCDMOVE RPARETHET RGPETHET EDYEARS B Unstandardized Coefficients Std. Error a Coefficients Standardized Coefficients Beta 2,468,140 17,604,000,167,031,094 5,380,000,935 1,069 -,001,001 -,010 -,471,638,701 1,426,143,089,069 1,599,110,155 6,453 -,187,083 -,105-2,239,025,132 7,570,497,087,262 5,710,000,137 7,297,004,001,045 2,602,009,981 1,020,064,009,124 6,773,000,864 1,158,052,008,165 6,860,000,499 2,003,056,010,143 5,848,000,484 2,065 -,115,052 -,041-2,193,028,841 1,188,030,032,016,945,345,981 1,019 -,053,089 -,022 -,594,553,202 4,960 -,116,090 -,048-1,291,197,208 4,807 -,023,005 -,090-4,364,000,673 1,485 t Sig. Collinearity Statistics Tolerance VIF a. Dependent Variable: ETHNICTOL 20

21 Model 5 (Constant) MALE AGE CROAT BOSNIAK SERB RURAL14 RURAL RELIGIOUS PRAYYL OLDCOM FRCDMOVE RPARETHET RGPETHET EDYEARS AGESQ B Unstandardized Coefficients Std. Error a Coefficients Standardized Coefficients Beta 2,442,184 13,235,000 t,167,031,095 5,383,000,934 1,071,001,006,014,127,899,024 42,343,143,089,069 1,596,111,155 6,454 -,188,084 -,105-2,245,025,132 7,580,497,087,262 5,712,000,137 7,298,004,001,044 2,596,009,980 1,020,064,009,123 6,717,000,855 1,169,052,008,165 6,860,000,498 2,009,056,010,143 5,851,000,484 2,067 -,115,052 -,041-2,195,028,841 1,189,030,032,016,946,344,981 1,019 -,054,089 -,023 -,598,550,202 4,962 -,116,090 -,048-1,289,197,208 4,807 -,023,005 -,091-4,368,000,670 1,492,000,000 -,024 -,217,828,024 42,304 Sig. Collinearity Statistics Tolerance VIF a. Dependent Variable: ETHNICTOL 21

22 Coefficients a Model B Unstandardized Coefficients Std. Error Standardized Coefficients Beta t Sig. Collinearity Statistics Tolerance VIF 6 (Constant) 2,447,189 12,954,000 MALE,154,113,087 1,365,172,071 14,142 AGE,001,006,013,120,904,024 42,462 CROAT,143,089,069 1,598,110,155 6,457 BOSNIAK -,188,084 -,105-2,246,025,132 7,581 SERB,497,087,262 5,703,000,137 7,307 RURAL14,004,001,045 2,597,009,980 1,020 RURAL,064,010,123 6,707,000,851 1,175 RELIGIOUS,052,008,165 6,857,000,498 2,009 PRAYYL,056,010,143 5,840,000,483 2,070 OLDCOM -,115,052 -,041-2,194,028,841 1,189 FRCDMOVE,030,032,016,946,344,981 1,019 RPARETHET -,054,089 -,023 -,600,549,201 4,963 RGPETHET -,116,090 -,048-1,287,198,208 4,808 EDYEARS -,023,006 -,092-3,832,000,500 2,001 AGESQ,000,000 -,023 -,210,833,024 42,409 MALExEDYRS -,015,009 -,111-1,782,075,065 15,307 a. Dependent Variable: ETHNICTOL 22

23 Figure Frequency Mean =3,17 Std. Dev. =0,889 N = ,00 2,00 3, 0 0 ETHNICINT 4,00 5,00 23

24 Figure 2 Histogra m D ep end en t Va riable : ET HN ICIN T Frequency Regression Standardized Residual 4 Mean =-5,21E -15 Std. D ev. =0, 997 N =

25 Figure 3 (The line is a Loess regression fit.) 3,00 2,50 Absolute Value of Unstandardized Residual 2,00 1,50 1,00 0,50 0,00 1, , , , ,50000 Unstandardized Predicted Value 4, ,

26 Figure 4 0, ,02 0,01 0,00-0,01-0, ,03 DFBETA MALE DFB ETA AG E DFBETA CROAT DFBETA BOS NI AK DFB ETA SE RB DFBETA RURAL14 DFBETA RU R AL 26

27 Figure 5 0, ,02 0,00-0, ,04 DFBETA RELIGIOUS DFB ETA PR AY YL D FBETA OLDCOM DFBETA FRCDMOVE DFB ETA RPARETHET DFBETA RGPETHET DFBETA EDYEARS 27

28 Figure 6 0, , , , , Cook's Distance 28

29 LOGISTIC REGRESSION TABLES AND FIGURES FOR BLOC III QUESTIONS Block 1: Method = Enter Omnibus Tests of Model Coefficients Step 1 Step Block Model Chi-square df Sig. 59,346 5,000 59,346 5,000 59,346 5,000 Model Summary Step 1 Cox & Snell Nagelkerke R -2 Log likelihood R Square Square 3683,196 a,020,028 a. Estimation terminated at iteration number 4 because parameter estimates changed by less than,001. Variables in the Equation B S.E. Wald df Sig. Exp(B) Step 1 a MALE(1) -,328,080 16,685 1,000,720 AGE EDYEARS RELIGIOUS FRCDMOVE(1) Constant,005,003 3,078 1,079 1,005 -,024,013 3,356 1,067,976 -,078,015 27,493 1,000,925,181,083 4,734 1,030 1,198 1,244,265 21,993 1,000 3,469 a. Variable(s) entered on step 1: MALE, AGE, EDYEARS, RELIGIOUS, FRCDMOVE.

30 Block 2: Method = Enter Omnibus Tests of Model Coefficients Step 1 Step Block Model Chi-square df Sig. 563,293 3, ,293 3, ,639 8,000 Model Summary Step 1 Cox & Snell Nagelkerke R -2 Log likelihood R Square Square 3119,903 a,195,268 a. Estimation terminated at iteration number 4 because parameter estimates changed by less than,

31 Variables in the Equation B S.E. Wald df Sig. Exp(B) Step a 1 MALE(1) -,278,090 9,643 1,002,757 AGE EDYEARS RELIGIOUS FRCDMOVE( CROAT(1) BOSNIAK(1) SERB(1) Constant,008,003 6,153 1,013 1,008,018,014 1,622 1,203 1,019 -,104,017 37,346 1,000,901,074,092,632 1,427 1,076 -,425,232 3,368 1,066,654,923,233 15,667 1,000 2,518-1,517,225 45,291 1,000,219 1,162,350 11,025 1,001 3,196 a. Variable(s) entered on step 1: CROAT, BOSNIAK, SERB. Block 3: Method = Enter Omnibus Tests of Model Coefficients Step 1 Step Block Model Chi-square df Sig. 31,699 3,000 31,699 3, ,339 11,000 31

32 Model Summary Step 1-2 Log likelihood Cox & Snell R Square Nagelkerke R Square 3088,203 a,204,280 a. Estimation terminated at iteration number 5 because parameter estimates changed by less than,001. Variables in the Equation B S.E. Wald df Sig. Exp(B) Step 1 a MALE(1) -,264,090 8,585 1,003,768 AGE EDYEARS RELIGIOUS FRCDMOVE(1) CROAT(1) BOSNIAK(1) SERB(1) RURAL4-Capitol RURAL4(1)-City RURAL4(2)-Town RURAL4(3)-Village Constant,007,003 4,712 1,030 1,007,014,015,853 1,356 1,014 -,101,017 35,242 1,000,904,100,093 1,161 1,281 1,106 -,301,236 1,628 1,202,740,915,236 15,093 1,000 2,497-1,455,228 40,631 1,000,233 27,459 3,000-1,032,230 20,119 1,000,356-1,241,240 26,729 1,000,289 -,970,234 17,134 1,000,379 2,158,419 26,572 1,000 8,650 a. Variable(s) entered on step 1: RURAL4. 32

33 33 Figure 7 Predicted probability 1, , , , ,20000 StdResSquared 40,00 30,00 20,00 10,00 0,

34 Figure 8 0, , , , , ,00000 Analog of Cook's influence statistics 34