UiO:Partnerforum. Har stordata definisjonsmakt? Gisle Hannemyr

Transkript

1 UiO:Partnerforum Har stordata definisjonsmakt? Gisle Hannemyr

2 Chris Anderson: The End of Theory Hannemyr Side #2

3 The Petabyte (10 15 ) Age Sensors everywhere. Infinite storage. Clouds of processors. Our ability to capture, warehouse, and understand massive amounts of data is changing science, medicine, business, and technology. As our collection of facts and figures grows, so will the opportunity to find answers to fundamental questions. Because in the era of big data, more isn't just more. More is different Hannemyr Side #3

4 Påstander om «stordata» Trenger ikke å basere seg på teori. N = alle. Trenger følgelig ikke ta hensyn til samplinsgfeil. De mønstre modellen leverer er ikke en hypotese, de er virkeligheten. stordata-analyse er nøytralt, eksakt og objektivt «vitenskapelig» Hannemyr Side #4

5 Minoritetsrapport: «[Et medlem av ekspertgruppen] mener rapporten burde problematisert politisk kontroll over algoritmer. Man kan tenke seg at press fra ulike aktører kan påvirke algoritmene uten at dette er gjort til gjenstand for en faglig eller politisk vurdering. Eksempelvis kan et samfunn der likestilling mellom kjønnene er et overordnet mål også ønske å justere algoritmer for å sikre at like mange kvinner som menn blir straffedømt. Slike politiske hensyn vil kunne svekke politiets effektivitet og gjøre det lettere for grupper i samfunnet (i dette eksempelet menn) å bryte lover.» (Fra Teknologirådet: «Forutseende politi», 2015, s. 20f.) Hannemyr Side #5

6 Synopsis 1. Er stordatadata-analyse teorifri og nøytral? 2. Finnes de erfaringsdata som skulle tilsi at det slik analyse kan være problematisk? 3. Hva innebærer dette for individet og for samfunnet? Hannemyr Side #6

7 Google Flu Trends Tests of the new Web tool from Google.org, the company s philanthropic unit, suggest that it may be able to detect regional outbreaks of the flu a week to 10 days before they are reported by the Centers for Disease Control and Prevention Hannemyr Side #7

8 viser seg å ikke fungere like godt som først påstått Hannemyr Side #8

9 Target og den gravide jenta Hannemyr Side #9

10 Target og den gravide jenta Historien er reprodusert i minst tre lærebøker om stordata-analyse som et eksempel på hvor effektiv og eksakt slik analyse er. Likevel vet vi ikke: Hvor mange kampanjer for «baby-produkter» ble sendt til jenter som ikke var gravide. Hvor mange gravide Target-kunder mottok ikke denne kampanjen. Mao: Alt vi vet er at minst en gravid jente ble «truffet» av denne spesifikke kampanjen. For alt vi vet kan det være snakk om en tilfeldighet Hannemyr Side #10

11 Hannemyr Side #11

12 Men så langt ikke bekreftet Uavhengig evaluering av PredPol utført av RAND Corp., finansiert av amerikanske National Institute of Justice: «I en delrapport om Shreveport konkluderes det med at programmet ikke kan vise til en statistisk signifikant reduksjon i eiendomskriminalitet.» (Teknologirådet 2015) Hannemyr Side #12

13 Er modellene teori-fri? USA viser studier at afro-amerikanere arresteres oftere for marihuana-besittelse enn hva tilfellet er for hvite amerikansere. Dette til tross for at bruken av marihuana er tilnærmet lik på tvers av etniske grupper. (1) Gir politiet ulike grupperinger i samfunnet ulik behandling, vil politiets datasett for arrestasjoner tegne et skjevt bilde av virkeligheten. Mates slike skjeve datasett inn i stordata-modeller, vil modellene bare videreføre og forsterke fordommer og feil. (1) Levine et al. (2010): Levine, H. G., Gettman, J. B., Siegel, L., Targeting Blacks for Marijuana: Possession Arrests of African Americans in California, , Drug Policy Alliance, LA: juni Hannemyr Side #13

14 : PRISM (direkte adgang til ymse leverandører av skytjenester Hannemyr Side #14

15 Hannemyr Side #15

16 Når blir stordata et politisk problem? Hannemyr Side #16

17 Når blir stordata et personlig problem? Hannemyr Side #17

18 David Lyon Vår identitet dataalderen defineres ikke minst av den dataskyggen som oppstår ved aggregering av stordata: «Our identity is understood by others and by inanimate machines more from our data-image than from our personal communication.» Hannemyr Side #18

19 Oscar Gandy «panoptic sort» The panoptic sort is a difference machine that sorts individuals into categories and classes on the basis of routine measurements. It is a discriminatory technology that allocates options and opportunities on the basis of those measures and the administrative models that they inform. For eksempel, vår dataskygge kan brukes av andre til å ekskludere oss fra muligheter, som å få en stilling vi hra søkt på, få en kjæreste, få et lån, eller leie en leilighet Hannemyr Side #19

20 Konklusjoner Stordata betraktes som i første rekke som en ressurs som skal gi store innsikter. Det later til å være en utbredt oppfatning at modellene og algoritmene som ligger til grunn for stordata-analyse er korrekte og «nøytrale». Ingen har så langt foreslått om slike algoritmer bør være under politisk kontroll men minst en viktig politisk aktør har advart mot dette. Det finnes erfaringsdata som tilsier at noen bruk av stordata er problematiske, både for individer og for samfunnet Hannemyr Side #20