Big Data: Retorikk. Kan vi velge mellom frihet og sikkerhet? Gisle Hannemyr

Transkript

1 Big Data: Retorikk Kan vi velge mellom frihet og sikkerhet? Gisle Hannemyr Friedrich Hayeks Those who would give up essential liberty, to purchase a little temporary safety, deserve neither liberty nor safety Friedrich Hayeks, «The Road to Serfdom» (1944) INF1055 Side #2 1

2 Helga Pedersen: Vi trenger ikke velge «Jeg mener at sikkerhet og frihet er to sider av samme sak. Jeg kan vanskelig tenke meg noe mer krenkende mot enkeltindividet enn å bli utsatt for kriminelle handlinger. Derfor er det viktig at norsk politi kan samarbeide med politi i andre land for å ta tyveribander, narkotikanettverk og pedofile som opererer på nett. Det er dette datalagringsdirektivet handler om.» Helga Pedersen, Finnmark Dagblad INF1055 Side #3 Helga Pedersen: Men vi trenger sikkerhet Framfor alt bør beskjeden fra de i Kripos som jobber systematisk med å avdekke pedofile nettverk, og som påpeker at mange kan gå fri som følge av for tidlig sletting av trafikkdata i Norge, mane til ettertanke. Bare man redder ett barn fra å bli misbrukt av pedofile, så bør man innføre EUs datalagringsdirektiv. Men jeg vil samtidig argumentere varmt for bekjempelse av terror. (Dagbladet: ) 2016 INF1055 Side #4 2

3 Slik gikk det med datalagringsdirektivet Datalagringsdirektivet ble vedtatt innført av Stortinget Men før man hadde funnet ut av hvordan det skulle implementeres eller finansieres, satte EU-domstolen (ECJ) foten ned INF1055 Side #5 Digitalt grenseforsvar (Lysne II) Er dette virkelig et grenseforsvar, eller er det digital grenseovervåkning? 2016 INF1055 Side #6 3

4 VG 13. februar 2016 INF1055 Side #7 VG-oppslaget i NRK Programlederen spurte Hårek Elvenes (H) om "Ville [et digitalt grenseforsvar] ha hjulpet mot den typen angrep som VG skriver om i dag?«svar at "Ja, det tror jeg bestemt" (og tilføyer at "Dette er dataangrep mot landet som kan sette kritisk infrastruktur ut av spill" - der "dette" tydeligvis skal sikte den generelle trusselen mot Norge, men der det fremstår entydig som at han snakker konkret om VG-oppslaget som overhodet ikke handler om dette) INF1055 Side #8 4

5 Endringer i straffeprosessloven Nå har Stortinget vedtatt endringer i Straffeprosessloven: Kommunikasjonskontroll Romavlytting Dataavlesning Planting av spionvare Metodene er mer inngripende enn de som tidligere har vært tillatt brukt, men i motsetning til DLD bryter de neppe med ar tikkel 8 om privatlivets fred i den Europeiske Menneskerettskonvensjonen (EMK). Metodene er nemlig bare tillatt brukt dersom det foreligger skjellig grunn til mistanke. EMKs artikkel 8 ikke gjelder ubetinget. 2. ledd sier at overvåking som er nødvendig i et demokratisk samfunn av hensyn til den nasjonale sikkerhet, offentlige trygghet eller landets økonomiske velferd, for å forebygge uorden eller kriminalitet, for å beskytte helse eller moral, eller for å beskytte andres rettigheter og friheter - er legitim INF1055 Side #9 PST har fremmet lovforslag om innsamling og analyse av «stordata» 2016 INF1055 Side #10 5

6 Forutseende politi I 2015 deltok jeg i et prosjekt i regi av teknologirådet: «Forutseende politi»: INF1055 Side #11 Chris Anderson: The Petabyte (10 15 ) Age Sensors everywhere. Infinite storage. Clouds of processors. Our ability to capture, ware-house, and understand massive amounts of data is changing science, medicine, business, and technology. As our collection of facts and figures grows, so will the opportunity to find answers to fundamental questions. Because in the era of big data, more isn't just more. More is different INF1055 Side #12 6

7 Påstander om «stordata» Trenger ikke å basere seg på teori. N = alle. Trenger følgelig ikke ta hensyn til samplinsgfeil. De mønstre modellen leverer er ikke en hypotese, de er virkeligheten. stordata-analyse er nøytralt, eksakt og objektivt «vitenskapelig» INF1055 Side #13 Minoritetsrapport: «[Et medlem av ekspertgruppen] mener rapporten burde problematisert politisk kontroll over algoritmer. Man kan tenke seg at press fra ulike aktører kan påvirke algoritmene uten at dette er gjort til gjenstand for en faglig eller politisk vurdering. Eksempelvis kan et samfunn der likestilling mellom kjønnene er et overordnet mål også ønske å justere algoritmer for å sikre at like mange kvinner som menn blir straffedømt. Slike politiske hensyn vil kunne svekke politiets effektivitet og gjøre det lettere for grupper i samfunnet (i dette eksempelet menn) å bryte lover.» (Fra Teknologirådet: «Forutseende politi», 2015, s. 20f.) 2016 INF1055 Side #14 7

8 Synopsis 1. Er stordatadata-analyse teorifri og nøytral? 2. Finnes de erfaringsdata som skulle tilsi at det slik analyse kan være problematisk? 3. Hva innebærer dette for individet og for samfunnet? 2016 INF1055 Side #15 Google Flu Trends Tests of the new Web tool from Google.org, the company s philanthropic unit, suggest that it may be able to detect regional outbreaks of the flu a week to 10 days before they are reported by the Centers for Disease Control and Prevention INF1055 Side #16 8

9 viser seg å ikke fungere like godt som først påstått 2016 INF1055 Side #17 Target og den gravide jenta 2016 INF1055 Side #18 9

10 Target og den gravide jenta Historien er reprodusert i minst tre lærebøker om stordataanalyse som et eksempel på hvor effektiv og eksakt slik analyse er. Likevel vet vi ikke: Hvor mange kampanjer for «baby-produkter» ble sendt til jenter som ikke var gravide. Hvor mange gravide Target-kunder mottok ikke denne kampanjen. Mao: Alt vi vet er at minst en gravid jente ble «truffet» av denne spesifikke kampanjen. For alt vi vet kan det være snakk om en tilfeldighet INF1055 Side # INF1055 Side #20 10

11 Men så langt ikke bekreftet Uavhengig evaluering av PredPol utført av RAND Corp., finansiert av amerikanske National Institute of Justice: «I en delrapport om Shreveport konkluderes det med at programmet ikke kan vise til en statistisk signifikant reduksjon i eiendomskriminalitet.» (Teknologirådet 2015) 2016 INF1055 Side #21 Er modellene teori-fri? USA viser studier at afro-amerikanere arresteres oftere for marihuana-besittelse enn hva tilfellet er for hvite amerikansere. Dette til tross for at bruken av marihuana er tilnærmet lik på tvers av etniske grupper. (1) Gir politiet ulike grupperinger i samfunnet ulik behandling, vil politiets datasett for arrestasjoner tegne et skjevt bilde av virkeligheten. Mates slike skjeve datasett inn i stordata-modeller, vil modellene bare videreføre og forsterke fordommer og feil. (1) Levine et al. (2010): Levine, H. G., Gettman, J. B., Siegel, L., Targeting Blacks for Marijuana: Possession Arrests of African Americans in California, , Drug Policy Alliance, LA: juni INF1055 Side #22 11

12 : PRISM (direkte adgang til ymse leverandører av skytjenester 2016 INF1055 Side # INF1055 Side #24 12

13 Når blir stordata et politisk problem? 2016 INF1055 Side #25 Når blir stordata et personlig problem? 2016 INF1055 Side #26 13

14 «We kill people based on metadata.» Michael Hayden (tidl. direktør for NSA og CIA) Mellom 2500 og 4000 personer har blitt drept av droneangrep i Pakistan siden Mange av dem fordi NSAs «SKYNET»- algoritme har klassifisert dem som «terrorister» INF1055 Side #27 Dataskyggen Mayer-Schönberger: хранить вечно (to be preserved forever) the KGB stamped the dossiers on its political prisoners. [ ] Like the Soviet state, Google does not forget. But unlike the Soviet Union that ceased to exist fifteen years ago, Google has become an indispensable tool for hundreds of millions of people around the world, who use it every day. We seem to have accepted that our digital society may forgive, but no longer forgets INF1055 Side #28 14

15 David Lyon Vår identitet dataalderen defineres ikke minst av den dataskyggen som oppstår ved aggregering av stordata: «Our identity is understood by others and by inanimate machines more from our dataimage than from our personal communication.» (Eletronic Eye, p. 19) 2016 INF1055 Side #29 Oscar Gandy «panoptic sort» The panoptic sort is a difference machine that sorts individuals into categories and classes on the basis of routine measurements. It is a discriminatory technology that allocates options and opportunities on the basis of those measures and the administrative models that they inform. For eksempel, vår dataskygge kan brukes av andre til å ekskludere oss fra muligheter, som å få en stilling vi hra søkt på, få en kjæreste, få et lån, eller leie en leilighet INF1055 Side #30 15

16 Konklusjoner Stordata betraktes som i første rekke som en ressurs som skal gi store innsikter. Det later til å være en utbredt oppfatning at modellene og algoritmene som ligger til grunn for stordata-analyse er korrekte og «nøytrale». Ingen har så langt foreslått om slike algoritmer bør være under politisk kontroll men minst en viktig aktør har advart mot dette. Det finnes erfaringsdata som tilsier at noen bruk av stordata er problematiske, både for individer og for samfunnet INF1055 Side #31 16