AI, Big Data, Machine Learning og GDPR. Simen Sommerfeldt til IKT-Norges kurs om GDPR for annonsør- og mediebransjen oktober 2017

Transkript

1 AI, Big Data, Machine Learning og GDPR Simen Sommerfeldt til IKT-Norges kurs om GDPR for annonsør- og mediebransjen oktober 2017

2 Simen Sommerfeldt Ingeniør fra University of Surrey Pappa til tre Rolle: CTO konsern Spesialitet: Kunstig intelligens, GDPR, tingenes internett Grunnlegger av Lær Kidsa Koding! Grunnlegger av Oslo GDPR Meetup

3 14 kontorer i Norge og Sverige Skandinavisk konsulentselskap 1200 ansatte Notert på Oslo Børs IT Kommunikasjon Virksomhetsstyring

4

5 AI kan effektivisere eksisterende prosesser Ustrukturert input Tolke Evaluere Beslutte Klassifisere (Strukturert) output Historikk Ekspertkunnskap

6 AI kan gi ny innsikt Store datamengder Korrelasjoner, utliggere, sammenhenger Uttrekk, sammendrag, rapportering

7 Blir det virkelig massearbeidsløshet?

8

9 Any sufficiently advanced technology is indistinguishable from magic Arthur C. Clarke

10 "We tend to overestimate the effect of a technology in the short run and underestimate the effect in the long run Roy Amara

11 Personvern har ofte vært elefanten i rommet

12 Jeg utfordret folk i Oslo GDPR meetup: Hva er hovedproblemene med Big Data?

13 Anonymisering, pseudonymisering, og faren for tilbakesporing

14 Big Data er ofte solgt inn som en metode for å bruke MYE info for å forutsi adferd

15 ..samtykke, kontrakt, rettslig forpliktelse, vitale interesser, oppgave i samfunnets interesse eller legitime interesser.

16 Har dere lov? o Hvor kommer informasjonen fra? Hvilket hjemmel har dere for å bruke den? o Hvem har lov til å se på dataene? Hvorfor? Brukes de til et annet formål? o Hvem deler dere informasjon med? o Jfr artikkel fem om legitimitet for å bruke informasjonen o Dere kan bruke samtykker o Anonymisering er ofte løsningen.

17 Dere må ha kontroll på hele kjeden

18 Anonymisering og pseudonymisering

19 Tre kategorier Personopplysninger Pseudonymiserte personopplysninger Anoymiserte personopplysninger

20

21 Metoder anbefalt av

22 Tokenization o Vi bytter ut identifikatorer med nye, random verdier tokens o Sammenhengen mellom identifikatoren og tokenet lagres separat o Kan brukes til å linke tilbake til den opprinnelige posten. Pseudonymisering

23 Hashing o Identifiserende felter blir gruppert i bøtter etter en formel Pseudonymisering o bøttene gjenbrukes Pelle Hansen -> 01 Magda Paulsen > 02 Sverre Jensen -> 03 Simen Sommerfeldt -> 02

24 Noise addition (støy) o Innfører en viss feilmargin til feltene,.feks vekt 72-> vekt 74,6 Anonymisering

25 Substitution o Verdier erstatter med helt andre verdier. o F.eks kan høyde 172 byttes med blå, postnummer 3200 med elefant o Kombineres ofte med å tilføre støy Anonymisering

26 Aggregering: K-anonymity o Sørg for å ha minst K forekomster av en verdi i rader som kan grupperes sammen (tid, sted, etc) o Blank ut verdier i felter der dette ikke kan oppnås o 4-anonymity: Det finnes minst 4 rader med samme forekomst av verdien på laveste nivå o En kan også bruke generalisering: Alder: 23 blir til Alder: Anonymisering

27 Aggregering: L-diversity o Utvidelse: Der K-anonymitykan angripes med interferensangrep o Sørg for at man har minst L forskjellige varianter i utvalget Anonymisering

28 Differential Privacy o Innfør støy så nærme som mulig innsamlingspunktet o Støyen har en gitt statistisk distribusjon o Statistikk-beregningene tar vekk denne distribusjonen o Brukes av bla. Apple i deres kart- og meldings- apper. Anonymisering

29 WP 29 s betraktninger rundt tilbakesporing

30 Companies should keep control of anonymized data. Enough datapoints can lead to de-anonymization Heidi Shey, 6th september 2017 SENIOR ANALYST, FORRESTER RESEARCH

31 GDPR og Machine Learning/AI o Deep Learning og andre teknikker kan dra med seg fordommer (Bias) o Husk at brukeren skal få mulighet til å se beslutningsgrunnlaget og algoritmen o Vurdér også etikken i vurderingene o Husk å kunnne redegjøre for å hindre tilbakesporoing via anonymisering ift. Working party 29 o Brukeren kan nekte automatiske beslutning hvis utfallet har store konsekvenser o Sporing av hvor dataene kommer fra (Data Lineage).

32 Spennende prosjekt med SSB og Datatilsynet o Forskere kan kjøre analyse på registerdata uten å se detaljer o Automatiske hindre for å kunne avlede person-identifserende informasjon kk/2017/09/norsk-teknologi-vil-gibedre-personvern-og-mer-effektivforskning-raird-registerdata

33 Eva Jarbekk og jeg Holder GDPR-kurs hos Bouvet personvern-og-gdpr

34 Bli med i Oslo GDPR-meetup!

35 Spørsmål

36 Takk for