ETIKK INFORMATIKK IN1050

Transkript

1 ETIKK INFORMATIKK IN oktober 2017 Maja van der Velden - majava@ifi.uio.no

2 Maja van der Velden - majava@ifi.uio.no odesign av informasjonssystemer gruppe siden 2008 oin5010 / IN9010: Design, Technology & Society overv: o PhD-utvalget (Ifi) o Den nasjonal forskningsetiske komité for naturvitenskap og teknologi (NENT) o Concerned Scientists Norway (Concerned Students Norway) o Restarters Norway

3 SMART mobile phones

4 By Patricia RSD6

5 Etikk o Moralsk intuisjon o Etiske teorier : Konsekvensetikk (utilitarianism) Pliktetikk (deontology) Dydsetikk (virtue ethics) Sosioteknisk dataetikk o Etisk refleksivitet

6 Etikkens kjerne Hva er etikk? Etikkens kjerne er ( ) urettferdighet, signalert ved vår trang til å gripe inn når vi opplever noe som galt : som at noen krenker noen. - Arne Johan Vetlesen i Hva er etikk (2007)

7 Hva er etikk? Snakk med din naboer om: Er noe etisk når det er lovlig? Er religion det samme som etikk? Er etikk det samme som hva er akseptert i et samfunnet eller kultur? Er etikk et universelt sett av standarder som bestemmer hva er riktig eller galt?

8 Moralsk intuisjon Spontan ikke reflektert reaksjon når vi opplever noe som galt eller når vi opplever en etisk dilemma The ethical dilemma of self-driving cars - Patrick Lin -

9 Etiske teorier Konsekvensetikk (utilitarianism): Konsekvensetisk analyse Mulige handlinger Hit the object Hit the SUV Hit the motorcycle Negative konsekvenser: You will die Others will be hurt/may die Others will die Positive konsekvenser: Others will live You will live You will live Pliktsetikk (deontology): middelene begrunner ikke slutten Dydsetikk (virtue ethics): hvilken handling gjør meg til en god menneske?

10 Moralisk intuisjon: Happn

11 Etisk refleksjon: Happn

12 Etisk refleksivitet Etiske refleksivitet handler om: 1. Evne til å se betydningen av din egen rolle i design prosessen: de verdier og forforståelser du bringer med deg inn i design prosjektet hvordan du samhandler med andre i prosessen de teoretiske og metodologiske perspektivene du bruker 2. Evne til å diskutere og kritisere din egen posisjon fra et mer distansert perspektiv

13 Sosioteknisk dataetikk Sosioteknisk dataetikk er basert på Sosiotekniske systemteori: Teknologi og samfunnet former hverandre (ikke deterministisk) Teknologi er en sosial produkt (ikke et objekt) Teknologi er basert på verdier (ikke et nøytralt instrument)

14 Uforutsette konsekvenser

15 Unintended consequences

16 Bruk din fantasi We must always exert the full strength of our imagination to examine where the full use of our new modalities may lead us

17

18 Verdibasert design?

19 credit: SMART project smart.uio.no credit: SMART project smart.uio.no

20 credit: SMART project smart.uio.no credit: SMART project smart.uio.no

21 credit: SMART project smart.uio.no

22 Etisk hensyn Som: o Forbruker? o Informatikker? o Politikker?

23

24 / Etikk i et studentprosjekt o o o o Respekt menneskes autonomi Gjør ingen skade (do no harm) Personvern Informert samtykke

25 Et etisk studentprosjekt Etikkom.no: o Generelle forskningsetiske retningslinjer o Forskningsetiske retningslinjer for naturvitenskap og teknologi o Forskningsetiske retningslinjer for forskning pa internett

26 Reflekter! o o o o o o o o Utfordring av eksisterende verdier (sosial, miljømessig, sikkerhet)? Hvem er inkludert og hvem er ekskludert? Er prototype passende for ferdighetsnivå? Innebygd personvern (Privacy by design)? Vis respekt for deltakernes sikkerhet og verdighet! Vis respekt for deltakernes rettigheter og diversitet! Proporsjonalitet! Vær åpent! og evaluer!

27 Planlegging Gjennomføring Evaluering

28 Oppsummering o Moralsk intuisjon o Etiske teorier: o Konsekvensetikk (utilitarianism) o Pliktetikk (deontology) o Dydsetikk (virtue ethics) o Sosioteknisk dataetikk o Etisk refleksivitet Etiske refleksivitet handler om: 1. Evne til å se betydningen av din egen rolle i design prosessen: ode verdier og forforståelser du bringer med deg inn i design prosjektet ohvordan du samhandler med andre i prosessen ode teoretiske og metodiske perspektivene du bruker 2. Evne til å diskutere og kritisere din egen posisjon fra et mer distansert perspektiv

29 Resurser BBC (1976). Blue Peter episode. De nasjonale forskningsetiske kommitteer (2017). Ess, Charles (2012). Digital Media Ethics (Kap. 6 handler om etiske teorier spør Maja om pdf av kap.) (bok) Fairphone (2017). Gundersen, Martin (20017). Justin Rosenstein skapte likerknappen, men har i dag slettet Facebook-appen. NRKbeta, Johnson, Deborah G. (2012). Computer Ethics (Sosioteknisk dataetikk) Lin, Patrick (2013) The Ethics of Saving Lives With Autonomous Cars Is Far Murkier Than You Think. Wired, NSD (2017). Personvernombudet for forskning. Stahl, Bernd C. (2011). Teaching ethical reflexivity in information systems. In Journal of Information Systems Education, 22 (3), pp van der Velden, Maja and Christina Mörtberg (2014). Participatory Design and Design for Values. Vetlesen, Arne Johan (2007). Hva er etikk? (bok)

30 TAKK SPØRSMÅL? LYKKE TIL! Maja van der Velden - majava@ifi.uio.no