ETIKK INFORMATIKK IN1050 24. oktober 2017 Maja van der Velden - majava@ifi.uio.no
Maja van der Velden - majava@ifi.uio.no odesign av informasjonssystemer gruppe siden 2008 oin5010 / IN9010: Design, Technology & Society overv: o PhD-utvalget (Ifi) o Den nasjonal forskningsetiske komité for naturvitenskap og teknologi (NENT) o Concerned Scientists Norway (Concerned Students Norway) o Restarters Norway
SMART mobile phones
By Patricia Kambitsch @ RSD6
Etikk o Moralsk intuisjon o Etiske teorier : Konsekvensetikk (utilitarianism) Pliktetikk (deontology) Dydsetikk (virtue ethics) Sosioteknisk dataetikk o Etisk refleksivitet
Etikkens kjerne Hva er etikk? Etikkens kjerne er ( ) urettferdighet, signalert ved vår trang til å gripe inn når vi opplever noe som galt : som at noen krenker noen. - Arne Johan Vetlesen i Hva er etikk (2007)
Hva er etikk? Snakk med din naboer om: Er noe etisk når det er lovlig? Er religion det samme som etikk? Er etikk det samme som hva er akseptert i et samfunnet eller kultur? Er etikk et universelt sett av standarder som bestemmer hva er riktig eller galt?
Moralsk intuisjon Spontan ikke reflektert reaksjon når vi opplever noe som galt eller når vi opplever en etisk dilemma The ethical dilemma of self-driving cars - Patrick Lin - https://www.youtube.com
Etiske teorier Konsekvensetikk (utilitarianism): Konsekvensetisk analyse Mulige handlinger Hit the object Hit the SUV Hit the motorcycle Negative konsekvenser: You will die Others will be hurt/may die Others will die Positive konsekvenser: Others will live You will live You will live Pliktsetikk (deontology): middelene begrunner ikke slutten Dydsetikk (virtue ethics): hvilken handling gjør meg til en god menneske?
Moralisk intuisjon: Happn
Etisk refleksjon: Happn
Etisk refleksivitet Etiske refleksivitet handler om: 1. Evne til å se betydningen av din egen rolle i design prosessen: de verdier og forforståelser du bringer med deg inn i design prosjektet hvordan du samhandler med andre i prosessen de teoretiske og metodologiske perspektivene du bruker 2. Evne til å diskutere og kritisere din egen posisjon fra et mer distansert perspektiv
Sosioteknisk dataetikk Sosioteknisk dataetikk er basert på Sosiotekniske systemteori: Teknologi og samfunnet former hverandre (ikke deterministisk) Teknologi er en sosial produkt (ikke et objekt) Teknologi er basert på verdier (ikke et nøytralt instrument)
Uforutsette konsekvenser
Unintended consequences
Bruk din fantasi We must always exert the full strength of our imagination to examine where the full use of our new modalities may lead us
Verdibasert design?
credit: SMART project smart.uio.no credit: SMART project smart.uio.no
credit: SMART project smart.uio.no credit: SMART project smart.uio.no
credit: SMART project smart.uio.no
Etisk hensyn Som: o Forbruker? o Informatikker? o Politikker?
https://vimeo.com/171957837
http://www.nsd.uib.no/personvern / Etikk i et studentprosjekt o o o o Respekt menneskes autonomi Gjør ingen skade (do no harm) Personvern Informert samtykke
Et etisk studentprosjekt Etikkom.no: o Generelle forskningsetiske retningslinjer o Forskningsetiske retningslinjer for naturvitenskap og teknologi o Forskningsetiske retningslinjer for forskning pa internett
Reflekter! o o o o o o o o Utfordring av eksisterende verdier (sosial, miljømessig, sikkerhet)? Hvem er inkludert og hvem er ekskludert? Er prototype passende for ferdighetsnivå? Innebygd personvern (Privacy by design)? Vis respekt for deltakernes sikkerhet og verdighet! Vis respekt for deltakernes rettigheter og diversitet! Proporsjonalitet! Vær åpent! og evaluer!
Planlegging Gjennomføring Evaluering http://paedagogiskudvikling.esbjergkommune.dk/arbejdsfelter/evaluering.aspx
Oppsummering o Moralsk intuisjon o Etiske teorier: o Konsekvensetikk (utilitarianism) o Pliktetikk (deontology) o Dydsetikk (virtue ethics) o Sosioteknisk dataetikk o Etisk refleksivitet Etiske refleksivitet handler om: 1. Evne til å se betydningen av din egen rolle i design prosessen: ode verdier og forforståelser du bringer med deg inn i design prosjektet ohvordan du samhandler med andre i prosessen ode teoretiske og metodiske perspektivene du bruker 2. Evne til å diskutere og kritisere din egen posisjon fra et mer distansert perspektiv
Resurser BBC (1976). Blue Peter episode. https://twitter.com/bbcarchive/status/919156095356100608 De nasjonale forskningsetiske kommitteer (2017). http://etikkom.no Ess, Charles (2012). Digital Media Ethics (Kap. 6 handler om etiske teorier spør Maja om pdf av kap.) (bok) Fairphone (2017). www.fairphone.com Gundersen, Martin (20017). Justin Rosenstein skapte likerknappen, men har i dag slettet Facebook-appen. NRKbeta, https://nrkbeta.no/2017/10/11/justin-rosenstein-skapte-likerknappen-men-har-i-dag-slettet-facebook-appen/ Johnson, Deborah G. (2012). Computer Ethics (Sosioteknisk dataetikk) Lin, Patrick (2013) The Ethics of Saving Lives With Autonomous Cars Is Far Murkier Than You Think. Wired, https://www.wired.com/2013/07/the-surprising-ethics-of-robot-cars/ NSD (2017). Personvernombudet for forskning. http://www.nsd.uib.no/personvern/ Stahl, Bernd C. (2011). Teaching ethical reflexivity in information systems. In Journal of Information Systems Education, 22 (3), pp. 253-260. van der Velden, Maja and Christina Mörtberg (2014). Participatory Design and Design for Values. http://link.springer.com/content/pdf/10.1007/978-94-007-6970-0_33.pdf Vetlesen, Arne Johan (2007). Hva er etikk? (bok)
ETIKK@IFI TAKK SPØRSMÅL? LYKKE TIL! Maja van der Velden - majava@ifi.uio.no