IN Introduksjon til design, bruk, interaksjon Latente og fremtredende utfordringer

Transkript

1 IN Introduksjon til design, bruk, interaksjon Latente og fremtredende utfordringer 17. september 2019 Institutt for Informatikk, Universitetet i Oslo joshi@ifi.uio.no IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 1

2 IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 2

3 IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 3

4 Hva jobber våre ferdigutdannede studenter med? Design og utvikling av nye løsninger og forbedring av eksisterende produkter/tjenester Utforskning av nye måter teknologi kan bidra til å respondere på samfunnsutfordringer Anskaffelse, introduksjon og utrulling av teknologi i offentlige tjenestetilbud Fag- og kompetanseutvikling med og rundt teknologi Tverrfaglige problemstillinger hvor den menneskelige/sosiale siden av teknologien står i sentrum IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 4

5 Dagens forelesning Kritisk tenkning Diskusjon rundt syv pågående faglige tematikker: Persuasive technology s. 14 Teknologiavhengighet s. 17 Moral machines s. 22 Antropomorfisme s. 26 Internet trust s. 31 Autonomi s. 35 Kunstig intelligens s IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 5

6 HCI kan brukes til å tenke stort og smått (fra forelesning 1, lysark 60) Vi kan studere samspill mellom teknologi og mennesker på ulike nivåer Samfunn Utover i kurset vil fokus ligge på de detaljene tettere på enkeltbrukere og mindre grupper Gruppe Vi har masterstudenter som jobber med ekte systemer med millioner av brukere og vi har andre som designer for én bruker HCI Individ Teknologi Ikke glem at HCI rommer mye mer enn vi rekker å dekke i dette kurset IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 6

7 Utover i semesteret Senere i semesteret skal vi lære mer om: Prototyping begreper knyttet til hvordan interaksjonen vil foregå Brukeropplevelser (UX) hvilke brukeropplevelser er tilknyttet interaksjonen Tjenestedesign hvordan vi kan designe teknologi som en del av en større tjeneste Evaluering hvordan forstå eksisterende løsninger og nye forslag gjennom dialog med brukere Fokus i dette kurset forblir på begreper og konsepter som hjelper oss med å beskrive interaksjonen mellom menneske og teknologi og fokus er som regel på enkeltbruker og system men i dag skal vi snakke om større utfordringer mellom mennesker og teknologi på samfunnsnivå IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 7

8 (Fra Android Developers Blog, Gesture Navigation: A Backstory, 8. August 2019) IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 8

9 IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 9

10 Kritisk tenkning Kritisk tenkning beskriver systematisk, rasjonell og uavhengig undersøkelse og evaluering av ulike forhold Fremfor å hoppe rett til konklusjoner forsøker vi å strukturere vår tekning før vi avgjør hva vi velger å tro på og hvordan vi velger å handle Beror i stor grad på fornuft og vår evne til å utfordre oss selv ved å stille spørsmål som kan hjelpe oss med å trekke slutninger Anses som et av våre mål for utdanningen vi tilbyr Spørsmålene til høyre er eksempler på forhold som kan vurderes IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 10

11 Kritisk tenkning krever høyere-ordens ferdigheter Blooms taksonomi benyttes til å klassifisere ulike kognitive ferdigheter fra lavere- til høyere-ordens ferdigheter (Brande and Wiese/EZSnips) Høyere-ordens ferdigheter Mer abstrakt Skape Designe, konstruere, oppfinne, utpønske Kan vi presentere et nytt ståsted eller løsning? Evaluere Hypotisere, dømme, rettferdiggjøre, kritisere Kan vi forsvare en posisjon eller et valg? Analysere Organisere, strukturere, skissere, integrere Kan vi adskille ulike deler? Anvende Bruke, velge, demonstrere, implementere Kan vi bruk informasjon på en ny måte? Forstå Oppsummere, utlede, tolke, sammenlikne Kan vi forklare en idé eller et konsept? Lavere-ordens ferdigheter Mer konkret Memorere Gjenkjenne, lytte, navngi, identifisere Kan vi erindre/gjenkjenne informasjon? IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 11

12 Dagens øvelse for oss Se forbi perspektiv, vinkling og enkeltkilder Benytte kritisk tekning til å fokusere på: Hva sakens kjerne er og hvordan det er relevant for samspill mellom mennesker og teknologi IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 12

13 Eksempler på pågående faglige diskusjoner Persuasive technology ønsker vi å skape atferds- og holdningsendringer gjennom teknologi? Teknologiavhengighet finnes det uønskede sider ved bruk av teknologi? Moral machines hvilket ansvar ønsker vi å tillegge teknologi? Antropomorfisme hvor menneskelige ønsker vi å gjøre teknologi? Internet trust forandres vår tillit til informasjon på Internett gjennom utviklingen av teknologi? Autonomi reduseres eller begrenses vår frihet ved bruk av teknologi? Kunstig intelligens hvor mye og hvilken data ønsker vi at skal benyttes til å trene intelligent teknologi? IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 13

14 Persuasive technology «I define persuasion as an attempt to change attitudes or behaviors or both (without using coercion or deception)» (Fogg & Fogg, 2003, s. 15) Persuasive technology handler om å skape frivillig endring gjennom bruk av teknologi i oppførsel, holdning eller begge deler De som introduserte begrepet var opptatt av å skille det fra villende, manipulerende, eller påtvingende endring En balanse mellom å motivere nok til at bruker velger å handle i en bestemt retning/mønster og bli for påtvingende En sentral problemstilling er hvorvidt teknologien måler og forstår menneskelig oppførsel godt nok? Involverer også en rekke etiske utfordringer, f.eks. fare for å skape økt oppmerksomhet rundt noe vi vil redusere IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 14

15 IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 15

16 IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 16

17 Teknologiavhengighet Flere og flere produkter og tjenester flyttes delvis eller helt over på digitale plattformer «Software will eat the world» (Marc Andreessen, 2011) Alle selskaper har et behov for å bli et programvareselskap Hvilke refleksjoner gjøres før lansering rundt mulig negative sider ved å introdusert bruk (over tid)? Eksempler på farlige uønskede aspekter ved bruk: 1. overdreven bruk 2. negative følger ved bruk 3. abstinenssymptomer ved fravær av bruk Teknologiavhengighet blir mer og mer utbredt WHO s klassifisering av sykdommer og beslektede helseproblemer inkluderer nå Internet addiction disorder (IAD) IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 17

18 IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 18

19 IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 19

20 IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 20

21 IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 21

22 Moral machines Chinese room-argumentet: et program kan ikke få menneskelig «sinn» selv om det kan handle intelligent eller menneskelig Selv om vi kan programmere en «perfekt» oversetter vil det kun være oppslag av ord uten at det er tillagt «menneskelig» mening eller forståelse Brukes mye til å filosofere rundt design og utvikling av chatbots En overgang til selvkjørende kjøretøy vil kreve at moralitet bygges inn i programkoden hvem bærer ansvaret? Vil teknologien være i stand til å «vite» hvem den skal «beskytte» og hvem den skal «skade» i en situasjon hvor det uunngåelig med ulykke? Hva er rettferdighet i slike situasjoner? På hvilket nivå skal man få lov til å avgjøre det? Og vil det kunne oversettes til programkode? Uansett svar er dette et eksempel på en problemstilling som krever tverrfaglig fagkompetanse IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 22

23 IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 23 Foto: TU.no / NTB

24 IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 24

25 IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 25

26 Antropomorfisme Antropomorfisme (ἄνθρωπος (ánthrōpos) «menneske» og μορφή (morphē) «skikkelse» eller «form») I hvor stor grad vi ønsker å menneskeliggjøre en digital representasjon har lenge vært et tema Eksempler inkluderer design med avatarer, utvikling av chatboter, talebaserte smarthøytalere, virtuelle assistenter etc. Innen design og utvikling av roboter har man benyttet antropomorfisme som et redskap for å stimulere til sosial interaksjon Å menneskeliggjøre teknologi kan skape økt grad av trygghet, tillit og forståelighet kan slike egenskaper gi økt emosjonell kontakt? Uncanny valley et forsøk på å beskrive relasjonen mellom grad av ekthet og emosjonell respons IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 26

27 IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 27

28 IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 28

29 IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 29

30 IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 30

31 Internet trust Ask yourself who is paying for Facebook. Usually the people who are paying are the customers. Advertisers are the ones who are paying. If you don't know who the customer of the product you are using is, you don't know what the product is for. We are not the customers of Facebook, we are the product. Facebook is selling us to advertisers (Douglas Rushkoff) Mange pågående diskusjoner faller inn under dette, f.eks. de siste års fokus på fake news Hvordan kan man gjøre det mulig for brukere å skille mellom ekte og falsk informasjon? Andre eksempler er personvern (oppbevaring av data), logging av aktivitet (filterbobler), innsamling og deling av personopplysninger med 3. part Filterboble systematisk tilpasning av innhold på individnivå basert på innsamlet informasjon om brukeren uunngåelig? Er det kun den teknologiske siden som er skummel eller er det også endringer i den menneskelige? IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 31

32 IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 32

33 IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 33

34 IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 34

35 Autonomi Autonomi: mennesket kan handle ut fra egen frie vilje, f.eks. i helsetjenesten gjennom informert samtykke Autonomi er avhengig av mange forhold: situasjon, omgivelser, egen kropp, andre mennesker, hjelpemidler og øvrige systemer Med mange moderne teknologier flyttes mye av avgjørelsene fra brukersiden over til den teknologiske siden Ofte er det kulturelle, sosiale, organisasjonelle mønstre som gjør at vi «tvinges» inn i bruk av løsninger vi kanskje ikke ønsker Hvilken myndighet har vi til å velge bort teknologi og hvilken mulighet har vi til å unngå at digitale løsninger tar avgjørelser på våre vegne? I hvilken grad lar teknologien oss danne egne mål og verdier? Og støtter teknologien oss i å beslutte, planlegge, og oppnå disse? Eksempel på problemstilling: bidrar digitaliseringen av samfunnets tjenestetilbud til redusert autonomi blant enkelte grupper? IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 35

36 IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 36

37 IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 37

38 IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 38

39 IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 39

40 Kunstig intelligens (AI) Algorithms silently structure our lives (Kirsten Martin, 2018) Kunstig intelligens beskriver datamaskiner som simulerer menneskelig intelligente prosesser (hvor naturlig intelligens henviser til mennesker) Beskriver ofte bruken av «kognitive» egenskaper hos datamaskiner for å gjenskape menneskelig prosessering, f.eks. læring og problemløsing Eksempler på teknologier inkluderer automatisering, maskinlæring, maskinsyn, språkprosessering etc. En viktig og økende relevant problemstilling for oss er hvordan vi kan design AI-baserte løsninger på en ansvarsfull, etisk og moralsk måte Hvordan påvirker algoritmebaserte avgjørelser mennesker liv i dagens samfunn? Forstår vi som brukere hvilke avgjørelser som tas om oss og på våre vegne? IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 40

41 IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 41

42 FATE: Dataetiske prinsipper (beskrevet i 5. utgaven i boka, s. 380) Fire prinsipper med målsetning om å sørge for at designere kan lage systemer hvor valg som tas er rettferdige: Fairness: Er systemets behandling av data rettferdig uten favorisering eller diskriminering? Accountability: Er dataen som behandles nøyaktig og korrekt? Transparency: Er avgjørelser tatt av systemet synlige? Explainability: Er forklaringer gitt av systemet forståelig? IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 42

43 IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 43

44 IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 44

45 IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 45

46 IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 46

47 IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 47

48 IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 48

49 IN1050 Introduksjon til design, bruk og interaksjon Forelesning 5: Latente og fremtredende utfordringer 49