Hva er nytten av brukersentrerte metoder og aktiviteter? En litteraturgjennomgang

Like dokumenter
Hva får vi igjen for å involvere brukerne og hvordan måler vi det? IKT

FORFATTER(E) OPPDRAGSGIVER(E) EFFIN-prosjektet GRADER. DENNE SIDE ISBN PROSJEKTNR. ANTALL SIDER OG BILAG

Innhold. Login. Påvirkningskraft som kvalitetskriterium Forskjeller mellom evalueringsmetoder? En til? Kanskje litt vanskeligere denne

FORFATTER(E) Asbjørn Følstad OPPDRAGSGIVER(E) GRADER. DENNE SIDE ISBN PROSJEKTNR. ANTALL SIDER OG BILAG. Åpen

Brukersentert design Kapittel 3 i Shneiderman

Brukergrensesnitt på mobile enheter

GRUPPE 5, UKE 11 EVALUERING IN1050

Metoder for evaluering. Flere generelle RRISC

UNIVERSITETET I OSLO

Nettredaktørskolen, Høst Google Analytics Brukertesting Brukerundersøkelser

Brukerinvolvering i offentlige IT-prosjekter: Metoder for brukersentrert utvikling. Asbjørn Følstad, SINTEF IKT Oslo, 13.

Interaksjonsdesign Utvikling for og med brukere

INF1500 Høst 2015 Magnus Li Martine Rolid Leonardsen. Evaluering

Inf 1510: Bruksorientert design

Usability testing Brukertester

Brukermedvirkning i design av læring på arbeidsplassen

Eli Toftøy-Andersen og Jon Gunnar. brukertesting

Nettredaktørskolen, Sommer juni Brukertesting Brukerundersøkelser Google Analytics

IT I PRAKSIS!!!!! IT i praksis 20XX

INNHOLDSFORTEGNELSE Innledning... 3 Ledervisjon for SOFI... 3 Uformell ekspertevaluering av den kjørende versjonen... 5

emeistring 2.0 behandlerdel Presentasjon av kravspesifikasjon og prototype

ELIN-metoden. Elektronisk informasjonsutveksling

Utviklingsprosesser. INF 1500; introduksjon 9l design, bruk og interaksjon 27 september 2010

Hvilke IT-prosjekter lykkes best? Magne Jørgensen Simula Research Laboratory Universitetet i Oslo Scienta

Diskusjonsoppgaver Hvilke fordeler oppnår man ved analytisk evaluering sammenliknet med andre tilnærminger?

Veiledning Tittel: Veiledning for utarbeiding av økonomiske analyser Dok.nr: RL065

Inf1510: Oppsummering. Rune Rosseland

Evaluering vol. 1. Plenum IN1050 Uke 11 Maria og Helle

Innledning 3. 1 Brukersentrert utvikling 4

Kort om evaluering og testing av It-systemer. Hvordan vurdere, verdsette, velge og teste?

INF1500 Høst 2016 Magnus Li Martine Rolid Leonardsen EVALUERING / DECIDE

INF1050 dagsorden 31. mars Evaluering, 23. april (Uke 17) Hypotetisk-deduktiv metode. Informasjonssystemet gjenspeiler «virkeligheten

Fra visjoner til prestasjoner: Styringsmetoder i staten for å fremme utvikling og innovasjon innenfor rammene av politiske vedtak

Grunnleggende om Evaluering av It-systemer

Metodevalg i et tilgjengelighetsperspektiv: erfaringer, fallgruver og anbefalinger

Sykehusbygg - vår rolle og vårt bidrag

Evaluering vol. 2. Plenum IN1050 Uke 12 Maria og Helle

Tillit og troverdighet på nett. Tillit. troverdighet. på nett. Cato Haukeland, 2007

Evaluering av prosjektet: Nytt grensesnitt i Lindesnesregionen

Presentasjon 1, Requirement engineering process

Gjennomgang - prøveeksamen. Plenum IN1050 Maria og Helle

For noen er alt brukervemmelig

Veiledning for utarbeidelsen av økonomiske analyser som fremlegges for Konkurransetilsynet

Langtidsfrisk SI Kongsvinger - følgeevaluering

Brukerstyrt utvikling av elektroniske tjenester enveis informasjon, eller dialog og deling?

INF Introduksjon til design, bruk, interaksjon Evaluering, del 1

Ledersamling Øvre Eiker kommune 20.januar KS KommIT. Velferdsteknologikonferansen Lillestrøm Aleksander Øines

Test og kvalitet To gode naboer. Børge Brynlund

DRI2001 Offentlige nettsteder. Litt om systemutvikling Torsdag 24 aug Arild Jansen, AFIN, UiO

Gevinster ved innovative innkjøp, hvor vil vi og hvem skal med?

INF1500 Introduksjon til design, bruk, interaksjon Kapittel 10 Identifisere behov og etablere krav

Kontrakter. INF1050: Gjennomgang, uke 12

Evaluering av brukskvalitet for et Web-grensesnitt

God kompetanse god kvalitet

Digital strategi i praksis

Forelesning i INF våren 2014 Hvordan jobber vi med evaluering? Tomm Eriksen Interaksjonsdesigner - Universitetet I Oslo

Metoder for brukermedvirkning i universell utforming

Evaluering av informasjonssystemer. Brukbarhet er sammensatt. 5. Evaluering, 25. april (Uke 17)

Brukersentrert design i bedrifter

MIE Masterprosjekt HSI UiA

Evaluering av Husbankens kommunesatsning. Litteraturhuset Hovedfunn, erfaringer og resultater Ved: Lars-Erik Becken i Proba samfunnsanalyse

Skandinavias ledende bedriftsrådgivningsselskap innen Lean

Tilbakeblikk på Anbudsprosess Sykesignalanlegg. Heidi Sivertsen

Virksomhetsarkitektur i Skattetaten - Forretningsdrevet og IT-drevet

Observasjonsteknikker ISO 13407

Grunnleggende testteori

Skisse til prosjekt V.19.juni 2008 Marte-Eline Stryken, FAD - ITP. Gevinster ved e-forvaltning tall og erfaringer

Kvalitetskrav til løsninger

Hva er ergonomi? -mer en sittestillinger og sånn? Kai Olsen PT, MScTech in ergonomics. NEF seminar 21. januar 2008 Kai Olsen

Psykososiale målemetoder og psykometri.

Hvordan ser brukere på nytteverdien av Cloudtjenester?

INF1500 Høst 2016 Lone Lægreid Martine Rolid Leonardsen. Utviklingsprosesser, krav og behov & Analyse

Ofte stilte spørsmål.

GEVINSTREALISERING I HELSE OG OMSORG. Ikomm - samarbeidspartneren innen teknologi-, rådgiving- og digitaliseringstjenester.

Hvilke IT-prosjekter lykkes TRESS 90. best? Magne Jørgensen Simula Research Laboratory Universitetet i Oslo Scienta

1.1.1 Prosjekt B: Elektronisk overføring av journal ved fastlegebytte

ITS-stasjonen. Kooperative systemer og utvikling av leverandørmarkedet. 24. april 2012

SIKRING i et helhetsperspektiv

UKE 2 Forstå bruk/ datainnsamling. Plenum IN1050 Julie og Maria

Dialogmøte økonomi, Fylkesmannen

Sikkerhet, helse og arbeidsmiljø Policy-gruppen

Nasjonal vs lokal informasjon - NFR arbeidsgruppens erfaringer og arbeid

Repetisjon om evaluering av It-systemer. Hvordan vurdere og verdsette?

Styremøte 15. juni 2016 i Sørlandet sykehus HF. Styresak

Hvorfor (og når)? INF1050 dagsorden 19. april Evaluering, 22. april (Uke 16) Informasjonssystemet gjenspeiler «virkeligheten»

2015 oktober. Bjørn Halvorsen

Forord til 3. reviderte utgave... 13

KommITs lederkurs i gevinstrealisering

INF Introduksjon til design, bruk, interaksjon Evaluering, del 2

SAFe. - Ny styringsmodell for innovasjon, IT-utvikling og forvaltning

UNIVERSITETET I OSLO

Hvilken kontekst opererer vi i når bruker kvalitetsindikatorer? - erfaringer og noen tanker om veien videre

Seniorpolitiske tiltak. på virksomhetsnivå en kunnskapsstatus

Metrikker og målte størrelser. Vi måler fakta for å bestemme systemets egenskaper

Evaluering av Husbankens kommunesatsning Hovedfunn, erfaringer og resultater

Brukskvalitet. Lett å bruke og samtidig nyttig

HMS i havbruk risikoanalyse og tiltaksvurdering med fokus på personell og teknologi i fiskeoppdrettsanlegg

PROSJEKTER MED HØYE MILJØAMBISJONER - HEMMELIGHETEN BAK SUKSESS BA2015 Prosjektkonferansen 7.januar, 2014 Per Ola Ulseth

Mennesker fornyer Slik endrer digitaliseringen Norge klarer stat og kommune å følge med? Vidar Lødrup, direktør kunnskapsledelse, 11.2.

LMS - Kravspesifisering. Anna Borg Senter for IKT i utdanningen

Transkript:

Hva er nytten av brukersentrerte metoder og aktiviteter? En litteraturgjennomgang

Hvorfor? Ambisjon: Måle gevinsten av brukersentrerte aktiviteter Vurdere om aktivitetene gir ønskede resultater Muliggjøre Bedre valg av metoder Hensiktsmessig metodeutvikling Egen læring Kartlegge og utarbeide hensiktsmessige måleinstrumenter Indikatorer hva er nytte? Målemetoder hvordan måle nytte?

Rammer State of the art for effektmåling innen brukersentrert utvikling Utgangspunkt: Effekt= Nytte Kost Fokus: Nytte Brukersentrert tiltak Identifiserte brukerkrav, brukerproblemer, designforslag etc. Medvirkning og eierskap Effektivisering av utviklingsprosessen Bedre produkt Bedre arbeidssituasjon Økt salg Økonomiske og andre gevinster

Litteraturen Spenner fra sent åtti-tall frem til i dag Akademisk Fire tilnærminger til undersøkelse av nytte Rettferdiggjøringstilnærmingen Den reduksjonistiske tilnærmingen Den prosessorienterte tilnærmingen Spør eksperten -tilnærmingen Fokus hovedsakelig på evalueringsmetoder Kravspesifikasjon og innføring i liten grad behandlet Design-input stort sett behandlet med utgangspunkt i evalueringsmetoder

Rettferdiggjøringstilnærmingen Misjonerende hensikt Usability er nyttig hvordan bevise det? Tidlig fokus Datamaskinen som et arbeidsverktøy Nyere fokus Omsetning på nettsteder Noen referanser: Mantei og Teorey (1988) Bias og Mayhew (1994) Nielsen: www.useit.com Nielsen og Gilutz (2003)

Nytte i rettferdiggjøringstradisjonen Økt brukskvalitet Reduksjon av brukerfeil Økt arbeidskvalitet og effektivitet Mindre behov for support Mindre opplæringskostnader Økt salg gjennom produktet (e-handel) Ergonomisk forbedring Redusert arbeidsfravær Besparelser i utviklingsprosessen Identifikasjon av brukerproblemer i tidlig fase Gjenbruk av analyse og designkunnskap Reduserte vedlikeholdsutgifter

Måling av nytte gjennom empirisk undersøkelse av sluttprodukt Hvordan måle forbedring i sluttproduktet? Hvordan tilbakeføre effekten til den brukersentrerte aktiviteten? Hvordan kontrollere om årsaken til økt salg, effektivitet, produktivitet, besøk på nettstedet etc. kan skyldes andre fagaktiviteter, kampanjer, årstidsvariasjoner el. l.

Den reduksjonistiske tilnærmingen Metoder/aktiviteter vurderes isolert Fokus på metodenes umiddelbare output I alt vesentlig fokus på evalueringsmetodikk og i hvilken grad den hjelper en å oppdage reelle bruksproblemer Noen referanser Andre (2000) Hartson, Andre, Williges (2001) Gray og Salzman (1998) Nielsen og Landauer (1992)

Nytte i den reduksjonistiske tilnærmingen Grundighet - antall problemer funnet Problemer funnet/problemer totalt Gjerne med vekting for alvorlighetsgrad Validitet fraværet av falske positiver Antall treff/problemer identifisert Reliabilitet repeterbarhet Måloppnåelse - Grundighet*Validitet Kostnadseffektivitet Måloppnåelse/Kostnad

Måling i den reduksjonistiske tilnærmingen Utfordringer Hvilke av de identifiserte problemene er reelle? Hvordan finne totalt antall problemer? Andre metoder som målestav Ekspertvurdering som fasit Brukertest som fasit Feltstudier Etc.

Den prosessorienterte tilnærmingen Nytte knyttet til leveranser Til andre prosesser Eller til brukeren Reaksjon på reduksjonisme Kan ses i sammenheng med participatory design Brukersentrert design Noen referanser: Wixon (2003) John og Marks (1997) Andre utviklingsaktiviteter Produktet

Nytte i den prosessorienterte tilnærmingen John og Marks (1997)

Spør eksperten -tilnærmingen Ekspertenes subjektive vurdering målt gjennom survey Metode Brukertesting / iterativt design Brukskvalitetsevaluering ** Frekv. 65 43 Vurdert nytte * 2,15 2,39 Uklart kriterium for nytte? Oppgaveanalyse Uformell ekspert vurdering 34 31 2,61 3,28 Vanskelig å være nøyaktig i forhold til variasjon av den sammenheng metodene brukes i? Feltstudier Fokusgrupper Formell Heuristisk Evaluering Prototyping uten brukertest 28 16 15 15 2,00 2,79 2,86 3,07 Brukerintervjuer 11 3,00 Spørreskjema 9 3,17 Noen referanser Vredenburg, Mao, Smith & Carey (2002) Gulliksen et. al (2004) Bark, Følsad, Gulliksen (2005 Effin prosjektet) Brukerkravanalyse Deltagende design Kortsortering 7 7 5 2,00 3,40 3,33 *Rangering av de fem mest nyttige (1 best, 5 dårligst) **Dekker en rekke forsjellige evalueringsmetoder

Oppsummering hvordan vurdere nytten 1. av rådene som gis Riktighet Viktighet Kompletthet Påvirkningskraft 2. av prosessen Effektivisering av utviklingsprosessen Kompetanseheving Hos teammedlemmer Forankring Hos brukergrupper Men hvordan bruke dette i det daglige arbeidet? 3. av bedre produkter og tjenester Fornøyde brukere Økonomiske gevinster gjennom økt salg, effektivitet etc.

Et tenkt eksempel La oss anta at man kunne identifisere og kategorisere alle mulige brukerproblemer ved hjemmesiden til en offentlig etat; kanskje etter inngående undersøkelser av faktisk bruk av sidene over lang tid. La oss si at vi i alt fant 54 problemer: 4 var kritiske: Typiske brukere får ikke gjennomført det de kommer for å gjøre. 20 var alvorlige: Typiske brukere får forsinkelser og enkelte brukere stoppes. 30 var kosmetiske: Brukerne opplever irritasjon og enkelte forsinkelser.

Et tenkt eksempel Dersom denne hjemmesiden ble undersøkt med en av våre metoder kunne for eksempel resultatet være at vi fikk identifisert 20 brukerproblemer.

Riktighet Hvor riktige disse resultatene er får vi vite ved å skille mellom de brukerproblemene som faktisk viste seg å være problemer, og de som ikke er problemer, m. a. o. feil. La oss i at det bare var 2 som var feil, altså var riktigheten (100*18/20) 90%.

Viktighet Hvor viktige disse resultatene er får vi vite ved å se på hvor mange problemer som ble klassifisert som kritiske eller alvorlige. La oss si at av de 18 reelle problemene så var 12 kritiske eller alvorlige, mens 6 var kosmetiske. Altså var viktigheten (100*12/20) 60%.!!!!!!!!!

Kompletthet Hvor komplette resultatene er får vi ved å se på andelen av det totale antall problem i forhold til antall identifiserte reelle problemer. Komplettheten er altså (100*18/56) 32%.

Påvirkningskraft Hvilken påvirkningskraft resultatene har, blir en litt annen historie.. Vi måtte da se på hvor mange av de identifiserte problemene som faktisk ble tatt hensyn til i det videre utviklingsforløpet. Om 10 av de 20 identifiserte problemene ble fjernet så var påvirkningskraften 50%. (Man får håpe at det var de viktigste problemene som ble rettet opp).

Utfordringen: Hvordan få gode anslag på en metodes Riktighet, Viktighet, Kompletthet og Påvirkningskraft uten å gjøre store og ressurskrevende undersøkelser?