Del 4: Datakvalitet i et arkivperspektiv

Like dokumenter
Registrering av e-post e-postrekker og dokumentbegrepet. Norsk arkivråds høstseminar Øivind Kruse Arkivar, Riksarkivet

Interkommunalt arkiv for Buskerud, Vestfold og Telemark IKS

Noark-5 hva blir det til? Ståle Prestøy IKA Trøndelag. 23. mai 2007 Noark-5 - hva blir det til? 1

Datakvalitet og Noark

Saksbehandling, arkivdanning og arkiv om arbeidsprosesser, dokumentasjonsforvaltning og langtidslagring

<Digitale_arkiver>fra A til #??A_#%,&</Digitale_arkiver> Digitale arkiver fra A til Å

Hva er datakvalitet? Hvordan skal arkivtjenesten forholde seg til det?

Fagsystemer. Interkommunalt arkiv for Buskerud, Vestfold og Telemark IKS

Elektronisk arkiv - hva er det? Karin Amalie Holmelid kaho@hib.no Arkivleder/leder for Dokumentsenteret ved Høgskolen i Bergen

Arkivmessige forhold og elektroniske skjemaer Gjennomgang for Oslo kommune v/ Byarkivet

ARK2200-H18 - Digital arkivdanning og -bevaring II. Mappeeksamen

Del 2: Uttrekk fra udokumentert database

Autentiske data hva er det og hvordan sikres det?

Arkivteori, arkivsystem og arkivbeskrivelse

Bevaring av fagsystem og Noark 5

Del 3: Noark 5-basert databasestruktur

Instruks for elektronisk arkivmateriale som avleveres eller overføres som depositum til IKA Møre og Romsdal IKS

BLIR DET ENDELIG ORDEN PÅ DE ENORME DATAMENGDENE? Sett i lyset av Arkivverkets forslag om earkiv

Referansemodell for arkiv

Del 1: XML som langtidsbevaringsstrategi

Velkommen til Arkivverkets undersøkelse av arkivholdet i statlige virksomheter 2019

Hva har NOARK5 å bety for arkivet? Tormod Engebu, IKT-Rådgiver IKAVA

Veiledning i arkivarbeid med fagsystemer

Endelig tilsynsrapport og varsel om pålegg

kommunesamling 6. Juni 2007 Svein Amblie

Fagsystemer. Kommunearkivkonferansen IKA Opplandene Pål Mjørlund

Prosesser og rutiner. KDRS fase to. Kontaktseminar 2013 Petter Pedryc

Noark-standarden. Interkommunalt arkiv for Buskerud, Vestfold og Telemark IKS

Informasjon om Arkivverkets tilsyn med arkivarbeidet i Nordland fylkeskommune

Endelig tilsynsrapport og pålegg om utbedringer

DEN DIGITALE TIDSALDER

Offentlighet og innsyn. Espen Sjøvoll Norsk Arkivråd 30. januar 2018

Velkommen til Arkivverkets undersøkelse av arkivholdet i statlige virksomheter

Velkommen til Arkivverkets undersøkelse av arkivholdet i statlige virksomheter 2019

Del 2: Standarder for arkivdanning og -bevaring

Er Noark 5 og Datakvalitet det neste steget for depot? Thomas Sødring thomas.sodring@jbi.hio.no /

Bevaring av nettsider

Bevaring av dokumentasjon i læringssystemer Lars-Jørgen Sandberg, Riksarkivet

Velkommen til Arkivverkets undersøkelse av arkivholdet i kommuner og fylkeskommuner 2019 (Oslo-undersøkelsen)

Prosjekt digitalisering byggesaksarkiv. Dokumentsenteret Elin Langenes

ARKIVVERKETS EARKIV- PROSJEKT : STATUS

Hva vil vi egentlig måles på? - et moderne arkivtilsyn

Periodisering og avlevering av elektronisk arkiv hvem, hva, når? Rådgiver Ole-Bjørn Fossbakk og rådgiver Solveig Heløe Olsen, IKA Troms

Majoritets- og minoritetsperspektiv i arkivbevaring. LLPs og HIOAs forskningskonferanse Trondheim 23. april 2012 Ellen Røsjø Oslo byarkiv/hioa

Møte med Arkivlovutvalget

Hva er et godt arkiv? Forbedringsarbeid i praksis

Samdok. Samdok og. Arkiv i e-forvaltning. KDRS-samling 14. november Arkiv i e-forvaltning. Hans Fredrik Berg, Riksarkivet

Internrevisjon i en digital verden

Data Quality Perspectives. Various roles from arkivdanning to arkivbevaring

Periodisering Petter Pedryc

NOARK Hva? Fra: Wikipedia, den frie encyklopedi

og effektiv earkivforvaltning

Velkommen til Arkivverkets undersøkelse av arkivholdet i kommuner og fylkeskommuner 2019 (Oslo-undersøkelsen)

Reviderte forskrifter pr : Arkivforskriften Riksarkivarens forskrift

Arkivplan - internkontroll

Verdiløse arkiv? Norsk Arkivråds høstseminar 20.oktober Lars-Martin Kristensen Rune Stenhaug Systemintegrasjon AS

Arkiv, lagring og gjenfinning. Kari Myhre, Trondheim kommune

Norsk Arkivråd Frokostmøte om e-postfangst kommentarer til rapport fra arbeidsgruppe i SAMDOK. 12. februar 2015 Jorunn Bødtker

Opportunistiske forskere og utålmodige industripartnere? Om forskning og innovasjon i FMEene. 28. oktober 2014 Roger Sørheim

White paper. e-arkiv

IKT-sikkerhet for arkivarer. Kristine Synnøve Brorson

BIBSYS Brukermøte 2011 Live Rasmussen og Andreas Christensen. Alt på et brett? -om pensum på ipad og lesebrett

ARKIVVERKETS UNDERSØKELSE AV ARKIVHOLDET I STATLIGE VIRKSOMHETER

Arkivarens rolle i en sikkerhetsorganisasjon. Torill Tørlen Barne-, likestillings- og inkluderingsdepartementet

RIKSARKIVAREN. Kulturdepartementet 2 4 JAN 2011 JC10 / 3S7(4 1/2. Høring - Endringer i arkivforskriften

Rutiner dokumenthåndtering for saksbehandlere

PERIODISERING AV ELEKTRONISK JOURNAL OG ARKIV

Tuberkulosescreening fra et brukerperspektiv. Frokostmøte LHLI,

HØRING - ENDRINGER I OFFENTLEGLOVA - POLITIDIREKTORATETS MERKNADER

Dybdelæring å gripe terskelbegrepene

FOR SJØSIKKERHET I ET RENT MILJØ. Noark 5 i praksis. Bjørn Tore Fasmer btf@sdir.no

Høringsuttalelse: Forslag til forskrift om Norsk helsearkiv og Helsearkivregisteret

To RDF or not to RDF Fagdag om Noark 5 og RDF

Krav til arkivkunnskap i kommunene

Hva jeg skal snakke om

Arkivverkets tilsynsvirksomhet praksis og utfordringer. Om tilsyn Våre tilsyn Arkivverkets tilsynsstrategi

Noark-evaluering og NOU og så da? IKA Trøndelag kontaktkonferanse 9. mai 2019 Fagdirektør Kjetil Reithaug Forvaltning, Dokumentasjonsforvaltning

Innspill til utvalget for endring av arkivloven. Camilla Knudsen Tveiten

Å lage Noark 4 uttrekk selv. Thomas Sødring thomas.sodring@jbi.hio.no /

Bevaring og kassasjon nytt regelverk på høring høsten 2012

Marianne H. Tengs, på "Åpent møte om Noark og andre utfordringer i dokumentasjonsforvaltningen",

Måling av informasjonssikkerhet ISO/IEC 27004:2016. Håkon Styri Seniorrådgiver Oslo,

Versjon

DOKUMENTASJONSFORVALTNING GEVINSTENE AV RECORDS MANAGEMENT PÅ NORSK. Kristine Synnøve Brorson

Utfordringer knyttet til statistisk analyse av komposittdata

Nye arkivforskifter. Monika Kurszus Håland Fagdag onsdag 30.mai 2018

Erfaringer med bruk av Noark 5 -om et utviklingsprosjekt i NAV

PRESENTASJON Uttrekk og bevaring av eldre fagsystem med dots kjernen

Klagenemnda for offentlige anskaffelser. Dokumentasjons-/kvalifikasjonskrav. De grunnleggende kravene i loven 5.

NOARK Hva? Fra: Wikipedia, den frie encyklopedi

Arkivarens rolle i en sikkerhetsorganisasjon. Torill Tørlen Barne-, likestillings- og inkluderingsdepartementet

Måling av informasjonssikkerhet. Håkon Styri Seniorrådgiver Oslo,

System integration testing. Forelesning Systems Testing UiB Høst 2011, Ina M. Espås,

Dokumentfangst i praksis

Hjelp til selvhjelp hvordan måle god arkivdanning? Marianne Høiklev Tengs Norsk Arkivråd 21.oktober 2015

Det 8. norske arkivmøtet 2019 Invitasjon til innlegg

Velkommen til Riksarkivarens undersøkelse for kommunale arkivtjenester 2015 (Storbyundersøkelsen)

Arkivplan og tilsyn. - Erfaringer fra Statsarkivet i Trondheim

KOMMUNEREFORM ARKIV OG DOKUMENTASJONSFORVALTNING. FASE II Hva må gjøres etter at vedtak om sammenslåing er fattet?

Kompetanse og utdanning. Kva krevst det av arkivtenesta?

Transkript:

Del 4: Datakvalitet i et arkivperspektiv I den følgende teksten vil jeg redegjøre for hva datakvalitet er, og spesielt hva datakvalitet betyr i arkiv- og Noark-sammenheng. Jeg vil også forsøke å si noe om hvor jeg tror vi er på vei, og hvilken plass datakvalitet generelt og ikke minst arkivarers bevissthet om datakvalitet kan og bør ha. Det er anslått at virksomheter verden over taper store pengesummer årlig som følge av dårlig datakvalitet (Ouzounov 2011 s. 1). Datakvalitet dreier seg blant annet om at dataene som er lagret representerer virkeligheten slik man forventer at den skal representeres, og man måler datakvalitet ved å kvantifisere disse forventningene på måter som passer til dataene og den aktuelle situasjonen (N4OK: Kvalitetsvurdering av avlevert materiale 2013 s. 3). Forståelsene av datakvalitet og kvalitet generelt er parallelle. Wand og Wang har beskrevet dette slik: "The quality of a product depends on the process by which the product is designed and produced. Likewise, the quality of the data depends on the design and production processes involved in generating the data." (Wand & Wang 1996 s. 87). ISO 9001-standarden angir på sin side krav til systemer for kvalitetsstyring når et organ trenger å bevise sin evne til konsekvent å fremskaffe produkter som oppfyller forventninger fra interessenter eller har som siktemål å bedre interessentenes tilfredshet med produktet (ISO 2008 s. 8). Det er verdt å merke seg at Wand og Wang og ISO legger vekt på to av de samme elementene i sin forståelse av kvalitet; prosessen og kunden elementer som, av ulike årsaker, tradisjonelt ikke har blitt ilagt nevneverdig vekt i arkivteori og -praksis, selv om hensikten med å skape og bevare arkivmateriale, både på kort og lang sikt, utvilsomt er at materialet på et eller annet tidspunkt skal kunne brukes av noen på en måte som gir merverdi. Data med høy kvalitet kjennetegnes av at den er "fit for use by data consumers" et kriterium som er bredt anerkjent i fagmiljøet, og som setter bruk og brukbarhet i sentrum (Strong, Lee, & Wang 1997 s. 104). Egenskapene ved høykvalitetsdata kan deles inn i kategoriene egenverdi, kontekstuell kvalitet, tilgjengelighet og representasjonskvalitet (Strong, Lee, & Wang 1997 s. 104), selv om det generelt sett ikke eksisterer noen bred enighet om hvordan datakvalitet kan eller bør kategoriseres (Wand & Wang 1996 s. 87). 1 (7)

Egenverdikategorien angir at dataene kan ha iboende, kvalitative egenskaper; "[ ] quality in their own right.", f.eks. nøyaktighet og troverdighet. Den kontekstuelle kvalitetskategorien fremhever at datakvalitet må vurderes innenfor rammene av en konkret situasjon, f.eks. relevans og kompletthet, mens tilgjengelighets- og representasjonskvalitetskategoriene understreker at systemene i seg selv er viktige i datakvalitetsarbeidet, f.eks. gjennom de mulighetene de gir til å tolke og forstå (Wang & Strong 1996 s. 22). Bruks- og brukerperspektivet er bredere enn egenverdiperspektivet (Strong et al. 1997 s. 104), men også betydelig vanskeligere å kvantifisere og måle. Ovennevnte kategorier er enten objektive, subjektive eller prosessorienterte. Både objektiv datakvalitet og prosessorientert datakvalitet kan måles automatisk, f.eks. med en tallverdi, mens subjektiv datakvalitet ikke kan kvantifiseres på samme måte (Ouzounov 2011 s. 2), men heller må måles kvalitativt ved å be utvalgte brukere fortelle hvordan de oppfatter kvaliteten på et bestemt datasett (Sødring 2013 s. 6). I motsetning til resultatet av målinger av objektiv og prosessorientert datakvalitet, vil resultatet av slike brukerundersøkelser variere med hvilke brukere som blir spurt, og deres generelle og spesielle kompetanse (Sødring 2013 s. 7). Som nevnt innledningsvis, kan dårlig datakvalitet føre til at virksomheter taper penger. Det er samtidig rimelig å anta at hvis virksomhetene har hatt dårlig kvalitet på sitt arkivhold generelt, har de også jobbet dårlig, altså at kvaliteten på arbeidet som er blitt gjort er dårligere enn den ville vært hvis arkivholdet hadde vært godt (Duranti 2013, samtale 26. september). En god illustrasjon på hvor galt det kan gå når kvaliteten på informasjonen man bruker i arbeidet er dårlig, er den amerikanske bombingen av den kinesiske ambassaden i Beograd i 1999. Amerikanerne hevdet selv av denne bombingen var et uhell som følge av at man hadde tilgang til og dermed brukte utdaterte kart og feil koordinater i planleggingen av angrepet (U.S. bombing of the Chinese embassy in Belgrade 2013). Luciana Duranti forteller at denne hendelsen var del av opptakten til utviklingen av den amerikanske standarden for arkivdanningssystemer, DoD 5015.2 (Duranti 2013, samtale 26. september). Selv om det er utfordrende å bevare elektronisk materiale fysisk over tid, er den største utfordringen å skape pålitelig arkivmateriale som deretter kan bevares over tid med sin autentisitet i behold (Duranti 2010 s. 80). Dette stiller store krav til det fortløpende arkivdannings- og arkivbevaringsarbeidet, som i denne sammenhengen ikke kan sies å 2 (7)

skille seg fra arbeidet med å oppnå god datakvalitet generelt. Det er ingen motstrid mellom god arkivdanning og arbeid for å oppnå god datakvalitet, selv om innfallsvinklene, i alle fall i teorien, kan være ulike. For en arkivar, kan et autentisk arkivdokument ha et unøyaktig innhold, men fortsatt være pålitelig som arkivdokument, f.eks. ved at arkivdokumentet konsekvent gjengir den samme feilen i samtlige representasjoner (Lauriault, Craig, Taylor, & Pulsifer 2007 s. 137). I andre disipliner kan dette stille seg svært annerledes. I vitenskapelig forskning vil dataenes iboende og kontekstuelle nøyaktighet og sannferdighet være avgjørende for om dataene i det hele tatt kan brukes (Lauriault et al. 2007 s. 137). Den teknologiske utviklingen vil utvilsomt virke sterkt på hvordan datakvalitet forstås i arkivsammenheng, og det er ikke utenkelig at man fremover vil se en konvergens mellom datakvalitets- og arkivkvalitetsområdenes teori, og deretter praksis. F.eks. må man kunne forvente at krav til datakvalitet vil være et naturlig element i fremtidige versjoner av Noark-standarden, og at den praktiske bevisstheten om datakvalitet samtidig, om ikke før, vil øke. Årsakene til at kvaliteten på dataene er dårlig, om det er i arkivsammenheng eller andre sammenhenger, er mangfoldige. Dårlig systemdesign, mangelfulle eller dårlig implementerte rutiner for registrering og manglende eller mangelfull kvalitetssikring i etterkant er eksempler på årsaker. I tillegg kan dårlig datakvalitet oppleves når data som ble registrert for ett formål skal brukes til et annet formål (davinci Consulting AS 2004 s. 7, 34), en situasjon man kan tenke seg at vil oppstå når data skapt i arkivdanningen i offentlig virksomhet i Norge skal brukes til f.eks. historisk forskning i fremtiden. Dårlig datakvalitet i Noark-godkjente systemer og i uttrekkene fra disse systemene, har imidlertid også et sammensatt årsaksbilde. Ulike systemleverandører har implementert Noark-standarden i sine systemer med varierende grad av nøyaktighet og konformitet med standarden, og man må kunne forvente at systemene som har en "løs" tolkning og implementasjon av standarden, vil levere uttrekk der dataene har dårligere egenkvalitet enn systemene som i større grad er tro mot standardens ordlyd (Sødring 2013 s. 45). I tillegg, i stor grad som følge av at datainnleggingsprosessene i dagens Noark-godkjente systemer er manuelle, åpnes det for mange ulike måter å foreta registrering på. Hvert organ skal i teorien bestemme sine registreringsrutiner. For offentlige organ må dette skje innenfor rammene av arkivlovverket, men dette er ingen garanti for konsekvent bruk av systemene innad i organet, og på langt nær på tvers av organ. Hvis rutinene svikter, er det også vanskelig å rette dataene i ettertid. Man kan tenke seg en situasjon der en 3 (7)

saksbehandler har forstått viktigheten av å registrere dokumenter i Noark-systemet, men på grunn av manglende kunnskap om hvordan systemet virker og skal brukes, gjør dette ved å skrive ut og skanne dokumentene og deretter sende dem til seg selv på e-post for å foreta registreringen fra sin e-postklient. Systemet forstår disse dokumentene som inngående e-poster, og så lenge saksbehandleren ikke selv manuelt angir dokumenttypen ved å overstyre systemets defaultverdi, vil samtlige dokumenter bli registrert som inngående e-post, selv om de egentlig er utgående brev eller notater. Etter at registreringen er foretatt, hindrer systemet arkivpersonalet å endre dokumenttypen, selv om man i kvalitetssikringsprosessen (som det ikke er sikkert at organet har rutiner for, eller gjennomfører) ser at dokumentet ikke er registrert riktig. Registreringen gir dermed en feil representasjon av virkeligheten på offentlig journal, i organets system og i siste instans i uttrekket som avleveres til depot. Man har altså en situasjon der systemet åpner for at de mest banale feil kan begås, og dermed hindrer at feilene kan rettes i etterkant. Et annet åpenbart eksempel er muligheten for å registrere hele e-postrekker fremfor hver enkelt e-post i Noark-systemet, der rekken kan inneholde alle dokumenttyper, mens systemet krever at man velger om det er et inngående eller utgående dokument, eller et notat. Igjen får man en feil representasjon av virkeligheten i dataene som lagres i systemet, der den eneste muligheten man har til å oppdage feilen, er å gå inn i selve dokumentet og studere innholdet. Konsekvensene av dette er naturligvis at man vil sitte med et svært mangelfullt, og i mange tilfeller feil bilde av virkeligheten i fremtidens arkiver i depot. Det er samtidig ikke urimelig å påstå at datakvaliteten i bevart arkivmateriale fra Noark-godkjente systemer jevnt over vil være dårligere enn i bevart arkivmateriale fra private virksomheter som har hatt frihet til selv å bestemme sine datalagringsbehov, -rutiner og -systemer (selv om slike arkiver selvfølgelig heller ikke er uproblematiske å langtidsbevare). I en artikkel i nettmagasinet Computer Weekly 26. juni 2013 om store data og datakvalitet, poengterer visepresident for arkitektur i oljeselskapet Shell, Johan Krebbers, nettopp datakvalitet; "Being able to predict and therefore prevent failure is crucial. [ ] But it's only a success if you have good quality data. Garbage in is still garbage out." (Hall 2013). I sin undersøkelse av hvilke faktorer som har påvirket kjønnsfordelingen i arbeidsmarkedet i Norge på siste halvdel av 1950-tallet, skriver Børge Strand at identifikasjon og sammenkobling av enkeltelementer kan være vanskelig når man bruker papirbaserte kilder, men at dette er betydelig enklere når kildematerialet er databasert 4 (7)

(Strand 2013 s. 44). Med mer og mer avanserte analysemuligheter, åpner teknologien for stadig å kunne hente ny kunnskap fra datamaterialet som produseres. Dette forutsetter imidlertid at dataene i databasene som brukes er av en slik kvalitet at vi kan stole på at analyseresultatene er korrekte representasjoner av virkeligheten slik den faktisk var. Det er på det rene at man i fremtiden ikke vil kunne si noen sikkert om en rekke egenskaper ved arkivdokumentene vi kan finne i uttrekkene fra Noark-systemene som var i bruk på slutten av 1900-tallet og begynnelsen av 2000-tallet. Basert på metadataene som vil være lagret i uttrekkene, kan vi ikke vite sikkert hvorvidt dokumenter er inngående, utgående eller notater, vi kan ikke vite om det er privatpersonen Ole Olsen eller Etaten ved Ole Olsen som er avsender eller mottaker (ei heller om han er avsender, mottaker eller rett og slett begge deler), og selv om vi kan telle antall journalposter, betyr ikke det at vi samtidig kan si noe om den egentlige korrespondansemengden til organet. Det er vanskelig å forutse hvorvidt dette vil bli et problem for fremtidige generasjoner, fordi vi vet lite om hvordan disse dataene vil kunne bli brukt, hva slags verktøy man vil ha til å hjelpe seg med denne bruken, og om disse verktøyene vil være i stand til å kompensere for mangler ved dataene. Tar man utgangspunkt i bruks- og brukerperspektivet, ser man raskt at å definere kravene til datakvalitet snevert, vil gi lav avkastning. Hvis man f.eks. kun baserer kravene på dataenes egenverdi, stiller man krav som er relativt enkle å måle, men som ikke nødvendigvis gir en reell merverdi. At alle mapper har fått status som avsluttet før uttrekket lages, sier lite om hvorvidt dataene som er lagret representerer den virkeligheten de er ment å skulle representere, ei heller om de gjør dette på en god måte. Det holder altså ikke kun å bevare dataene, man må også sikre at de er sannferdige og at det er mulig å lese, forstå og bruke dem. For å få til dette, er man nødt til å arbeide med datakvalitet og arkivkvalitet i et helhetsperspektiv, og med innsats på langt flere områder enn kun det tekniske. Et naturlig sted å starte, er med revisjon av lovverket. Kilder davinci Consulting AS. (2004). Persondata-utveksling i Norge. Tilgjengelig 4. desember 2013 via regjeringen.no 5 (7)

Duranti, L. (2010). Concepts and principles for the management of electronic records, or records management theory is archival diplomatics. Records Management Journal 2010(1), 78-95. Lauriault, T. P., Craig, B. L., Taylor, D. R. F., & Pulsifer, P. (2007). Today's Data are Part of Tomorrow's Research: Archival Issues in the Sciences. Archivaria(64), 123-179. Ouzounov, D. (2011). Assessing data quality in records management systems as implemented in Noark 5. Tilgjengeliggjort via Fronter (HiOA). Standard Norge. (2008). Norsk Standard NS-EN ISO 9001:2008. Systemer for kvalitetsstyring. Krav. Oslo: Standard Norge. Strand, B. (2013). Digital archives in historical research. Oslo: Riksarkivarens skriftserie 38. Strong, D. M., Lee, Y. W., & Wang, R. Y. (1997). Data quality in context. Communication of the ACM. May 1997(5), 103-110. Tilgjengelig 17. november 2013 via www.researchgate.net Hall, K. (2013, 26. juni). Data quality more important than fixating over big data, says Shell VP. ComputerWeekly.com. Tilgjengelig 17. november 2013 via http://www.computerweekly.com/news/2240186887/data-quality-moreimportant-than-fixating-over-big-data-says-shell-vp Sødring, T. (2013). N4OK: Kvalitetsvurdering av avlevert materiale rapport. Oslo: Høgskolen i Oslo og Akershus. Tilgjengelig 13. oktober 2013 via http://arkivlab.no/content/rapport-n4ok-kvalitetsvurdering-av- avlevertmateriale 6 (7)

U.S. bombing of the Chinese embassy in Belgrade. (2013, 15. oktober). I Wikipedia. Hentet 17. november 2013 fra http://en.wikipedia.org/wiki/u.s._bombing_of_the_chinese_embassy_in_belgrad e Wand, Y., & Wang, R. Y. (1996). Anchoring Data Quality Dimensions in Ontological Foundations. Communication of the ACM. November 1996(11), 86-95. Tilgjengelig 17. november 2013 via www.thecre.com Wang, R. Y., & Strong, D. M. (1996). Beyond accuracy: What Data Quality Means to Data Consumers. Journal of Management Information Systems. Spring 1996(4), 5-34. Tilgjengelig 17. november 2013 via www.thespatiallab.org Andre referanser Luciana Duranti, samtaler og forelesninger under hennes besøk i Norge 26. september 2013. 7 (7)