NŒr b r vi bruke datamaskiner og nœr b r vi bruke hodet? En kritikk av Dreyfus og Dreyfus' (1987) myter om ekspertise

Transkript

1 Artikkelen er akseptert bidrag til Norsk Informatikk Konferanse, Den vil trykkes i konferansens artikkelsamling, TAPIR forlag, 1995 NŒr b r vi bruke datamaskiner og nœr b r vi bruke hodet? En kritikk av Dreyfus og Dreyfus' (1987) myter om ekspertise Geir Kirkeb en Universitetet i Oslo Innledning Allerede pœ 50-tallet foreslo enkelte at datamaskinen burde brukes til Œ utvikle "kunstig intelligens" (KI). Denne tidlige KI-visjonen har i alt for stor grad preget diskusjonene rundt sp rsmœlet om hva vi kan og b r bruke datamaskiner til. Debatten i informatikkmilj er har v¾rt sterkt polarisert. PŒ den ene siden har vi hatt de som har forsvart de svulstige KI-visjonene. PŒ den andre siden, har vi hatt KI-kritikerne som sv¾rt ensidig har argumentert for et "mind over machine"-syn. KI-visjon¾rene og KI-kritikerne har hatt til felles at de har basert sine oppfatninger om hhv. datamaskinens muligheter og menneskets fortreffeligheter, pœ spekulasjoner. KI-visjonen baserer seg pœ en ren spekulasjon, nemlig antagelsen om at "a physical symbol system has the necessary and sufficient means for general intelligent action" (Newell og Simon, 1981, s. 41). Denne hypotesen er igjen basert pœ en antagelse om at kognisjon er samme type prosess som informasjonsprosessering i datamaskiner. KIkritikerne (f.eks. Dreyfus, 1972; Winograd og Flores, 1986) har - med gode argumenter - avvist denne antagelsen, men de har fulgt opp med en like ensidig og spekulativ antagelse om menneskelig ekspertise som noe h yt hevet over maskiner. Sp rsmœlet om en programmert datamaskin kan sies Œ v¾re intelligent eller ikke, har liten relevans for problemstillingen jeg reiser i artikkelens tittel. Jeg mener det nœ er pœ tide at informatikere vurderer hvilken rolle datamaskiner kan og b r spille i beslutningstaking, probleml sning, ut velse av ekspertise osv. ut fra hva man i kognitiv psykologi vet om styrker og svakheter i eksperters skj nn og beslutningstaking. Denne kunnskapen er i hovedsak avdekket i en tradisjon i psykologien som gœr tilbake til Paul Meehls (1954) bok Clinical versus Statistical Predictions. I hva vi kan kalle Meehl-tradisjonen har man systematisk sammenlignet menneskers evne til Œ foreta skj nnsmessige vurderinger med mekaniske rutiner. Paradokset er at mens KI-tradisjonens fors k pœ Œ utvikle avanserte KI-programmer har avdekket menneskers styrke i forhold til datamaskiner og altsœ gitt n¾ring til en generell "mind-over-machine"-myte, sœ har den systematiske sammenligningen av mennesker mot helt enkle mekaniske rutiner avdekket dramatiske svakheter i menneskelig skj nn og vurderingsevne. Jeg vil f rst vise at det ekspertisesyn Dreyfus og Dreyfus (1987) forfekter, blir en myte sett i lys av de siste f rti Œrs beslutnings- og vurderingsforskning. Deretter vil jeg

2 2 fors ke Œ fœ fram at den type funn som denne forskningen har avdekket, er sv¾rt relevant for utforming av menneske-maskin samspill og beslutningsst ttesystemer. Dreyfus og Dreyfus' (1987) myter om ekspertise I 1947 ble den f rste programmerbare digitale datamaskinen satt i drift. Samme Œr startet Allan Turing debatten om muligheten for Œ utvikle "kunstig intelligens" (KI). Han foregrep idžen som ligger til grunn for den moderne KI-visjonen, en idž som gjerne tilskrives Newell, Shaw og Simon (1958). Turing (1947) antok at kognisjon essensielt er (symbolsk) probleml sning og at probleml sning kan reduseres til "the form 'Finding a number n such that...'... We should not go far wrong if we assumed that all problems are reducible to this form." (s. 22). Turings mest markante motdebattant i 1947 var kjemiprofessoren Michael Polanyi, en venn og nabo av Turing pœ denne tida. Polanyi var sterkt uenig med Turing. Han hevdet at menneskelig kognisjon slett ikke lot seg spesifisere eller simulere ved hjelp av formelle systemer. Diskusjonene inspirerte hhv. Turings (1950) artikkel Computing Machinery and Intelligence og Polanyis (1958) bok Personal Knowledge. Den velkjente "Turing-testen" for Œ vurdere om en programmert maskin kan sies Œ v¾re intelligent, er et sentralt bidrag til KI-tradisjonen i Turings artikkel. Polanyi avviste testen som et kriterium pœ intelligens. For han var det en a priori kjennsgjerning at menneskelig kognisjon og intelligens er vesensforskjellig fra programmerte datamaskiner. Ingen empiri kan endre dette, hevdet Polanyi. Den fundamentale forskjellen mellom mennesker og maskiner kommer s¾rlig til uttrykk i hans begrep "taus" kunnskap (tacit knowledge). I dette begrepet ligger det at menneskelig kognisjon dels er basert pœ kunnskap som ikke lar seg beskrive. Begrepet "taus kunnskap" har siden stœtt sentralt i KI-kritikken. (For debatten mellom Turing og Polanyi, se f.eks. Hodges, 1983) Filosofen Hubert Dreyfus (1965, 1972) overtok pœ 60-tallet Polanyis rolle som toneangivende KI-kritiker. Han fokuserer, som Polanyi, pœ hva maskiner ikke kan gj re. Mens Polanyi bl.a. argumenterte ut fra Gšdels ufullstendighetsteorem, er utgangspunktet for Dreyfus' kritikk de tidlige faktiske fors kene pœ Œ utvikle KI-programmer. Dreyfus retter en skarp, og i stor grad berettiget, kritikk mot vyene mange hadde om Œ "kopiere" menneskelig intelligens og ekspertise i form av programmerte datamaskiner. Verre blir det nœr Dreyfus og Dreyfus (1987) i boka Mind over Machine forklarer hva menneskelig eksperter kan gj re som maskiner ikke kan. De sammenfatter sin forstœelse av hva som skiller eksperter fra programmerte datamaskiner og nybegynnere slik: "It seems that a beginner makes inference using rules and facts just like a heuristically programmed computer, but that with talent and a great deal of involved experience the beginner develops into an expert who intuitively sees what to do without applying rules." (Dreyfus og Dreyfus, 1987)

3 3 I dette sitatet kommer de to mytene jeg mener Dreyfus og Dreyfus forfekter, til uttrykk. Den ene er pœstanden om at ekspertise generelt har en gestaltkarakter, at eksperter "intuitivt ser" helheter i m nstre av data/informasjon. Vi kan kalle dette myten om det gode skj nn. Dette er nemlig en myte. Psykologisk forskning har avdekket at menneskelige beslutningstakere, eksperter inkludert, ofte ikke er i stand til dette. Den andre relaterte myten som kommer til uttrykk i sitatet, kan vi kalle myten om erfaringsl¾ring. Med dette mener jeg troen pœ at man pœ alle kunnskapsomrœder har mulighet til Œ erverve seg et godt skj nn gjennom erfaring. Som vi skal se, har psykologisk forskning klart vist at dette langt fra er tilfelle. Hva bygger Dreyfus og Dreyfus (1987) sin forstœelse av ekspertise pœ? Dreyfus og Dreyfus (1987) peker korrekt pœ at KI-visjonene baserer seg pœ spekulasjoner: "the grandiose claims and predictions made by Simon and associates were not based on sound empirical research" (s.8) Hva bygger sœ Dreyfus og Dreyfus (1987) sin egen forstœelse av ekspertise pœ? I hovedsak baserer de seg pœ "the seemingly plausible arguments of Merleau-Ponty, Heidegger, and Wittgenstein, which I had come to accept" (Dreyfus & Dreyfus, 1987, s.7). Den empiriske forskningen pœ erfaringsl¾ring og skj nnsmessige vurderinger, som klart strider mot deres eget syn, neglisjerer eller bortforklarer de: "To forsake rationality in favor of unrationalized know-how is to sail on uncharted seas, and there will always be those... who challenge the wisdom. A number of academic psychologists have gone so far as to create experiments purporting to show... consistent flaws in human decision-making" (s. 41) I den grad Dreyfus og Dreyfus baserer seg pœ empiriske observasjoner, avgrenser de seg i hovedsak til studier og observasjoner av senso-motoriske ferdigheter som sykling, sv mming og flyvning. Av kognitive ferdigheter er det stort sett studier av (og uttalelser fra) sjakkspillere de viser til. Hva de i bokas undertittel karakteriserer som "the power of human intuition" belegger de ikke med stort annet enn eksperters egne opplevelser: "There is no choosing. It happens unconsciously, automatically, naturally" (Japansk kunstner, s. 32); "When I say to a doctor, 'the patient is psychotic', I don't know how to legitimize the statement. But I am never wrong. Because I know psychosis from inside out. And I feel that, I know it, and I trust it". (Psykiatrisk sykepleier, s. 34); "To these elementary laws there leads no logical path, but only intuition, supported by being sympathetically in touch with experience". (Einstein, s. 41) Dreyfus og Dreyfus appellerer dessuten til lesernes "common sense": "You need not merely accept our word but should check to see if the process by which you yourself acquired various skills reveals a similar pattern." (s. 20)

4 4 Jeg benekter ikke at Dreyfus og Dreyfus' ekspertisesyn er utbredt. Jeg vil imidlertid vise at mange tiœrs psykologisk forskning klart viser at deres tro pœ bœde vœr evne til Œ l¾re av erfaring og "intuisjonens kraft", ikke er "common sense". Den er - i mange og viktige sammenhenger - "common non-sense". Dreyfus og Dreyfus' (1987) feilslutninger PŒ vesentlige omrœder er menneskelig kognisjon klart overlegen informasjonsprosessering i datamaskiner. Det gjelder for eksempel diverse former for persepsjon og bruk av naturlig sprœk. Felles for vœre perseptuelle evner og vœre sprœkevner er at de er utviklet gjennom millioner av Œr. VŒr hjerne er spesielt "designet" for Œ realisere slike ferdigheter. NŒr det gjelder for eksempel ansiktspersepsjon er vœr "mind" h yt hevet over "the machine". Vi vet blant annet at vi alle har en ekstrem evne til Œ "lese" ansikter. Vi vurderer vanligvis raskt hum ret en person er i ut fra personens ansiktsuttrykk. Selv om vi er sv¾rt dyktige til dette, kan vi ofte bare vagt beskrive de trekk eller tegn vi kjenner igjen. Polanyi (1958) brukte nettopp slike persepsjonseksempler i sin argumentasjon for den "tause", ikke-beskrivbare kunnskapens betydning. Dreyfus gj r det samme. I What computer's can't do (1972) innleder han typisk nok med et sitat der filosofen Pascal kritiserer Descartes' forstœelse av nettopp persepsjon: "Mathematicians wish to treat matters of perception mathematically, and make themselves ridiculous... the mind... does it tacitly, naturally, and without technical rules." Persepsjon har Œpenbart en "gestalt-karakter": Ser vi deler av en sirkel, "ser" vi hele sirkelen. Dreyfus og Dreyfus' (1987) hevder at ogsœ eksperters vurderinger har en slik gestaltkarakter; dvs. at eksperter i sin alminnelighet er i stand til Œ "se" helheter i m nstre av data/informasjon. De generaliserer altsœ fra persepsjon til vurderinger generelt. Dette er en feilslutning. Det som skiller mange av de typer problemer som eksperter i vœr moderne tid stilles overfor fra problemene knyttet til Œ "lese" ansikter og forstœ naturlig sprœk, er at vi ikke har noen evolusjonsmessige preferanser for Œ l se den f rstnevnte type problemer. Det gjelder for eksempel problemet en lege eller psykolog har som pœ grunnlag av et sett av data, skal vurdere sannsynligheten for at en pasient har en bestemt diagnose. En slik "kunstig" integrering av informasjon er et "nytt" problem. VŒr hjerne er ikke "kablet" for slike oppgaver. Som vi skal se, har da ogsœ psykologisk forskning n¾rmest entydig vist at vi er meget dœrlige til dette. OgsŒ nœr det gjelder erfaringens betydning, overgeneraliserer Dreyfus og Dreyfus (1987). Deres modell for utviklingen fra nybegynner til ekspert er basert pœ studier av "the skill-acquisition process of airline pilots, chess-players, automobile drivers and adult learners of a second language" (s. 20). NŒr det gjelder disse omrœdene, er det liten grunn

5 5 til Œ betvile at Dreyfus og Dreyfus (1987) "observed a common pattern in all cases, which [they] call the five stages of skill acquisition" (s. 20). Feilen de gj r, er igjen at de generaliserer fra ervervelse av senso-motoriske ferdigheter (og sjakkferdigheter) til kognitive ferdigheter i sin alminnelighet. Psykologisk forskning har avdekket at bestemte betingelser mœ v¾re til stede for erfaringsl¾ring. L¾ringsbetingelsene er tilstede i de spesielle kunnskapsomrœdene Dreyfus og Dreyfus hovedsakelig henter sin empiri fra. De generaliserer imidlertid til kunnskapsomrœder der disse betingelsene ikke er tilstede. Vi skal se at pœ slike omrœder opparbeider heller ikke "ekspertene" seg et stadig bedre skj nn med erfaring. F rst vil jeg redegj re for empirisk forskning som klart indikerer at Dreyfus og Dreyfus (1987) grensel se tro pœ "the power of human intuition", er en myte. Tradisjonen etter Meehl (1954): Myten om det gode skj nn avlives Alle klager pœ sin hukommelse. Det er sjelden man h rer noen klager pœ sine vurderinger. Dette er blant annet uttrykk for at folk flest vet sv¾rt lite om hva psykologien har avdekket om systematiske svakheter ved menneskers - eksperter inkludert - skj nnsmessige vurderinger. I dette avsnittet vil jeg fors ke Œ fœ dette fram. Det hele begynte som nevnt med Meehls (1954) lille bok Clinical versus Statistical Predictions. Som det framgœr av tittelen pœ boka, er den overordnede problemstillingen Œ avgj re hva som er best av kliniske (skj nnsmessige) vurderinger og aktuariske metoder. Dette hadde lenge v¾rt et stridssp rsmœl i psykologien. Meehl argumenterer for at sp rsmœlet bare kan avgj res pœ empirisk grunnlag. Han setter fram metodologiske regler for hvordan kontroversen "klinisk versus statistisk" kan avgj res empirisk. Med statistisk prediksjon mener Meehl en vekting og kombinasjon av data pœ grunnlag av statistiske trender som er avdekket i en eller flere normative grupper. Klinisk prediksjon svarer til at data kombineres intuitivt eller skj nnsmessig. PŒ grunnlag av 24 empiriske studier slutter Meehl at kliniske vurderinger (Har pasienten hjerneskade? Er pasienten schizofren? osv.) foretatt vha. formelle statistiske prosedyrer alltid er minst like n yaktige, og ofte mer n yaktige, enn skj nnsmessige vurderinger. Innvendingene mot Meehls studier var av tre typer. Det ble hevdet: 1) Vurderingene er ikke representative for den type vurderinger som klinikeren stœr overfor i en virkelig klinisk praksis (f.eks. McArthur, 1956). 2) Klinikeren har ikke tilgang til informasjon som er essensiell for kliniske vurderinger, som intervjudata, m te med pasienten osv. (f.eks. Holt, 1958) 3) Konklusjonene holder ikke for "konfigurale" vurderinger.

6 6 Holdbarheten av disse tre innvendingene er testet ut i en rekke studier. Konklusjonene er n¾rmest entydige: Innvendingene holder ikke. La oss se pœ noen "klassiske" og representative studier som indikerer dette. MMPI er den mest brukte personlighetstesten. Testresultatene summeres i en "profil" bygd opp av ti tallverdier som hver representerer testpersonens nivœ pœ Žn skala eller "personlighetsdimensjon" (introvert-ekstravert; maskulinitet-feminitet; psykopati osv.). Det er alment akseptert at MMPI-tolkninger krever at man ikke trekker slutninger bare pœ grunnlag av verdien pœ Žn enkelt skala. Man mœ se pœ relasjonene mellom de ti skœrene. Klinikere mœ altsœ foreta en "konfigural" vurdering av MMPI-profilen (jfr. innvending 3). Vurdering av MMPI-profiler er for vrig ogsœ representativ for den type vurderinger klinikere hyppig m ter i klinisk praksis (jfr. innvending 1). Goldberg (1965) studerte erfarne klinikeres evne til Œ vurdere om en pasient var nevrotisk eller psykotisk pœ grunnlag av slike MMPI-profiler. Han vurderte klinikerene opp mot hva som siden er blitt kalt "Goldbergs regel". Denne regelen legger sammen skœrene pœ tre utvalgte skalaer, og trekker fra skœrene pœ to andre skaler. Er resultatet under 45 er pasienten nevrotisk, ellers psykotisk. 861 MMPI-profiler skulle vurderes. Det viste seg at "Goldbergs regel" med god margin utkonkurrerte de mange erfarne klinikerne som ble studert. Goldbergs studie, og en rekke andre studier, stœr i skarp kontrast til den psykiatriske sykepleieren som Dreyfus og Dreyfus (1987) ukritisk tar til inntekt for sitt ekspertisesyn: "When I say to a doctor, 'the patient is psychotic', I don't know how to legitimize the statement. But I am never wrong." (s.34) Sawyers (1966) omfattende review-studie viser klart at "naturlig" klinisk informasjon ofte ikke bidrar til bedre vurderinger (jfr. innvending 2). Studiene Sawyer tok for seg, viser blant annet at dersom klinikere gis mulighet til Œ basere sine vurderinger pœ intervjuer med pasientene i tillegg til pasientenes testdata, sœ faller kvaliteten pœ vurderingene i forhold til om klinikerne bare baserer seg pœ testdata. En rekke senere studier viser det samme. Generelt har det vist seg at dersom en beslutningstaker fœr tilgang til informasjon ut over de to-tre mest prediktive data, sœ faller kvaliteten pœ vurderingene. Slike studier viser altsœ hvor lett menneskelige beslutningstakere "drukner" i informasjon. Goldbergs studie viste at Žn enkel regel utkonkurrerte erfarne klinikere pœ en type vurdering som disse rutinemessig foretar. Dawes' (1971, 1979) studier viser at enda enklere aktuariske ligninger enn "Goldbergs regel" kan slœ ut erfarne menneskelige beslutningstakere. Dawes studerte blant annet inntakskomitžer ved amerikanske colleger. Disse komitžene skal vurdere hvilke studenter fra high school som skal tas inn, dvs. de skal predikere framtidige skoleprestasjoner. Dawes sammenlignet komitženes vurderinger med helt trivielle line¾re ligninger. Han fant at selv ligninger som bare trenger informasjon om Žn variabel (elevenes standpunktkaraktersnitt) predikerer

7 7 framtidige skoleprestasjoner bedre enn komitžen bestœende av erfarne skolefolk. KomitŽen hadde da ut over standpunktkaraktersnittet ogsœ tilgang til elevenes eksamenskarakterer, kjennskap til kvaliteten pœ den skolen de kom fra, anbefalingsbrev fra denne skolen, samt et lengre intervju med elevene. Stikk i strid med Dreyfus og Dreyfus' (1987) pœstand om at eksperter generelt "intuitivt ser" hva de b r gj re, har tradisjonen etter Meehl avdekket at intelligente, motiverte og erfarne menneskelige beslutningstakere i mange sammenhenger systematisk overgœs av usofistikerte statistiske prosedyrer. Hundrevis av studier gœr i samme retning som Goldbergs, Sawyers og Dawes' studier (se Dawes, Faust og Meehl, 1989 for en oversikt). Dreyfus og Dreyfus (1987) ser helt bort fra denne empiriske forskningen. De holder seg til "the seemingly plausible arguments of Merleau-Ponty, Heidegger, and Wittgenstein", og gjentar de grundig tilbakeviste innvendingene mot Meehl (1954) fra 50-tallet, for eksempel: "But does poor performance of most subjects in the experiment really show that people deal poorly with new evidence in real-world situations?" (s. 42) Hvorfor l¾rer vi (ofte) ikke av erfaring? Dreyfus og Dreyfus (1987) avviser Dawes' (1971) funn med den begrunnelse at komitžmedlemmene ikke er fulltids-eksperter pœ Œ vurdere elevers framtidige skoleprestasjoner. De mener: "It would be interesting to compare the predictive ability of models against those professionals responsible on a full-time basis for the admission decisions at elite undergraduate colleges. Our guess is that full-timers would fare better." (s. 45) Hvorfor de gjetter er ikke sœ lett Œ forstœ. Det er nemlig gjort en rekke studier av betydningen grad av erfaring har for vurderingers kvalitet. For eksempel, i en stor unders kelse nylig basert pœ et representativt utvalg pœ 600 av USAs dr yt 3400 nevropsykologer, konkluderte man slik: "Except for a possible tendency among more experienced practitioners to overdiagnose abnormality, no systematic relations were obtained between training, experience, and accuracy across a series of neuropsychologic judgments." (Faust, Guilmette, Hart et al., 1988). Dette er ikke en spesielt valgt studie. Man har lenge visst at kvaliteten pœ klinikeres vurderinger ikke bedres med erfaring. Allerede Wiggins (1973) konkluderte pœ grunnlag av en omfattende studie av klinikere med ulik grad av erfaring: "Surprisingly, there is little empirical evidence that justifies the granting of 'expert' status to the clinician on the basis of his [or her] training, experience, or information-processing ability" (s. 131) I en bredt anlagt meta-studie nylig bekrefter Garb (1989) i hovedsak Wiggins konklusjoner. Funnene gjelder ikke spesielt for klinikere. De gjelder alle kunnskapsomrœder der: 1) man ikke har en klar forstœelse av hva som er en gal vurdering.

8 8 2) man ikke fœr umiddelbar, utvetydig og konsistent tilbakemelding nœr man gj r feil. PŒ en rekke kunnskapsomrœder er kvaliteten pœ den tilbakemeldingen man fœr pœ sine vurderinger ikke i n¾rheten av Œ tilfredsstille de minimumskrav som er n dvendige (f.eks. Balzer, Doherty og O'Connor, 1989) Da finner man heller ingen forskjell pœ kvaliteten til erfarne og uerfarne klinkere (Kirkeb en, 1995). Grunnen til at fœ klager pœ sine egne vurderinger, skyldes selvf lgelig mangel pœ tilbakemelding. Dreyfus og Dreyfus' baserer sin stadiemodell pœ hvordan vi l¾rer oss senso-motoriske ferdigheter som sykling, sv mming og flyvning. Ved l¾ring av slike ferdigheter fœr vi tilbakemelding som Œpenbart tilfredsstiller de to betingelsene. OgsŒ i sjakk, som Dreyfus og Dreyfus ofte viser til, oppfylles i stor grad de to kravene til tilbakemelding. Derfor opp ver sjakkspillere etterhvert evnen til "intuitivt Œ se" gode, fornuftige trekk. I sv¾rt mange av de kunnskapsomrœder vi i et moderne samfunn har eksperter, er derimot betingelsene ikke oppfylt. Hva er sœ Œrsakene til at intelligente, motiverte og erfarne menneskelige beslutningstakere systematisk overgœs av usofistikerte statistiske prosedyrer? Det er to hovedgrunner til dette: 1) VŒre kognitive begrensninger. 2) Strategiene vi benytter oss av for Œ overkomme disse begrensningene. La oss f rst se litt pœ hvordan informasjonsteknologien bidro til Œ avdekke menneskers kognitive begrensninger. Informasjonsteknologien og menneskets kognitive begrensninger Filosofer og psykologer fra Platon til Descartes og Freud forklarte feilvurderinger, dœrlig skj nn etc. med at vœre h yere intellektuelle prosesser ble blokkert eller forstyrret av "lavere" drifter eller emosjoner. Informasjonsteknologien bidro pœ flere mœter til Œ endre dette. Indirekte avdekket denne teknologien svakhetene ved behavioristisk psykologi, som dominerte fram til 50-tallet. Atferdspsykologene sœ bort fra menneskets "indre" begrensninger. De psykologene som fikk jobben med Œ tilpasse operat rer til den nye komplekse krigsteknologien, fant imidlertid raskt ut at operat rene gjorde feil i omgang med den nye teknologien, uansett hvor mye l¾ring de ble utsatt for. Dette reiste nettopp sp rsmœlet om hvilke "indre" eller kognitive begrensninger vi har. Blant annet slik bidro informasjonsteknologien til den sœkalte kognitive revolusjon i psykologifaget (se Kirkeb en, 1993). F rst med informasjonsteknologien (i vid betydning) ble det mulig systematisk Œ forklare kognitiv feilfungering uten Œ mœtte henvise til ikke-kognitive faktorer. Shannons (1948) informasjonsteori var kanskje det viktigste bidraget, blant annet fordi teorien gir et

9 9 presist kvantitativt mœl pœ "informasjon". Teorien inspirerte dessuten psykologer til Œ betrakte mennesket som en informasjonskanal. Det naturlige prosjektet ble da Œ bestemme denne "kanalens" evne til Œ overf re "informasjon". Vi kan altsœ si at Shannons teori indirekte gjorde det mulig for psykologer Œ betrakte tenkning kvantitativt. Millers (1956) klassiske artikkel "The magical number seven plus or minus two", var motivert av Shannons informasjonsteori: "[T]hese experiments would not have been done without the apperance of information theory." (s. 81) I artikkelen gir Miller nettopp et kvantitativt mœl (i bit) pœ begrensningen ved vœr umiddelbare hukommelse. Snart ble metaforen "mennesket som informasjonskanal" erstattet med metaforen "mennesket som informasjonsprosessor". Moderne kognitiv psykologis hovedprosjekt har siden v¾rt Œ bestemme vœr sœkalte "kognitive arkitektur", dvs. de kvantitative egenskapene til denne "informasjonsprosessorens" antatte bestanddeler. Herbert Simon (1955) var for vrig den f rste som forklarte menneskelig irrasjonalitet ut fra begrensningene i vœr kognitive arkitektur. Han lanserte begrepet "bounded rationality". IdŽen bak begrepet er nettopp at mennesker ikke tenker rasjonelt (sammenlignet med konomenes normative modeller) nettopp fordi den informasjonsbehandling som kreves dersom vi skal foreta vurderinger i overensstemmelse med normative kriterier, overskrider vœr kognitive kapasitet. Dette, sammen med de etterhvert mange studiene som viste eksperters dœrlige vurderingsevne, reiste nye sp rsmœl: Hvilke strategier bruker vi for Œ redusere kompleksiteten? Hvorfor gir disse strategiene i mange sammenhenger dœrlige resultater? Strategier og svakheter i menneskelig beslutningstaking Pionerene var psykologene Daniel Kahneman og Amos Tversky. Deres studier viste at mennesker som beslutningstakere opererer etter regler, eller heuristikker, som avviker fra element¾re (og ikke fullt sœ element¾re) statistiske prinsipper (f. eks. Tversky og Kahneman, 1974). Disse reglene fungerer i mange situasjoner bra, men noen ganger - ikke minst i "kunstige" profesjonelle situasjoner - gj r de ikke det. Kahneman og Tversky viste ikke bare at menneskelige beslutningstakere avviker fra normative modeller. De viste at intuitivt baserte vurderinger og prediksjoner er systematisk avvikende. Jeg vil kort redegj re for de to sentrale slutningsstrategiene eller heuristikkene vi automatisk bruker for Œ forenkle komplekse vurderinger, nemlig tilgjengelighetsheuristikk og representativitetsheuristikk. Med "heuristikk" i denne sammenheng menes en prosedyre, tommelfingerregel eller "short-cut" som kraftig reduserer mulige l sninger pœ et problem eller antall mulige svar pœ et sp rsmœl. Med tilgjenglighetsheuristikk (TH) menes tendensen til at vurderinger av hvor hyppig "noe" forekommer (i forhold til noe annet) pœvirkes av hvor lett tilgjenglig dette

10 10 "noe" er (det vil bœde si hvor lett det er Œ legge merke til, hvor lett det er Œ huske og hvor lett det er Œ forestille seg). TH bidrar ofte til gode vurderinger av hyppighet. Problemet er at det er mange faktorer som ikke er korrelert med hyppighet, som kan pœvirke tilgjengeligheten. Et eksempel pœ hvordan dette slœr ut i eksperimentsituasjoner: Man blir spurt om hvilke ord det er flest av pœ engelsk: a) ord som begynner pœ R, eller b) ord som har R som tredje bokstav. De fleste svarer da a). Grunnen, antar man, er at det er lettere Œ forestille seg ord som begynner pœ R, selv om det er veldig mange ganger flere ord som har R som tredje bokstav. Et annet eksempel. Fors kspersoner fœr lest opp for seg en liste med kjente kvinnenavn og ukjente mannsnavn. De blir sœ spurt: Hva forekom hyppigst av kvinne- eller mannsnavn? Selv om det er like mange av hver, vil fors kspersonene systematisk svare at det var flere kvinnenavn i lista. Kjente navn er lettere Œ huske - lettere tilgjenglig - enn fra f r ukjente navn. TH fungerer bra sœ lenge tilgjengelighet og hyppighet samvarierer. Antagelig fungerte TH meget bra i en f r-moderne verden. Da var stort sett det som var viktig, bœde farer og muligheter, "slœende" hendelser, og derfor lett bœde Œ legge merke til og huske. I vœr moderne verden derimot, er store mengder statistisk informasjon langt mer reliabelt enn personlige erfaringer. Vi - eksperter inkludert - har en sterk tendens til Œ legge overdreven vekt pœ de siste. Det skyldes blant annet at vi automatisk bruker TH. Bruk av representativitetsheuristikk (RH) eller "representativ tenkning" kommer til uttrykk pœ mange ulike mœter. Generelt viser bruk av RH seg ved at vi har en tendens til Œ kategorisere objekter og fenomener pœ grunnlag av i hvilken grad slœende trekk ved objektet/fenomenet ligner eller synes Œ v¾re "representative" for kategorien. RH inneb¾rer Œ anvende enkle likhetskriterier pœ kategoriseringsproblemer, dvs. at vi "reduserer" vurderinger til gjenkjenning. Ett eksempel. Blir fors kspersoner spurt: "En professor liker Œ skrive poesi, er ganske sky, og er liten av vekst. Hva tror du er hans felt? a) Kinesiske studier; b) Psykologi", sœ svarer de fleste a). Grunnen er at beskrivelsen er mer "typisk", eller representativ, for hvordan man forestiller seg en sinolog enn hvordan man forestiller seg en psykolog. Sv¾rt fœ vil ta hensyn til at det er mange, mange ganger flere professorer i psykologi enn i sinologi, dvs. man ser bort fra baseratene. La oss se hva representativ tenkning inneb¾rer i forhold til Bayes teorem, som kan betraktes som en idealisert modell eller formel for diagnostisk beslutningstaking. Teoremet kan uttrykkes i formelen: P(D/S) = P(S/D) * PD/PS. Relatert til klinisk diagnostikk, kan teoremet forstœs slik: Vi kan tenke oss at vi stœr overfor en pasient som har et symptom S. Vi nsker Œ bestemme sannsynligheten for at pasienten da ogsœ har sykdommen D. Denne sannsynligheten er det som i formelen betegnes P(D/S). For Œ kunne beregne P(D/S), mœ vi vite hvor ofte symptomet S er til stede hos de som har den

11 11 bestemte sykdommen D, altsœ sannsynligheten for S gitt D eller P(S/D). Dette mœ multipliseres med sannsynligheten for at en tilfeldig person i den pasientgruppen (populasjonen) klinikeren behandler, har denne sykdommen, altsœ med PD. Videre mœ det deles med hvor vanlig det er at symptomet S, isolert sett, forekommer i denne populasjonen, dvs. med sannsynligheten for symptomet: PS. Bruk av RH inneb¾rer at man betrakter P(D/S) = P(S/D), altsœ at man ser bort fra baseratene PD og PS. PŒ grunn av bruk av RH, vil man ofte se - ogsœ blant eksperter - en sterk tendens til Œ sidestille for eksempel P(Traumatiske barndomsopplevelser/psykiske problemer) med P(Psykiske problemer/traumatiske barndomsopplevelser). Vi kan si at bruk av RH introduserer en symmetri i tanken som ikke eksisterer i virkeligheten. Dette var en liten smakebit. Poenget er at det i stor grad er klarlagt hvilke ulike typer heuristikker eller strategier som automatisk styrer vœre beslutninger og vurderinger (se for eksempel Nisbett og Ross, 1980 for en oversikt). Relevansen for informatikere Jeg vil n ye meg med Œ liste opp noen funn som jeg mener gir klare f ringer for utforming av for eksempel beslutningsst ttesystemer: - Mennesker har en unik evne til Œ "se" hva som er relevant informasjon i en situasjon, men vi har meget begrenset evne til Œ integrere den informasjonen som ligger i flere (unike) observasjoner. - Informasjon ut over de 2-3 dataene med h yest prediktiv verdi resulterer i dœrligere vurderinger nœr informasjonen kombineres klinisk (skj nnsmessig), men ker samtidig eksperters egen tro pœ vurderingenes kvalitet. (f.eks. Oskamp, 1965). - NŒr eksperter hevder Œ ha brukt kompleks konfigural analyse for Œ nœ bestemte vurderinger, sœ har man alltid kunnet konstruere enkle line¾re modeller som adekvat duplikerer ekspertenes vurderinger (f.eks. Goldberg, 1968). Samlet indikerer disse punktene hvilke typer vurderinger man b r tenke pœ Œ automatisere. Dersom man a priori kan spesifisere hvilken type informasjon eller input som er mest relevant for vurderingen, sœ er det god grunn til Œ tro at man kan finne fram til en formel som foretar en bedre integrering av input-informasjonen enn det menneskelige beslutningstakere er i stand til. - Dersom menneskelige beslutningstakere i tillegg til informasjon om problemet gis tilgang til den aktuariske formelens konklusjon, og sœ blir bedt om Œ justere den siste, sœ resulterer det systematisk i dœrligere vurderinger (f.eks., Goldberg, 1968; Sawyer, 1966) Det vil altsœ ofte v¾re en dœrlig l sning Œ la menneskelige beslutningstakere korrigere resultatet av mekaniske rutiners integrering av informasjon.

12 12 - Skj nnsmessige vurderinger er avvikende pœ systematiske og predikerbare mœter. Det siste er spesielt viktig. Det gir grunnlag for Œ tro at det er mulig Œ utforme effektive beslutningsst ttesystemer (se f.eks. Kahneman og Tversky, 1979). NŒr b r vi bruke hodet og nœr b r vi bruke datamaskiner? Bayes teorem indikerer hvor komplisert beregning som ideelt sett mœ foretas nœr for eksempel en lege pœ grunnlag av flere data som alle sier noe om sannsynligheten for en diagnose, skal vurdere hva disse data samlet sier om sannsynligheten for diagnosen. Legen bruker sv¾rt ofte ingen hjelpemidler for Œ foreta denne vurderingen eller beregningen. FŒ synes Œ bekymres over at leger foretar slike vurderinger skj nnsmessig og intuitivt. Dette til tross for at de fleste er klar over hvor svak den menneskelige hjerne er til Œ vekte og kalkulere. Alle ville derfor antagelig reagere dersom kassamannen pœ RIMI tok handlekurven pœ yemœl. Han gj r ikke det. Han summerer. Derimot sitter fortsatt leger landet rundt og foretar langt mer komplekse vurderinger - som gjelder liv og d d - pœ skj nn. Dette gjelder sœ godt som alle vurderinger. Alltid. Paul Meehl (1957) stilte sp rsmœlet: "When shall we use our heads instead of the formula?" "Heads" refererer til en skj nnsmessig, intuitiv, subjektiv behandling av informasjon. "Formula" refererer til en matematisk, statistisk eller mekanisk kombinering av informasjon. Meehl konkluderte i 1957 med at dersom vi har tilgang til en formel, sœ b r vi bruke hodet veldig, veldig sjelden. Grunnene til det er ikke blitt f¾rre siden da. Meehl (1986) ser det nœ slik: "When you are pushing 90 investigations, predicting everything from the outcome of football games to the diagnosis of liver disease and when you can hardly come up with half dozen studies showing even a weak tendency in favor of the clinician, it is time to draw a practical conclusion." (s. 374) Informatikere har mulighet til Œ trekke de praktiske konklusjonene. Forutsetningen er imidlertid at informatikere som utformer samspillet mellom teknologi og mennesker, gj r seg kjent med hva vi i dag vet om menneskelig skj nn og beslutningstaking. Til slutt, en etisk betraktning Mange vil kanskje peke pœ etiske problemer med Œ erstatte menneskelig skj nn med mekaniske rutiner. Dawes (1988) ser det slik: "Friends tell me that important human judgment is often ineffable, unsystematic, and intuitive. I agree. And it is, therefore, often bad. Friends tell me that decisions that are effable, systematic, and explicit are dehumanized decisions. I agree. But they are "dehumanized" only for the decision maker, and I am concerned with the consequences for the people affected by the decisions. Bad decisions are dehumanizing for them." (s. 150)

13 13 Referanser Balzer W.K., Doherty M.E. og O'Connor R. (1989) Effects of cognitive feedback on performance. Psychological Bulletin, 106, Dawes R.M. (1971) A Case Study of Graduate Admissions: Application of Three Principles of Human Descision Making. American Psychologist, 26, Dawes R.M. (1979) The robust beauty of improper linear models in decision making. American Psychologist, 34, Dawes R.M. (1988) You can't systematize human judgment: Dyslexia. I J. Dowie & A. Elstein (eds.) (s ) Professional Judgment. A reader in clinical decision making. Cambridge: Cambridge University Press. Dawes R. M., Faust D. og Meehl P. E. (1989) Clinical versus acturial judgment. Science, 243, Dreyfus H.L. (1965) Alchemy and Artificial Intelligence. The RAND Corporation Paper P-3244, December Dreyfus H. (1972)What computers can't do. New York: Harper & Row. Dreyfus H.L og Dreyfus E. (1987) Mind over Machine. The power of human intuition and expertise in the era of the computer. New York: The Free Press Faust D., Guilmette T.J. Hart K., Arkes H. R., Fishburne F. J. og Davey L. (1988) Neuropsychologists' training, experience, and judgment accuracy. Arch Clinical Neuropsychology, 3, Garb H.N. (1989) Clinical judgment, clinical training, and professional experience, Psychological Bulletin, 105, Goldberg L. R. (1965) Diagnosticians versus diagnostic signs: The diagnosis of diagnosis psychosis versus neurosis from the MMPI. Psychological Monographs 79 (9, hele no. 602) Goldberg L.R. (1968) Simple models or simple processes? Some research on clinical judgements. American Psychologist, 23, Hodges A. (1983) Alan Turing: the Enigma. London: Burnett. Holt R.R. (1958) Clinical and statistical prediction: A reformulation and some new data. Journal of Abnormal and Social Psychology, 56, 1-12 Kahneman D. og Tversky A. (1979) Intuitive predictions: Biasis and Corrective procedures. TIMS Studies in Management Science, 12, Kirkeb en G. (1993) Det mekaniske og det mentale. I T. Rasmussen og M. S by (Eds.): Kulturens digitale felt. Oslo: Aventura, s Kirkeb en G. (1995) En bombe under soveputen? Tidsskrift for Norsk Psykologforening, 32, McArthur C.C. (1956) The dynamic model. Journal of Counseling Psychology, 3, Meehl P.E (1954) Clinical versus statistical prediction: A theoretical analysis and a review of the evidence. Minneapolis: University of Minnesota Press. Meehl P. (1957) When shall we use our heads instead of the formula? Journal of Counseling Psychology, 4, 4,

14 14 Meehl P.M. (1986) Causes and effects of my disturbing little book. Journal of Personality assessment, 50 (3), Miller G. A. (1956) The magical number seven plus or minus two: some limits in our capacity for processing information. Psycological Review, Newell A., Shaw, J.C. og Simon H.A. (1958) Elements of a theory of human problem solving. Psychological review, 65, Newell A. og Simon H. A. (1981) Computer science as empirical inquiry: symbol and search. I Haugland (1981a, s ) Nisbett R.E. og Ross L.E. (1980) Human Inference: Strategies and Shortcomings of Social judgment. Englewood Cliffs, New Jersey: Prentice-Hall Oskamp S. (1965). Overconfidence in case study judgment. Journal of Consulting Psychology, 63, Polanyi M. (1958) Personal knowledge. London: Routeledge&Kegan Sawyer J. (1966) Measurement and prediction, clinical and statistical. Psychological Bulletin, 66, Shannon C. (1948) A mathematical theory of communication. Bell Systems Tech. Journal, 27, Simon H.A. (1955) A behavioral model of rational choice. Quarterly Journal of Economics, 69, Turing A. (1947/1969) Intelligent Machinery. I B. Meltzer og Michie D. (eds.) (1969, p. 3-23) Machine Intelligence, 5. Edinburgh: Edinburgh University Press. Turing A. (1950) Computing machinery and intelligence. Mind, 59, Tversky R. H. og Kahneman D. (1974) Judgement under uncertainty: heuristics and biases Science, 185, Wiggins J. S. (1973) Personality and Prediction: Principles of personality assessment. Reading, MA: Addison-Wesley. Winograd T. og Flores F. (1986) Understanding computers and cognition: a new foundation for design. N. J.: Ablex Publishing Corp.