Sorte svaner. Terje Aven Universitetet i Stavanger. Brann og eksplosjonssikring i petroleumsindustrien 2014, Haugesund 6-7 Mai Tekna

Transkript

1 Sorte svaner Terje Aven Universitetet i Stavanger Brann og eksplosjonssikring i petroleumsindustrien 2014, Haugesund 6-7 Mai Tekna

2 Aven (2013) On the meaning of a black swan in a risk context. Safety Science, 57, Sorte Svaner - Black Swans En overraskende, ekstrem hendelse i forhold til ens kunnskap og oppfatning

3 En overraskelse for noen Unknown knowns Ikke en overraskelse for andre

4 Sort svane?

5 Black Swan I. Outlier as it lies outside the realm of regular expectations, because nothing in the past can convincingly point to its possibility. II. Extreme impact. III. In spite of its outlier status, human nature makes us concoct explanations for its occurrence after the fact, making it explainable and predictable.

6 Sort svane?

7 Kjent hendelse Liten sannsynlighet, tror ikke vil skje

8 Black swans a) Unknown unknowns b) Unknown knowns c) Known but not believed to occur because of low judged probability Extreme consequences

9 Sort svane?

10 Deepwater Horizon-ulykken Feilvurderinger av resultatene fra trykktestene Man klarte ikke å oppdage at formasjonsvæske trengte inn i brønnen på tross av at loggedata viste at det var tilfellet Avledersystemet klarte ikke å avlede gassen Kutteventilen (Blind Shear Ram, BSR) i BOPen klarte ikke å forsegle brønnen

11 Katastrofene Vi opplever kombinasjoner av tilstander og hendelser som sammen gir katastrofen A B C D «Nesten-sorte svaner» Vi identifiserer normalt ikke slike kombinasjoner i risikoanalysen - hvis vi gjorde det ville de ofte bli sett bort fra på grunn av neglisjerbar sannsynlighet 11

12 Black swans Hvordan skal vi a) Unknown unknowns møte disse denne form for risiko? b) Unknown knowns c) Known but not believed to occur because of low judged probability «Nesten-sorte svaner» Extreme consequences

13 Hvordan møte denne risikoen? 1. Erkjenne at denne form for risiko finnes og må tas på alvor Rådende perspektiv: Risiko er gitt ved historiske tall og sannsynligheter

14 Hvordan møte denne risikoen? 2. Utvikle prinsipper og metoder for å møte denne form for risiko

15 Prosjekt Norsk Olje og Gass (Bodil S. Krohn) Sorte Svaner Et nytt perspektiv for hvordan forstå, vurdere og styre risiko og det uforutsette Rapporter Norsk Olje og Gass 31. Mai, 2014 Hva er sorte svaner? En utvidet forståelse av risiko? Eksempler 15

16 Eksemplene dekker Risikoforståelse Risikoanalyser Risikostyring 16

17 Kahneman hevder at vi har en grunnleggende mangel på evne til å behandle små risikoer. Hans hovedpåstand er at vi grovt overvurderer små risikoer. Kahnemans bok «Tenke, fort og langsomt»

18 Selvmordsbombere på busser i Israel i perioden I denne tidsperioden ble 23 bombeangrep utført, og 236 personer ble drept. Kahneman slår fast at risikoen for den enkelte person var liten, men folk følte det ikke slik. Folk unngikk busser, og hvis de måtte ta buss, var de redde. Det plagde ham at han ikke likte å stoppe ved siden av en buss ved rødt lys, og at han kjørte bort raskere fra bussen enn vanlig når det ble grønt lys. For ham ga dette ikke mening, da han visste at den reelle faren var ubetydelig, og hvis det påvirket hans atferd, betydde det at en minimal (neglisjerbar) bombesannsynlighet ble gitt en for stor beslutningsvekt.

19 Risiko

20 Risikoperspektiv Sannsynlighetsbasert Historiske data + Kunnskapsdimensjon + Overraskelser Rådende tenkning

21 Sannsynligheter, historikk, risikomatriser «Tradisjonell» risikoforståelse Ny forståelse av risiko Kunnskap, usikkerhet, overraskelser 21

22 Kunnskapsoppbygging, erfaringsoverføring og læring Sannsynligheter, historikk, risikomatriser «Tradisjonell» risikoforståelse Ny forståelse av risiko Kunnskap, usikkerhet, overraskelser 22

23 Eksemplene dekker Risikoforståelse Risikoanalyser Risikostyring 23

24 Risikoanalyser Jobbsikkerhetsanalyser QRA (quantified risk assessments)

25 Sjekkliste

26 Sjekkliste Er det klargjort hva alle begreper som brukes betyr? (for eksempel sannsynlighet, risiko, )

27 Sjekkliste Er det gitt en oversikt over de forutsetninger som er gjort? Er det foretatt en risikovurdering av avvik fra forutsetningene? Er det forsøkt å redusere risikobidragene fra de forutsetningene som har høyest avviksrisiko?

28 Sjekkliste Er styrken på kunnskapen som de fastsatte sannsynlighetene er basert på, vurdert? Er denne styrken inkludert i risikobeskrivelsen? Er det forsøkt å styrke kunnskapen der denne ikke er tilfredsstillende?

29 Sannsynlighet Konsekvens Farge avspeiler styrke av bakgrunnskunnskapen, for eksempel: rød svak, gul medium, grønn sterk Kriterier: Forutsetningene anses i stor grad gyldige for den aktuelle situasjonen Relevant informasjon er tilgjengelige og anses pålitelig Det er bred enighet/konsensus blant eksperter Fenomenene og prosessene vurderes å være godt forstått

30 Probability Consequence, impact Poor background knowledge Medium strong background knowledge Strong background knowledge

31 Sjekkliste En overraskelse for noen Ikke en overraskelse for andre Er det gjort spesielle tiltak for å avdekke unknown knowns, altså for å tilegne seg kunnskap om temaområder som den aktuelle analysegruppen ikke har, men som finnes hos andre? Har det vært brukt personer og kompetanse som ikke tilhører analysegruppen for å avdekke slike forhold?

32 Er det gjort spesielle tiltak for å vurdere holdbarheten av vurderinger der hendelser i praksis er vurdert å ikke inntreffe pga. neglisjerbar sannsynlighet? Har det vært brukt personer og kompetanse som ikke tilhører analysegruppen for å avdekke slike forhold?

33 Sjekkliste Er det foretatt en overordnet vurdering av hvordan forstå analysens resultater i lys av de begrensninger den har, de forutsetninger som er gjort, osv.?

34 Eksemplene dekker Risikoforståelse Risikoanalyser Risikostyring 34

35 Risikoakseptkriterier Må brukes P =1 x 10-4 med forsiktighet!

36 ALARP Risikoen skal reduseres til et nivå som er As Low As Reasonably Practicable (ALARP) Costs Omvendt bevisbyrde Benefits A risk reducing measure should be implemented provided it cannot be demonstrated that the costs are grossly disproportionate relative to the gains obtained

37 E[NPV]-beregninger er ikke adekvate for å verifisere ALARP Risiko is mer enn forventede verdier

38 Balance Development and protection Take risk Weight given to E Reduce the risks and uncertainties E[NPV], cost-benefit analyses ALARP Cautionary-precautionary Risk acceptance criteria E: Expected value

39 Konklusjoner

40 Hvordan møte sort-svanerisikoen? 1. Erkjenne at denne form for risiko finnes og må tas på alvor 2. Utvikle prinsipper og metoder for å møte denne form for risiko

41 Ekstra

42 John tilbyr deg et spill: kast av en terning 1,2,3,4,5 : 6 6 : -24 Hva er din risiko?

43 Risiko 6 5/6-24 1/6 Er basert på en viktig forutsetning terningen er rettferdig