Kvalitative utsagn fra en logikers ståsted Bjørnar Solhaug Seminar om estimering av sikkerhetsnivå fra et tverrfaglig perspektiv SINTEF, 29. september, 2015 1
Oversikt Hva er logikk? Logikk vs. naturlig språk Utsagnslogikk Andre logikker Eksempler Konklusjon 2
Hva er logikk? Logikk er studiet av deduktiv resonnering Hva kan konkluderes fra gitte premisser? Hvis A er sann, er da B også sann? Hva er gyldig resonnering? Hvordan utlede sanne konklusjoner fra sanne premisser? En logikk er en formalisme som består av det følgende: Et språk: Mengden av alle grammatikalsk korrekte uttrykk Aksiomer og slutningsregler: Angir mengden av alle sanne uttrykk i språket En semantikk: Fortolkningen av (meningen til) uttrykk i språket 3
Logikk vs. naturlig språk Logikk anvendes på svært mange områder Det er imidlertid en sterk relasjon mellom logikk og naturlig språk Logikk lar oss avdekke systematiske egenskaper i språket som vi kan forstå, studere og resonnere omkring på en formell måte Naturlig språk har egenskaper som kan behandles aksiomatisk og deduktivt Et viktig aspekt her er dette med logisk form Gyldigheten til et argument avgjøres kun basert på argumentets form, ikke dets innhold Vi sier at logikk er formelt 4
Kan logikk si noe om hva som er sant utenfor logikken? En logikk er en matematisk konstruksjon; hvordan relaterer den til en ikke-matematisk virkelighet? Dette er gjenstand for filosofisk diskusjon og ulike standpunkter: Naturlig språk har en underliggende logisk form som logikker lar oss avdekke Naturlig språk er unøyaktig og tvetydig (les: ubrukelig), og bør erstattes med en formalisert utgave med en presis semantikk Logikk og formelle språk er modeller som lar oss studere virkeligheten på et abstrakt nivå 5
Utsagnslogikk Utsagnslogikk består av atomære utsagn som kan være sanne eller usanne p = Oslo er en by q = Harald er konge i Sverige r = Det regner Sammensatte utsagn er sanne eller usanne kun avhengig av sannhetsverdien til atomære utsagn p q (p og q) p q (p eller q) q r (Hvis q, så r) (p q) r (Hvis p og ikke q, så r) 6
Utsagnslogikk: Bruk For å anvende en logikk må man bruke verktøyene den gir Eksempel: Modus ponens Bruk Sola skinner og Per spiser is Hvis sola skinner, så er det varmt Det er varmt p = Sola skinner r = Per spiser is q = Det er varmt Vi utleder p fra (p r) og så q med modus ponens P Dårlig bruk P Q Q s = Sola skinner og Per spiser is q = Det er varmt Vi kan ikke utlede p fra s 7
Utsagnslogikk: Øvingsoppgave Either cat fur or dog fur was found at the scene of the crime. If dog fur was found at the scene of the crime, officer Thompson had an allergy attack. If cat fur was found at the scene of the crime, then Macavity is responsible for the crime. But officer Thompson didn't have an allergy attack, and so therefore Macavity must be responsible for the crime. Sjekk at dette er et gyldig resonnement. Kilde: www.iep.utm.edu/prop-log 8
Utsagnslogikk: Begrensninger Hvordan forholder utsagnslogikk seg til følgende utsagn? 2+2=4 Bjørnar holder et foredrag Det er nødvendigvis slik at 2+2=4 Det er nødvendigvis slik at Bjørnar holder et foredrag Hvis det er nødvendigvis slik at 2+2=4, så er 2+2=4 Alle mennesker puster og Bjørnar er et menneske; altså puster Bjørnar Hvis jeg vet at det regner ute, så regner det ute Sola skinner og Bjørnar tror at sola ikke skinner Det finnes logikker som formaliserer slike utsagn og resonnementer 9
Andre logikker Predikatlogikk: Om egenskaper til objekter, samt kvantifiseringer av slike Per er naboen til Kari; alle har en mor; noen bor i Norge; alle som bor i Stockholm er svensker og Gustav bor i Stockholm Modallogikk: Om modaliteten til utsagn, e.g. mulig, nødvendig og umulig Det er mulig at månen er en gul ost; hvis det er nødvendigvis slik at det er varmt i Madrid, så er det mulig at Carlos er tørst Deontisk logikk: Om plikter, rettigheter og forbud Det er tillatt å stemme; det er tillatt å gå på skole og det er forbudt å skulke 10
Andre logikker Temporallogikk: Om tid Det kommer til å regne; det regner og bakken er våt helt til et tidspunkt da bakken er tørr Doksastisk logikk: Om det man tror Hvis jeg tror at det regner, så har jeg en paraply Epistemisk logikk: Om det man vet Hvis jeg vet at det regner, så regner det 11
Eksempel: Aksesskontroll og informasjonsflyt Aksesskontroll er en mekanisme for å sikre konfidensialitet F.eks. hva er tillatt og hva er forbudt mht. å kjenne sensitiv informasjon Problem: Aksesskontroll hindrer ikke brudd på konfidensialitet via skjulte kanaler (covert channels) F.eks. at sensitiv informasjon påvirker den åpent synlige oppførselen til et system 12
Informasjonsflyt og epistemiske tilstander Færre epistemiske alternativer svarer til mer kunnskap (K) Vet ingen ting: Kr Kg Kb Vet at det ble stemt rødt eller blått: K g Vet at det ble stemt blått: Kb b, g, r b, g, r b, g, r Konfidensialitetskrav kan uttrykkes ved å kombinere deontisk og epistemisk logikk: Hvis Ola vet Q, så skal det være tillatt (PE) K Ola Q PE Ola K Ola Q 13
Expert Opinions: Fra kvalitative utsagn til kunnskap En ekspert er enhver som har relevant og utstrakt/dyp kunnskap om et emne eller område Eksperter brukes mye i relasjon til sikkerhets- og risikoanalyse En eksperts utsagn (opinions) er påstander som man ofte må sannsynliggjøre ved å sammenstille med andre utsagn og annen tilgjengelig informasjon Epistemisk logikk kan hjelpe oss å systematisere kvalitative ekspertutsagn for å trekke ut fakta 14
Epistemisk logikk Omhandler det man vet (knowledge, K) Eller i doksastisk logikk det man tror (belief, B) Språket er en utvidelse av utsagnslogikk med modaliteten K Noen aksiomer Kp K(p q) Kq Kp p Kp K p Noen regler Fra p og p q, utled q Fra p, utled Kp 15
Eksempel Per: Hvis vi ikke har input-validering, så er vi utsatt for injisering av ondsinnet kode på daglig basis; K( ipv inj) Kari: Vi har ikke input-validering; K( ipv) Utled: Vi er utsatt for injisering av ondsinnet kode på daglig basis; inj Krever bruk av to regler (inkl. MP to ganger), samt de to første aksiomene 16
Eksempel: Med usikkerhet Vi kan gradere utsagn mht. usikkerhet, f.eks. på en skala fra 1 til 10 Per: Jeg er nesten overbevist om at hvis vi ikke har input-validering, så er vi utsatt for injisering av ondsinnet kode på daglig basis; K 9 ( ipv inj) Kari: Jeg er svært usikker på om vi har en god nok input-validering; K 5 ( ipv) Utled: Først K 5 ( ipv inj) fra K 9 ( ipv inj), dernest K 5 inj Her trenger vi en regel som lar oss utlede K x p fra alle K y p hvor y x 17
Eksempel: Harmonisering av utsagn Utsagn Per: Uautorisert tilgang til sensitiv informasjon skjer svært ofte dersom vi er sårbare for brute-force-angrep Kari: Etter min erfaring har vi årlige hendelser av uautorisert tilgang til sensitive data Ola: Vi har ingen krav til styrke eller regelmessig skifte av passord for våre brukere Harmoniserte utsagn Per: Hvis vi er sårbare for brute-force-angrep, så forekommer uautorisert tilgang til sensitiv informasjon svært ofte Kari: Uautorisert tilgang til sensitiv informasjon forekommer årlig Ola: Vi er sårbare for brute-force-angrep Utled (fra Per og Ola): Uautorisert tilgang til sensitiv informasjon forekommer svært ofte 18
Eksempel: Konsistenssjekk Kari: Uautorisert tilgang til sensitiv informasjon forekommer årlig Utledet: Uautorisert tilgang til sensitiv informasjon forekommer svært ofte Vi kan harmonisere uttrykk som omhandler hyppighet Vi kan også utvide logikken med egne aksiomer for å resonnere om sammenhenger mellom ulike typer angivelse av hyppighet For eksempel årlig sjeldent månedlig av og til ukentlig svært ofte 19
Konklusjon Nytte Logikk er et verktøy som kan la oss resonnere om kvalitative utsagn på en formell og presis måte Kan hjelpe oss med å hente ut informasjon som kun er implisitt i en gitt mengde utsagn, samt å avdekke sammenhenger mellom ulike informasjonsbiter Kan brukes til å bevise at visse egenskaper er oppfylt, eller til å konsistenssjekke et gitt informasjonsgrunnlag Utfordringer Man mister mange nyanser når man går fra naturlig språk til logikk (lost in translation) Logiske utsagn er en abstraksjon som ikke nødvendigvis lar seg overføre til virkeligheten Maskineriet kan fort bli komplekst og ressurskrevende 20