Kunstig intelligens (MNFIT-272) - høst Forelesning 9

Transkript

1 Kunstig intelligens (MNFIT-272) - høst Forelesning 9 Emner: Usikkerhetsbehandling - Utvidelse av standard logikk - Statistisk orienterte metoder - Kunnskapsbaserte metoder Tolkning av naturlig språk - Kontekst-frie og kontekst-sensitive gramatikker - Chomsky hierarkiet

2 Den reelle verden er usikker It is the mark of an instructed mind to rest satisfied with that degree of precision which the nature of the subject admits, and not to seek exactness where only an approximation of the truth is possible. (Aristotle) All traditional logic habitually assumes that precise symbols are being employed. It is therefore not applicable to this terrestrial life but only to an imagined celestial existence. (Bertrand Russell) So far as the laws of mathematics refer ro reality they are not certain. And so far as they are certain they do not refer to reality. (Albert Einstein)

3 Inferens-metoder Deduksjon - sannhetsbevarende slutning - basis er slutningsregelen modus ponens (P(x) -> Q(x)) & P(a) -> Q(a) Klassisk eksempel: (Isa-man(x) -> Is-mortal(x)) & Isa-man(Socrates) -> Is-mortal(Socrates) Abduksjon - ikke sannhetsbevarende - "inference to the best explanation" (P(x) -> Q(x)) & Q(a) ~> P(a) Eksempel: (Has-appendicitis(x) -> Has-abdominal-pain(x)) & Has-abdominal-pain(Socrates) ~> Has-appendicitis(Socrates)

4 Ikke-monotone systemer Forutsetninger for 1. ordens predikatlogikk: - komplett domenebeskrivelse - konsistent domenebeskrivelse - monotont voksende kunnskapsbase I ikke-monotone systemer er en eller flere av disse forutsetningene ikke oppfylt. Logikk-tilnærminger: Modal-operatorer unless, is-consistent-with, Truth Maintenance systemer JTMS, ATMS,... (Andre CWA, Circumscription,... )

5 Modal-operatorer: p(x) unless q(x) => r(x) good-student(x) ^ M study-hard(x) => graduates(x) is-consistent-with Logikkbasert approach: En abduktiv forklaring på et sett av observasjoner (O) er det minimale sett av hypoteser (H) som er konsistent med den aktuelle bakgrunnskunnskap (K). O kan ikke være utledbar fra K alene. Set cover approach: En abduktiv forklaring på et sett av fakta (S2) er et annet sett av fakta (S1) som er tilstrekkelig for å forårsake S2. En optimal forklaring er det minimale sett S1.

6 Truth Maintenance Systems Bevarer sannhet i ikke-monotone systemer ved å lagre begrunnelser for utledede verdier revidere disse begrunnelsene når verdier endres Chronological backtracking (tidsbestemt tlbakespoling) Søker etter en annen vei ved å spole tilbake i omvendt tidsrekkefølge, og fortsette utifra den nærmeste (ikke-undersøkte) noden til den som feilet. Dependency-directed backtracking (avhengighetsbestemt tlbakespoling) Søker etter en annen vei ved å spole tilbake til forutsetningen for den noden som feilet, endre status til andre noder basert på samme forutsetning, og fortsette utifra noden med den endrede forutsetningen.

7 Justification-based truth maintenenance (JTMS) - Forutsetningene for en nodes verdi lagres i form av en begrunnelse. - En nodes verdi har tilknyttet to lister: IN - som lagrer utsagn som forutsettes å være sanne OUT- som lagrer utsagn som forutsettes ikke å være sanne Assumption-based truth maintenenance (ATMS) - Forutsetningene for en nodes verdi lagres i form av en antakelse. - En nodes verdi har tilknyttet en liste: ASSUMPTIONS - som lagrer de underliggende antakelsene for den aktuelle verdien. - Settet av antakelser definerer en verden, og metoden muliggjør alternative resonneringer i multiple verdener.

8 Usikkerhetsbehandling - Certainy Factors - usikkerhetsanslag i regel-baserte systemer - benyttet i MYCIN og avledede ES-skall - basert på anslag av - degree of belief MB(H/E) - degree of disbelief MD(H/E) - som kobineres i en Certainty Factor CF(H/E) = MB(H/E) - MD(H/E)

9 Usikkerhetsbehandling - CF (forts.) - eksempel, Mycin-type regel: IF (P1 and P2) or P3 THEN R1 (0.7) and R2 (0.3) - kombinasjon av to regler som peker på samme konklusjon: CF(R1)+CF(R2) - (CF(R1)xCF(R2)) CF(R1), CF(R2) pos. CF(R1)+CF(R2) + (CF(R1)xCF(R2)) CF(R1), CF(R2) neg. CF(R1)+CF(R2) 1 - min((abs(cf(r1), abs(cf(r2)) ellers

10 Usikkerhetsbehandling - Fuzzy Sets - et fuzzy set (fose mendge?) er en mendge der elementene i større eller mindre grad kan sies å være medlem av mendgen - en medlemsskapsfunksjon definerer i hvilken grad (mellom 0 og 1) et element er medlem av mengden - øvelse: tegn medlemsskapsfunksjonene [0,1] for ung og gammel i mendgen av aldre [1,100]

11 Usikkerhetsbehandling - Statistiske metoder Basisbegreper: Prior probability (a priori sanns., ubetinget sanns.) Sannsynligheten, P, for en hendelse, A, uten at noe informasjon er gitt: P(A) Posterior probability (a posteriori sanns., betinget sanns.) Sannsynligheten, P, for en hendelse, A, gitt informsjonen E: P(A/E) Kombinasjon av uavhengige (ubetingede) sanns. P(A & B) = P(A) x P(B)

12 Usikkerhetsbehandling - Bayesiansk statistikk Kombinasjon av avhengige (betingede) sanns.

13 Conditional dependencies - Example An Earthquake will normally lead to a Radio message House Alarm is invoked by a Burglary Alarm may also (accidentally) be invoked by an Earthquake Sounding of the Alarm leads to a house Call by the police Earthquake Burglary Radio Alarm Call

14

15

16

17 = Belief Networks

18

19

20 (d-separated) (d-connected) E If Known R A B A If Known C E B OR If Known If Known A C

21

22

23

24

25 Usikkerhetsbehandling - Forklaringsbasert - modell-basert tilnærming - kausale relasjoner oftest benyttet, men også multiple relasjoner - relasjonene i modellen antas usikre, og kan ha degree of belief anslag - usikkerhet begrenses ved multiple forklaringer, dvs. en hypotese støttes i større eller mindre grad av forklaringene som genereres i modellen eks. ABEL (Stanford), HeartFailureModel (MIT), endorsement theory (UMass), CREEK (NTNU)

26 Tolkning av naturlig språk (NL) Fonologi Morfologi Syntaks Semantikk Pragmatikk studie av lydene (fonemene) som bygger ord studie av komponentene (morfemene) som bygger opp ord studie av kombinasjon av ord i gramatikalsk lovlige setninger studie av ords og setningers mening studie av språks bruk og effekter i praksis

27 Trinn i (datamaskin-basert) språktolkning Setningstruktur analyse (parsing) - syntaktisk struktur, genererer et parse-tree Semantisk tolkning - ords og kombinerte ords mening, representert i en eller annen KR-formalisme Kontekstuell tolkning - utvidet semantisk tolkning, resonnering ved bruk av en kunnskapsbase av verdens/domene-kunnskap

28 Basis-begreper Gramatikk-regler S = NP VP NP = N NP = A N N = man N = dog A = a A = the Ikke-terminaler er lingvistiske termer (setning, verb, ) - f. eks. 3 øverste linjer over Terminaler er ord i språket - f. eks. 4 nederste linjer over

29 Parsing i transisjons-nett (Transition Networks) Gramatikk representeres som et sett av sammenkoblede tilstandsmaskiner Noder er tilstander, lenker er overganger (transisjoner) mellom tilstander Hvert nett (hver tilstandsmaskin) representerer en ikke-terminal Å tolke en setning eller del av en setning svarer til å erstatte en ikke-terminal med høyre-siden av den tilhørende gramatikkregel (høyre-siden er mer spesifikk en venstre-siden)

30 Chomsky-hierarkiet Rekursivt tellbare språk - frie produksjons-regler Kontekst-sensitive språk - flere ikke-terminaler på venstre side (men færre enn på høyre siden) av gram.regel Kontekst-frie språk - transisjonsnett, sammenkoblede tilstandsmaskiner, kun én ikke-terminal på venstresiden av gram.regel Regulære språk - en enkelt tilstandsmaskin, ikke flere sammenkoblet

31 Kontekst-sensitive språk Ønskelig, men komplekse parsere Augmented Transitions Networks (ATNs) gir kontekstsensitive egenskaper ved en utvidelse av kontekst-frie gramatikk-regler Kombinerer syntaktisk og semantisk parsing Tillater procedural attachments på lenkene i trans.nettet Prosedyrene kan utføre tester, tilordne verdier, konstruere deler av parse-tre, etc.