Eksamen INF2820 Datalingvistikk, H2018, Løsningsforslag

Transkript

1 Eksamen INF2820 Datalingvistikk, H2018, Løsningsforslag 1

2 2

3 Tre1: Tre 2: Tre 3: 3

4 Det kan være lurt å bytte ut regel NP > NP og NP med NP > NP C NP C > og Grammatikk G blander terminaler og ikketerminaler på høyresidene i regler. Med en slik grammatikk vil en hver gang en flytter en terminal over på stacken (Shift), få et valg mellom å redusere denne terminalen til en ikketerminal (Reduce) eller å flytte et nytt symbol over på stacken. Med endringen vil enhver høyreside bestå av en enslig terminal eller bare ikketerminaler. Da vet en at hver gang en legger en terminal på toppen av stacken så skal denne i neste trekk reduseres til en ikketerminal. 1. Initialize: <> Kari så gutten gjennom vinduet og døra 2. Shift+Reduce: PN <> så gutten gjennom vinduet og døra 3. Reduce: NP <> så gutten gjennom vinduet og døra 4. Shift+Reduce: NP TV <> gutten gjennom vinduet og døra 5. Shift+Reduce: NP TV ND <> gjennom vinduet og døra 6. Reduce: NP TV NP <> gjennom vinduet og døra 7. Reduce: NP VP <> gjennom vinduet og døra 8. Shift+Reduce: NP VP P <> vinduet og døra 9. Shift+Reduce: NP VP P ND <> og døra 10.Reduce: NP VP P NP <> og døra 11.Shift+Reduce: NP VP P NP C <> døra 12.Shift+Reducce: NP VP P NP C ND <> 13.Reduce: NP VP P NP C NP <> 14.Reduce: NP VP P NP <> 15.Reduce: NP VP PP <> 16.Reduce: NP VP <> 17.Reduce: S <> 4

5 Parset tilsvarer tre 1. For å få de to andre skal vi ikke redusere i trinn 7, men i stedet gå 6. Reduce: NP TV NP <> gjennom vinduet og døra 7'. Shift: NP TV NP P <> vinduet og døra 8'. Shift+Reduce: NP VP NP P NP <> og døra Her bli det så et valg mellom å redusere for å få tre 2: 9'. Shift+Reduce: 10'.Reduce: 11'.Shift+Reduce: osv. NP VP NP PP <> og døra NP VP NP <> og døra NP VP NP C <> døra eller å fortsette å "shift" for å få tre 3. 8'. Shift+Reduce: NP VP NP P NP <> og døra 9''. Shift+Reduce: NP VP NP P NP C <> døra 10''.Shift+Reduce: NP VP NP P NP C ND <> osv. 5

6 Vi må omforme grammatikken til Chomsky normalform (CNF). 1. Vi må eliminere regler med tomme høyresider. Det er ingen slike. 2. Vi må eliminere unære produksjonsregler, dvs. regler med høyresider som består av en ikketerminal. Vi legger til reglene: NP > 'jenta' 'gutten' 'tunnelen' 'vinduet' 'døra' NP > 'Kari' 'Ola' 'Bergen' 'Moss' VP > 'lo' 'smilte' 'danset' og fjerner reglene: NP > ND NP > PN VP > IV 3. Vi må eliminere regler som inneholder terminaler og mer enn to symboler på høyresiden. Det er en slik regel, og vi så i oppgave 3 hvordan den lan elimineres. 4. Vi må eliminere regler med mer enn 2 ikketerminaler på høyresiden. Til slutt får vi grammatikken, G2: S > NP VP NP > NP PP NP > NP XP XP > C NP VP > TV NP VP > VP PP PP > P NP ND > 'jenta' 'gutten' 'tunnelen' 'vinduet' 'døra' PN > 'Kari' 'Ola' 'Bergen' 'Moss' NP > 'jenta' 'gutten' 'tunnelen' 'vinduet' 'døra' NP > 'Kari' 'Ola' 'Bergen' 'Moss' IV > 'lo' 'smilte' 'danset' VP > 'lo' 'smilte' 'danset' TV > 'så' 'likte' 'beundret' P > 'til' 'fra' 'med' 'gjennom' 'i' C > 'og' Kommentar: Det er lov å fjerne reglene ND > 'jenta' 'gutten' 'tunnelen' 'vinduet' 'døra' PN > 'Kari' 'Ola' 'Bergen' 'Moss' IV > 'lo' 'smilte' 'danset' fra grammatikken hvis det begrunnes riktig hvorfor det er lov. 6

7 (0) Kari (1) så (2) jenta (3) fra (4) døra (5) og (6) vinduet (7) fra (8) Moss (9) 0) 1)PN 7)S 14)S 23)S 34)S 2)NP 1) 3)TV 6)VP 13)VP 22)VP 33)VP 2) 4)ND 12)NP 21)NP 32)NP 5)NP 3) 8)P 11)PP 20)PP 31)PP 4) 9)ND 19)NP 30)NP 10)NP 5) 15)C 18)XP 29)XP 6) 16)ND 28)NP 17)NP 7) 24)P 27)PP 8) 25)PN 26)NP 7

8 S > NP VP NP > ND NP > DET[GEN=?g] NI[GEN=?g] VP > IV IV > lo smilte danset ND > jenta hytta gutten båten barnet huset dyret NI[GEN=FEM] > jente hytte NI[GEN=MASC] > gutt båt NI[GEN=NEUT] > barn hus dyr DET[GEN=FEM] > en ei DET[GEN=MASC] > en DET[GEN=NEUT] > et 8

9 Legger til reglene: NI[GEN=?g] > AD[GEN=?g] NI[GEN=?g] AD[GEN=FEM] > stor dyr blå ung AD[GEN=MASC] > stor dyr blå ung AD[GEN=NEUT] > stort dyrt blått ungt S > NP[GEN=?g] VP[GEN=?g] NP[GEN=?g] > ND[GEN=?g] NP[GEN=?g] > DET[GEN=?g] NI[GEN=?g] NI[GEN=?g] > AD[GEN=?g] NI[GEN=?g] VP[GEN=?g] > VC AD[GEN=?g] VP > IV IV > lo smilte danset VC > var ND[GEN=FEM] > jenta hytta ND[GEN=MASC] > gutten båten ND[GEN=NEUT] > barnet huset dyret NI[GEN=FEM] > jente hytte NI[GEN=MASC] > gutt båt NI[GEN=NEUT] > barn hus dyr DET[GEN=FEM] > en ei DET[GEN=MASC] > en DET[GEN=NEUT] > et AD[GEN=FEM] > stor dyr blå ung AD[GEN=MASC] > stor dyr blå ung AD[GEN=NEUT] > stort dyrt blått ungt 9

10

11

12 «P(transisjoner)» * «P(emisjoner)» = P(PRON START) * P(VERB PRON) * P(SUBST VERB) * P(SLUTT SUBST) * P(jeg PRON) * P(heter VERB) * P(bjørn SUBST) = 0,5 * 0,5 * 0,2 * 0,2 * 1,0 * 0,8 * 0,8 = 0,01 * 0.64 = «P(transisjoner)» * «P(emisjoner)» = P(PRON START) * P(VERB PRON) * P(PROPR VERB) * P(SLUTT PROPR) * P(jeg PRON) * P(heter VERB) * P(bjørn PROPR) = 0,5 * 0,5 * 0,2 * 0,1 * 1,0 * 0,8 * 0,8 = 0,01 * 0.32 =

13 Emisjonsprobabilitetene er helt like. I transisjonsprobabiltetsmatrisen er det en forskjell, nemlig at transisjonsprobabiliteten fra PROPR til SLUTT er 0,1, mens transisjonsprobabiliteten fra SUBST til SLUTT er 0,2. Dette gjør taggsekvensen PRON VERB SUBST dobbelt så sannsynlig som PRON VERB PROPR. I en HMM-modell er det ingen sannsynligheter mellom ord og påfølgende tilstand. Det er bare sannsynligheter fra tilstander til ord (emisjoner) og fra tilstand til tilstand (transisjoner). Derfor kan modellen si noe om sannsynligheten for tilstandene SUBST og PROPR etter tilstanden VERB, men ingenting om sannsynligheten for tilstandene SUBST og PROPR etter et spesifikt ord, «heter».

14 ! Ønsker man å fange opp denne type relasjoner i en tagge-oppgave, må man bruke en mer fleksibel modell, som for eksempel Conditional Random Fields. En Markov-kjede, derimot, fanger opp denne sannsynligheten. Men en Markov-kjede kan ikke brukes til ordklasse-tagging (i hvert fall ikke direkte). Foreslått/Korrekt = 9/10 = 0.9 Foreslått/Korrekt = 9/10 = 0.9 BIO står for: B = Beginning I = Inside O Outside

15 Hvis man hadde annotert/tagget ordene bare med kategorier, er det umulig å skille to navn av samme kategori som følger hverandre direkte. F eks vil setningen «Faren ga Askeladden Mari» få taggene O O PER PER, og vi kan ikke si om det er ett («Askeladden Mari») eller to («Askeladden» og «Mari») navn i setningen. Dette løses vha BIO ved at B-taggen alltid markerer starten av et nytt navn. Således ville de to tolkningene nevn over bli gitt taggene O O B-PER I-PER (ett navn: «Askeladden Mari») eller O O B-PER B-PER (to navn: «Askeladden» og «Mari») for å skille mellom de to lesningene. Å finne et fullt navn gjøres på følgende måte (algoritmisk, python): names = [] current_name = None previous_cat = None for (token, tag) in sentence: # Split the BIO tag parts = tag.split( - ) if len(parts) = 2: bio, cat = parts[0], parts[1] else: bio, cat = tag, None if bio == 0 : if current_name: names.append(current_name) current_name = None elif bio == B : if current_name: names.append(current_name) current_name = token elif bio == I : if current_name: current_name += + token I tekst-versjon: La oss si at vi samler alle navnene i en liste, som har variabelnavn names La oss si at vi «bygger opp» nåværende navn i current_name Hvis et token er markert O er token et ikke en del av et navn. Det kan markerere slutten på et navn, hvis vi har lagret et navn i variabelen current_name. Hvis det er tilfelle, legger vi navnet til i listen names og fortsetter. Vi må og «tømme» variabelen current_name.

16 Hvis et token er markert B-<KATEGORI> er det starten på et navn. Men det kan også være slutten på et navn. Hvis current_name ikke er tom, gjør vi som over: legger current_name til i names, og setter variabelen current_name til token et vi ser på nå. Hvis et token er markert I-<KATEGORI> er det fortsettelsen av et navn. Vi legger token et til i current_name, og fortsetter. Ingenting legges til i names her. På slutten av loopen/løkken må vi huske å legge til current_name i names. Vi kan også velge å legge til kategorien sammen med navne-strengen, dersom vi ønsker det. Oppgave 20 & 21 TP = 1 FP = 2 FN = 1 Oppgave 20 Precision = TP/(TP+FP) = 1/(1+2) = 1/3 = 0.33 Oppgave 21 Recall = TP/(TP+FN) = 1/(1+1) = 1/2 = 0.5