INF1820: Introduksjon til språk-og kommunikasjonsteknologi

Transkript

1 INF1820: Introduksjon til språk-og kommunikasjonsteknologi Semantikk II Gordana Ilić Holen (basert på Lilja Øvrelids slides) 26 april 2012

2 SEMANTIKK Forrige gang: Introduksjon Ordsemantikk (Leksikal semantikk) Semantiske resurser: WordNet Word Sense disambiguering (WSD) med Naive Bayes-metoden I dag Setningssemantikk (komposisjonell semantikk) Semantiske roller Semantisk språkteknologi Semantiske resurser: PropNet, FrameNet Pragmatikk Oppsummering

3 KOMPOSISJONELL SEMANTIK (SETNINGSSEMANTIKK) Leksikal semantikk representere betydningen til ord vise hvordan betydningene er relatert Setningssemantikk studerer betydning av setninger basert på ord de består av og setningenes syntaktiske struktur Fundamental forskjell mellom setningssemantikk og ordsemantikk (leksikal semantikk) Betydning av ord er konvensjonell Betydning av setninger er komposisjonell

4 KONVENSJONELL VS. KOMPOSISJONELL SEMANTIKK Ordbetydnig er konvensjonell. bord - table - sto er -is -je svart - black - crn Setningsbetydning er komposisjonell selv om setningene har en forskjelling ytre form... Bordet er svart. The table is black. Sto je crn.... har de en identisk logisk form: ( x : Bx)Sx

5 SEMANTIKK Hva er det som en som snakker et språk vet om betydning? Meningsfull vs. meningsløs Ord vegg vs blegg Setning Jon svømmer vs Jon metaforisk hver; Colorless green ideas sleep furiously. Flere betydninger Ord fisker, kort, topp Setning Jon så mannen med kikkerten. Krasjet med rådyr på moped. Samme betydning Ord boks vs eske Setning Jon ga Hanna en gave vs Jon ga en gave til Hanna

6 SEMANTIKK Hvis vi kjenner til setningens betydning, kan du bestemme under hvilke vilkår er setninga sann eller usann, da kjenner vi til setningas sannhetbetingelser Jon svømmer. Kobber leder strøm. Setningens sannhetsverdi er ofte avhengig av situasjon. Jon svømmer. Men ikke alltid: Tautologi Sirkler er runde. Kontradiksjon Sirkler er firkanta.

7 KOMPOSISJONELL (FORMELL) SEMANTIKK En stor del av setningers betydning ligger i sannhetsverdien. Vi må skille mellom: sannhetsbetingelser: hvilke betingelser som må til i den virkelige verden for å gjøre en setning sann sannhetsverdi: hvorvidt en setning er sann eller ikke

8 ENTAILMENT Semantisk relasjon mellom setninger, uavhengig av empiriske fakta Anarkisten drepte keiseren. Keiseren døde. Definisjon: En setning p medfører ( entails ) en annen setning q dersom det er slik at når p er sann er q sann og når q er usann så er p usann

9 ENTAILMENT Entailment-relasjon er gitt ved lingvistisk struktur, trenger ikke sjekke fakta i verden for å avgjøre Kilden kan være leksikalsk (assassinate die) eller syntaktisk (aktiv passiv) Egypterne bygget pyramidene Pyramidene ble bygget av egypterne Parafrase: to setninger som gjensidig medfører hverandre (over) Kontradiksjon: to setninger kontradikterer hverandre dersom den ene medfører negasjonen av den andre Bankdirektøren er død Bankdirektøren er levende

10 FORMELL SEMANTISK ANALYSE Richard Montague (1974): logikk for å representere setningsbetydning Your car has been stolen (p) Your car has not been stolen ( p) I ll see you today or tomorrow (p q) Semantisk analyse ved oversettelse fra et naturlig språk (engelsk, norsk, vietnamesisk) til et universelt metaspråk Et slikt språk er førsteordenslogikk

11 FORMELL SEMANTISK ANALYSE Logikken gis en tolkning ved mengdelære Setninger/preposisjoner: Sannhetsverdi [p] = 1 eller [p] = 0, avhengig av om p tilsvarer eller ikke tilsvarer situasjonen Konstanter: individer eller mengder av individer j = individet Jon Predikater: mengden av individer som predikatet gjelder for {x :... } sykler = {x : x sykler}

12 FORMELL SEMANTISK ANALYSE (FORTS.) Konnektiver: Emil er en katt som ikke maler: Ke Me Dersom Bill drikker blir Jenny sint: Db Sj Kvantorer Alle studenter leser: ( x : Sx)Lx Alle studenter kjenner professoren: ( x : Sx)Kxp Professoren kjenner (minst) en student: ( x : Sx)Kpx

13 FORMELL SEMANTISK ANALYSE Domenet Representasjon av individer og relasjoner mellom disse i en gitt situasjon Analysen Kobler symboler fra den logiske representasjonen med elementer i domenet i henhold til de semantiske egenskapene til disse symbolene

14 FORMELL SEMANTISK ANALYSE, EKSEMPEL Domenet (situasjonen): Cavern Club, Liverpool, 1962 der Beatles øver før forestilling Situasjonen v inneholder en mengde individer U U = {John, Paul, George, Ringo, Brian Epstein, Bob} Konstanter F(j) = John F(p) = Paul etc. Predikater F(B) = was a Beatle = {John, Paul, George, Ringo} F(M) = was a manager = {Brian Epstein} F(F) = was a fan = {Bob} F(S) = sings = {John, Paul} F(I) = idolized = {<Bob,John>, <Bob,George>, <Bob,Paul>, <Bob,Ringo>} etc.

15 FORMELL SEMANTISK ANALYSE, EKSEMPEL (FORTS.) Evaluere sannhet: John synger = Sj (i modellen over) [Sj] = 1 hvis og bare hvis [j] [S] Med referanse til syntaktisk struktur: betydningen til [S NP VP ] er følgende sannhetsbetingelse Dersom betydning til NP (et individ) er medlem av betydningen til VP (mengde individer) er S sann, ellers er den usann

16 FORMELL SEMANTISK ANALYSE, EKSEMPEL (FORTS.) Evaluere sannhet: Bob idoliserer John = Ibj [Ibj] = 1 hvis og bare hvis [<b,j>] [I] Med referanse til syntaktisk struktur: betydningen til [ VP V NP ] er mengden av individer X slik at X er første medlem i et par i betydningen til V, hvis andre medlem er betydningen til NP

17 PROBLEMER FOR KOMPOSISJONALITET Semantisk anomali: semantisk tolkning bryter sammen Colorless green ideas sleep furiously Metafor, f.eks. time is money You are wasting my time This gadget will save you hours How do you spend your time? I ve invested a lot of time here Idiomatiske uttrykk: språkspesifikke, en bokstavelig og en figurativ betydning, f.eks. gå bort

18 SEMANTISKE ROLLER Annet aspekt ved setningsbetydning: hvilke roller de forskjellige deltagerene inntar Gina hevet bilen med jekken Gina deltageren som er ansvarlig for å utføre handlingen beskrevet av verbet bilen blir påvirket av handlingen jekken middelet som Gina bruker til å utføre handlingen Semantiske roller beskriver den semantiske relasjonen som argumenter har til handlingen beskrevet av verbet

19 SEMANTISKE ROLLER Rolletyper AGENT: den som setter i gang en handling, i stand til å handle med viten og vilje ( volition ) David stekte kjøttet Reven hoppet ut av grøfta PATIENT: entiteten som påvirkes av en handling, gjennomgår ofte en forandring Edna kuttet buskene Sola smeltet isen

20 SEMANTISKE ROLLER Rolletyper (forts.) THEME: entiteten som blir beveget av en handling eller hvis beliggenhet beskrives David sparket ballen over til de andre Boka er på biblioteket EXPERIENCER: er bevisst på handlingen eller tilstanden, men er ikke i kontroll over den Edna følte seg dårlig Hanna så røyken Fia hørte døren smekke

21 SEMANTISKE ROLLER Rolletyper (forts.) BENEFICIARY: entiteten som en handling utføres for David fylte inn skjemaet for bestemoren sin De bakte en kake til meg INSTRUMENT: middelet som gjør at en handling kan utføres eller finner sted Hun renset såret med et antibakterielt middel De signerte avtalen med den samme pennen

22 SEMANTISKE ROLLER Rolletyper (forts.) GOAL: entiteten som noe beveger seg mot (bokst./fig.) Hun leverte sertifikatet sitt til politimannen Hun fortalte vitsen til vennene sine SOURCE: entiteten som noe beveger seg fra (bokst./fig.) Flyet kom tilbake fra Kinshasa Vi fikk ideen fra et interiørblad

23 SEMANTISKE ROLLER Eksempelet: Gina hevet bilen med jekken AGENT THEME INSTRUMENT Tester for semantiske roller AGENT: legge til med vilje Jon tok boka fra Edna med vilje THEME/PATIENT What happened to Y was... What X did to Y was...

24 SEMANTISKE ROLLER Ikke alltid enkelt å tildele semantiske roller Fergus carried the bag to the lighthouse (GOAL) Sylvie bought him a sports car (BENEFICIARY) Margarite received a gift of flowers (GOAL/BENEFICIARY? begge deler?)

25 SEMANTISKE ROLLER Semantiske roller identiske i parafraser The dog bit the stick/the stick was bitten by the dog Kan også være identiske i setninger som ikke er parafraser The boy opened the door with the key The key opened the door The door opened samme underliggende struktur

26 SEMANTIKK I SPRÅKTEKNOLOGI Hva slags oppgaver inngår i semantisk analyse? Med hva slags metoder kan disse oppgavene løses?

27 ORDBETYDNING ( WORD SENSE ) The astronomer married the star You are free to execute your laws, and your citizens, as you see fit (Star Trek, Next Generation) Oh, flowers are common here, Miss Fairfax, as people are in London (Oscar Wilde, The Importance of Being Earnest) Hva slags applikasjoner trenger kunnskap om ordbetydning?

28 SEMANTISKE ROLLER The dog bit the mailman er ikke det samme som The mailman bit the dog Sammenligne med The dog was bitten by the mailman Semantiske roller beskriver hvem som gjør hva mot hvem [The mailman] AGENT bit [the dog] PATIENT

29 PARAFRASERING Apple bought Cisco Apple acquired Cisco Cisco was taken over by Apple Hva slags applikasjoner kan bruke denne informasjonen?

30 SEMANTISKE RELASJONER MELLOM ORD Synonymer (samme betydning) ascend/rise sweater/pullover Antonymer (motsetninger) good/evil ascend/descend Hypernym/hyponym (mer generell, mer spesifikk) tree/birch animate object / mammal / whale Meronymi (del-helhet) knob/door wheel/car

31 METAFOR Lakoff & Johnson: Metaphors We Live By. Noen av deres metaforer ARGUMENT IS WAR He shot down all of my arguments LOVE IS A JOURNEY They hit a bumpy stretch in their relationship TIME IS MONEY You re wasting my time Hvorfor er metaforer problematiske for språkteknologi?

32 TEMPORALE UTTRYKK The chairman announced yesterday that they would have the problem solved within three days Nå ble problemet løst dersom setningen forekom i en avis 10 mai, 2007? Book me a flight on the 7:35 tomorrow

33 ENTAILMENT Spørsmål: Who bought Cisco? Forventet svar: Apple bought Cisco Cisco s acquisition by Apple (entails) Apple bought Cisco

34 NEGASJON Apple acquired Cisco Apple did not acquire Cisco Apple failed to acquire Cisco Apple denied not acquiring Cisco

35 METODER Klassifisering Gitt et ord i en setning, og en liste av mulige betydninger, velg en betydning Gitt et predikat i en setning, finn dets semantiske roller Automatisk tilegnelse av semantisk informasjon fra data Hvilke ord og fraser betyr det samme del-helhet relasjoner automatisk gruppere setninger som inneholder et visst ord basert på betydning

36 SEMANTISKE RESSURSER Klassifisering forutsetter treningsdata Leksikale databaser (WordNet, FrameNet) Korpuser annotert med semantisk informasjon (PropBank)

37 SEMANTISKE ROLLER Annet aspekt ved setningsbetydning: hvilke roller de forskjellige deltagerene inntar Gina hevet bilen med jekken Gina deltageren som er ansvarlig for å utføre handlingen beskrevet av verbet bilen blir påvirket av handlingen jekken middelet som Gina bruker til å utføre handlingen Semantiske roller beskriver den semantiske relasjonen som argumenter har til handlingen beskrevet av verbet

38 SEMANTISKE ROLLER Eksempelet: Gina hevet bilen med jekken AGENT THEME INSTRUMENT

39 PROBLEMER MED SEMANTISKE ROLLER Ikke full enighet rundt rolleinventaret Vanskelig å formulere formelle definisjoner av roller generaliserte semantiske roller PROTO-AGENT, PROTO-PATIENT Verbspesifikke roller Semantiske ressurser med informasjon om semantiske roller: PropBank og FrameNet

40 PROPBANK Inneholder alle setningene i Penn Treebank (Kinesisk PropBank: kinesisk Penn Treebank) Roller er (stort sett) verbspesifikke Arg0, Arg1 = PROTO-AGENT, PROTO-PATIENT Arg2... verbspesifikke agree.01 Arg0 Agreer Arg1 Proposition Arg2 Other entity agreeing Ex1 [ Arg0 The group] agreed [ Arg1 it wouldn t make an offer unless... ] Ex2 [ ArgM TMP Usually] [ Arg0 John] agrees [ Arg2 with Mary] [ Arg1 on everything]

41 PROPBANK Applikasjon: Semantic Role Labeling Gitt et predikat i en setning, finn dets semantiske roller Gir oss en felles representasjon for: [Arg0 Big Fruit Co.] increased [ Arg1 the price of bananas] [Arg1 The price of bananas] was increased again by [ Arg0 Big Fruit Co.] [ Arg1 The price of bananas] increased [ Arg2 5%]

42 FRAMENET Roller er ikke verbspesifikke, men gjelder for en ramme ( frame ) apply heat: situation involving a cook, food and a heating instrument evoked by bake, blanch, boil, broil, brown, simmer, etc. change position on a scale: situation involving the change of an items s position on a scale (the attribute) from a starting point (initial value) to an end point (final value) evoked by decline, decrease, gain, rise, etc. damaging: situation involving an agent that affects a patient in such a way that the patient (or some sub-region of the patient) ends up in a non-canonical state evoked by damage, sabotage, scratch, tear, vandalise, etc.

43 FRAMENET Applikasjon: Semantic Role Labeling Gir oss en felles representasjon for: [ ATTRIBUTE The price of bananas] increased [ DIFFERENCE 5%] [ATTRIBUTE The price of bananas] rose [ DIFFERENCE 5%] There has been a [DIFFERENCE 5%] rise [ ATTRIBUTE the price of bananas]

44 PRAGMATIKK Studiet av vår språklige forståelse i kontekst lingvistisk Pronomener: Han kom for seint. Homonymi: Jeg har grått. ikke-lingvistisk Den der. Kan du sende saltet?

45 PRAGMATIKK Språkkontekst: Diskurs: Enheter som består av flere setninger. Diskursanalyse er analyse av: Tematisk struktur Stil Sammenheng Forskjeller mellom muntlig og skriftlig diskurs Situasjonskonteksten: taler, tilhører, tredje person hva taler vet, hva tilhører vet - om hverandre, verden hva taleren vet at tilhøreren vet hva taleren vet at tilhøreren vet at taleren vet

46 ANAFORER Anaforer får sitt innhold ved å referere til et annet element i diskurset eller et element i selve talesituasjonen. Det elementet anaforer referer til heter antesedent. De aller mest kjente anaforer er pronomen

47 ORDKLASSER: PRONOMEN Pronomen: jeg, hun, dere, seg, hverandre, hvem, man 1. av svært ulik form, uregelmessig bøyning 2. som substantiv, kan fungere som setningsledd alene 3. lite eget innhold, får betydning fra sammenhengen (konteksten) Jeg liker grammatikk Man skal respektere hverandre Hvem tok vesken?

48 ORDKLASSER: PRONOMEN Pronomen får sitt innhold enten fra et element i selve talesituasjonen eller fra en nominal leddtype (typisk substantiv) i konteksten. Leddet som gir pronomen innhold er pronomenets antesedent Er du sulten? Gro Harlem Brundtland er en tidligere norsk politiker. Hun var norges første kvinnelige statsminister...

49 PRAGMATIKK Deiksis: ord som får referansen kun fra den ikke-lingvistiske konteksten this person that man these women Tids-og stedsdeiksis nå, i morgen, forrige uke her, der, dette stedet, denne parken

50

51 PRAGMATIKK: GRICES MAKSIMER Situasjonskontekst påvirker betydning: Paul Grice, språkfilosof Samtale er basert på prinsipp om samarbeid Husk Burger King eksemplet :-) Maksimene: Samtalekonvensjoner som muliggjør kommunikasjon. De viktigste er: kvantitet: si hverken mer eller mindre enn nødvendig relevans: vær relevant måte: vær klar og konsis kvalitet: ikke lyv

52 GRICES MAKSIMER, FORTS. Kvalitet: Venn spør: Vet du hvor bilnøklene mine er?, og forventer et sannferdig svar Kvantitet: Åssen står det til? Vel, jeg våkna i morges og følte en slags smerte i venstre foten, og akkuratt i det jeg skulle stå opp, så jeg det var en inngrodd negl, og da tenkte jeg om jeg skulle gå til legen eller ikke, men akkurat i det følte jeg meg veldig kvalm, men det var bare fordi jeg var så sulten, hadde ikke spist noe kveldsmat, skjønner du... Relevans: Så, hva hvordan gikk daten? Pent vær, ikke sant? Måte: Liker du skjorten min? Den er interessant.

53 GRICES MAKSIMER: NÅR DE BRYTES Implikatur: Informasjon vi formidler ved å bryte sammerbeidsmaksimer med vilje: A: Så, hva hvordan gikk daten? B: Pent vær, ikke sant? Hva blir implisert her? B bryter relevansmaksimen. A vet at B bryter relevansmaksimen. B vet at A vet at B bryter relevansmaksimen. A forstår at B gjør det med vilje og dermed impliserer at hun vil ikke snakke om daten. A konkluderer at daten til B var en katastrofe.

54 PRAGMATIKK: TALEAKTER Taleakter (J. L. Ausitn) : Språk brukes til å utføre handlinger, f.eks. love noe, vedde, advare, døpe noen, gratulere noen, sverge, etc. Jeg vedder 100 kroner på at Amman vinner Møtet er hevet Jeg lover å komme tilbake Ikke-lingvistiske konteksten påvirker betydning: Jeg erklærer dere herved for rette ektefolk. Betyr ikke det samme hvis jeg sier det i klasserommet, eller hvis en dommerfullmektig sier det på Tinghuset.

55 OPPSUMMERING Studiet av betydning slik det uttrykkes gjennom språk Ord: leksikal semantikk referanse vs sense leksikale relasjoner (*nymi) Setning: formell semantikk sannhetsverdi logikk semantiske regler angir tolkning (kobling til syntaks) Setning: semantiske roller hvilke roller de forskjellige deltagerene inntar abstrakt beskrivelse av situasjonen verbet angir

56 OPPSUMMERING Rekke oppgaver inngår i semantisk analyse ordbetydningsdisambiguering (WSD) semantiske roller parafrasering temporal analyse entailment negasjon... Sentral metode: klassifisering

57 OPPSUMMERING For klassifisering trenger vi treningsdata Semantiske ressurser WordNet leksikal database innholdsord: substantiver, verb, adjektiver bygget rundt leksikale relasjoner som synonymi, hyponymi, meronymi, etc. PropBank/FrameNet forskjellige ressurser for semantiske roller korpus vs database verbspesifikk vs ramme ( frame )...

58 OPPSUMMERING Nærmere kikk på betydningsdisambiguering (WSD) Trekkrepresentasjon av treningsdata ord lemma ordklasse syntaktisk funksjon etc. Naive Bayes-klassifisering hvordan vi kan beregne den mest sannsynlige betydningen for et ord: ŝ = argmaxp(s f ) s S

59 OPPSUMMERING Pragmatikk: språklig forståelse i kontekst kontekst gir referanse/innhold pronomen deiksis sosial kontekst med samarbeidsprinsipper bidrar til forståelse (Grice sine samarbeidsprinispper) ikke-lingvistisk kontekst påvirker betydning (taleakter)

60