(Først litt mer om konneksjonisme, og så) maskinlæring. ITSLP /04/2008 Erik Velldal

Transkript

1 (Først litt mer om konneksjonisme, og så) maskinlæring ITSLP /04/2008 Erik Velldal

2 En liten oppsummering fra forrige gang.. Vi så litt på forskjellen mellom datamaskiner (von Neumann-arkitektur) og biologiske hjerner. Distribuert minne og parallell prosessering. Konneksjonisme / PDP McCullochs-Pitts-nevroner Perceptron Trening av kunstige nevrale nettverk

3 Kunstige vs biologiske nevrale nettverk Mange likheter: Liknende nevron-enheter, parallell aktivitet, distribuert lagring av kunnskap, læring via forsterkning av nevrale forbindelser.. Men enda flere forskjeller: Bilogiske nevroner av mange ulike typer, med ulik fasong, muligens med ulike spesialiseringer. Uvisst hvorvidt geometrisk organisering i hjernen er viktig. Overføringen av elektriske signaler i hjernen skjer vha mange ulike typer kjemiske nevrotransmittere. Ulike typer nevroner har ulikt antall forbindelser. Pulsrate kan være av betydning. Læring hos mennesker bærer ikke preg av samme tabula rasa-tilnærming. Grad av kompleksitet

4 Computationalism vs. Connectionism Mental aktivitet realiseres av manipulering av strukturerte symboler i henhold til syntaktiske regler. Fokus på struktur og symboler. Fokus på modularitet. Mental aktivitet realiseres av parallell aktivitet i et distribuert nettverk av sammenkoblede noder. Forbindelsene er det viktige. Sub-symbolsk. Fokus på generelle læringsmekanismer. Men, man kan også se på disse to paradigmene som komplimentære, altså uten å være i konflikt. Kanskje ulike mentale kapasiteter må implementeres vha ulike strategier.

5 Computationalism vs. Connectionism PDP og konneksjonistiske modeller settes ofte opp som en motpart til symbolmanipulering og SSH-paradigmet....men vi har sett hvordan nettverk kan implementere logiske operasjoner og fungere som symbolmanipulatorer....og viktigere, nettverksmodellene kjøres som regel på vanlige datamaskiner (altså symbolmanipulatorer). Man kan argumentere for at selv dersom hjernen vår fungerer som et PDP-nettverk så kan det likevel være et symbolsystem. Siden et ANN kan beskrives som et algoritmisk system kan det også simuleres av et universelt symbolsystem. Dette følger av den såkalte Church-Turing-tesen..

6 Church-Turing-tesen (1:2) Uttrykt uavhengig av Alonzo Church og Alan Turing (1936) Basert på henholdsvis lambdakalkyle og turingmaskiner. Ethvert algoritmisk beregnbart system kan simuleres av et universelt symbolsystem. Sagt på en annen måte: Enhver algoritme kan ekvivalent uttrykkes som en turingmaskin eller λ-funksjon. Et ANN er også et algoritmisk beregnbart system.. Selv om ideen er tilnærmet universelt godtatt har den likevel status som en hypotese. Formulert på bakgrunn av vage og intuisjons-baserte konsepeter. Tesen sier noe om utrykkskraften til datamaskiner.

7 Church-Turing-tesen (2:2) Gitt at Church-Turing-tesen er sann....og gitt at våre mentale prosesser er algoritmisk beregnbare....så følger det at våre mentale prosesser i prinisippet kan utføres av en turingmaskin. Men vi vet ikke hvorvidt det andre premisset er sant. Det er mulig det finnes mentale prosesser som er såkalt ikke-beregnbare. Og om premissene skulle vise seg å være sanne er det likevel viktig å huske at teoretisk ekvivalens ikke alltid er det samme som praktisk ekvivalens.

8 Maskinlæring (ML) Vi har til nå beskrevet nevrale nettverk som en del av det konneksjonistiske paradigmet innen kognitiv vitenskap. Men innen anvendt AI inngår disse metodene som én blant mange i en verktøykasse vi kaller maskinlæring. Tom Mitchell (1997): Machine Learning is the study of computer algorithms that improve automatically through experience. A computer program is said to learn from experience E with respect to some class of tasks T and performance measure P, if its performance at tasks in T, as measured by P, improves with experience E. ML dreier seg om bruk av data-drevne metoder for tilegning av kunnskap. Istedet for å eksplisitt kode inn kunnskap så lar vi programmet selv lære det fra empiri.

9 ML er et tverrfaglig prosjekt ML sees gjerne som en underdisiplin av AI Teorier om læring og hukommelse fra psykologi og biologi Informatikk Nytt designfokus: fra «hvordan kode kunnskap i maskiner» til «hvordan la maskiner tilegne seg kunnskap selv» Statistisk analyse Nærmeste faglige slektning ML er ofte bare statistisk analyse med et nytt fokus: I ML vil vi ikke kun ha en modell for å beskrive data og å forstå fenomenet som har generert dataene, men vi vil bruke modellen for å løse oppgaver i møte med nye data. Teoriene som etterhvert har vokst frem rundt ML utgjør feltet statistisk læringsteori.

10 Eksempler på anvendelser av ML Ulike former for klassifikasjon Disambiguering Ordsemantikk, talegjenkjenning (hva sies?), osv.. Mønstergjenkjenning Stemmegjenkjenning (hvem snakker?), OCR (f.eks tyding av håndskrift), ansikt / andre former for identifikasjon.. Filtrering spam, kategorisering av dokumenter, informasjonssøk, identifisere juks, produktanbefalinger.. Robotkontroll På ROBIN (UiO) lærer robotkyllingen Henriette å gå vha ML. Dataanalyse innen empiriske vitenskaper som biologi, meteorologi, lingvistikk, osv..

11 Når brukes ML? For problemer som er for komplekse til å la seg beskrive ved eksplisitte regler. Vi kan lett identifisere stemmen eller ansiktet til en bekjent, men vanskelig å formulere eksakte regler for hvordan. For spørsmål og valg der det ikke finnes et eksakt svar: Hvor mye bedre er setning X enn setning Y for å utrykke mening Z? For problemer som er dynamiske i forhold til domene, brukerkontekst, eller tid. Et godt spam-filter må tilpasses brukeren, samt kunne oppdateres og lære over tid.

12 To hovedtyper av ML Veiledet læring (supervised learning) F.eks klassifikasjon og regresjon Trening basert på annoterte eksempler. Annoteringen kan sees som merkelapper (labels) som indikerer hva vi ønsker å lære. Ikke-veiledet læring (unsupervised learning) F.eks klyngenanalyse (clustering) Forsøker å finne en struktur i data, uten forhåndsgitt mål. Vi skal se eksempler på de ulike læringsproblemene. Data er en samling dokumenter X = {x 1,x 2,...,x n } Hvilke dokumenter handler om sport? (klassifikasjon) Gitt et søk z i, hvor relevant er dokument x i? (regresjon) Finnes den noen struktur i X? (klyngeanalyse)

13 Klassifikasjon Vi skal lære en funksjon F: X Y Målet er å skille ut dokumenter som handler som sport. X = {x 1,...,x n } er samlingen med (n antall) dokumenter. La y i Y tilsvare merkelappene sport (1) eller annet (-1). Treningsdata: {(x 1,y 1 ),...,(x n,y n )} Målet er å få færrest mulig antall feilklassifiseringer: Falske negativer (sportsartikkel feilklassifisert som noe annet). Falske positiver (noe annet feilklassifisert som sport). Et annet viktig mål er å oppnå generalitet. En nøyaktig modell må ha få feilklassifiseringer også på nye data (ikke bare treningsdataene som vi lærer fra). Dette kan vi måle på et separat sett med testdata.

14 Representasjon Mange metoder representerer data som attributt-vektorer. Hvert vektorelement har en numerisk verdi som koder en egenskap eller et trekk ved et gitt dataeksempel. I vårt eksempel kan disse trekkene f.eks tilsvare hvor ofte ulike ord forekommer i et gitt dokument. Målet for treningsalgoritmen er da å estimere en tilsvarende vekt- eller parametervektor w som gir færrest mulig feilklassifiseringer. Klassifikasjon kan da skje f.eks ved følgende regel Hvis x i w >= 0 så er y i = sport Hvis x i w < 0 så er y i = annet (husk at x i w = j x ij w j = (x i1 +w 1 )*(x i2 +w 2 )...(x in +w n )) (Vi så et eksempel på en slik klassifikator i forrige forelesning: perceptron.)

15 Representasjon

16 Vektorrom I perceptron-eksemplet tolket vi vektorene i en nevral metafor. Mange læringsteknikker basert på en geometrisk metafor. Vi kan tenke oss at hvert element i attributtvektorene tilsvarer en akse i et koordinatsystem. Verdien til de ulike trekkene posisjonerer dataeksemplene som punkter i et høydimensjonalt rom. Ved å tenke oss dokumentene våre i et slikt vektorrom kan vi måle likhet i innhold på bakgrunn av geometrisk avstand.

17 Klassifikasjon

18 Regresjon

19 Klyngeanalyse (clustering)

20 Klyngeanalyse (clustering) Eksempel på ikke-veiledet (unsupervised) læring. Ingen annotering (labels) i treningsdataene. Prøver å oppdage strukturer og mønstre i dataene. For dokument-eksempelet kan vi f.eks automatisk oppdage kategorier eller grupper av like dokumenter i vektorrommet (uten at vi på forhånd sier noe om hva slags kategorier vi leter etter!). Brukes ofte for visualisering eller for såkalt eksplorativ dataanalyse (EDA). Ikke-veiledet læring kan også brukes som utgangspunkt for data-komprimering, automatisk fullføring og utfylling av informasjon (f.eks T9), informasjonssøk, oppdage unormale hendelser (outliers) f.eks i forbindelse med kredittkort-svindling, og mye annet...

21 Avveining mellom tre viktige faktorer Modellen av treningsdataene bør være generell nok til å gi gode resultater på nye data. Modellen generaliserer typisk bedre jo mer treningsdata vi har. Men, modellens evne til å generalisere er også avhengig av dens grad av sensitivitet og fleksibilitet. Reguleres av graden av kompleksitet. Mengde treningsdata Modellens generalitet Handler om antall parametere i modellen og dermed modellens uttrykkskraft. For mye: tilpasser seg treningsdataene for mye (high variance) Modellens kompleksitet For lite: klarer ikke tilpasse seg treningsdataene (high bias) Kjent som bias-variance tradeoff.

22 (om generalitet, -eksempel til forrige slide.) Vi har en robot som skal lære seg konseptet SPORT. Effekten av treningsdata La oss si vi trener på noen få dokumenter om curling. Fotballstoff vil fort ende opp som falske negativer. Lav kompleksitet (high bias, low variance) Eneste trekk er om ordet «kamp» forekommer eller ikke. Lite tilpasning: Uansett hvilke dokumenter vi trener på får vi ca samme klassifikator (såkalt underfitting). Mange nyhetssaker vil ende opp som falske positiver, mange sportssaker blir falske negativer. Høy kompleksitet (low bias, high variance) Vi har svært mange trekk som perfekt beskriver hvert enkelt dokument i treningsdataene ned til minste detalj. For mye tilpasning, for lite generalitet (såkalt overfitting).

23 (om generalitet, -eksempel til forrige slide.) Vi har en robot som skal lære seg konseptet GENSER. Effekten av treningsdata. La oss si treningsdata er noen få sorte høyhalsede poloer. Roboten vil slite med å identifisere en grønn v-genser. Lav kompleksitet (high bias, low variance) Eneste trekk i modellen er om armene er lange eller ikke. Lite tilpasning: Uansett hvilke, og hvor mange, gensere vi trener på ender vi med ca samme klassifikator. Sannsynlig at jakker ender opp som falske positiver. Høy kompleksitet (low bias, high variance) Modellen har en mengde trekk som klarer å fange detaljert informasjon om tekstiltype i kombinasjon med merke, farge, antall tagger i glidelåsen, vinkel på krage, antall masker... Tilpasser seg dataene for mye til å identifisere nye gensere.

24 Kunnskapsproblemet i en ny form Vi har tidligere sett hvordan GOFAI (good old fashioned AI) ofte har blitt kritisert for at intelligensen ligger hos programmereren og ikke i programmet. Noe av det viktigste er å finne en god representasjon av problemet. Innenfor PDP og ML legger man vekt på at programmene lærer selv. Programmereren håndkoder ikke reglene. Men, gode representasjoner er minst like viktig innen PDP og ML. Og det er programmereren som må definere hvilke trekk som skal brukes for å representere input-dataene for nettverket eller modellen. Læringsalgoritmen er på mange måter bare et skall: Vi trenger ekspertise innen det relvante fagområdet for å definere attributter og representasjoner.