!"# $%&' P NP NP \ P. Finnes overalt. Er som regel ikke effektivt løsbare. Eksempler på NP-harde problemer

Transkript

1 Leksjon 8

2 !"# $%&' Finnes overalt operasjonsanalyse kunstig intelligens mønstergjenkjenning geometri Er som regel ikke effektivt løsbare kompleksitetsteori P NP NP \ P NP-harde problemer vi kan antakelig ikke finne polynomielle eksakte algoritmer Eksempler på NP-harde problemer TSP Ryggsekkproblemet INF-MAT Geir Hasle - Leksjon 8 2

3 () "* %& )+ Et sett med beslutningsvariable Hver (eller noen) med diskrete domener En målfunksjon skal minimeres eller maksimeres objektiv, kostnadsfunksjon Føringer begrenser mengden av tillatte løsninger a.k.a. beskrankninger a.k.a. Kombinatorisk optimeringsproblem INF-MAT Geir Hasle - Leksjon 8 3

4 %&#! Matematisk program LP MIP, IP, PIP viktig spesialtilfelle Constrained Optimization Problem CSP + objektiv Generell, kompakt formulering INF-MAT Geir Hasle - Leksjon 8 4

5 %!"# #! Beslutningsvariable med domener Målfunksjon Føringer (beskrankninger) Matematisk program f ( x1 xn ) ( 1 n ) ( ) min,, f x,, x = 0 j = 1,, k j g x,, x 0 j = 1,, l j 1 x R i = 1,, n i n Generell, abstrakt formulering DOP min x S f ( x) INF-MAT Geir Hasle - Leksjon 8 5

6 ,- ##!! n j= 1 j n max ζ = c x slik at j= 1 j ij j i j a x b i = 1,,m x 0 j = 1,, n n j= 1 j i n max ζ = c x slik at x j= 1 j ij j i j a x b i = 1,,m 0 j = 1,, n { n} + x i I 1,, Blandete heltallsprogrammer (Mixed Integer Programs MIP) Rene heltallsprogrammer (Pure Integer Programs IP, PIP) 0-1 programmer { } i I 1,,n { } i I = 1,,n i { } x 0,1 INF-MAT Geir Hasle - Leksjon 8 6

7 $,-' (##!! Mange oppgaver i den virkelige verden kan modelleres som LP med heltallighetsføringer Diskrete valg, sekvensering, kombinatorikk, logikk Tids- og ressursplanlegging, operasjonsanalyse LP med heltallsføringer kalles Heltallsprogrammer Heltallsprogrammer er generelt langt vanskeligere å løse beregningsmessig enn ordinære LP Ofte øker regnetiden til eksakte metoder eksponensielt med størrelsen av problemet Men ikke alltid... INF-MAT Geir Hasle - Leksjon 8 7

8 . / %!"# Et Diskret (kombinatorisk) OptimeringsProblem (DOP) er enten et minimerings- eller maksimeringsproblem spesifiseres av et sett probleminstanser Eksempler TSP min f x ( ) Ryggsekkproblemet Graffarging x S... INF-MAT Geir Hasle - Leksjon 8 8

9 . /%& En DOP-instans er et par ( S,f ) der S = { s} er mengden av tillatte (interessante) løsninger og f :S R er kostnadsfunksjonen. Målet er å finne en globalt optimal * * løsning: s S: f (s ) f (s), s S * f * = f (s ) (globalt) optimal kostnad * S { * = s S: f (s) = f } (globalt) optimale løsninger INF-MAT Geir Hasle - Leksjon 8 9

10 0 %&. S er sjelden gitt eksplisitt S ofte delmengde av brukbare løsninger i større rom av mulige løsninger (s,f(s)) sjelden gitt eksplisitt ofte kompakt representasjon av instans (kandidat)løsning ofte gitt ved verdier på beslutningsvariable (x 1,v 1 ),..., (x n,v n ) (valuering x v) ofte polynomielle algoritmer for å sjekke brukbarhet (medlemskap i S) og kostnad/verdi for kandidatløsninger INF-MAT Geir Hasle - Leksjon 8 10

11 1# 2 1 3& 3 byer: 1, 2,3 ( S, f ) 17 { } { } S = (1,2,3),(1,3,2),(2,1,3),(2,3,1),(3,1,2),(3,2,1) s,,s f (s ) = = 20 min f ( s) s S 1 f (s ) = = INF-MAT Geir Hasle - Leksjon

12 #) %&. 4%5&"# $4%&' Gitt x = x,, x ( ) 1 n ( ) ( ) { } { } 1 n = 11 1k n1 nk D = D,,D v, v,, v, v f : D D R 1 n { } 1 i = = (k) (k) (k) C c,,c, k 1, n c D ( k ) D ( k ) j πj min f (x v) slik at v c, j = 1, i, k (k) j π (1) (k) (k) j k k 1 n INF-MAT Geir Hasle - Leksjon 8 12

13 ,6! %& Eksakte metoder generer og test, eksplisitt enumrering matematisk programmering implisitt enumrering Approksimasjonsmetoder med garantier heuristikker INF-MAT Geir Hasle - Leksjon 8 13

14 1 %& DOP har ofte et endelig antall løsninger Eksakte metoder garanterer å finne optimal løsning Responstid? Eksakte metoder er gode for begrenset problemstørrelse kanskje gode for de instanser som er aktuelle ofte grunnlag for approksimasjonsmetoder ofte gode for forenklete problemer INF-MAT Geir Hasle - Leksjon 8 14

15 ). #6! %& Kompleksitetsteori, NP-komplette problemer Kompleksitetsteori ser på beslutningsproblemer Nær sammenheng mellom beslutningsproblem og optimeringsproblem Optimering minst like hardt som beslutning NP-komplett beslutningsproblem -> NP-hardt optimeringsproblem For NP-harde DOP fins antakelig ikke eksakt metode der regnetiden er begrenset av polynom Ulike valg eksakt metode (enumerativ) approksimasjonsmetode (polynomisk tid) heuristisk metode (ingen a priori garanti) NB! Ikke alle DOP er NP-harde! INF-MAT Geir Hasle - Leksjon 8 15

16 7 ). I den virkelige verden: som oftest krav til respons er optimering kun ett aspekt utelukker ofte problemstørrelse og responskrav eksakt optimeringsmetode p.g.a. beregningskompleksitet Heuristiske metoder robust valg I den virkelige verden trengs ofte ikke den optimale løsning Mennesker er ikke optimerere men tilfredsstillere (satisficers) Herb Simon Eksakte metoder kan være bedre valg Kulturer matematikere vs. pragmatikere/ingeniører OR vs. AI INF-MAT Geir Hasle - Leksjon 8 16

17 ( En teknikk som forbedrer effektiviteten til en søkeprosess, oftest ved å ofre kompletthet Garantier for løsningskvalitet vs. tid kan sjelden gis Generelle heuristikker (f. eks. i Branch & Bound for IP) Spesielle heuristikker utnytter kunnskap om problemet Begrep innført i How to solve it [Polya 1957]. Guide for løsning av matematiske problemer INF-MAT Geir Hasle - Leksjon 8 17

18 ,#6 %& Heuristisk metode Iterativ metode Små endringer av gitt løsning Ingredienser: Nabolag Søkestrategi Initiell løsning Stoppkriterium INF-MAT Geir Hasle - Leksjon 8 18

19 8 #6!9 ) " #6!+ Modifikasjon av gitt løsning gir naboløsning En viss type operasjon på løsningen gir et sett med naboer, et nabolag Evaluering av naboer objektfunksjon tillatt? INF-MAT Geir Hasle - Leksjon 8 19

20 1# 3& Operator: 2-opt Hvor mange naboer? INF-MAT Geir Hasle - Leksjon 8 20

21 1# :;!! Verdi Størrelse Anta vi ser på løsning verdi 73 Naturlig operator: Flip en bit, dvs. hvis artikkelen er i ryggsekken, ta den ut hvis artikkelen ikke er i ryggsekken, ta den med Noen naboer: verdi verdi 152, ikke tillatt verdi 47 INF-MAT Geir Hasle - Leksjon 8 21

22 . "#! La (S,f) være en DOP-instans. En nabolagsfunksjon er en avbildning N : S 2 S som for gitt løsning s S definerer et nabolag av løsninger N( s) som på et vis er i nærheten av t N( s) sies å være nabo til s S s INF-MAT Geir Hasle - Leksjon 8 22

23 "#! Oftest defineres nabolagene ved en gitt type operasjon på løsningen Oftest enkle operasjoner fjerning av element tillegg av element bytte av to eller flere elementer i løsning Flere nabolag - kvalifiseres med operator N σ ( s), σ Σ INF-MAT Geir Hasle - Leksjon 8 23

24 ,#6$"#!6' Utgangspunkt i initiell løsning Iterativt søk i nabolag etter bedre løsning Sekvens av løsninger sk + 1 Nσ( sk ), k = 0, Strategi for hvilken løsning i nabolaget som aksepteres som neste løsning Stoppkriterier Hva skjer når nabolaget ikke inneholder bedre løsning? INF-MAT Geir Hasle - Leksjon 8 24

25 .,# La (S,f) være en DOP-instans og la N være en nabolagsfunksjon. En løsning er lokalt optimal (minimal) med hensyn på N dersom: f ( sˆ ) f ( t), t N( sˆ ) ŝ Vi betegner mengden av lokalt optimale løsninger med Ŝ NB! Lokal optimalitet er relativt til nabolag INF-MAT Geir Hasle - Leksjon 8 25

26 ,#6 <3=< Procedure Local_Search_SD(init_sol,N,f) current:=init_sol new_current:=best_neighbor(current,n,f) while not new_current=current do current:=new_current new_current:= Best_Neighbor(current,N,f) od return current ; Local optimum INF-MAT Geir Hasle - Leksjon 8 26

27 %"). First Accept og Steepest Descent stopper i lokale optima Dersom nabolaget N er eksakt, er lokalsøk med disse strategiene (eksakte) optimeringsalgoritmer Lokalsøk kan betraktes som traversering i en rettet graf ( nabolagsgrafen ), der nodene er medlemmene i S og N definerer topologien (nodene merket med kostnad) og f definerer topografien INF-MAT Geir Hasle - Leksjon 8 27

28 ,#6 )! ) "#!! sk + 1 Nσ( sk ), k = 0, N σ ( s ) 0 N σ ( s ) 1 s 1 s 1 s 0 s 0 s 1 s 2 Et flytt er prosessen å velge en gitt løsning i nabolaget til nåværende løsning som nåværende løsning for neste iterasjon INF-MAT Geir Hasle - Leksjon 8 28

29 ,#!!#"# Kostnad Løsningsrom INF-MAT Geir Hasle - Leksjon 8 29

30 ># ##,3 #!! Restart av lokalsøk fra andre løsninger Tillate flytt til dårligere løsninger deterministisk probabilistisk Minne hvilke løsninger er besøkt før? unngå å besøke dem igjen Variere mellom ulike nabolag INF-MAT Geir Hasle - Leksjon 8 30

31 $8# ' søkestrategier for å unnslippe lokale optima introdusert tidlig 80-tallet betydelig suksess i løsning av DOP analogier fra fysikk, biologi, menneskelige hjerne, menneskelig problemløsning mange varianter INF-MAT Geir Hasle - Leksjon 8 31

32 Simulated Annealing (SA, simulert størkning) Threshold Accepting (TA, terskelakseptanse) Genetic Algorithms (GA, genetiske algoritmer) Memetic Algorithms (MA, memetiske algoritmer) Evolutionary Algorithms (EA, Evolusjonære algoritmer) Differential Evolution (DE, differensiell evolusjon) Ant Colony Optimization (ACO, maurkolonioptimering) Scatter Search (SS, spredningssøk) Path Relinking (PR,?) Tabu Search (TS, tabusøk) Guided Local Search (GLS, styrt lokalsøk) Greedy Randomized Adaptive Search (GRASP,?) Iterated Local Search (ILS, iterert lokalsøk) Variable Neighborhood Descent / Search (VND/VNS, variabelt nabolagsnedstigning / søk) Neural Networks (NN, nevrale nett) INF-MAT Geir Hasle - Leksjon 8 32

33 <.< ) $ # %? 0#;' En metaheuristikk er en iterativ genereringsprosess som styrer en underliggende heuristikk ved å kombinere (på en intelligent måte) ulike strategier for å utforske og utnytte søkerom (og læringsstrategier) for å finne nær-optimale løsninger på en effektiv måte INF-MAT Geir Hasle - Leksjon 8 33

34 <.< ) $ # 8#)? 0="!' Løsningsmetoder som benytter interaksjon mellom lokale forbedringsprosedyrer (lokalsøk) og strategier på høyere nivå for å unnslippe lokale optima og sørge for et robust søk i et søkerom INF-MAT Geir Hasle - Leksjon 8 34

35 7 ) ##6 ##! 6 $<: 3=<' Procedure Random_Search(f,N,Stop,initial) begin end current:=incumbent:=initial; while not Stop() do begin end current:=random_solution(n(current)) if f(current) < f(incumbent) then begin end return incumbent Stoppkriterier? incumbent:=current; INF-MAT Geir Hasle - Leksjon 8 35

36 3# 6! $3##!9 3' Inspirert av statistisk termodynamikk (nedkjøling av smeltet materiale) Brukt i optimering i 20 år (Kirkpatrick et al 1983) Bygget på lokalsøk (variant av Random Search/Random Descent) Enkel å implementere Mye litteratur Konvergerer mot globalt optimum under svake antakelser Men som oftest sakte... INF-MAT Geir Hasle - Leksjon 8 36

37 3# 6! $3' Kan uttrykkes som strategi for valg i nabolag i basalt lokalsøk: Procedure Local_Search(N,f,Strategy,Stop_Criterion) */ Strategy = SA incumbent:=current:= Find_Initial_Solution() Repeat (current,incumbent):= Select_SA_Neighbor(f,current,N(current),Stop_Criterion) if f(current)< f(incumbent) then incumbent :=current Until Stop_Criterion() return incumbent INF-MAT Geir Hasle - Leksjon 8 37

38 7#! ) #; 3 Procedure Select_SA_Neighbor (f,current,neighbors,stop_criterion) */ Strategy is Simulated Annealing while not Stop_Criterion() do begin end i:=random_element(neighbors) delta := f(i) - f(current) if delta < 0 or Random(0,1) < exp(-delta/t) then return i INF-MAT Geir Hasle - Leksjon 8 38

39 ) *#! #6! e t Tilfeldig nabolagssøk Lokalsøk (Random Descent) t = t 0 INF-MAT Geir Hasle - Leksjon 8 39

40 3 #; ) 3 Modell: tilstandsoverganger i søkerommet Overgangssannsynligheter [p ij ] mellom løsninger Kun avhengig av i og j: homogen Markovkjede Når alle overgangssannsynligheter er endelige, vil SA-lokalsøket konvergere mot en stasjonær fordeling som er uavhengig av startløsningen. Når temperaturen går mot null vil denne fordelingen gå mot en uniform fordeling over de globale optima. Statistisk garanti for at SA finner globalt optimum I praksis: eksponensiell kjøretid for å garantere optimum INF-MAT Geir Hasle - Leksjon 8 40

41 3 heuristisk approksimasjonsalgoritme oppførsel sterkt avhengig av nedkjølingsplan teori: ønskelig med eksponensielt antall iterasjoner ved hver temperatur i praksis: stort antall iterasjoner, få temperaturer lite antall iterasjoner, mange temperaturer INF-MAT Geir Hasle - Leksjon 8 41

42 3 /<< geometrisk rekke ti+ 1 = ati, i = 0,, K a < 1 ( ) antall repetisjoner kan varieres adaptivitet: variabelt antall trekk før temperaturreduksjon eksperimentering nødvendig INF-MAT Geir Hasle - Leksjon 8 42

43 3 /8# "#! Nedkjølingsplan basert på maksimal forskjell mellom løsninger i nabolag antall repetisjoner ved hver temperatur reduksjonsraten Adaptivt antall repetisjoner flere repetisjoner for lavere temperaturer antall aksepterte flytt, men maksimalgrense Svært lave temperaturer er unødvendig Nedkjølingsrate er viktigere enn nedkjølingsmetode INF-MAT Geir Hasle - Leksjon 8 43

44 3 /.! )# Probabilistisk Endret akseptansesannsynlighet Forenklet kostnadsfunksjon Approksimasjon av eksponensialfunksjon / tabell Få temperaturer Omstart Deterministisk Terskelakseptanse (Threshold Accepting, TA) Record-to-Record Travel Nedkjølingsplan Omstart INF-MAT Geir Hasle - Leksjon 8 44

45 7#! ) #; #==!$' Procedure Select_TA_Neighbor (f,current,neighbors,incumbent,theta1) */ Strategy is Threshold Accepting while true do begin end i:=random_element(neighbors) delta := f(i) - f(current) */ SA: if delta < 0 or Random(0,1) < exp(-delta/t) if delta < theta1 */ Positive Threshold w.r.t. current then return (i, if f(i)< incumbent i then i else incumbent) Problem med denne prosedyren? INF-MAT Geir Hasle - Leksjon 8 45

46 7#! ) #; :=:=)# Procedure Select_RRT_Neighbor (f,current,neighbors,incumbent,theta2) */ Strategy is Record-to-Record Travel while true do begin end i:=random_element(neighbors) */ SA, TA: delta := f(i) - f(current) */ SA: if delta < 0 or Random(0,1) < exp(-delta/t) if f(i) < theta2*incumbent */ theta2 > 1 then return (i, if f(i)< incumbent i then i else incumbent) INF-MAT Geir Hasle - Leksjon 8 46

47 3 / 0". Preprossesering god startløsning Standard lokalsøk underveis hvert aksepterte flytt hver forbedrende flytt SA i konstruksjonsheuristikker INF-MAT Geir Hasle - Leksjon 8 47

48 3 %! Inspirert av statistisk mekanikk - nedkjøling Metaheuristikk lokalsøk tilfeldig nedstigning tilfeldighet for å unngå lokalt optimum Enkel og robust metode, raskt å komme i gang Bevis for konvergens til globalt optimum verre enn komplett søk I praksis: beregningskrevende finjustering kan gi gode resultater god der det er vanskelig å lage robuste heuristikker som baseres på problemstruktur INF-MAT Geir Hasle - Leksjon 8 48

49 Basert på lokalsøk Søker å unngå lokale optima ved å tillate ikke-forbedrende flytt Bruk av minne for å unngå løkker spre søket (diversifisering) Generell strategi for å styre nabolagssøk/ indre heuristikker Meta-heuristikk (Glover) INF-MAT Geir Hasle - Leksjon 8 49

50 8#!! "6 Lokalsøk med Beste Nabo -strategi Alltid flytt til beste nabo ( aggressivt lokalsøk ) Fordel/ulempe? Men: noen naboer er tabu defineres av tabu-kriterier Men: noen er tilgjengelige (admissible) likevel bestemmes av admissibilitetskriterier typisk eksempel: beste løsning hittil Minne (korttids): Tabuliste INF-MAT Geir Hasle - Leksjon 8 50

51 ". defineres på egenskaper ved løsninger eller flytt - attributter hvor ofte eller hvor nylig - (frequency, recency) har denne attributten vært involvert i (å generere) løsning datastruktur: tabu-liste INF-MAT Geir Hasle - Leksjon 8 51

52 ,=#A3= $3999B=A"A3=' i=init_solution(s) incumbent:=i */ best solution until now */ local_optimum:=false while not Stopping_Criterion() do (i,incumbent):= Search_the_Neighborhood (i,n,f,basic_tabu_search,incumbent) */ if local_optimum return incumbent od return incumbent INF-MAT Geir Hasle - Leksjon 8 52

53 3=AA!" $=999!;9="' */ Assuming strategy=basic_tabu_search */ best_neighbor:=current best_acceptable_neighbor:=really_bad_solution() neighbors=n(current) for i in neighbors do if f(i) < f(best_acceptable_neighbor) and (not Tabu(i,Tabu_List) or Admissible(i)) then best_acceptable_neighbor:=i od if f(best_acceptable_neighbor) < f(incumbent) then incumbent:= best_acceptable_neighbor Update_Tabu_List(best_acceptable_neighbor,Tabu_List) return (best_acceptable_neighbor,incumbent) INF-MAT Geir Hasle - Leksjon 8 53

54 1# 3& Representasjon: permutasjonsvektor Flytt: parvis bytte 5 ( i, j) i < j i, j [ 1, n] INF-MAT Geir Hasle - Leksjon 8 54

55 3&# #; B;.) #; B;$9C' INF-MAT Geir Hasle - Leksjon 8 55

56 3&# Antall flytt: Til hvert flytt: flyttverdi n 2 ik + 1 Nσ( ik ), k = 0, = f ( i ) f ( i ), i N( i ) k + 1 k + 1 k k + 1 k Valg av taburestriksjon attributt: de byer som inngår i flytt det er tabu å foreta flytt som involverer samme byer de siste k iterasjoner k=3 (tabu-varighet, tabu tenure ) Valg av aspirasjonskriterium beste løsning hittil INF-MAT Geir Hasle - Leksjon 8 56

57 3&# "! Attributt: paret av byer som er involvert i flyttet Tabu: flytt som involverer samme par Antall iterasjoner til flytt blir lovlig igjen (tabuvarighet): 3 Datastruktur: triangulær tabell, antall iterasjoner til trekk blir lovlig igjen Oppdateres for hvert flytt INF-MAT Geir Hasle - Leksjon 8 57

58 3&#. D Bytte Verdi 3,1-2 2,3-1 3,6 1 7,1 2 6, INF-MAT Geir Hasle - Leksjon 8 58

59 3&# )" #! Brukes typisk til å diversifisere (spre) søket Aktiveres f. eks. når det ikke er forbedrende flytt Vanlig å bruke straff for flytt som er utført ofte i langtidsstrategi for diversifisering Tabu-status (nærhet i tid) Frekvens av flytt INF-MAT Geir Hasle - Leksjon 8 59

60 3 8##! Finn initiell løsning x Initialiser minne H Iterer inntil stoppkriterium er oppfylt: Finn kandidatliste Candidate_N(x) blant akseptable løsninger i N(x) Velg (med begrensete ressurser) den løsning i kandidatlisten som minimerer en utvidet kostnadsfunksjon c(h,x) Oppdater lokalsøk-strukturer og minnet H INF-MAT Geir Hasle - Leksjon 8 60

61 0)#! 3 Valg av nabolag N Definisjon av minnet H Hvordan kandidatlisten Candidate_N(x) bestemmes tabukriterium, attributt aspirasjonskriterium langtidsstrategi (inkludering av eliteløsninger) Evalueringsfunksjon c(h,x) Ofte implementeres kun grunnleggende tabusøk INF-MAT Geir Hasle - Leksjon 8 61

62 "6" Attributt: Egenskap ved løsning eller flytt Kan baseres på ethvert aspekt av løsningen som endres ved flytt Utgangspunkt for definisjon av taburestriksjoner Ett flytt kan endre mer enn ett attributt INF-MAT Geir Hasle - Leksjon 8 62

63 B#)")! Statisk t=7 t= n der n er mål for problemstørrelse Dynamisk t [5,11] t [.9 n, 1.1 n] Avhengighet av attributt TSP-eksempel kant-attributt, tabukriterier for kant inn og ut færre kanter inne enn ute samme tabuvarighet vil være ubalansert INF-MAT Geir Hasle - Leksjon 8 63

64 . Når kan taburestriksjoner ignoreres? Kan være viktig for ytelse Klassisk aspirasjonskriterium: Aksepter tabu flytt som gir beste løsning hittil Andre muligheter: kriterier basert på grad av endring grad av brukbarhet Influens av flytt: Grad av strukturell endring av løsning avstandsmål for løsninger Eksempel: Hamming-avstand Flytt med høy influens kan være viktige å forfølge når søket er nær et lokalt optimum INF-MAT Geir Hasle - Leksjon 8 64

65 !!)! Intensifisering: Aggressiv prioritering av gode løsningsattributter i ny løsning kort sikt: basert direkte på attributtene lengre sikt: bruk av eliteløsninger, deler av eliteløsninger (vokabularer) Diversifisering: Spredning av søk, ved at en prioriterer flytt som gir løsninger med nye sammensetninger av attributter INF-MAT Geir Hasle - Leksjon 8 65

66 !!)! # bruk av frekvensbasert minne basert på delmengde S av alle løsninger diversifisering: S velges slik at den inneholder stor andel av genererte løsninger (f. eks. alle lokale optima) intensifisering: S velges som liten delmengde av eliteløsninger som i stor grad har sammenfallende attributter har liten avstand i søkerommet Flere slike delmengder - partisjonering, cluster-analyse INF-MAT Geir Hasle - Leksjon 8 66

67 3!! $&!!#' Brukes i evaluering av flytt, tillegg til objektiv Gulrot for intensifisering vil være pisk for diversifisering (og omvendt) Diversifisering flytt til løsning som inneholder attributter med høy frekvens straffes TSP-eksempel: g(x)=f(x)+w 1 Σω ij Intensifisering flytt til løsning som inneholder attributter med høy frekvens blant eliteløsningene oppmuntres TSP-eksempel: g(x)=f(x)-w 2 Σγ ij INF-MAT Geir Hasle - Leksjon 8 67

68 & #! Velger to eliteløsninger x og x Lager (kortest mulig) sti av løsninger som forbinder dem x -> x (1)->... x (r)= x En eller flere av løsningene på stien velges som ny initiell løsning INF-MAT Geir Hasle - Leksjon 8 68

69 3!=#! Mål: effektivt samspill mellom intensifisering og diversifisering Oppdeling av søket i faser brukbare løsninger / ubrukbare løsning kan realiseres med modifisert evaluering Eksempel: Ryggsekkproblemet INF-MAT Geir Hasle - Leksjon 8 69

70 "63! Inspirert fra matematisk optimering og kunstig intelligens/kognitiv vitenskap Fokus på bruk av minne fremfor bruk av tilfeldighet Basert på aggressivt lokalsøk, aksepterer flytt til dårligere løsning Kandidatliste-strategier for billigere evaluering av nabolag Bruk av korttidsminne attributter unngå reversering og repetisjon tabukriterier, tabuliste Aspirasjonskriterier - tabuer er til for å brytes... Diversifisering og intensifisering Path relinking Strategisk oscillering Gode resultater for mange, harde DOP INF-MAT Geir Hasle - Leksjon 8 70

71 8,=#3= Generell strategi, metaheuristikk, for å styre nabolagssøk/ indre heuristikker Straffer uønskede egenskaper ( features ) i løsninger Fokuserer på lovende deler av søkerommet Søker å unngå lokal optima ved å jobbe med en utvidet objektivfunksjon (original + straffeledd) Kjører lokalsøk til (lokalt) minimum, straffer egenskaper, lokalsøk til minimum, straffer,. INF-MAT Geir Hasle - Leksjon 8 71

72 1! GLS fokuserer på karakteristiske (ikke-trivielle) egenskaper (features) ved løsninger Problemavhengige Egenskaper har en kostnad. Kostbare egenskaper prøver en å unngå. Representerer direkte eller indirekte innvirkning fra en løsning på (utvidet) objektivfunksjon Konstant eller variabel Indikatorfunksjon: 1, hvis løsning s har feature i I ( s) =, i s S 0, hvis løsning s ikke har feature i INF-MAT Geir Hasle - Leksjon 8 72

73 1! # 3& En løsning (tur) er et antall kanter En kant er godt valg som egenskap: Er enten med i en løsning eller ikke egenskap-kostnad = kantlengden La f.eks. settet av alle kanter e ij være egenskaper: E = { e }, i= 1... N, j = i N, i j ij Kostnad for en egenskap e ij er gitt av d ij i distansematrisen: D = [d ], i=1...n, j=1...n ij INF-MAT Geir Hasle - Leksjon 8 73

74 >) ".). Sett av egenskaper F={ f i Indikatorfunksjon: }, i=1 G 1, hvis løsning s inneholder fi Ii ( s) =, s S 0, hvis løsning s ikke inneholder fi Straffevektor p=[p i ], i=1 G, antall ganger egenskap f i er straffet til nå Straffefaktor eller reguleringsparameter G O'( s) = O( s) + λ Ii( s) p i= 1 i Kostnadsvektor c=[c i ], c i > 0, i=1 G, gir kostnad for f i INF-MAT Geir Hasle - Leksjon 8 74

75 >) ".). O'( s) = O( s) + λ I ( s) p i G i= 1 i Reguleringsparameteren gir straffens innflytelse på den utvidede objektivfunksjonen. Lav verdi: intensifisering Høy verdi: diversifisering Initielt er p i =0 i I lokale minima velges den (de) f i som har høyest verdi ( utility ), u i (s min, f i ) = I i * c i /(1+p i ). Denne egenskapen straffes ved å sette p i = p i +1. Diversifisering: ulike egenskaper straffes egenskaper med høy kostnad straffes oftere enn de med lav kostnad Merk: Bare egenskaper i lokale minima, s min, straffes INF-MAT Geir Hasle - Leksjon 8 75

76 8,3$ =9 9 ' { } int k = 0; // number of GLS-iterations s* = s 0 = generateinitialsolution(s); // get initial solution set all p i := 0; // set all penalties to zero while (stopcriterion not satisfied) do { O = O + *(I i *p i ); s k+1 = Local_Search (s k, O, N, best accept ); // local minimum for (i=1 to G) u i = I i (s k+1 )* c i /(1+p i ); for each i such that u i is maximum do p i := p i + 1; k = k+1; if (O(s k+1 ) < O(s*)) s* = s k+1 ; // save best solution found until now } return s*; INF-MAT Geir Hasle - Leksjon 8 76

77 0#8 B- Kromosom, komponentvektor, vektor, streng, løsning, individ x=(x 1,..., x 7 ) Gen, Komponent, Variabel, x 3 Locus, posisjon Allele, verdi x 3 {0,1} Alleler, domene INF-MAT Geir Hasle - Leksjon 8 77

78 8 1)#. Generasjon X Generasjon X+1 Mutasjon M=10 Krysning Seleksjon INF-MAT Geir Hasle - Leksjon 8 78

79 0#8 B Funksjonsoptimering kromosom svarer til binær enkoding av reelt tall - min/maks av vilkårlig funksjon DOP, eksempelvis TSP binær enkoding av løsning ofte bedre med mer direkte representasjon (f. eks. sekvensrepresentasjon) INF-MAT Geir Hasle - Leksjon 8 79

80 INF-MAT Geir Hasle - Leksjon 8 80

81 8 0# ;! $2' En forelder velges basert på fitness Den andre forelder velges tilfeldig Tilfeldig valg av krysningspunkt Forelder Forelder Krysningspunkt Avkom Avkom 2 INF-MAT Geir Hasle - Leksjon 8 81

82 8 /# ;! Vilkårlig individ i populasjonen byttes ut med ett av de to avkom Reproduksjon så lenge du orker Kan betraktes som sekvens av nesten like populasjoner Alternativt: en av foreldrene velges strengt etter fitness krysning skjer inntil M avkom er dannet den nye populasjonen består av avkommet Mange andre muligheter... Grunnleggende GA med klassisk krysning og mutasjon virker ofte bra INF-MAT Geir Hasle - Leksjon 8 82

83 8 /.# Fast populasjonsstørrelse Standard krysning en forelder velges tilfeldig etter fitness den andre velges tilfeldig tilfeldig krysningspunkt et tilfeldig individ byttes ut med ett av avkommene Mutasjon en viss sannsynlighet for at individene muteres tilfeldig hvilket gen som muteres standard: mutasjon av avkom INF-MAT Geir Hasle - Leksjon 8 83

84 #; ) 8 $(#' Skjema: delmengder av lignende kromosomer samme alleler i visse loki * * 1 * 0 * * Et gitt kromosom er med i mange skjema Hvor mange? INF-MAT Geir Hasle - Leksjon 8 84

85 3. I GA med standard reproduksjonsplan der sannsynlighet for krysning og mutasjon er P c og P m, respektive, og skjema S med orden k(s) og lengde l(s) har fitness-forhold f(s,t) i generasjon t, så er forventet antall representanter for skjema S i generasjon t+1 begrenset av: l( S) E ( S, t + 1) 1 P ( 1 (, )) c P S t Pm k( S) f ( S, t) N( S, t) n 1 INF-MAT Geir Hasle - Leksjon 8 85

86 0# Representasjonen av skjema S vil i gjennomsnitt øke dersom l( S) f ( S, t) 1 + Pc + Pm k( S) n 1 Korte, lavordens skjema vil øke sin representasjon forutsatt at deres fitness-ratio er litt større enn 1, mens lengre, høyere-orden skjema må jobbe hardere for å overleve INF-MAT Geir Hasle - Leksjon 8 86

87 8 /B;!!"#; Goldberg (1989) Korte, lavordens skjema kombineres til bedre og bedre løsninger INF-MAT Geir Hasle - Leksjon 8 87

88 8 />)# &#.6# Små populasjoner - underdekning Store populasjoner beregningsmessig krevende Optimal størrelse øker eksponensielt med strenglengden i binære enkodinger Ofte kan størrelser på 30 virke bra mellom n og 2n (Alander) INF-MAT Geir Hasle - Leksjon 8 88

89 8 />)# 8# ;! Bit-streng sier hvor genene skal hentes fra INF-MAT Geir Hasle - Leksjon 8 89

90 8 /1!!. Ikke-binær enkoding Sekvensrepresentasjon PMX (Partially Mapped Crossover) 2-punkts krysning P1 P O1 O INF-MAT Geir Hasle - Leksjon 8 90

91 8 (;"! GAs styrke og svakhet: domeneuavhengighet Hybridisering Såing, gode individer i initialpopulasjon Lokalsøk på individer Kombinasjon med andre metaheuristikker INF-MAT Geir Hasle - Leksjon 8 91

92 8 %! Viktige karakteristika populasjon av løsninger domeneuavhengighet enkoding mangel på utnyttelse av struktur iboende parallellitet skjema, vokabular robusthet gode mekanismer for intensifisering mangler noe diversifisering Hybrid med lokalsøk: Memetic algorithms INF-MAT Geir Hasle - Leksjon 8 92

93 #! %& 4#; %5 $4%' Introdusert av Dorigo, Maniezzo & Colorni 1992 Populasjonsbasert metaheuristikk Hver maur i populasjonen konstruerer en løsning Når alle er ferdige oppdateres et minne (kunstig feromon) Løsningskonstruksjon og minneoppdatering repeteres inntil stoppkriterium er oppfylt INF-MAT Geir Hasle - Leksjon 8 93

94 ; %& 3; $3' Første ACO-metode (Dorigo 1992) Løsningskonstruksjon (for hver maur) Beslutninger tas probabilistisk e.g.: TSP (første anvendelse) Konstruksjonsmekanisme Nærmeste nabo tilfeldighet Tilfeldig valgt startby B 7 B 1 B 6 Depot B 3 B 5 B 2 c 45 B 4 INF-MAT Geir Hasle - Leksjon 8 94

95 ; 0. Lokale beslutninger under konstruksjon baseres på: en konstruktiv heuristisk (grådig) regel et lokalt kvalitetskriterium(a priori heuristisk informasjon) et adaptivt minne (et dynamisk, globalt kvalitetskriteriumτ ) tilfeldighet p ij = h Ω β [ σ ] [ τ ] i ij ij β [ σ ] [ τ ] ih α ih hvis h 0 ellers α Ω i σ = ij 1 c ij for TSP der Ω i er mengden av tillatte alternativer INF-MAT Geir Hasle - Leksjon 8 95

96 ;$' %! ) ;. $' TSP-eksempelet: Alle kanter oppdateres etter hver iterasjon, for hver maur ( m) τ ij = (1 ρ) τ ij + τ ij, 0 < ρ 1 (1 ρ) τ ij m M er feromon på kant ij etter fordampning m M τ m ij τ m ij = er forsterkningen av kant ij (feromonutslipp fra maur m) 1, hvis ( i, j) s m f ( s ) 0 ellers m INF-MAT Geir Hasle - Leksjon 8 96

97 0!! ) Individ vs. populasjon Probabilistiske vs. deterministiske Minneløse vs. minnerike Modifikasjon av kostnadsfunksjon Nabolagsbaserte vs. Multi-start baserte INF-MAT Geir Hasle - Leksjon 8 97

98 "#!" ) #" Nabolagsbaserte Essensielt varianter av lokalsøk SA, TA (grunnleggende), GLS Multi-start baserte Iterativ generering av startløsninger for lokalsøk Startløsningene tas videre med lokalsøk GA, Evolusjonsalgoritmer, Memetic Algorithms Maurkolonialgoritmer, ACO GRASP Variabelt nabolagssøk Iterert lokalsøk INF-MAT Geir Hasle - Leksjon 8 98

99 0) Grådig konstruksjon grad av lokalitet i beslutningene informerte valg vs. regnetid Rekkefølge-basert konstruksjon Kritikalitet Statisk vs. dynamisk evaluering Parallell vs. sekvensiell konstruksjon Sæd (seeds) Kombinasjon med søk lokalsøk systematisk Squeaky Wheel optimering INF-MAT Geir Hasle - Leksjon 8 99

100 ##! $::/::' Procedure Random_Restart (S,N,f,Stop_Criterion) current=init_solution(s) incumbent:=current */ best solution until now while not Stop_Criterion() do local_optimum:=local_search_sd(current,n,f) if f(local_optimum) < f(incumbent) then incumbent:= local_optimum fi current:=random_init_solution(s) od return incumbent */ best solution until now INF-MAT Geir Hasle - Leksjon 8 100

101 8:3& Variant av Tilfeldig restart Konstruksjon med tilfeldighet Ligner ACO Begrenset kandidatliste for utvidelse INF-MAT Geir Hasle - Leksjon 8 101

102 8:3& Procedure GRASP (Max_Iterations) incumbent:=bad_solution() for k:=1 to Max_Iterations do current:=local_search( Greedy_Randomized_Construction()) if f(current) < f(incumbent) then incumbent:= current fi od return incumbent */ best solution until now INF-MAT Geir Hasle - Leksjon 8 102

103 8:3& /:54= Procedure Greedy_Randomized_Construction() solution := Empty_Solution() while not Complete(solution ) do od Restricted_Candidate_List :=Evaluate_Incremental_Costs(solution) partial_solution:=extend_solution(solution,random_elem ent(restricted_candidate_list)) return solution INF-MAT Geir Hasle - Leksjon 8 103

104 8:3& /:= 4, Restriksjon kan være Kardinalitetsbasert Verdibasert ( ) c(e) c,c + α c c min min max min Reaktiv GRASP: automatisk justering Perturbasjon av kostnadsfunksjon (noising) Utvidelse med Path Relinking Preprosessor til GA INF-MAT Geir Hasle - Leksjon 8 104

105 <3E;F# %5< I en pipende maskin smøres først de deler som piper Basert på konstruktiv heuristikk der Løsning bygges opp ved suksessiv utvidelse med elementer Sekvens av elementer er viktig (prioritet av elementer) Mål på hvor fornøyd et element er i den endelige løsning Endring av rekkefølgen av elementer Repetisjon INF-MAT Geir Hasle - Leksjon 8 105

106 3E;F# %5 Procedure Squeaky_Wheel_Optimization(f) Element_Priority_List :=Determine_Element_Priorities() ; Static prioritization incumbent:=some_feasible_solution() while not Stop_Criterion() do solution:= Empty_Solution() while not Complete(solution) do solution:=augment_solution(solution, Element_Priority_List) od if f(solution) < f(incumbent) then incumbent:=solution Element_Priority_List :=Update_Element_Priorities(Element_Priority_List,solution) od return solution INF-MAT Geir Hasle - Leksjon 8 106

107 7"# "#!6 $73' Lokalt optimum er relativt til nabolag Et lokalt optimum m.h.t. ett nabolag er ikke nødvendigvis lokalt optimum m.h.t et annet Et globalt optimum er et lokalt optimum for alle nabolag Lokale optima er ofte nær hverandre Grunnleggende idé i VNS: Systematisk variasjon av nabolag Nabolagsstruktur N, k = 1, k k max INF-MAT Geir Hasle - Leksjon 8 107

108 7"#!"=$7' Procedure VND (N[1..kmax]) incumbent:=initial_solution() while not Stop() do restart: for k:=1 to kmax do local_optimum:=local_search(n(k),incumbent) ; Variants: Just pick better or best neighbor if f(local_optimum) < f(incumbent) then incumbent:= local_optimum if not Stop() goto restart fi fi od return incumbent */ best solution until now INF-MAT Geir Hasle - Leksjon 8 108

109 7"#!"3=$73' Procedure VNS (N[1..kmax]) incumbent:=current:=initial_solution() while not Stop() do restart: for k:=1 to kmax do current:=random_element(n(k)) local_optimum:=local_search(n(k),current) ; Variants: Just pick better or best neighbor if f(local_optimum) < f(incumbent) then incumbent:= local_optimum if not Stop() goto restart fi od return incumbent */ best solution until now INF-MAT Geir Hasle - Leksjon 8 109

110 ##6 Prøver å iterere slik at vi unngår å restarte i samme Basin of attraction Gjør dette ved perturbasjon av beste løsning Diversifisering INF-MAT Geir Hasle - Leksjon 8 110

111 ##6 Procedure Iterated_Local_Search(N,f) current:=incumbent:=local_search(initial_solution(),n,f) while not Stop_Criterion() do new_start:=perturbation(current,history) new_local:= Local_Search(new_start,N,f) if f(new_local) < f(incumbent) then incumbent:=new_local fi if Accept(new_local,current,history) then current:= new_local fi od return incumbent INF-MAT Geir Hasle - Leksjon 8 111

112 ##6 Hvor stor skal perturbasjonen være? for liten perturbasjon: fare for å havne i samme Basin of attraction for mye perturbasjon: Random restart variabel perturbasjon Ruin and Recreate Very Large Neighborhood Search Distansemål kan være nyttig Måle distanse til lokale optima underveis INF-MAT Geir Hasle - Leksjon 8 112

113 ##6 Perturbasjon ved trekk i høyordens nabolag Perturbasjon ved fjerning og gjenoppbygging Ruin and Recreate Tilfeldig perturbasjon Fokusert perturbasjon Distansemål sjekke distanse til lokale optima underveis INF-MAT Geir Hasle - Leksjon 8 113

114 <,=< $F#? =:;9 2GG' Uformell beskrivelse: Når vi midler over alle probleminstanser i et gitt søkerom så har alle søkealgoritmer samme gjennomsnittlige ytelse. For enhver algoritme, så betales enhver fordel m.h.t. løsning av en klasse av problemer med tilsvarende ulempe for en annen klasse. INF-MAT Geir Hasle - Leksjon 8 114

115 (; Metaheuristikker er ikke generelle Det fins ingen beste metaheuristikk No free lunch -teoremet Hyperheuristikker Generelle søketeknikker Basert på (meta)heuristikker Bruk av (meta)heuristikker for å velge (meta)heuristikk under søk bruker ikke domenekunnskap INF-MAT Geir Hasle - Leksjon 8 115

116 (; Hyperheuristikk Domenebarrière h1 h2 h3 h4 h5 h6 Evalueringsfunksjon INF-MAT Geir Hasle - Leksjon 8 116

117 (; Informasjon til hyperheuristikk Hver (meta)heuristikk CPU-tid brukt Endring i objektfunksjon Effektivitet Hvor lenge siden er det siden heuristikken sist ble kalt INF-MAT Geir Hasle - Leksjon 8 117

118 (; Kvalifisert valg av heuristikk for å løse delproblem Læring under søk Probabilistisk valg av heuristikk Rulett-seleksjon INF-MAT Geir Hasle - Leksjon 8 118