Adaptivt lokalsøk for boolske optimeringsproblemer

Transkript

1 Adaptvt lokalsøk for boolske optmerngsproblemer Lars Magnus Hvattum Høgskolen Molde Arne Løkketangen Høgskolen Molde Fred Glover Leeds School of Busness, UCB 49, Unversty of Colorado, Boulder, CO 80309, USA Utdrag V presenterer et adaptvt lokalsøk for boolske optmerngsproblemer. Søket balanserer mellom å oppfylle restrksjoner form av et boolsk uttrykk og å fnne gode verder for en tlhørende målfunksjon, samtdg benyttes enkle mekansmer fra tabusøk. Det rapporteres resultater oppnådd for en portefølje med testproblemer hentet fra publsert ltteratur, og dsse antyder at metoden er konkurransedyktg både med hensyn tl løsnngskvaltet og td. Innlednng Boolske optmerngsproblemer (BOOP) representerer en stor klasse bnære optmerngsmodeller, nkludert vektede utgaver av Set Coverng-, Graph Stablty-, Set Parttonng- og Maxmum Satsfablty-problemer. Dsse problemene er såkalt NPharde, og bruk av heurstske søkemetoder er godt egnet selv for problemer av moderat størrelse. Her beskrves en rmelg enkel, teratv søkeprosedyre for denne problemklassen, hvor det benyttes adaptv hukommelse og lærngsprnspper hentet fra tabusøk. Styrng av søket er basert på en strategsk oscllasjon rundt avgrensnnger uttrykt en boolsk lknng, og koordnerer samspllet mellom endrnger målfunksjonen og endrnger tlfredsstllelse av den boolske lknngen. Dette modfseres så av mekansmer fra tabusøk, som sammen med perodsk å starte søket på nytt, sørger for å bre søket utover løsnngsrommet. Tdlgere arbed med heurstkker for BOOP er hovedsaklg utført av Davone, Hammer og Vzvár (200). De benytter en grådg heurstkk basert på pseudo-boolske funksjoner, med avkuttng av lokalt optmale løsnnger som man fnner. Tlnærmngen deres har lkheter med Lagrange-relaksasjon, og bruker en formulerng DNF (dsjunktv normalform). V baserer våre resultater på problemporteføljen deres, og sammenlgner oss både med det som er oppnådd av Davone, Hammer og Vzvár, så vel som av XPRESS/MP ( og CPLEX (

2 Denne ntroduksjonen etterfølges av problemformulernger seksjon 2. Seksjon 3 beskrver vår tlnærmng samt tester for parametre knyttet tl søket, mens seksjon 4 antyder resultatene som er oppnådd. Konklusjonene oppsummeres seksjon 5, sammen med mulgheter for fremtdg arbed. 2 Problemformulerng Det boolske optmerngsproblemet (BOOP), først formulert Davone, Hammer og Vzvár (200), er basert på logske uttrykk første ordens utsagnslogkk, med en ekstra kostnad (eller proftt) assosert med varablene som har verden sann (eventuelt usann). En formulerng kan være (hvor maksmerng forutsettes) Max f = n = ( c x = sann / usann) slk at sann φ ( X ) = φ( x,..., xn ) = usann Hvor φ (X ) er det logske uttrykket, og n er antall varabler. Løsnngen av dette problemet er de tldelngene av sannhetsverder tl varablene x,..., x n som gr høyest verd for målfunksjonen f, samtdg som det logske uttrykket er tlfredsstlt. Det logske uttrykket kan generelt være vlkårlg, men v avgrenser oss tl formulernger konjunktv normalform, CNF (dsjunktv normalform kan fremkomme gjennom en enkel transformasjon). Uformelt kan et BOOP oppfattes som et Satsfablty problem (SAT) med en ekstra målfunksjon. (For mer om SAT, se for eksempel Cook, 997 og Du et al., 997.) For å kunne håndtere dette som et tradsjonelt optmerngsproblem, med tall heller enn sannhetsverder, lar v den logske verden sann bl representert med og verden usann med 0, som gr oss målfunksjonen Max f = n = c x Det logske uttrykket φ (X ), CNF, består av konjunksjoner av klausuler φ( X ) = k k 2... km, hvor hver klausul er en dsjunksjon av negerte og kke-negert varabler, med m lk antall klausuler. Som et enkelt eksempel, la φ( X ) = ( x (x x ) x ) 2 3 Ved å erstatte sann/usann med /0, dsjunksjoner med +, ved å representere hver konjunksjon med en separat rad og dele hver varabel sne negerte og kke-negerte forekomster, får man følgende samlng restrksjoner for eksempelet, der varabelparet y # og y representerer x : y + y y 2 + y 3# y + y # =

3 Vår endelge modell er dermed gtt Max f = n = c x (.) Dy (.2) y + y # = (.3) Hvor D er 0- matrsen som følger ved å erstatte y og y# for x. Den sste restrksjonen (.3) håndteres mplstt av heurstkken v beskrver. 3 Adaptvt lokalsøk (tabusøk) Lokalsøket v har mplementert er basert på en elementær utgave med tabu-aktverng av varablene, og en selvtlpassende trekkevaluerngsfunksjon. Trekkevaluerngen forsøker å holde fokus på å oppfylle restrksjonene (.2), men samtdg opprettholde gode målfunksjonsverder (.). 3. Implementasjon av søket Det er forsøkt å ha en enkel mplementasjon, for å kunne legge tl mer sofstkerte mekansmer senere arbed. Det benyttes eksempelvs tlfeldge startløsnnger samtdg som søket blr startet på nytt fra tlfeldg løsnnger undervegs, hvlket presumptvt kan forbedres tabusøk-paradgmet slk det ndkeres Glover og Laguna (997). Implementasjonen har følgende komponenter.. Den ntelle løsnngen (startpunktet) er basert på tlfeldge tldelnger tl varablene. Ettersom denne løsnngen kke nødvendgvs tlfredsstller restrksjonene tl problemet (.2), må søket kunne navgere gjennom søkerommet uavhengg av om (.2) er tlfredsstlt eller kke. 2. Et trekk er et flp av en varabel. Et flp betyr å tldele den motsatte verd tl en varabel (dvs. endre 0 eller 0 ). 3. Nabolaget er mengden av mulge flytt, med en nabolagsstørrelse lk n, antall varabler. 4. Trekkevaluerngen er basert både på endrng verd av målfunksjonen (.), og endrngen graden restrksjonene (.2) tlfredstlles. 5. Langtdslærng er mplementert ved å endre vekten av hver rad (.2), hvor hver rad tlsvarer en klausul det opprnnelge logske uttrykket. 6. Valg av trekk er grådg (dvs. man tar det beste trekket følge trekkevaluerngen). 7. Enkle tabu- og asprasjonskrterer er gjeldende. 8. Søket startes på nytt med nye tlfeldge varabeltldelnger etter et antall trekk, for å spre søket tlstrekkelg utover (dversfsere søket).

4 9. Stoppkrteret er basert på en enkel tdsfrst, eller begrensnnger antall trekk. 3.2 Tabu- og asprasjonskrterer Ettersom trekkene består av å flppe varabler, vl endrngen målfunksjonens verd, f, skfte fortegn nesten for hvert trekk. Dette fører tl at svært mange lokale optmum besøkes av søket, slk at bruk av tabukrterer er nyttg. Det er flere måter å anvende tabukrterer et søk, men vårt valg er å kke flppe tlbake en varabel som nylg er flppet. Vår hovednteresse er å holde tabu-mekansmene enkle, og samtdg oppnå god styrng av søket. Det er vktg å fnne gode verder for antall terasjoner en varabel skal holdes tabuaktv (tabu tenure - TT), og at antallet terasjoner endres dynamsk, ettersom statsk TT kan være for lte fleksbelt. Vårt valg av dynamsk tabuaktverng er å la antall tabuaktve terasjoner velges tlfeldg fra et gtt ntervall. Passende verder for antall terasjoner med TT er ekspermentelt funnet 3.4. For en generell behandlng av dsse aspektene av tabusøk, se Glover og Laguna (997). Asprasjonskrteret vrker ved å tllate trekk som ellers er tabubelagt, dersom trekket gr en ny beste løsnng. I seksjon 3.4 llustrerer v fordelen med denne enkle asprasjonen. 3.3 Adaptv trekkevaluerng Evaluerngsfunksjonen for hvert trekk,, har to komponenter. Den ene komponenten er endrng verden av målfunksjonen. Vektene av varablene, normalsert tl å lgge ntervallet målfunksjonen per trekk, f F Mj, lgger området,. c, blr ntelt 0,. Dette betyr at endrngen verd av Den andre komponenten er endrng antall kke-tlfredsstlte klausuler (eller rader restrksjonen (.2)) gtt at varabelen flppes. Dette tallet, T, er utgangspunktet et lte, postvt eller negatvt heltall, og kan fnnes fra endrngen en funksjon av sammensatte restrksjoner. (Se f.eks. Løkketangen og Glover, 996.) V utvder, som beskrevet 3.4, dette tl å nkludere ndvduell vektng av hver klausul, slk at T nå blr et flyttall. Dsse to komponentene kombneres for å g et balansert utgangspunkt for å opprettholde fokus på å nnfr restrksjonene, samt å fnne gode verder for målfunksjonen. Den relatve vekten for komponentene endres dynamsk for å holde søket nteressante områder. Dette gr følgende trekkevaluerngsfunksjon: F Mj = T + w f Verden av w, den adaptve komponenten, blr ntelt satt lk. Den oppdateres deretter for hvert trekk som følger: Dersom den gjeldende løsnngen nnfrr restrksjonene: w = w + wnk

5 Dersom den gjeldende løsnng kke nnfrr restrksjonene: w = w wdek Ulke verder brukes for henholdsvs nkrement og dekrement av w. Passende verder for vektendrngene, w nk og wdek, presenteres 3.5. Effekten av tlpassnngen er å oppnå en strategsk oscllasjon rundt grensene hvor restrksjonene oppfylles. En annen tlnærmng fnnes Glover og Kochenberger (996), hvor oscllasjonen er koblet med bruk av erndrng om krtske hendelser for å tvnge søket tl nye områder. 3.4 Langtdslærng Utgangspunktet for trekkevaluerngsfunksjonen var F Mj = T + w * f, hvor T Z skal representere endrng antall tlfredsstlte rader restrksjonene (.2). V er nteressert å unngå at den samme mengden av rader veksler mellom kke å være oppfylt. Dynamsk vektng av radene nnføres derfor på følgende vs; ntelt settes vekten av alle radene lk, men denne økes med en lten addtv konstant hver gang den tlhørende klausulen får en uønsket sannhetsverd. For å forhndre at noen av radvektene skal bl prohbtvt store, dvderes samtlge med en fast konstant hver gang en av dem passerer en øvre grense. Resultatet av dynamsk radvektng vl være at man det lange løp vl oppfordre søket tl å bryte restrksjoner som ellers kke vlle bl brutt, og dermed bre søket ut over en større del av søkerommet. 3.5 Innledende testng av søkeparametre Selv om søket v har mplementert er nokså enkelt, er det mange valg som må gjøres med hensyn tl verder for søkeparametre. Ettersom problemporteføljen som søket skal prøves mot består av et stort antall problemer (5485 alt, se seksjon 4), har v valgt ut en lten mengde testkasus for å stlle nn parametrene søket. Tre problemer ble valgt (noe tlfeldg), ett hver av kategorene lte (fra klasse 4 - rn50m200t0s0c0num0 med 50 varabler og 200 klausuler), medum (fra klasse 34 - rn200m400t0s0c50num0 med 200 varabler og 400 klausuler) og stort (fra klasse 38 - rn500m000t25s0c50num0 med 500 varabler og 000 klausuler). Det bør bemerkes at effekten av, og verdene for, de ulke parametrene kke er uavhengg. Man kunne derfor ønske å gjøre et fullt søk blant mulge verder for parametrene, men dette vrker ganske tdkrevende. Derfor har v valgt en grådg tlnærmng, hvor v velger gode verder for en søkeparameter om gangen. De øvrge parametrene er enten satt med rmelge verder, eller med de beste verdene funnet tdlgere testngen. Rekkefølgen av testngen er derfor vktg, men v har kke tatt høyde for dette. Ikke alle resultatene denne seksjonen er rapportert sn helhet, men heller oppsummert ved å ang relatv ytelse.

6 Fast TT Fast TT, dyn. eval Dyn. TT Dyn.TT, dyn. eval Fgur Verder for tabu-aktverng For å fnne gode verder for tabu-aktverng (antall terasjoner en varabel skal være tabu-aktv etter å ha bltt flppet tabu tenure - TT), og effekten av å benytte dynamsk TT, kjørte v en mengde tester for hver av de tre testproblemene. Hver test ble kjørt 20 ganger med ulke (tlfeldg generert) ntelle løsnnger. Asprasjonskrteret var nkludert, men ellers ngen andre mekansmer. Fgur vser gjennomsnttlge resultater for kjørnger med fast TT for det utvalgte medum store testproblemet, med TT området fra 0 tl 0. Den optmale løsnng er 289. Som man kan se er den beste verden rundt 40. I tllegg vser fguren gjennomsnttlg resultat med dynamsk tabuaktverng, med dynamsk oppdaterng av den adaptve komponenten trekkevaluerngen, w, samt med begge mekansmene. I tlfellet vst fgur har antall terasjoner med dynamsk tabuaktverng nedre grense lk 0 og øvre grense lke tallet på x-aksen. Hver gang en varabel flppes blr den altså tabuaktv et tlfeldg valgt antall terasjoner fra dette ntervallet. I testene med dynamsk trekkevaluerng ble det benyttet verder w = 0. 0 og w = nk dek Åpenbart er effekten av dsse mekansmene kke uavhengge, ettersom langt kortere TT er nødvendg når man benytter den selvtlpassende vekten, w, trekkevaluerngen. Fguren ndkerer at søket blr nokså ufølsomt overfor spennet av tabuaktverng når både dynamsk TT og adaptv trekkevaluerng brukes. Grafer tlsvarende fgur vl naturlgvs være forskjellg for hvert problem. Tester for de øvrge utvalgte testproblemene vser tlsvarende resultater, og en dynamsk tabuaktverng ntervallet [0-5] ble brukt for vdere testng.

7 Fgur 2 Verder for oppdaterng av adaptv trekkevaluerng Trekkevaluerngen er som nevnt basert på funksjonen F Mj = T + w f, hvor den relatve vekten av endrnger målfunksjonen forhold tl endrng antall tlfredsstlte rader restrksjonen (.2) kontrolleres av w. Denne parameteren endrer verd dynamsk som forklart seksjon 3.3. Av vktghet er å fnne gode verder for oppdaterng (nkrementerng og dekrementerng) av w, altså verder for w og. Det synes som om det er forholdet mellom verdene, wnk / w dek, og kke størrelsen på dem, som er vktgst. Dette er llustrert fgur 2, hvor gjennomsnttlg verd for målfunksjonen er vst for ulke kombnasjoner av w nk og wdek for det store testproblemet. Tlsvarende resultater oppnås for de andre testproblemene. Det beste forholdet ser ut tl å være et nkrement rundt 2.5 ganger større enn dekrementet, og for vdere testng ble det valgt å bruke w = 0.90 og w = nk dek nk w dek Effekt av asprasjonskrteret Bruken av asprasjonskrterer er antatt å være vktg tabusøk, da tabukrteret ellers vl begrense søket for mye. Denne antagelsen er sjelden dokumentert ltteraturen. Effekten av vårt valg av asprasjonskrterum (å akseptere en ny beste løsnng) er vst tabell for de 3 første klassene av testproblemer (se seksjon 4 for mer om testproblemene). Søket ble tldelt 5 sekunder per problem, hvor søket startes på nytt undervegs som beskrevet nedenfor. Klassene -3 er blant de mnste testproblemene, hvor optmum fnnes nokså enkelt de fleste tlfellene. Selv om resultatene uten bruk av asprasjon er bedre enn resultatene rapportert av Davone, Hammer og Vzvár (200), er resultatene enda bedre, både med tanke på kvaltet og td brukt tl å fnne beste løsnng, når asprasjonskrteret benyttes.

8 Tabell. Effekt av asprasjon Uten asp. % av med asp. Uten asp. Td tl beste Med asp. Td tl beste Klasse Klasse Klasse Klasse Klasse Klasse Klasse Klasse Klasse Klasse Klasse Klasse Klasse Parametre for langtdslærng For dynamsk vektng av radene var det 3 parametre som måtte bestemmes; verd for nkrement,, verd for øvre grense, DR, samt dvsoren når vektene DR nk normalseres, DR dv. Testene ble gjennomført på samme vs som tabu-aktverng, men uten entydge resultater. Dog antydet testngen at dynamske radvekter jevnt over var bedre enn statske vekter, og verder for parametrene ble derfor valgt fra ntervaller som syntes lovende hvlket gav henholdsvs DR nk = 0.003, DR = lm 4 og DRdv = 2. For mer om parameternnstllngen, og andre forsøk på langtdslærng dette rammeverket, se Hvattum (2002). Om å starte søket på nytt undervegs lm Uten bruk av speselle mekansmer for å spre søket er det sannsynlg at søket blr mndre effektvt etter en stund, om det holder seg den samme delen av søkerommet. Det er derfor vanlgvs på sn plass med en metode som sørger for å flytte søket tl nye steder. Vårt valg har falt på ganske enkelt å starte søket på nytt, fra et tlfeldg sted, etter et antall terasjoner uten at en ny beste løsnng er funnet. Tabusøk fremmer normalt bruk av mer strategske metoder for dversfkasjon, slk som de ovenfornevnte dynamske radvektene, men v har funnet at en restart-strateg uansett er lønnsomt dette adaptve lokalsøk-rammeverket. V kjørte en rekke tester for å avgjøre hvor lenge man burde vente før søket ble startet på nytt. Løsnngstdene for dsse testene ndkerte at antall terasjoner mellom restartene hadde en sammenheng med problemstørrelsen uttrykt både antall varabler, antall rader restrksjonen (.2) samt antall elementer ulk 0 per rad. Valget falt på å la søket bl startet på nytt etter 5* R I terasjoner uten forbedrng, hvor R I er produktet av antall varabler og gjennomsnttlg antall elementer ulk 0 per rad.

9 4 Resultater For å prøve ut metodene våre har v benyttet den samme problemporteføljen som Davone, Hammer og Vzvár (200). Dsse kan hentes med anonym ftp fra rutcor.rutgers.edu og katalogen /pub/bop. V rapporterer våre resultat samme rammeverk som dsse, for å gjøre sammenlgnnger enklere. Det er tre grupper av testproblemer, alle tlfeldg generert, hvor klasse -49 er tlfeldge problemer, klasse er Graph Stablty-problemer og klasse er Set Coverngproblemer med tl sammen 5485 testproblemer. For nærmere forklarng av problemporteføljen, se Davone, Hammer og Vzvár (200). V sammenlgner våre resultater med resultatene fra Davone, Hammer og Vzvár (200), så vel som med XPRESS/MP v.2 ( og CPLEX v.6.5 ( Vår kode er mplementert Vsual C og kjører på en standard GHz Pentum 3 PC med MS Wndows Våre kjørnger av XPRESS/MP er fra en 400 MHz Sun UltraSparc. Davone, Hammer og Vzvár (200) kjørte sne ekspermenter på en 50 MHz Sun Sparcsaton 5, og brukte CPLEX 6.0 for sammenlgnng. V kjørte følgende serer av tester på alle testproblemene (oppgtt er maksmal td for hver problemnstans): Adaptvt lokalsøk, 5 sekunder Adaptvt lokalsøk, 60 sekunder XPRESS/MP v. 2, 4 tmer For søket brukte v dynamsk tabuaktverng (0-5 terasjoner), som forklart ovenfor, w = 0.90 og = Dynamske radvekter ble ntelt satt lk, og nk w dek de øvrge parametrene = 0.003, DR 4 og DR = 2. DR nk lm = dv R I Tabell II. Resultatoverskt Davone et al. ALS 5 sek. ALS 60 sek. XPRESS Klasse Klasse Klasse Klasse Klasse

10 Utfallet av kjørngene vses sammendrag tabell 2. Vår metode er under overskrften ALS (adaptvt lokalsøk).tallene er oppgtt % av resultatene av kjørnger med CPLEX rapportert av Davone, Hammer og Vzvár (200). Radene tabellen representerer henholdsvs små og støre tlfeldge problemer, Graph Stablty-problemer, Set Coverng-problemer og tl slutt alle problemene under ett. For mer detaljerte resultater, se Hvattum (2002). Den beste løsnngen fnnes svært raskt av ALS for de mnste problemene, mens en stor andel av tden brukes for å fnne en slk løsnng for større problemer. Å tldele mer kjøretd tl de store problemene kan derfor være fordelaktg. Kanskje noe overraskende, vår enkle mplementasjon tatt betraktnng, er kjørngene begrenset tl 5 sekunder også svært konkurransedyktge selv for de størte testproblemene. Søket vårt er bedre enn Davone, Hammer og Vzvár (200), både med hensyn tl løsnngskvaltet og td (se Hvattum (2002)). For større testproblemer er v også klart bedre (og raskere) enn XPRESS/MP og CPLEX. (XPRESS bruker vanlgvs en betydelg andel av sne 4 tldelte tmer på å fnne sne beste resulater). 5 Konklusjoner og fremtdg arbed Boolske optmerngsproblemer representerer en stor klasse bnære optmerngsproblemer, og følgelg er det vktg å kunne løse rmelg store problemnstanser raskt og effektvt. V har beskrevet et adaptvt lokalsøk (basert på tabusøk) for å løse slke problemer, utformet for å oppnå en strategsk oscllasjon rundt grensene tl restrksjonene problemene. Søket forsøker å koordnere vktgheten av å oppfylle restrksjonene og verden av målfunksjonen. Metoden overgår klart tdlgere spesalserte metoder utvklet for dsse problemene, både med tanke på løsnngskvaltet og td, og også kommerselle løsere som XPRESS/MP og CPLEX. Vår løsnng har tl gode å nkludere noen av de mer avanserte komponentene fra tabusøk. Det forventes at lærng basert på frekvensbaserte mekansmer vl g ytterlgere forbedrnger ytelsen. Konstruktve løsere basert på de samme prnsppene er også en mulg veg å følge. Referanser S. A. Cook. (97). The complexty of theorem-provng procedures. Proceedngs of the Thrd ACM Symposum on Theory of Computng, sdene Davone, Thomas, Peter L. Hammer and Béla Vzvár. (200). A Heurstc for Boolean optmzaton problems. Kommende Journal of Heurstcs. Glover, Fred and Gary Kochenberger.(996). Crtcal Event tabu Search for Multdmensonal Knapsack Problems, I I.H. Osman and J.P. Kelly, redaktører, Meta Heurstcs: Theory and Applcatons, Kluwer Academc Publshers, sdene Glover, Fred and Manuel Laguna. (997). Tabu Search. Kluwer Academc Publshers. Hvattum, Lars Magnus. (2002). Heurstkker for boolske optmerngsproblemer, Hovedoppgave ved Høgskolen Molde.

11 Hvattum, Lars Magnus, Arne Løkketangen og Fred Glover. (2002). Adaptve Memory Search for Boolean Optmzaton Problems Tl vurderng for Dscret Appled Mathematcs Løkketangen, Arne and Fred Glover. (997). Surrogate Constrant Analyss - New Heurstcs and Learnng Schemes for Satsfablty Problems. I: Satsfablty Problem: Theory and Applcatons. DIMACS Seres n Dscrete Mathematcs and Theoretcal Computer Scence, Vol 35. Du, Dngzhu, Jun Gu and Panos Pardalos (Eds.). (997). Satsfablty Problem: Theory and Applcatons. DIMACS Seres n Dscrete Mathematcs and Theoretcal Computer Scence, Vol 35. Battt, Roberto.(996). Reactve search: Toward self-tunng heurstcs. I V. J. Rayward-Smth, redaktør, Modern Heurstc Search Methods, kapttel 4, sdene John Wley and Sons Ltd, 996.