Go with the. Niende forelesning. Mye matematikk i boka her ikke så komplisert, men mye å holde styr på.

Transkript

1 Go with the Niende forelesning Mye matematikk i boka her ikke så komplisert, men mye å holde styr på. Fokuserer på de viktigste ideene i dagens forelesning, så det forhåpentligvis blir lettere å skjønne bokas forklaring. 1

2 Mange effektive algoritmer er ganske spesialiserte 2

3 Av og til trenger vi kraftigere skyts 3

4 n doktorer m/tilgjengelighet Hver trår til c dager Maks 1 dag/ferie Finn en doktor per feriedag Mer problematisk: Kan vi finne en elegant, *generell* algoritmemetode som dekker dette problemet? Kombinatorisk optimalisering kan bli hårete 4

5 Vi ønsker en mellomting mellom overspesialisering og overkill Vi kan løse omtrent alt ganske direkte med f.eks. s.k. heltallsprogrammering, men vi har ingen god generell algoritme for det. 5

6 Bellman-Ford BFS/DFS Binære søketrær Binærsøk Bubblesort Bucket sort Counting sort Dijkstra DAGshortest-path Edmonds- Karp Floyd- Warshall Hashing Heapsort Huffmankoding Insertion sort Kruskal Merge sort Prim Quicksort Radix sort Randomized Select Select Selection sort Sterke komponenter Topologisk sortering 6

7 Bellman-Ford BFS/DFS Binære søketrær Binærsøk Bubblesort Bucket sort Counting sort Dijkstra DAGshortest-path Edmonds- Karp Floyd- Warshall Hashing Heapsort Huffmankoding Insertion sort Kruskal Merge sort Prim Quicksort Radix sort Randomized Select Select Selection sort Sterke komponenter Topologisk sortering 7

8 For spesielt interesserte: En auksjonsbasert algoritme for matching: auction-algorithm-for-bipartitematching/ (Evt. Intro til flyt: Et nyttig spesialtilfelle bipartitt matching. Funker også for vektet matching (viktig problem ) Dette er både en anvendelse og en enklere variant Matching 8

9 9 En bipartitt graf. Vi vil koble alle t.v. med én t.h. en sk. «perfekt bipartitt matching». Vi må da naturligvis ha like mange t.v. som t.h.

10 10 Vi bygger løsningen gradvis. Er det en ledig kant mellom to ledige noder: Kjør på.

11 11 Nodene er nå «opptatt» og kan ikke uten videre brukes i nye koblinger.

12 For å få med den neste noden t.v. må vi *oppheve* den første koblingen, og lage en *ny* for den første noden t.v. Stien vår en «augmenting path» må starte og slutte i en ledig node. (Ser du hvorfor?) Merk: Vi har her en sti som går frem og tilbake. Frem langs ledige kanter, tilbake langs kanter som kan oppheves. 12

13 Etter å ha oppdatert kantene langs den forøkende stien har løsningen (matchingen) økt med 1 kant. Vi fortsetter å lete etter slike stier til det ikke går lenger. Vi kan f.eks. bruke BFS eller DFS til å finne slike stier. Merk at vi må være nøye med hvilke kanter vi tillater i søket. 13

14 14 Nok en forøkende sti som består av bare én ledig kant

15 De to nodene er nå opptatt. For å få med den siste noden t.v. må vi igjen gå i sikk-sakk 15

16 Vi opphever her den forrige koblingen, og finner en ny kobling til den nest siste noden t.v. Vi starter (til venstre) og avslutter (til høyre) igjen stien vår i ledige noder (som alltid). M.a.o.: En node t.v. kan «få» en opptatt node t.h. (og dermed oppheve en kobling ved å gå «baklengs») så lenge noden t.v. som «hadde» noden får tildelt en annen en og så får vi en domino-effekt (sikk-sakk) langs en forøkende sti. 16

17 17 De siste to nodene er opptatt, og løsningen er klar. Hvis det ikke hadde vært mulig å finne en løsning, ville vi ikke ha funnet en forøkende sti.

18 Flyt 18

19 Et veldig enkelt eksempel på flyt. Hvor mange «uavhengige» stier har vi fra venstre til høyre? Eller: Hvor mange «enheter» kan vi pumpe igjennom, hvis hver kant takler én enhet? 19

20 20 Som for matching, prøver vi oss. Vi må begynne til venstre (i kildenoden) og ende til høyre (i sluknoden). Her har vi en «augmenting path» med bare ledige kanter.

21 21 Her fant vi jammen enda en forøkende sti med bare ledige kanter og nå er det fullt.

22 Matcheproblemet kan også løses så direkte hvis vi har flalks. Men Hva om vi har litt mindre flaks? Da må vi gå i en slags «sikk-sakk» her også. 22

23 Først en forøkende sti med bare ledige kanter. Men hva gjør vi nå? 23

24 Vi kan gå *baklengs* over opptatte kanter og oppheve dem akkurat som i matcheproblemet. En slik «bakover-oppheving» tilsvarer en slags krysskobling: Vi lager en ny start og en ny slutt, og spleiser dem sammen med en eksisterende sti (intuitivt). Logikken er egentlig akkurat som for matching. Vi kan fjerne (oppheve/gå baklengs gjennom) en innkommende «full» kant, men da må flyten til den kanten sendes et annet sted nemlig i fremover i en annen kant. Matematisk er det ekvivalent å *øke* flyten *fremover* eller å *redusere* flyten *bakover*. I en flytforøkende sti må hver kant gjøre én av delene. Merk at vi kan gå flere bakoverskritt eller fremoverskritt i rekkefølge (dvs. ikke strengt annenhver, som i «sikk-sakk». 24

25 25 Svaret blir det samme. Antallet enheter vi får igjennom tilsvarer antall opptatte kanter ut fra kilden (eller inn til sluket).

26 Dette er sånn det gjøres i den nye læreboka. I den gamle jobber de direkte med antiparallelle kanter. Ikke så stor forskjell, egentlig.

27 Flere kilder og sluk kan lett konverteres til én kilde og ett sluk, ved å legge på kanter fra kilden og til sluket med uendelig stor kapasitet. Flytproblemet Vi ser foreløpig bare på positiv flyt. Boka bruker også negativ flyt (i motsatt retning) vi kommer til det. Rettet graf med kilde s og sluk t og en flyt 0 f(i, j) c(i, j) Flyten inn i en node (unntatt s og t) = flyten ut Hver kant (i, j) har en kapasitet, c(i, j) Hvor stor total flyt kan vi få igjennom? 27 Hvis flyten involverer folk, kan ting bli litt merkelig: does-closing-roads-cut-delays/

28 Snitt 28

29 Snitt: Todeling av grafen. s i den ene delen, t i den andre. Kapasiteten til snittet = summen til kapasiteten til kantene som går «til høyre» over det. Et «minimalt snitt» er et snitt med minimal kapasitet. Det vil etter hvert bli fullt og «stenge for» flyten. All flyt må gjennom ethvert snitt. Man kan ikke få mer flyt gjennom et snitt enn kapasiteten til snittet. Ergo: Maksimal flyt er lik kapasiteten til et minimalt snitt. Man kan bruke maks-flytalgoritmer til å finne minimale snitt. Dette kalles «max-flow mincut»-teoremet. 29

30 Eksempelanvendelser 30

31 Eksempler Bipartitt matching kan løses ganske direkte. Legg til s her Legg til t her 31

32 Eksempler Fluktproblemet og disjunkte stier generelt. Vi prøver å finne disjunkte fluktruter fra de markerte nodene til periferien. 32

33 Eksempler Bildesegmentering. Minimalt snitt gir oss segmentering med lavest mulig kostnad. 33

34 Eksempler Prosjekter avhengigheter, og positiv eller negativ fortjeneste. Hvordan kan vi finn et konsistent utvalg som gir størst mulig fortjeneste? Pilene går fra prosjekt til forutsetning (dvs. omvendt av det vi ville ha i en topologisk sortering). Vi vil gjøre om grafen slik at et minimalt snitt gir oss utvelgelsen med størst mulig profitt. 34

35 Eksempler Vi vil hindre at noen av avhengighetene er med i snittet. For å få til det, gir vi dem uendelig (eller «uendelilg») stor kapasitet. T Positiv fortjeneste p: Kant fra kilde med kapasitet p. Negativ fortjeneste p: Kant til sluk med kapasitet p. S Summen av disse vil utgjøre kapasiteten til snittet og den totale profitten. 35

36 Eksempler T Prosjektene på S- siden velges ut. Ingen avhengigheter krysser snittet «riktig vei», så ingen avhengigheter blir brutt. S 36

37 Først, den abstrakte beskrivelsen av Floyd-Warshall (og Edmonds-Karp) Level 1 37

38 Finnes det en sti med ledig kapasitet fra s til t? Hver kant: Enten og f < c eller og f > 0 Øk flyt langs denne stien Bruk f.eks. BFS til å finne stien (E K) Ford-Fulkerson: 38 Generell metode. Ikke nødvendigvis polynomisk. Velger vi BFS får vi Edmonds-Karp, som har kjøretid på O(VE^2). (Det går an å gjøre det bedre.)

39 Det er to mulige tolkninger av dette: Vi «opphever» 5 av de 7 som går mot venstre ved å sende 5 til mot høyre. De 7 mot venstre tilsvarer 7 mot høyre, som kan økes opp mot 0. 4/9 7/8 Vi kan øke med 5 fra venstre til høyre Hva foregår «egentlig»? Ved å øke flyten inn i midt-noden fra venstre og å redusere flyten inn i noden fra høyre med samme mengde har noden samme flyt-sum, så vi ødelegger ingenting. 39

40 Eksempel Bruker ikke BFS her w 0/2 x 0/3 0/3 s 0/2 0/1 0/3 0/1 0/2 0/3 0/2 t y 0/3 z 40

41 Eksempel w 0/2 x 0/3 0/3 s 0/2 0/1 0/3 0/1 0/2 0/3 0/2 t y 0/3 z Alle kanter i stien går fremover, og minimums-kapasiteten er 2. 41

42 Eksempel Her er flyten økt med den maksimale ledige kapasiteten. w 2/2 x 0/3 0/3 s 2/2 0/1 2/3 0/1 2/2 0/3 2/2 t y 0/3 z 42

43 Eksempel Ny sti denne gangen med noen baklengskanter. I disse ser vi ikke etter ledig kapasitet, men flyt som kan kanselleres. w 2/2 x 0/3 0/3 s 2/2 0/1 2/3 0/1 2/2 0/3 2/2 t y 0/3 z Blant forover-kantene er minste ledige kapasitet 3. Blant bakover-kantene er minste flyt 2. Minimum blir altså 2. 43

44 Eksempel w 2/2 x 2/3 2/3 s 2/2 0/1 0/3 0/1 0/2 0/3 2/2 t y 2/3 z Igjen er flyten langs stien økt med det maksimale mulige (2). Flyt i fremoverkanter økes flyt i bakover-kanter reduseres. Totalt økes flyten fra s til t uten at vi bryter noen regler. 44

45 Eksempel w 2/2 x 2/3 2/3 s 2/2 0/1 0/3 0/1 0/2 0/3 2/2 t y 2/3 z Ikke mulig å finne noen flere flytforøkende stier, så vi er ferdige. 45

46 Eksempel w 2/2 x 2/3 2/3 s 2/2 0/1 0/3 0/1 0/2 0/3 2/2 t y 2/3 z Her er et minimalt snitt, med kapasitet lik maksflyten (4). Det er ikke mulig å presse mer flyt igjennom dette snittet. 46

47 Bokas implementasjon (veldig utbredt): Residualnett verk. Level 2a 47

48 I stedet for å tenke forover og bakover hver for seg så setter vi bare negativt fortegn på bakoverflyt. I boka opererer de med et eksplisitt «residualnett verk». Hvis det går flyt f går det flyt f Vi har bare kanter der vi kan få mer flyt Enten ved å øke f til c for eller ved å øke f til 0 for 48

49 En annen konkret implementasjon (den originale, mer eller mindre): «Merkelappmetoden» Level 2b 49

50 Under én iterasjon (BFS) I hver node vil vi huske hvor mye flyt vi har klart å transportere så langt og hvor den kom fra (og evt. om det var en «oppheving» av flyt som gikk ut). Y Flyt inn eller ut? +/X/8 Hvor mye? Hvor fra? 50

51 Kjør BFS Langs kanter der f < c Mot kanter der f > 0 Forgjengertabell bruker vi jo allerede i BFS (π). I tillegg trenger vi altså bare lagre hvor mye flyt vi får ført til noden (inkludert fortegn/retning). For hver node, lagre Hvor kom vi fra? Går flyten inn eller ut? Hvor mye flyt kan vi få hit? Hvis vi kom til slutten Oppdater flyten og begynn på nytt 51

52 Maks flyt I graf m kapasiteter Forøkende stier Bruk BFS Heltallsvekter: Gir oss heltallsflyt. (Selv om heltallsprogrammering generelt er NP-komplett.) Hvis vi kan bruke vilkårlig søk (og ikke BFS) så kan vi få eksponentiell kjøretid. Den generelle metoden (uten at vi bestemmer traverserings-metoden) heter Ford-Fulkerson. Edmonds Karp 52 O(VE 2 ) Hver sti: O(E). Fyller minst én av E kanter. Hver kant kan fylles flere ganger (ulike retninger), men avstanden til starten langs stien må øke. Kan maks øke V ganger.

53 Og så var det legeproblemet vårt, da. Sett på passende kapasiteter. Fridager Vi får likevel ikke begrenset oss til én dag per lege per ferieperiode Leger Kilde Sluk 53

54 Fridager Gadgets Leger Kilde Sluk Vi lager os ekstra-noder for å begrense flyten fra hver lege til hver ferie-periode! 54 Denne typen konstruksjoner er med på å gjøre maks-flyt til et svært allsidig verktøy.

55 Maks-flyt: Akkurat passe komplisert 55

56 Bellman-Ford BFS/DFS Binære søketrær Binærsøk Bubblesort Bucket sort Counting sort Dijkstra DAGshortest-path Edmonds- Karp Floyd- Warshall Hashing Heapsort Huffmankoding Insertion sort Kruskal Merge sort Prim Quicksort Radix sort Randomized Select Select Selection sort Sterke komponenter Topologisk sortering 56

57 Bellman-Ford BFS/DFS Binære søketrær Binærsøk Bubblesort Bucket sort Counting sort Dijkstra DAGshortest-path Edmonds- Karp Floyd- Warshall Hashing Heapsort Huffmankoding Insertion sort Kruskal Merge sort Prim Quicksort Radix sort Randomized Select Select Selection sort Sterke komponenter Topologisk sortering 57