Algdat - Øvingsforelesning. NP-komplette problemer

Transkript

1 Algdat - Øvingsforelesning NP-komplette problemer

2 Dagens plan 1. LF teoriøving Kompleksitetsklasser 3. P, NP, NP-COMPLETE 4. Noen NP-komplette problemer 5. Kahoot! 6. Presentasjon av øving 12 2

3 Øving 10 Oppgave 2 Finn antall veier fra start til mål i et rektangulært rutenett. Kun lov å gå ned eller til høyre. For å komme til punktet (i, j) kan vi enten komme fra (i-1, j) eller (i, j-1). Derfor blir uttrykket i 2c) T(m-1, n) + T(m, n-1). Vi må også ha med en sluttbetingelse: T(n,1) = T(1,n) = 1 3

4 Øving 10 Oppgave 3 Bruk dynamisk programmering! 3a) er rett frem. (forhåpentligvis) 3b) og 3c) blir tungvinte på papir hvis vi skal skrive ned hele DP-matrisen. Heldigvis finnes det triks: Lagre objektene i stigende rekkefølge etter vekt. (Valgfritt) Arbeid med intervaller, ikke med enkeltvekter. Gjennomgang på tavla... 4

5 Litt praktisk info Relevant pensum er 34.5 i Cormen, samt innledning til kapittel 34. Bevisene i 34.5 er ikke pensum. Innledningen er en kortfattet versjon av Mange opplever dette stoffet som vanskelig. Så tygg litt på det, diskuter med medstudenter, still spørsmål på Piazza etc. :) 5

6 Kompleksitetsklasser Vi kan dele inn problemer etter hvor «vanskelige» de er å løse. Vi gjør dette ved å spørre: Gitt en beregningsmodell og en viss mengde ressurser, går det an å løse dette problemet? Det finnes en hel haug klasser. Vi skal se på tre av dem: P NP NP-COMPLETE Kilde: MIT OpenCourseWare 6

7 Beslutningsproblemer Dette er problemer hvor svaret er enten JA eller NEI. Eksempler: Har denne grafen en Hamilton-sti? Er tallet a større enn tallet b? Vil dette programmet terminere gitt denne inputen? Optimaliseringsproblemer kan gjøres om til beslutningsproblemer: 1. Velg en konstant k 2. Nytt problem: Har dette problemet en løsning med verdi/kostnad større enn/mindre enn k? (For hhv. maksimeringsproblemer og minimeringsproblemer.) 7

8 P Beregningsmodell: Deterministisk Turing-maskin Ressursbegrensning: Kjøretid polynomisk funksjon av inputstørrelsen. Et problem er altså i P dersom det kan løses i polynomisk tid på en helt vanlig datamaskin. De fleste problemene så langt i dette kurset har vært i P, eller hatt en «beslutnings-variant» i P. Vi kaller disse problemene «lette». (Sannhet med modifikasjoner...) 8

9 NP Beregningsmodell: Ikke-deterministisk Turing-maskin Ressursbegrensning: Kjøretid polynomisk funksjon av inputstørrelsen. Ikke-deterministiske Turing-maskiner finnes ikke i virkeligheten. (Man antar at kvantedatamaskiner ikke når opp.) Ikke spesielt lette å forstå intuitivt heller. Alternativ definisjon av NP: Et problem er i NP dersom et ja-svar kan verifiseres i polynomisk tid. 9

10 Verifisering i polynomisk tid Et positivt svarsertifikat er et utsagn på formen «Ja, fordi...». Eksempel: Finnes det en delmengde av {-7, -3, -2, 5, 8} som summerer til 0? Svarsertifikat: Ja, fordi {-3, -2, 5} er en slik delmengde. Lett å verifisere. (Bare legg dem sammen!) Legg merke til at det ikke nødvendigvis er like lett å finne et svar. 10

11 P NP Alle problemer i P kan verifiseres i polynomisk tid. Trenger ikke se på svarsertifikatet en gang. Det er bare å løse problemet i polynomisk tid! Med utgangspunkt i NTM-definisjonen: En ikkedeterministisk maskin kan fint bare gjøre ett valg hver gang, og dermed simulere en deterministisk maskin. 11

12 P = NP? Bokstavelig talt «the million dollar question». Mange problemer i NP har ingen kjent algoritme som kjører i polynomisk tid. Ingen har klart å bevise at slike algoritmer ikke finnes. I praksis kan vi anta at de ikke finnes. 12

13 Reduksjon Å redusere problem A til problem B betyr følgende: Vi har en instans α av A. Vi bruker en eller annen algoritme for å omdanne α til en instans av B, kalt β. (I polynomisk tid.) Svaret til β vil være «ja» hvis og bare hvis svaret til α er «ja». (Altså har α og β samme svar.) Hvis vi har en algoritme for å løse B, og en algoritme for å redusere fra A til B, kan vi løse A slik: Reduser fra A til B. Løs B. Merk at dette kun fungerer hvis begge problemene er beslutningsproblemer. Hvis ikke må man transformere løsningen tilbake på slutten, også i polynomisk tid. Notasjon: A p B betyr at A kan reduseres til B i polynomisk tid. 13

14 Reduksjon Eksempler Maksimal bipartitt matching Maks flyt 14

15 Reduksjon Eksempler Vei-problemet: Gitt en graf G = (V, E) og to noder u, v V, finnes det en sti mellom u og v i G? Kan løses via reduksjon til korteste vei-problemet: Gi alle kantene en vekt på 1. Svaret er ja dersom korteste vei fra u til v er kortere enn. Dette illustrerer et viktig konsept: Dersom reduksjonen fra A til B er «enkel», er B minst like vanskelig som A. «Bevis»: Anta A er vanskelig, og B er enkelt. Vi gjør noe enkelt for å redusere A til B, og så løser vi B (enkelt). Enkelt + enkelt = enkelt, altså er A også enkelt. (kontradiksjon) 15

16 NP-komplette problemer Enkelte problemer i NP er slik at alle andre problemer i NP kan reduseres til dem. Dette betyr at hvis man har en effektiv algoritme for et NP-komplett problem, har man en «effektiv» algoritme for alle problemene i NP. Mange NP-komplette problemer ligner veldig på problemer i P ved første øyekast: Lengste vei vs. korteste vei Hamilton-sti vs. Euler-sti Max-cut vs. min-cut 16

17 NP-hard NP-harde problemer er slik at alle problemer i NP kan reduseres til dem. Merk at de ikke trenger å være i NP selv. Derfor har vi at: NP-komplett = NP NP-hard NP-harde problemer som ikke er i NP: Problemer som er for vanskelige til å være i NP Problemer som ikke er beslutningsproblemer 17

18 Hvordan bevise NP-kompletthet Vi vil bevise at problem A er NP-komplett. Fra før vet vi at problem B er NP-komplett. Da holder det å finne en reduksjon B A. Hvorfor? Reduserbarhet er transitivt: Hvis X p Y og Y p Z så X p Z. Alle problemer i NP kan reduseres til B, og B kan reduseres til A, så alle problemer i NP kan reduseres til A. I tillegg må man vise at problemet er i NP. 18

19 Det første NP-komplette problemet Å redusere fra andre NP-komplette problemer er vel og bra, men man må starte et sted. Man kan f.eks. starte med problemet Circuit-SAT: Man er gitt en (kombinatorisk) logisk krets bestående av AND, OR og NOT. Finnes det en input til denne kretsen slik at outputen blir logisk høy? Dette problemet er NP-komplett. Bevis i kap (ikke pensum). 19

20 Hvilke NP-komplette problemer finnes? String-to-string correction problem Nimber (or Grundy number) of a directed graph. Subset sum problem Super Mario Bros Longest common subsequence problem Battleship Route inspection problem (also called Chinese postman problem) for mixed graphs (having both directed and undirected edges). The program is solvable in polynomial time if the graph has all undirected or all directed edges. Variants include the rural postman problem. (Generalized) FreeCell Clique problem SameGame Variations on the Traveling salesman problem. The problem for graphs is NP-complete if the edge lengths are assumed integers. The problem for points on the plane is NP-complete with the discretized Euclidean metric and rectilinear metric. The problem is known to be NP-hard with the (non-discretized) Euclidean metric. Maximum independent set (Generalized) Instant Insanity 1-planarity Nonograms Closest string Pathwidth Bottleneck traveling salesman Vertex cover Numerical 3-dimensional matching Quadratic assignment problem Bandwidth problem Hamiltonian completion Problems related to Tetris Integer programming. The variant where variables are required to be 0 or 1, called zero-one linear programming, and several other variants are also NP-complete (Generalized) Sudoku Verbal arithmetic Maximum Induced path Knapsack problem and several variants Hamiltonian path problem, directed and undirected. Longest path problem Domatic number Slope number two testing Minesweeper Consistency Problem ) Degree-constrained spanning tree Maximum bipartite subgraph or (especially with weighted edges) maximum cut. Capacitated minimum spanning tree Set cover (also called minimum cover problem) This is equivalent, by transposing the incidence matrix, to the hitting set problem. Slither Link on a variety of grids Minimum k-cut Metric dimension of a graph Exact cover problem. Remains NP-complete for 3-sets. Solvable in polynomial time for 2-sets (this is a matching). Candy Crush Saga Heyawake Shortest common supersequence Fillomino Dominating set, a.k.a. domination number Kakuro (Cross Sums) Bipartite dimension Bejeweled Set splitting problem Eternity II Graph homomorphism problem The bounded variant of the Post correspondence problem Clique cover problem Shortest total path length spanning tree Lemmings Kuromasu (also known as Kurodoko) 3-partition problem Rank coloring a.k.a. cycle rank Graph partition into subgraphs of specific types (triangles, isomorphic subgraphs, Hamiltonian subgraphs, forests, perfect matchings) are known NP-complete. Partition into cliques is the same problem as coloring the complement of the given graph. A related problem is to find a partition that is optimal terms of the number of edges between parts. Feedback arc set Nurikabe Graph intersection number Treewidth Quadratic programming (NP-hard in some cases, P if convex) Bulls and Cows, marketed as Master Mind Masyu Bin packing problem Graph coloring Partition problem Complete coloring, a.k.a. achromatic number Light Up 3-dimensional matching Feedback vertex set Minimum spanning tree, or Steiner tree, for a subset of the vertices of a graph. (The minimum spanning tree for an entire graph is solvable in polynomial time.)...og mange mange flere. 20

21 Hvilke trenger dere å kunne? Circuit-SAT, SAT, 3-CNF-SAT Clique Vertex cover Hamiltonian cycle Traveling salesman Subset-sum/0-1 knapsack Longest simple path 21

22 Circuit-SAT/SAT/3-CNF-SAT Circuit-SAT har vi allerede sett på. Circuit-SAT p SAT. Å skrive om en krets til en formel er enkelt. Det viser seg at alle boolske formler kan skrives om til en rekke klausuler på formen (x y z) (der x, y og z enten kan være variabler eller negasjonen av variabler), satt sammen med. En formel på denne formen sies å være på 3-konjunktiv normalform. Å bestemme om en slik formel kan gjøres sann, kalles 3-CNF-SAT. 22

23 Clique En klikk (clique) i en graf er et subsett av nodene slik at alle par av noder i klikken har en kant mellom seg. Klikk-problemet er å finne en klikk av maksimal størrelse. Beslutningsvarianten er å bestemme om det finnes en klikk av en gitt størrelse k. Dette problemet er NP-komplett. Kan vises ved reduksjon fra 3-CNF-SAT. 23

24 Vertex cover Et vertex cover i en graf er et subsett av nodene slik at for alle kantene (u,v) i grafen er enten u eller v (eller begge) i subsettet. Vi vil finne et vertex cover av minimal størrelse, eller av størrelse k i beslutningsvarianten. NP-kompletthet kan vises med en reduksjon fra klikkproblemet. Obs! Vertex cover er NP-komplett, mens edge cover er kjent å være i P. Ikke bland dem! 24

25 Hamiltonian cycle En Hamilton-sykel i en graf er en sykel som er innom hver node akkurat en gang. Å bestemme om en graf har en Hamilton-sykel er NPkomplett. Innfløkt bevis hvor man reduserer fra vertex cover. Igjen har vi et lignende problem som har en kjent polynomisk løsning: Eulerian cycle. (Finnes det en sykel som går langs hver kant akkurat en gang?) 25

26 Longest simple path En enkel sti i en graf er en sti som ikke er innom en node mer enn en gang. Problemet med å finne en slik sti av maksimal lengde (flest mulig kanter for uvektede grafer, størst sammenlagt kantvekt for vektede grafer) er NP-hard. Kan vises med reduksjon fra Hamiltonian path (som også er NP-komplett): En enkel sti som bruker V - 1 kanter er en Hamilton-sti. 26

27 Traveling salesman Gitt en komplett, rettet, vektet graf, finn en sykel som besøker hver node akkurat én gang, med lavest mulig sammenlagt kantvekt. Et av de mest studerte og mest kjente NP-harde problemene. Enkel reduksjon fra Hamiltonian path. NP-hard også med begrensninger (metrisk, Euklidisk...) Bevist å være teoretisk vanskelig å approksimere, men heuristiske algoritmer fungerer bra i praksis på de fleste instanser. 27

28 Subset sum Gitt en mengde tall, finnes det en delmengde som summer til et gitt tall s? NP-kompletthet kan bevises med en reduksjon fra 3- CNF-SAT. Relaterte problemer som 0-1 knapsack og pengevekslingsproblemet er også NP-harde. 28

29 Pseudopolynomisk kjøretid Pengevekslingsproblemet med n mynter og beløpet k kan løses i O(n k) tid ved å bruke dynamisk programmering. Dette er ikke polynomisk tid, men pseudopolynomisk tid. Grunnen er at inputstørrelse måles i antall bits som må til for å representere inputen. For et heltall k vil dette være b = log 2 (k). Kjøretiden blir da O(n 2b ) 29