UNIVERSITETET I OSLO Det matematisk-naturvitenskapelige fakultet Eksamen i MA-IN-ST 233 Konveksitet og optimering Eksamensdag: 31. mai 2000 Tid for eksamen: 9.00 13.00 Oppgavesettet er på 5 sider. Vedlegg: Tillatte hjelpemidler: Ingen Alle trykte og skrevne. Kontroller at oppgavesettet er komplett før du begynner å besvare spørsmålene. Oppgavesettet består av 8 spørsmål med tilnærmet samme vekt. LØSNINGSFORSLAG. Oppgave 1 Diverse spørsmål Avgjør om følgende påstander er sanne eller gale, og begrunn svaret. 1-a Det nnes et LP problem med tilhørende dualt problem slik at begge disse problemene har tillatte løsninger og ubegrenset verdi. Løsning: Galt. Anta (P) er et maksimeringsproblem. Da vil enhver tillatt løsning i (D) (som altså eksisterer) gir opphav til en øvre skranke på den optimale verdien i (P). Men da kan jo ikke (P) være ubegrenset (dvs. ha tillatte løsninger med vilkårlig stor verdi på objektivfunksjonen). 1-b La p 1,...,p r IR n og anta at x og y er konveks kombinasjoner av p 1,...,p r. Anta at z er en konveks kombinasjon av x og y. Da er z også en konveks kombinasjon av p 1,...,p r. (Fortsettes på side 2.)
Eksamen i MA-IN-ST 233, 31. mai 2000 Side 2 Løsning: Sant. La S = {p 1,...,p r } så da er x, y conv(s). Dermed ligger z, som er en konveks kombinasjon av x og y, også i conv(s) idet dette er en konveks mengde. Så da må z være en konveks kombinasjon av p 1,...,p r. Alternativt: Har x = j λ jp j og y = j λ j p j for passende λ j,λ j 0 med j λ j = j λ j =1. Videre er z =(1 µ)x+µyfor passende µ [0, 1]. Så da blir z =(1 µ) j λ jp j +µ j λ j p j = j ((1 µ)λ j + µλ j )p j som er en konveks kombinasjon av p 1,...,p r idet vektene er ikkenegative og har sum 1. 1-c La P være et begrenset polyeder i IR n og la f : P IR være en konveks funksjon. Da vil f ha et maksimumspunkt (over P ) som er et hjørne i P. Løsning: Sant. Siden P er begrenset polyeder er P også en polytop (se Hovedteoremet for polyedre, Theorem 4.4.4 og Cor. 4.4.5), si P = conv({p 1,...,p r }) der p 1,...,p r er hjørnene i P. Dener nå f := max j r f(p j ). Hvis x P kan vi skrive x = r j=1 λ jp j for passende ikkenegative koesienter λ j med sum 1. Siden f er konveks gir Jensens ulikhet (Th.5.2.2) at f(x) =f( j λ j p j ) j λ j f(p j ) j λ j f =f j λ j =f. ser vi at f har et maksi- Men idet det ns minst en j slik at f(p j ) = f mumspunkt over P som er et hjørne i P. Oppgave 2 LP 2-a Løs følgende LP problem med simpleksmetoden: maksimer 2x 1 + x 2 + x 3 forutsatt at x 1 + x 2 + x 3 + 2x 4 3 x 1 + + x 3 4 2x 1 + x 3 + 5x 4 1 x 1,x 2,x 3,x 4 0. Er det en entydig optimal løsning? Begrunn svaret. Løsning: Slipper Fase I idet første basisliste er tillatt: η = 2x 1 + x 2 + x 3 w 1 =3 x 1 x 2 x 3 2x 4 w 2 =4 x 1 x 3 w 3 =1 2x 1 x 3 5x 4 Første pivotering: x 2 inn i basis og w 1 ut av basis. Resultat: η =3 + x 1 w 1 2x 4 x 2 =3 x 1 w 1 x 3 2x 4 w 2 =4 x 1 x 3 w 3 =1 2x 1 x 3 5x 4 (Fortsettes på side 3.)
Eksamen i MA-IN-ST 233, 31. mai 2000 Side 3 Andre pivotering: x 1 inn i basis og w 3 ut av basis. Resultat: η =7/2 (1/2)w 3 w 1 (1/2)x 3 (9/2)x 4 x 2 =5/2 + (1/2)w 3 w 1 (1/2)x 3 + (9/2)x 4 w 2 =7/2 + (1/2)w 3 (1/2)x 3 + (5/2)x 4 x 1 =1/2 (1/2)w 3 (1/2)x 3 (5/2)x 4 Denne basislisten er optimal. Optimal løsning er x 1 = 1/2, x 2 = 5/2, w 2 =7/2og alle andre variable er null. Optimal verdi er 7/2. Det nnes ingen andre optimale løsninger fordi alle koesientene foran ikkebasisvariable er (strengt) negative. (Enhver annen tillatt løsning fremkommer ved å øke minst en ikkebasisvariabel og da blir verdien på objektivfunksjonen lavere.) 2-b Betrakt et LP problem max {c T x : Ax b} der alle komponenter i b er positive. Anta at problemet har følgende egenskap: når problemet løses med simpleksalgoritmen så er det aldri alternative valg for utgående basisvariabel. Forklar hvorfor sirkling ikke kan nne sted i et slikt problem (uansett hvilken pivoteringsregel vi bruker). Løsning: Siden alle komponenter i b er positive trenger vi ikke Fase I av simpleksmetoden; første basisliste med basisløsning x = b er tillatt og ikkedegenerert (alle basisvariable er positive). Vi starter så simpleksalgoritmen og velger en ikkebasisvariabel x j som ved pivotering skal inn i basis. Siden basisvariablene er ikkedegenerert kan vi øke x j til en viss maksimal verdi θ>0.ved antagelsen blir da nøyaktig en basisvariabel null (ellers ville det vært alternative valg for utgående variabel). Så alle de andre basisvariablene er positive og dette gjelder også den nye basisvariabelen x j. Pivoteringen er altså ikkedegenert og vi har fått en ny basisløsning som er ikkedegenerert. Samme konklusjon gjelder da også for alle de neste pivoteringene (av samme grunn). Vi kan da ikke få sirkling (idet objektivfunksjonen avtar strengt i hver iterasjon). Oppgave 3 Konveksitet Dener funksjonen f :IR 2 IR ved 3-a f(x 1,x 2 )=4x 2 1+x 2 2+2x 1 x 2 6x 1 3x 2. Vis at [ f er en] konveks funksjon. (Hint: Vis at f(x) =x T Ax + b t x der 4 1 A =, b 1 1 T =[ 6, 3] og studer egenskaper ved A.) Løsning: f er en kvadratisk funksjon med Hessematrise A. Siden A er positiv semidenitt er f konveks (Theorem 5.3.3, karakterisering via Hessematrisen). Man kan vise at A er positiv semidenitt på ere måter. Mulighet 1: x T Ax =4x 2 1 +2x 1x 2 +x 2 2 =3x2 1 +x2 1 +2x 1x 2 +x 2 2 =3x2 1 +(x 1+x 2 ) 2 0for alle x 1,x 2.(Faktisk er A positiv denitt.) Mulighet 2: beregne egenverdiene og se at begge er positive. Et tredje alternativ er å observere at A er symmetrisk og diagonal dominant noe som medfører at A er positiv semidenitt (nevnt på forelesning). (Fortsettes på side 4.)
Eksamen i MA-IN-ST 233, 31. mai 2000 Side 4 3-b Løs optimeringsproblemet under. Finn optimal verdi og alle optimale løsninger. minimer f(x 1,x 2 ) forutsatt at (i) x 1 + x 2 2, (ii) x 1 + x 2 0, (iii) x 1,x 2 0. Løsning: La C være mengden av tillatte løsninger som da blir en polytop i planet med hjørner (0, 0), (2, 0) og (1, 1) (trekant). Gradienten til f er f(x) = (8x 1 +2x 2 6,2x 1 +2x 2 3). Vi nner derfor at eneste stasjonære punkt for f er z := (1/2, 1) (har løst f(x) =0). Siden z C er det klart at det indre av C ikke inneholder noen optimal løsning av problemet (dette sees f.eks. ut fra KKT betingelsene). Altså er det nok å lete etter optimale løsninger på randen av C og denne består av tre deler L 1, L 2 og L 3 som hver er et linjesegment. Finner derfor minimum av f over hver L i. (En alternativ metode er å anvende KKT teoremet direkte og gjennomføre en drøfting ut fra hvilke ulikheter som er aktive og bruke KKT betingelsene; dette blir nokså likt metoden vi her bruker. Merk at man da må bemerke at svak Slater betingelse holder her.) 1. Tilfellet x L 1 gitt ved 0 x 1 2 og x 2 =0. Da er f(x) =4x 2 1 6x 1 ; konvekst annengradspolynom. Minimumspunkt for denne funksjonen (av en variabel) er x 1 =3/4(løsning av 8x 1 6=0). Så minimumspunkt for f over L 1 er (3/4, 0) med tilhørende minimumsverdi f 1 =0. 2. Tilfellet x L 2 gitt ved 1 x 1 2 og x 2 =2 x 1. Da er f(x) = 3x 2 1 3x 1 2;konvekst annengradspolynom. Minimumspunkt for denne funksjonen (av envariabel) er x 1 =1/2(løsning av 6x 1 3=0) som ligger utenfor denisjonsområdet [1, 2]. Så det er klart at minimumspunkt for f over L 2 er (1, 1) (svarer til venstre endepunkt av denisjonsområdet [1, 2] for x 1 ). Tilhørende minimumsverdi er f 2 = 2. 3. Tilfellet x L 3 gitt ved x2 = x 1 og 0 x 1 1. Daerf(x)=7x 2 1 9x 1;konvekst annengradspolynom. Minimumspunkt er x 1 =9/14. Så minimumspunkt for f over L 3 blir dermed (9/14, 9/14) med tilhørende minimumsverdi f 3 = 81/28. Konklusjon: siden f 3 er minst, har vi at eneste minimumspunkt for f over C er x =(9/14, 9/14) og tilhørende minimumsverdi er 81/28. 3-c La n være et positivt heltall der n 10 og dener polyedret P IR n+1 ved P = {x IR n+1 : 0 x 1, n x j +5x n+1 9} j=1 der 0 (1) erenvektor av lengde n+1 med bare nuller (enere). Beskriv mengden av alle hjørner i polyedret P og begrunn svaret. Løsning: La x være et hjørne. Dener N := {1,...,n}. Bruker resultatet at hjørne = ekstempunkt. La J = {j n +1:0<x j <1}.Påstand: J 1. Bevis for påstand: Anta motsatt at 0 <x i <1og 0 <x j <1, der i j. Hvis i, j n, ser vi at x 1 := x + ɛ(e i e j ) og x 2 := x ɛ(e i e j ) begge ligger i P og oppfyller x =(1/2)x 1 +(1/2)x 2 ; dette strider mot at x er ekstempunkt. Tilsvarende, hvis f.eks. i n og j = n+1 kan vi denere x 1 := x+ɛ(5e i e j ) og (Fortsettes på side 5.)
Eksamen i MA-IN-ST 233, 31. mai 2000 Side 5 x 2 := x ɛ(5e i e j ) og igjen er x =(1/2)x 1 +(1/2)x 2 som gir en motsigelse. Dette viser påstanden. Vi har da to muligheter. Mulighet 1. J =. Da er hver komponent i x lik 0 eller 1, så det ns en mengde S {1,...,n+1} slik at x j =1for j S og x j =0ellers. Idet x oppfyller ulikheten n j=1 x j +5x n+1 x j 9 må S oppfylle kravet : ( ) hvis n +1 S er S 5og hvis n +1 S er S 9. Mulighet 2. J =1,siJ = {k}.damå( ) n j=1 x j +5x n+1 =9for ellers ville vi igjen (som over) utlede noe som strider mot ekstrempunktegenskapen. Må ha at k = n +1.Fordi: hvis k n ville vi få fra ( ) at x k er et heltall (idet de andre komponentene er 0 eller 1) som strider mot at 0 <x k <1(husk at k J). Altså er k = n +1.Daerx j lik 0 eller 1 for alle j n så bare x n+1 er fraksjonell. Da har vi, for passende S N at x j =1for j S og x j =0for j N \ S. Dermed nner vi x n+1 ut fra likningen ( ) så x n+1 =(9 S )/5og siden 0 <x n+1 < 1 må vi da ha at 5 S 8. Alle disse løsningene vi har funnet er faktisk også ekstrempunkt. Fordi: vi kan for hver slik x se på x =(1/2)x 1 +(1/2)x 2 der x 1, x 2 P og observere at for hver komponent ix som er 0 (hhv. 1) må tilsvarende komponenter i x 1 og x 1 også være 0 (hhv. 1) (fordi alle komponenter ligger mellom 0 og 1). Ekstrempunkter er derfor (der χ S er vektoren med komponenter x j =1for j S og x j =0for j S): (i) χ S der S {1,...,n+1}oppfyller ( ), og (ii) (χ S,x n+1 ) der S N, 5 S 8og x n+1 =(9 S )/5. En alternativ metode er å bruke denisjonen av hjørne og se på n lineært uavhendige ulikheter i denisjonen av P som settes til likhet. I starten observerer man da at vi ikke kan sette både x j 0 og x j 1 til likhet samtidig. Deretter nner man løsninger som må sjekkes for om de ligger i P som over. Geir Dahl