EKSAMEN I NUMERISK LINEÆR ALGEBRA (TMA4205)

Transkript

1 Norges teknisk naturvitenskapelige universitet Institutt for matematiske fag Side av 6 Kontakt under eksamen Navn: Bawfeh Kingsley Kometa kontor: , mobil: ) Sensur: EKSAMEN I NUMERISK LINEÆR ALGEBRA TMA4205) Torsdag 9. desember, 200 Tid: 09:00 3:00 Hjelpemidler: Kode C. Følgende trykte/håndskrevne hjelpemidler er tillatt Y. Saad, Iterative Methods for Sparse Linear Systems, 2. utgave. Trefethen and Bau, Numerical linear algebra eller Notater fra samme bok utlagt på hjemmesiden til faget Golub and Van Loan, Matrix Computations eller Notat fra samme bok utlagt på hjemmesiden til faget Egne forelesningsnotater fra kurset Oppgave En matrise A Z 4 4 skal QR-faktoriseres. Etter å ha utført én Householdertransformasjon med matrisen Q generert av v har man funnet A 2 = Q A = , v = w, w = w

2 Side 2 av 6 a) Bestem A når det oppgis at 2 wt A 2 w T w = [, 8 5, 8 5, 9 5 ]. Hint for å kontrollere svaret: A har kun heltallige elementer. Svar: Bruk at Householdertransformasjoner er sin egen invers, så A = Q A 2 = Q A 2. Vi må altså finne I 2vv T )A = A 2 2w wt A 2 w T w = [, 8 5, 8 5, 9 5 ] = b) Bestem den øvre-triangulære matrisen R slik at A = QR, bruk Householdertransformasjoner og oppgi vektorene v 2 og v 3 som genererer Q 2 og Q 3. Du skal ikke beregne Q. Hint for å kontrollere svaret: Elementene i R er heltall som er delelige med 7. Svar: Vi starter med å sette x = A 2 2 : 4, 2) = 7 [0, 3/5, 4/5] T og bruker formelen v = w/ w 2 der w = x + signx ) x. Siden x 2 = 7 får vi dermed at w = 7 [, 3/5, 4/5] T := 7 w, slik at w T w = 2. La Ã2 = A 2 2 : 4, 2 : 4), vi gjør kun endring på denne delen av A 2 for å finne A 3. En har Q 2 à 2 = I 2vv T )Ã2 Dermed er à 3 = Ã2 2 wwt w T w Ã2 = Ã2 2 w wt à 2 w T w = Ã2 w w T à 2 = Ã2 7 w [, 0, 0] à 3 = [ ] 0 0 = En kan bruke for Householder, v 2 = /2 [, 3/5, 4/5] T. Vi fortsetter på samme måte og definerer à 3 = Ã32 : 3, 2 : 3). Setter x = 7 [3/5, 4/5] T, finner x 2 = 7, og dermed w = 7 [3/5 +, 4/5] T = 28 [2/5, /5] T = 28 w, der w T w = /5. Samme type utregning som ovenfor gir [ ] à 4 = 7 0 Vi fyller inn disse matrisene i hverandre og får En kan definere v 3 = /5 [2, ] T. R =

3 Side 3 av 6 Vi skal benytte en projeksjonsmetode for å approksimere løsningen av lig- Oppgave 2 ningssystemet Ax = b, A R n n, b R n Til dette benyttes et søkerom K og et føringsrom L, begge av dimensjon m n. For en gitt startverdi x 0 søker vi en approksimasjon x x 0 + K slik at r L, dvs r = b A x er ortogonal på alle vektorene i L. a) La oss anta at vi kan skrive L = BK for en ikke-singulær n n-matrise B. Vis at dersom Ax, Bx) > 0 for alle x R n så er denne metoden veldefinert, dvs det eksisterer en entydig x x 0 + K slik at r L. Svar: Vi innfører en basis for K som kolonnene i n m-matrisen V m = [v v m ] R n n. Vektorene w j = Bv j, j =,..., m danner da et lineært uavhengig sett i L, og vi kan ta dette som basis, vi setter W m = [w w m ] R n n. Enhver vektor x i x 0 + K må kunne skrives på formen x = x 0 + V m y, y R m. Vi har r = b A x = b Ax 0 AV m y = r 0 AV m y. Vi krever at r L som er ekvivalent med at w j r, r =,..., m eller W T m r = 0. Dette gir BV m ) T r 0 AV m y) = 0 V T m B T AV m )y = V T m B T r 0 En entydig løsning eksisterer hvis og bare hvis P = V T m B T AV m R m m er ikke-singulær. En tilstrekkelig betingelse for dette er at P er positiv definitt, dvs z T P z > 0 z R m. Vi viser at den er nettopp det under antagelsen Ax, Bx) > 0. Vi har z T P z = z T V T m B T AV m z = Bx) T Ax) = Ax, Bx) > 0, x = V m z. b) Anta nå at B velges slik at C := BA er symmetrisk positiv definitt. Vis at resultatet x vil oppfylle b A x C = min b Ay C y x 0 +K der C er vektornormen på R n definert ved v C = v T Cv. Svar: Først en liten kommentar. At en slik B eksisterer ser vi for eksempel ved å ta kandidatene B = I eller B = A der vi har antatt at A er ikke-singulær. La oss nå perturbere den oppgitte kandidaten, ved å sette y = x + δ, δ K og så studere b Ay C b Ay 2 C = b A x Aδ 2 C = r Aδ) T C r Aδ) = r 2 C + Aδ 2 C 2 r T BA Aδ. Vi merker oss at det siste leddet forsvinner fordi r Bδ siden Bδ L. Derfor er b Ay C r C og likhet krever Aδ = 0 som igjen krever δ = 0 dvs y = x.

4 Side 4 av 6 c) La oss nå anta at A er symmetrisk slik at egenverdiene er reelle. La λ min og λ max være henholdsvis minste og største egenverdi til A. Vi setter også B = µ)i + µa. Vis at antagelsene i forrige punkt er oppfylt, dvs at C = BA er SPD hvis og bare hvis µ < λ min hvis λ min < og µ > λ max hvis λ max >. Vi mener med dette at første ulikhet ignoreres hvis λ min og andre ulikhet ignoreres hvis λ max. Svar: Vi finner nå at C = BA = µ)i + µa)a = µ)a + µi C er åpentbart symmetrisk hvis A er symmetrisk. Når det gjelder egenverdiene til C har vi λc) = µ λa) + µ og vi behøver kun å forlange at de alle er positive. For de egenverdiene til A som er større enn, blir det den største av dem, nemlig λ max som gir det strengeste kravet, mens for de som er mindre enn er det den minste, λ min som definerer kravet. Oppgave 3 I denne oppgaven skal vi studere nærmere splittingsmetodens egenskaper som prekondisjonerere. a) La A være en ikke-singulær kvadratisk matrise. Vi starter med å anta at man ønsker å approksimere løsningen av ligningen Ae = r ved å benytte k iterasjoner med en splittingsmetode og at man setter initialvektoren e 0) = 0. Anta først en generell splitting A = D N, D inverterbar, og en iterasjon av formen e k+) = Ge k) + r, G = D N, r = D r Vis at en kan skrive e k) = I G) I G k ) r, og at hvis det tilsvarende prekondisjonerte systemet er Ãx = M Ax = M b så gjelder at à = M A = I G) I G k )I G). Svar: Vi kan bruke induksjonsbevis. At e ) = r ser vi direkte fra iterasjonsformelen med k = 0, siden e 0) = 0. Hvis formelen er korrekt opp k så kan vi finne e k) ved e k) = Ge k ) + r = I+GI G) I G k )) r = I G) I G+GI G k )) r = I G) I G k ) r For å finne uttrykket for à må vi sette inn r = D r samt bruke at A = DI G). à = M A = I G) I G k )D D N) = I G) I G k )I G)

5 Side 5 av 6 b) Anta i resten av denne oppgaven at A er symmetrisk positiv definitt SPD) av formen A = I N, N T = N, > 2 λ max, der λ max = ρa) er den største egenverdien til A. La D = I. Vis at prekondisjonereren M fra forrige punkt da også vil være SPD Svar: Vi har M = I G) I G k )D = I G) I G k ) der G = N er symmetrisk. Derfor er både I G) og I G k symmetriske og vi har M T = I G k )I G) = I G) I G k ) = M, så M og dermed M) er symmetrisk. Nå er λg) = λa) slik at λm ) = λg)) λg) k ) = λa) λa) ) ) k ) k Så λm ) > 0 hvis λa) > 0. Siden > 2 λ max må vi ha < λa) < for alle ) k egenverdiene til A, og dermed < λa) )k <, og det følger at λa) > 0 og dermed λm ) > 0, så M og dermed M) er SPD. c) Anta fremdeles at A er SPD, og at minste og største egenverdi til A er henholdsvis λ min og λ max. Vi velger splittingsparameteren = λ 2 min + λ max ) slik at prekondisjonereren blir SPD. La oss anta at vi benytter k iterasjoner av splittingsmetoden der k er et odde heltall. Vis at under disse omstendighetene gjelder der κ = κ 2 A) er kondisjonstallet til A. Kommenter resultatet. κ 2 Ã) = + κ κ+ κ κ+ Svar: Kondisjonstallet til A er gitt som κ = κ 2 A) = λmax λ min. La λ σã). Siden à = I G) I G k )I G) så er λ σi G k ). Fordi = 2 λ min + λ max ) har vi λ = 2λ λ min + λ max ) k ) k ) k, λ σa). Man kan se at dette uttrykket er monotont voksende i λ for eksempel ved å derivere: ) k d dλ λ 2k 2λ = λ min + λ max λ min + λ max Siden k er odde, blir k like og uttrykket er garantert ikke-negativt. Dermed blir minimum oppnådd for λ = λ min og maksimum for λ = λ max. Vi beregner ) k ) k κ 2 Ã) = λ 2λmax κ max λ min+λ max + κ+ = ) λ k = ) k min 2λmin κ λ min+λ max κ+

6 Side 6 av 6 Oppgave 4 a) Vis at Frobenius-normen til en n n-matrise A er gitt som A F = σ 2 + σ σn, 2 der σ,..., σ n er singulærverdiene til A. Svar: Frobeniusnormen til A kan skrives som n A F = i,j= a 2 ij /2 = TrA T A) Man benytter oppgitt informasjon om at trasen til en matrise er summen av dens egenverdier, samt at kvadratet av singulærverdiene til A er egenverdiene til A T A, resultatet følger deretter. b) Anta at A er en matrise med A 2 = 00 og A F = 0. Finn ut fra dette en størst mulig nedre skranke for κ 2 A) = A 2 A 2. Svar: Her benytter vi oss av svaret fra forrige punkt. Merk at A 2 = σ dvs største singulærverdi, mens A 2 = /σ n dvs invers av minste singulærverdi, her er n = 202. En finner = = A 2 F A 2 2 = σk 2 20 σ202 2 k=2 slik at σ 202. Dermed blir κ 2 A) = σ σ = 00. Appendix. Noen nyttige oppgitte formler. For alle kvadratiske n n-matriser C med elementer c ij og egenverdier λ i gjelder at TrC) = n c ii = i= n i= λ i 2. Kondisjonstallet til en matrise A er gitt som κa) = A A. Spesielt med bruk at p-norm har man κ p A) = A p A p