Et forsøk på et oppslagsverk for TMA4145 Lineære metoder

Transkript

1 Et forsøk på et oppslagsverk for TMA4145 Lineære metoder Ruben Spaans May 21, Oppslagsverk Adjungert Ball, la (X, d) være et metrisk rom og la ɛ > 0. Da er for x 0 X: 1. B(x 0 ; ɛ) = {x x X d(x, x 0 ) < ɛ} den åpne ɛ-ballen om x 0 med radius ɛ. 2. B(x 0 ; ɛ) = {x x X d(x, x 0 ) ɛ} den lukkede ɛ-ballen om x 0 med radius ɛ. 3. S(x 0 ; ɛ) = {x x X d(x, x 0 ) = ɛ} (ɛ-)sfæren (kuleskall) om x 0 med radius ɛ. Merk at generelt er B(x 0, ɛ) S(x 0, ɛ) B(x 0, ɛ). Banachrom, et Banachrom er et normert rom som er et komplett metrisk rom med hensyn på metrikken indusert av dets norm. Basis (kolonnerom), kolonnene til en matrise A utspenner kolonnerommet til matrisen, men de er ikke nødvendigvis en basis, det kan forekomme lineært avhengige kolonner. Ved å redusere A til redusert echelon-form, vil de kolonneposisjonene som inneholder pivotelementer være identisk med de kolonneposisjonene i A som inneholder basisen. Eksempel A = , 1

2 redusert echelon-form av A: Vi ser at kolonne 1, 2 og 4 inneholder pivotelementer. En basis for kolonnerommet blir derfor , 7 5 og 9 1, som tilsvarer kolonne 1,2 og i den opprinnelige matrisen A. Begrenset følge, en begrenset følge x (fra C) er en følge (x n ) n=1 slik at x n c x hvor c x R. Bijektiv, en funksjon f : X Y er bijektiv hvis f er både injektiv og surjektiv. Bilde, bildet til en funksjon f : X Y er f(x) = {f(x) x X} Y. Cauchy-følge, en følge (x n ) n=1 i et metrisk rom X = (X, d) er Cauchy hvis for hver ɛ > 0 finnes en N slik at d(x m, x n ) < ɛ for hver m, n > N. Se komplett.. Eksempel 1 ( 1 n ) n=1 er en Cauchy-følge i (0,1] (og divergent). Eksempel 2 Q med d(x, y) = x y, la x n = ! + 1 2! n!. Da er (x n ) n=1 en Cauchy-følge i Q, men ikke konvergent i Q, siden grensen i R er e og e Q. Cauchy-kontinuerlig, en funksjon f er Cauchy-kontinuerlig hvis den tar Cauchy-sekvenser til Cauchy-sekvenser. Cauchy-Schwartz ulikhet, for x, y i et indreproduktrom V, x, y = x y. Cholesky-faktorisering Diagonaliserbarhet Direkte sum Diskret metrikk, la X være en mengde. Den diskrete metrikken på X er gitt ved { 1 x y d(x, y) = 0 x = y Divergens, en følge som ikke er konvergent er divergent. 2

3 Dualrom Egenrom Egenvektor Egenverdi Fikspunkt, et fikspunkt i en avbildning T : X X på en mengde X til seg selv er en x X som avbildes til seg selv, dvs T x = x, bildet til T x sammenfaller med x. Gram-Schmidt, prosess som genererer ortonormal basis e = {e 1, e 2,, e n } fra en vilkårlig basis x = {x 1,, x n }. Begynn med å finne e 1, deretter lag v i fra x og e og lag e i for i = 2,, n. e 1 = 1 x 1 x 1 v 2 = x 2 x 2, e 1 e 1 e 2 = 1 v 2 v 2. i 1 v i = x i x i, e k e k k=1 e i = 1 v i v i. Grenseverdi, hvis x 1, x 2,... er en følge av reelle tall, da er lim n x n = x hvis og bare hvis, vi for alle ɛ > 0 kan finne en N slik at n N x n x < ɛ. Hermitisk Hilbertrom, et Hilbertrom er et indreproduktrom som er et komplett metrisk rom med hensyn på metrikken indusert av dets indreprodukt. Identitetsfunksjon, 1 X : X X definert ved 1 X (x) = x for alle x X. Indre (metrisk rom), la (X, d) være et metrisk rom, og la A X. Det indre av A er (A 0 ) = int A = {x x er indre punkt i A}. Eksempel 1 I R med vanlig metrikk: int [a, b) = (a, b). Eksempel 2 int Q =. Indreprodukt, et indreprodukt på en komplekst vektorrom V er en avbildning, : V V C slik at for alle x, y, z V og alle λ C, 3

4 (i) x, y = x, y (ii) λx, y = λ x, y (iii) x + y, z = x, z + y, z (iv) x, x > 0 når x 0 Indreproduktrom, et indreproduktrom er et par (V,, ) der V er et komplekst vektorrom og, er et indreprodukt på V. Indre punkt (metrisk rom), la (X, d) være et metrisk rom og la A X. Et punkt x A kalles et indre punkt hvis A er en omegn om x. Indusert metrikk, se underrom. Injektiv, en funksjon f : X Y er injektiv (en-til-en) hvis for alle x, x X, f(x ) = f(x) x = x. Invers funksjon, en funksjon f : X Y har en invers (omvendt) funksjon hvis og bare hvis f er bijektiv. Da er f 1 gitt ved f 1 : Y X og f 1 (y) = x y = f(x). Da er f f 1 = 1 Y and f 1 f = 1 X. Inverst bilde, det inverse bildet til en funksjon f : X Y er f 1 (Y ) = {x f(x) Y } X. Jacobi-iterasjon Jordanblokk Jordan[-]kanonisk form Jordanmatrise Karakteristisk polynom Kolonnerom, et kolonnerom av en matrise A er mengden av alle lineærkombinasjonene av dets kolonnevektorer. Dimensjonen til kolonnerommet kalles rangen til matrisen. Komplett (metrisk rom), et metrisk rom X er komplett hvis hver Cauchyfølge i X konvergerer, dvs har en grenseverdi som ligger i X. Eksempel 1 R er komplett. Eksempel 2 R n og C n er komplette. Komplett (ortonormal sekvens) Konjugat-lineær, x, λy = λ x, y. Konjugattransponert, A matrise, A konjugattransponert, (A ) ij = (A) ji. Kontinuasjon, la (X, d X ) og (Y, d Y ) være metriske rom og la f : X Y være en funksjon. 4

5 1. f er kontinuerlig i x 0 X hvis det for alle ɛ > 0 finnes δ > 0 slik at for alle x, d X (x, x 0 ) < δ d Y (f(x), f(x 0 )) < ɛ eller f(b(x 0 ; δ)) B(f(x 0 ); ɛ). 2. f er kontinuerlig hvis f er kontinuerlig i alle x 0 X. Kontraksjon, la X = (X, d) være et metrisk rom. En avbildning T : X X kalles en kontraksjon på X hvis det finnes et positivt reelt tall α < 1 slik at for alle x, y X d(t x, T y) αd(x, y). Konveks, en delmengde A av et reelt eller komplekst vektorrom er konvekst hvis for alle a, b A og alle λ (0, 1), punktet λa + (1 λ)b ligger i A. Konvergens, La (x n ) n=1 være en følge av punkter i et metrisk rom X. Følgen er konvergent hvis det finnes en x X slik at for alle ɛ > 0 det finnes en N slik at for alle n > N, d(x n, x) < ɛ. x er da grensen til (x n ) n=1, og skrives lim x n = x. n Eksempel 1 (x n ) n=1 = ( 1 n ) n=1 er konvergent i [0, 1]. Eksempel 2 (x n ) n=1 = ( 1 n ) n=1 er divergent i (0, 1]. Lineær funksjonal Lineær transformasjon, la V og W være vektorrom. En funksjon T : V W er en lineær transformasjon hvis T (αx + βy) = αt (x) + βt (y) for alle x, y V og α, β (skalarer). Vi skriver vanligvis T (x) som T x. Lipschitz-betingelsen, la X = (X, d X ) og Y = (Y, d Y ) være metriske rom. En funksjon f : X Y er Lipschitz-kontinuerlig hvis det finnes en reell konstant K 0 slik at, for alle x 1, x 2 X d Y (f(x 1 ), f(x 2 )) Kd x (x 1, x 2 ) Den minste K som oppfyller betingelsen kalles Lipschitz-konstanten til funksjonen f. LU-dekomposisjon Lukket (metrisk rom), la (X, d) være et metrisk rom. A X er lukket hvis A C = X A er åpen. Metrikk, en metrikk er en distansefunksjon d : X X R i et metrisk rom X. Se metrisk rom. 5

6 Metrisk rom, et metrisk rom er et par (X, d) der X er en mengde og d er en metrikk på d (eller distansefunksjon på d), en funksjon fra X X slik at for alle x, y, z X, følgende oppfylles: 1. d er reell, endelig og ikke-negativ. 2. d(x, y) = 0 hvis og bare hvis x = y. 3. d(x, y) = d(y, x) (symmmetri). 4. d(x, y) d(x, z) + d(z, y) (trekantulikheten). Eksempel 1 X = R, d(x, y) = x y Eksempel 2 X = R n, d 1 (x, y) = n j=1 x j y j Eksempel 3 X = R n, d 2 (x, y) = n j=1 (x j y j ) 2 Eksempel 4 X = R n, d (x, y) = max 1 j n x j y j Eksempel 5 X = C n, d(x, y) = n j=1 x j y j 2 der x = a+bi, y = c+di C, x y = (a c) 2 + (b d) 2. Eksempel 6 X = C[a, b] = {x x : [a, b] C er kontinuerlig }, d (x, y) = max a t b x(t) y(t) Minste kvadraters metode, for ligningsystemet Ax = b, ˆx = (A T A) 1 A T b er minste kvadraters løsning. Multiplisitet Norm, la E være et reelt eller komplekst vektorrom. En norm på E er en avbildning : E R som tilfredsstiller (i) x > 0 hvis x 0 (ii) λx = λ x for alle skalarer λ og vektorer x (iii) x + y x + y for alle vektorer x, y Et normert vektorrom er et par (E, ) hvor E er et reelt eller komplekst vektorrom og er en norm på E. Normal (matrise), en matrise A C n n er normal hvis og bare hvis A A = AA. Normert romk, et normert (vektor)rom er et vektorrom med en norm definert. Norm (indreproduktrom), normen til en vektor x i et indreproduktrom er definert til å være x, x, og skrives x. 6

7 Nullrom, nullrommet til en matrise A er løsningene til ligningssettet Ax = 0, og skrives N(A). Dimensjonen er n r = (antall kolonner) - rangen. Omegn, la (X, d) være et metrisk rom, og la x X. N X er en omegn om x hvis det finnes ɛ > 0 slik at B(x; ɛ) N. Opphopningspunkt, la (X, d) være et metrisk rom, og la A X. Et punkt x X er et opphopningspunkt for A hvis det for hver ɛ > 0 finnes et punkt y i B(x; ɛ) A, y x. Opptil begrenset, la A R, A. A er opptil begrenset hvis det finnes en b R slik at a < b for alle a A. a er den minste begrensningen av A hvis (i) x a for alle x A (ii) Hvis x b for alle x A, så er a b En slik a kalles sup A (supremum). (Andre veien: inf A (infimum).) Ortogonal, vektorer x, y i et indreproduktrom er ortogonale (skrives x y) hvis x, y = 0. Ortogonal (matrise), en n n-matrise M er ortogonal hvis M 1 = M T. Ortogonalt diagonaliserbar Ortonormal Ortonormal sekvens Permutasjonsmatrise Positivt definitt (matrise), en matrise A er positivt definitt hvis v T Av > 0. Det er en slags matrise-analog til positive reelle tall. Projeksjon Pseudoinvers (matrise), La R n R m. Vi definerer A+ : R m R n ved A + y = den optimale minstekvadraters-løsningen av Ax = y. Vi kaller A den pseudoinverse til A. Man finner den ved formelen A + = V Σ + U T. QR-faktorisering Radrom Rang, rangen til en matrise A er antall pivotelementer, og er identisk med dimensjonen til kolonnerommet Col(A) og dimensjonen til radrommet. Hvis man ser på en matrise A som en lineær avbildning f : F n F m slik at f(x) = Ax, er rangen dimensjonen til bildet til f. Rangen er også n minus dimensjonen til kjernen til f. Separabel 7

8 Similær Singulærverdi Singulærverdi-dekomposisjon Skjevt Hermitisk, A R n n, A = A. Skjevt symmetrisk, A C n n, A = A. Span Standardbasis Surjektiv, en funksjon f : X Y er surjektiv hvis for alle y Y, det finnes en x X slik at f(x) = y. Symmetrisk (matrise) Tillukning, la (X, d) være et metrisk rom og la A X. Tillukningen til A er A = A {x x er opphopningspunkt for A}. Eksempel 1 I R med vanlig metrikk: [a, b) = [a, b] Eksempel 2 Q = R Underrom (metrisk rom), la (X, d) være et metrisk rom, og la A X. Da gir d restriktert til A, dvs d : A A R en metrikk på A. Da kalles (A, d) et underrom av (X, d) og A sier å ha den induserte metrikken. Unitær operator, en lineær avbildning U : H K, H, K Hilbertrom, er unitær hvis den er lineær og bijektiv og preserverer indreprodukt, dvs Ux, Uy = x, y. Unitært diagonaliserbar Åpen (metrisk rom), la (X, d) være et metrisk rom. U X er åpen hvis for alle x U finnes ɛ > 0 slik at B(x 0, ɛ) U. 2 Regneeksempler 2.1 Regneeksempel 1 La G : C[0, 1] C[0, 1] være definert ved (Gx)(t) = t 0 sx(s)ds, 0 t 1. Oppgave: Vis at G er en kontraksjon hvis C[0, 1] har d -metrikken. 8

9 Svar: Vi vise at det finnes α < 1 R slik at d(gx, Gy) αd(x, y). Vi har at d (x, y) = max x(t) y(t). 0 t 1 d (Gx, Gy) = (Gx)(t) (Gy)(t) = ( t 0 t 0 t 0 s(x(s) y(s))ds s x(s) y(s) ds sds)d (x, y) = 1 2 t2 d (x, y) 1 2 d (x, y). G er en kontraksjon med α = Mengder 3.1 Mengder l 0 l 2 {x x = (x n ) n=1 har et endelig antall ikke-null-elementer } {x x = (x n ) n=1, n=1 x n 2 < } l {x x = (x n ) n=1 er begrenset følge fra C} 3.2 Indreproduktrom l 2 L 2 (a, b) Indreprodukt: x, y = n=1 x ny n {x x C[a, b], b a f(t) 2 dt <, x Lebesgue-målbar} Indreprodukt: f, g = b a f(t)g(t)dt 4 Oppgavetyper Kontraksjon, gitt funksjon G, vis at G er en kontraksjon. Oppgitt G(x) Gitt en metrikk, sett G(x), G(y) inn den oppgitte metrikken, løs høyresiden og få den på samme form som metrikken. Man søker uttrykk på formen d(g(x), G(y)) = αd(x, y). Kontraksjon hvis α < 1. Singulærverdi-dekomposisjon, gitt m n-matrise A, finn en singulærverdidekomposisjon. Algoritme: 9

10 (1) Finn A T A. (2) Finn egenverdiene λ 1,, λ r til A T A. (3) Finn de tilhørende ortonormale egenvektorene v(1),, v (r). (4) Finn singulærverdiene σ 1 = λ 1,, σ r = λ r. (5) Finn matrisen Σ, a diagonal r r-matrix with elements σ 1,, σ r. (6) Finn U i = 1 σ i Av (i). Magisk projeksjonsoppgave, oppgave 3 eksamen 2007, gi opp Tillukning, gitt et rom, vis at tillukningen av rommet har en eller annen egenskap, eller et eller annet element. Lag en sekvens av elementer, og vis at grensen har ønsket egenskap. Finn nærmeste punkt, gitt et ortonormalt system e 1,, e n. Gitt et punkt x, finn punktet som er nærmest span av det ortonormale systemet. Teorem 4.6: nærmeste punkt y i span til x er: y = n x, e j e j. j=1 Gauss gitt m n-matrise, også kalt T : R m R n, finn basis for R n (kolonnerom) og R m (radrom). Kolonnerom = nullrom, og fyll på med e i der i er kolonnenr for pivot. Radrom: Ta alle kolonnene fra matrisen før gauss hvor det forekommer pivotelementer. Fyll på med e i der i er radnr for nullrader der det antas at man IKKE har byttet rader. 5 Teoremer 5.1 Kreyszig Kapittel 1 Teorem La (X, d) være et metrisk rom. Da er for x 0 X og ɛ > 0 1. B(x 0 ; ɛ) er åpen 2. B(x 0 ; ɛ) er lukket 3. S(x 0 ; ɛ) er lukket 10

11 Teorem La f : (X, d X ) (Y, d Y ). Da er f kontinuerlig hvis og bare hvis f 1 (U) X er åpen når U Y er åpen. Teorem Hvis (x n ) konvergerer mot x og x, da er x = x. Bevis 0 d(x, x ) d(x n, x) + d(x n, x ) = 0 d(x, x ) = 0 x = x. Teorem (x n ) n=1 er konvergent (x n) n=1 er Cauchy-følge. 5.2 Kreyszig Kapittel 5 Banachs fikspunktteorem, la X = (X, d) være et metrisk rom. Anta at X er komplett og la T : X X være en kontraksjon på X. Da har T kun ett fikspunkt. Bevis, se bok s Teorem a + b b + a. Bevis Regn ut, og man får samme svar. Teorem (ikke i boken) C[a, b] med d -metrikken er et komplett metrisk rom. 6 Husk Underrom, la A være en n m-matrise (n rader, k kolonner. R(A T ) = N (A) R(A) = N (A T ) R(A T ), N (A) R m R(A), N (A T ) R n Ser ut som at, for en n m-matrise P A = LDU: R(A) ima kolonnerommet til A N (A) kera = (ima T ) nullrommet til A R(A T ) ima T radrommet til A N (A T ) kera T = (ima) venstre nullrom til A Hvordan finne basis til A = LU, gitt L og U Basis for ima (kolonnerommet) er de r kolonnene i U som inneholder pivotelementerm og har dimensjon r, og er underrom av R m. 11

12 Basis for ker(a) (nullrommet) er de n r kolonnene i x i løsningen til Ux = 0, og har dimensjon n r og er underrom av R n. Basis for ima T (kolonnerommet) er de r radene som inneholder pivotelementer i U. Dimensjonen er r og er underrom av R n. Basic for kera T (venstre nullrom) er de siste m r radene i L 1 P. Dimensjonen er m r, og er underrom av R m. 12