Vektorer og matriser

Transkript

1 DUMMY Vektorer og matriser Lars Sydnes 1.september 2014 OBS: UNDER UTVIKLING Oppgaver Det finnes passende oppgaver og løsningsforslag til dette notatet. 1 Innledning La oss se på et system av tre lineære ligninger i tre ukjente: (1 0 ) 2x + 4y z = 1 (2 0 ) x y + z = 2 (3 0 ) 3x + y z = 2 Vi skal se hvordan vi kan skrive dette som en matriseligning der x er den ukjente vektoren A er matrisen og b er vektoren Ax = b, x x = y, z A = b = 2 2

2 Når vi skriver Ax, mener vi produktet av matrisen A og vektoren x. Vi definerer en multiplikasjonsoperasjon for matriser og vektorer slik at produktet Ax av matrisen A og vektoren x er lik 2x + 4y z Ax = x y + z 3x + y z Senere skal vi definere hva vi mener med den inverse matrisen A 1 til A. Det lar oss uttrykke løsningen av ligningen slik: x = A 1 b Før vi kommer så langt, skal vi ta et raskt overblikk over vektor- og matrisealgebra. 2 Vektorrom Vi er allerede vant med å arbeide med 2-dimensjonale og 3-dimensjonale vektorer, d.v.s vektorer av typen [ a, og b x y z Vi er vant til at disse representerer (1) forflytninger i planet/rommet og (2) posisjoner (d.v.s. forflytningsvektor i forhold til et utvalgt punkt origo ). Vi har etablert visse operasjoner for slike vektorer: Addisjon Skalering (multiplikasjon med skalar 1 ) Disse operasjonene utføres komponentvis. Det vil si at vi behandler x-, y- og z-komponentene hver for seg. Vi har for eksempel: [ [ 4 = 2 [ = I tillegg har vi vektoroperasjonen subtraksjon, som vi kan definere slik: 1 En skalar er et vanlig reelt tall. u v = u + ( 1)v.

3 Disse operasjonene respekterer det vi kan kalle vanlige regneregler. Hvis u, v er vektorer, så vil for eksempel alltid 2(v + 2u) v = 2v + 4u v = 2u + 3v. Her brukte vi flere lover (regneregler), som vi kan beskrive som følger: Anta at a, b, c er vektorer og at r, s er skalarer. De assosiative lovene (a + b) + c = a + (b + c) og r(sa) = (rs)a De distributive lovene: ra + sa = (r + s)a og ra + rb = r(a + b) Den komuttative loven: a + b = b + a. Vi vil nå utvide vektorbegrepet til å omfatte andre klasser av objekter som oppfører seg på denne måten. Dette kan ses i lys av objektorientert programmering: Vi definerer et grensesnitt som definerer hva en vektor er. Senere skal vi se hvordan dette kan løses i java. 2.1 Definisjon av vektorrom Et vektorrom V er en mengde med vektoroperasjoner addisjon, subtraksjon og skalering som tilfredsstiller lovene beskrevet over, d.v.s de assosiative lovene, de distributive lovene og den kommutative loven. Videre krever vi at det finnes et utvalgt element 0, som kalles nullvektoren. Nullvektoren skal oppføre seg slik: 0 + a = a r0 = 0 0a = 0 Legg merke til skillet mellom nullvektoren 0 og skalaren 0. Begrepet vektorrom er faktisk veldig viktig: For at vi skal kunne legge sammen to vektorer, er det avgjørende at vektorene tilhører samme 2.2 Eksempeler på vektorrom Funksjoner Mengden av funksjoner f definert for a < x < b, kan betegnes F b a. Hvis f, g er elementer i F b a og α er et reelt tall, kan vi definere nye funksjoner: f + g er definert ved at (f + g)(x) = f(x) + g(x) αf er definert ved at (αf)(x) = α f(x). Man kan enkelt sjekke at disse operasjonene er assosiative, distributive og kommuttative, samt at funksjonen 0(x) = 0 fungerer fint som nullvektor. Vi kan altså snakke om et vektorrom.

4 2.2.2 Deriverbare funksjoner Fra matematikk R1 kjenner vi til at (αf(x) + βg(x)) = αf (x) + βg (x) når α og β er konstanter. Dette betyr at hvis f og g er deriverbare i punktet x, så er også kombinasjonen αf + βg deriverbar i punktet x. Dette kan vi oppsummere ved å si at mengden av funksjoner som er deriverbare på intervallet a < x < b utgjør et vektorrom. Vi kan bruke symbolet D b a til å betegne dette vektorrommet Tidsserier La oss si at vi er interessert i å studere temperaturen på ulike steder de siste 1000 dagene. Disse temperaturene kan organiseres i vektorer med 1000 komponenter. t = [ Målinger vi gjør på Blindern kan organiseres i en vektor t b, mens målinger vi gjør i Trondheim kan organiseres i en vektor t t. Det gir mening å bruke komponentvise vektoroperasjoner på slike vektorer. Temperaturforskjellen mellom disse stedene er representert av vektoren t b t t, mens gjennomsnittstemperaturen kan representeres slik: 1 2 t b t t. Her ser vi altså på vektorer med 1000 komponenter, som behandles komponentvis Det n-dimensjonale standardrom. Til nå har vi sett på vektorer med 2, 3 og 1000 komponenter. Vektorene med n komponenter organiseres i det n-dimensjonale standardrommet, som vi betegner med symbolet R n. Nå kan vi si at Rommet av vektorer med 2 komponenter = R 2. Rommet av vektorer med 3 komponenter = R 3. Rommet av vektorer med 1000 komponenter = R Her har vi brukt symbolet R, som vanligvis brukes for å betegne mengden av reelle tall (skalarer, eller om man vil: vektorer med 1 komponent).

5 2.2.5 Skalarprodukt av n-dimensjonale vektorer En vanlig operasjon for vektorer med n komponenter er skalarproduktet: (x 1, x 2,..., x n ) (y 1, y 2,..., y n ) = x 1 y 1 + x 2 y x + + x n y n I java-kode kunne vi uttrykke det slik: double scalarproduct(double[ x, double[ y){ product = 0; for (int i = 0; i < n; i++) product+=x[i*y[i; return product; Skalarproduktet går under mange navn: indreproduktet / inner product prikkproduktet / dot product skalarproduktet / scalar product Etterhvert skal vi se at skalarproduktet kan forstås som en variant av matrisemultiplikasjon. 2.3 Lineære transformasjoner Dersom V og W er to vektorrom og T : V W er en funksjon, så kalles T en lineær transformasjon dersom Dette betyr at vi kan velge mellom T (αv + βu) = αt v + βt u. å først bruke vektoroperasjoner i V og deretter transformere med T eller å først transformere med T for så å gjøre vektoroperasjoner i W. 2.4 Eksempler på lineære transformasjoner Skalering Derom r er et reelt tall, så får vi en tranformasjon S r : u ru. Denne transformasjonen er lineær, siden S r (αu + βv) = r(αu + βv) = rαu + rβv = αru + βrv = αs r u + βs r v. Her bruker vi den distributive loven, samt den kommutative loven for skalarmultiplikasjon.

6 2.4.2 Derivering La oss se på rommet D b a av deriverbare funksjoner på intervallet a < x < b og rommet F b a av funksjoner på det samme intervallet. Da kan vi se på derivering som en lineær transformasjon T d : D b a F b a, der T d f = f T d f er altså funksjonen som er definert ved at (T d f)(x) = f (x). Dette er kanskje litt heftig: En funksjon som opererer på funksjoner Matrisemultiplikasjon Vi skal senere se at en n m-matrise A gir en lineær transformasjon T A : R m R n. Vi skriver det gjerne slik: T A u = Au. Det er faktisk slik at enhver lineære transformasjon fra R m til R n kan uttrykkes på denne måten ved en n m-matrise. 3 Matriser En n m-matrise A er rett og slett en rektangulær oppstilling av tall. Her har vi en 2 3-matrise: [ Her har vi en 4 2-matrise: Mengden av n m-matriser kan vi betegne med R n m. Dette kalles rommet av n m-matriser. 3.1 Matriserom er vektorrom Hvis A og B er n m-matriser, så kan vi definere en ny n m-matrise αa + βb. Vi gjør her komponentvise operasjoner. Et eksempel på dette er [ [ [ [ ( 4) ( 2) = = Vi kan altså kombinere matriser med vektoroperasjoner.

7 3.2 n-vektorer er matriser Vi kan representere vektorer med n komponenter ved matriser på følgende måte: Som radvektorer, d.v.s. som 1 n-matriser. D.v.s. matriser med 1 rad: (x 1, x 2,..., x n ) [ x 1 x 2 x n Som søylevektorer (kolonnevektorer), d.v.s som n 1-matriser: x 1 x 2 (x 1, x 2,..., x n ). x n Vi kan altså se på matrisebegrepet som en utvidelse av vektorbegrepet. 3.3 Matrisemultiplikasjon Hvis A er en n k-matrise og B er en k m-matrise, så definerer vi matriseproduktet AB til å være en n m-matrise som er definert som følger: La oss betegne matriseelementet i rad i og kolonne j i A og B henholdsvis som a ij og b ij. Da er matriseelementet c ij i rad i og kolonne j i produktet AB definert som c ij = a i1 b 1j + a i2 b2 j + + a ik b kj = k a is b sj (1) s= Eksempel: Matrise og vektor. Vi kan representere vektoren [x, y, z ved 3 1-matrisen x x = y, z som vi har lov til å multiplisere med 3 3-matrisen A =

8 Resultatet skal være en 3 1-matrise, som altså kan fortolkes som en 3-vektor. Slik matriseproduktet er definert, får vi 2x + 4y z Ax = x y + z 3x + y z Vi kan altså representere ligningsystemet vårt (1 0 ), (2 0 ), (3 0 ) ved den kompakte ligningen 1 Ax = 2 2 Vi kan også multiplisere en 1 3-matrise med en 3 3-matrise: [ = [ Som vi ser, er resultatet en 1 3-matrise. 3.4 Ulike fremstillinger av matriseproduktet La A være en n m-matrise. Vi kan skrive A på radform: r 1 A = r 2, r n en vertikal liste over n radvektorer r i som alle har m komponenter. La B være en m k-matrise, som vi skrive på kolonneform: B = [ x 1 x 2 x k, en horisontal liste over k kolonnevektorer x j som alle har m komponenter. Produktet AB kan nå uttrykkes på flere måter: Kolonneformen er AB = [ Ax 1 Ax 2 Ax k, mens radformen er r 1 B r 2 B AB =.. r n B

9 Vi kan skrive rad i (en 1 m-matrise) i denne matrisen på kolonneform r i B = [ r i x 1 r i x 2 r i x n Siden r i er en 1 m-matrise (radvektor) og x j er en m 1-matrise (kolonnevektor), ser vi at elementene i denne listen er 1 1-matriser, altså skalarer. Nå er r i = [ a i1 a im Dermed er element i, j i matrisen, som vi kjenner igjen fra (1). og x j = b 1j. b mj r i x j = a i1 b1j + a i2 b 2j + + a im b mj,. 3.5 Den inverse matrisen Her skal vi innføre identitetsmatrisen I n n = standardbasisvektorene e 1 =. e 1 2 =. e 0 n = i R n. Med disse vektorene kan vi skrive identitestmatrisen på kolonneform: I = [ e 1 e 2 e n Hvis A og B er n n-matriser slik at AB = BA = I, så kalles de inverse matriser. I dette tilfellet vil vi også si at B er en invers til A, og vi skriver som regel B = A 1. Hvilken nytte kan vi ha av inverse matriser? Over så vi at ligningsystemet (1 0 ), (2 0 ), (3 0 ) kunne skrives som en matriseligning Ax = b,

10 der x er en ukjent 3D-vektor og A = og b = Hvis vi kjenner den inverse matrisen A 1, kan vi multiplisere begge sidene av ligningen med denne. Det gir: A 1 (Ax) = A 1 b Når vi utnytter det faktum at matrisemultiplikasjonen er assosiativ, får vi A 1 (Ax) = (A 1 A)x = Ix = x. Vi kan altså konkludere med at x = A 1 b. Da gjenstår det bare å finne den inverse matrisen A Å finne den inverse matrisen ved hjelp av Gauss-eliminasjon Her tar vi altså utgangspunkt i en n n-matrise A. Den inverse matrisen, som vi skal lete etter, skriver vi på kolonneform: Vi tar utgangspunkt i betingelsen A 1 = [ x 1 x 2 x n. AA 1 = I Ved å bruke kolonneformen til A 1 og I, kan vi skrive dette som [ Ax1 Ax 2 Ax n = [ e1 e 2 e n. Hvis vi skriver dette ut kolonne for kolonne, får vi n matriseligninger Ax 1 = e 1, Ax 2 = e 2,... Ax n = e n med n ukjente vektorer. Hver og en av disse ligningene kan vi løse hver for seg ved Gauss-eliminasjon. Det involverer radoperasjoner på de n tilhørende koeffesientmatrisene [ A e1 [ A e2 [ A en Her gjør vi et lite knep: Det er matrisen A som bestemmer hvilke radoperasjoner vi gjør, og derfor vil vi ende opp med å gjøre de samme radoperasjonene n ganger. Derfor innfører vi en hendig forkortelse for de n systemene i ligning (??): [ A e1 e 2 e n = [ A I Nå denne matrisen representerer altså n matrise-ligninger i n ukjente vektorer.

11 Det neste steget er å gjøre radoperasjoner til vi får den venstre blokken på trappeform: [A I [I B = [e 1 e n b 1 b n Den resulterende matrisen representerer de n koeffesientmatrisene altså ligningsystemene [I b 1, [I b 2,... [I b n, Ix 1 = b 1, Ix 2 = b 2,... Ix n = b n Eller, siden multiplikasjon med identitestmatrisen ikke har noen effekt, x 1 = b 1, x 2 = b 2,... x n = b n Men de ukjente vektorene x i er kolonnene i A 1. Vi har med andre ord bestemt den inverse matrisen: A 1 = [ b 1 b n Denne fremgangsmåten kan oppsummeres slik: Vi finner den inverse matrisen ved å gjøre radoperasjoner [A I [I A Inversjon og trappeform Da vi så på Gauss-eliminasjon, lærte vi at ligningen Ax = b har eksakt én løsning presis når vi kan få A på trappeform ved å gjøre radoperasjoner. Men, kolonnene i dne inverse matrisen var karakterisert ved n ligninger av den formen (jfr. ligning (??)). Det betyr at Vi kan få matrisen på trappeform hvis og bare hvis vi kan finne en invers Å finne den inverse matrisen ved hjelp av determinanter Se læreboka (Dunn & Parberry) kap Tillegg 4.1 Tillegg 1: Matrisemultiplikasjon i java Her har vi et godt utgangspunkt for å implementere matrisemultiplikasjon. Det som mangler her er å regne ut selve matriseelementene i resultatet. Se /* calculate c[i[j */.

12 import java.util.arrays; public class MatrixOperations { public static double[[ multiply(double[[ a,double[[ b){ if (a[0.length!= b.length) //Dimension check throw new RuntimeException("Invalid matrix dimensions"); double[[ c = new double[a.length[b[0.length; for (int i = 0; i < a.length;i++) for(int j = 0; j < b[0.length;j++); /*calculate c[i[j */ return c; Vi kan også lage metoder for å representere vektorer som matriser: public static double[[ columnvector(double[ vector){ double[[ output = new double[vector.length[1; for (int i = 0; i < vector.length; i++) output[i[0 = vector[i; return output; public static double[[ rowvector(double[ vector){ return new double[[{vector; Vi ønsker å kunne skrive ut matriser på en oversiktlig måte: public static void print(double[[ matrix){ for (double[ row: matrix) System.out.println(Arrays.toString(row)); System.out.println(); Til slutt kan vil lage oss en liten test: public static void main(string[ args){ double[ x = new double[{1.0,0.0,1.0; double[[ A = new double[[{ {2.0,4.0,-1.0,

13 ; {1.0,-1.0,1.0, {3.0,1.0,-1.0 print(multiply(a,columnvector(x))); // END OF CLASS MatrixOperations Dersom du implementerer multiply på den rette måten, så vil du få bekreftelse på at x = [1, 0, 1 er en løsning av matriseligningen Ax = b som vi så på over. 4.2 Tillegg 2: Vektorer og vektorrom i java Dersom vi skal definere hva vi mener med vektorer i java, kan vi ønske oss et grensesnitt interface Vector { Vector add(vector other); Vector subtract(vector other); Vector scalarmultiple(vector other) Problemet med dette grensesnittet er at det lover oss at vi skal kunne addere alle vektorer. Vi vet at det finnes ulike typer vektorer, og at de lever i ulike vektorrom. For eksempel ønsker vi ikke å addere en 2d-vektor med en 3d-vektor. Ideelt sett skulle vi ønske at kompilatoren kunne sjekke dette for oss. En løsning kan være å innføre et grensesnitt av typen: interface Vect<S extends Vect<S>> { S add(s other); // Vector addition S mul(double s); // Scalar multiplication double dot(s other); // Scalar product Nå kan vi behandle vektorer som vektorer: class Vectors { static <T extends Vect<T>> Vect<T> add(t a, T b){ return a.add(b); static <T extends Vect<T>> T sub(t a, T b){ return a.add(b.mul(-1.0));

14 static <T extends Vect<T>> T mul(double s, T a){ return a.mul(s); static <T extends Vect<T>> double dot(t a, T b){ return a.dot(b); static <T extends Vect<T>> T proj(t dir, T v){ double s = dot(dir,v)/dot(dir,dir); return mul(s,dir); static <T extends Vect<T>> double norm(t v){ return Math.sqrt(dot(v,v)); Her har vi en implementasjon av dette grensnittet: final class Vector2D implements Vect<Vector2D>{ public final double x; public final double y; Vector2D(double d,double e){x = d;y = e; public Vector2D add(vector2d other){ return new Vector2D(this.x+((Vector2D)other).x,this.y + ((Vector2D)other) public Vector2D mul(double d){ return new Vector2D(this.x*d,this.y*d); public double dot(vector2d other){ return this.x*other.x + this.y*other.y; public String tostring(){ return String.format("[ %f, %f ",x,y);

15 Legg merke til at vi bruker nøkkelordet final her. Det mefører at vi ikke kan lage subklasser av Vector2D. Dersom vi lager en subklasse av Vector2D, så kan vi lett lage rot i systemet. Her har vi et annet eksempel. final class Vector1D implements Vect<Vector1D>{ public final double x; Vector1D(double d){x = d; public Vector1D add(vect<vector1d> other){return new Vector1D(this.x+((Vector public Vector1D mul(double d){return new Vector1D(this.x*d); public double dot(vect<vector1d> other){ Vector1D vother = (Vector1D) other; return this.x*vother.x; public String tostring(){ return String.format("[ %f ",x); Til slutt kan vi bruke klassene våre: public class Vector { public static void main(string args[){ Vector1D a = new Vector1D(2.1); Vector1D b = new Vector1D(1.0); Vector2D d = new Vector2D(2.1,2.3); Vector2D x = new Vector2D(1.0,0.0); Vector2D y = new Vector2D(0.0,1.0); System.out.println(a.add(b)); System.out.println(Vectors.proj(a,b)); System.out.println(d); System.out.println(Vectors.proj(x,d)); System.out.println(Vectors.proj(y,d));

16 Til slutt kan vi definere grensensitt for transformasjoner: interface Transformation<A extends Vect<A>,B extends Vect<B>> { B transform(a element); class Projection implements Transformation<Vector2D,Vector1D> { public Vector1D transform(vector2d v){ return new Vector1D(v.x);