Biseksjonsmetoden. biseksjonsmetode. Den første og enkleste iterativ metode for ikke lineære likninger er den så kalt

Transkript

1 Biseksjonsmetoden Den første og enkleste iterativ metode for ikke lineære likninger er den så kalt biseksjonsmetode. Gitt en intervall [a, b] hvor f skifter fortegn, vi halverer [a, b] = [a, b + a 2 ] [b + a, b] og tar som 2 ny vindu den halvparten hvor f skifter fortegn: 1/15 m=b a 2 a b

2 a m=b a 2 b 2/15 Algoritme: Biseksjonsmetode while ((b a) > T OL) m = a + b a % finner midtpunkt 2 if sign(f(a)) = sign(f(m)) a = m else b = m end end

3 Husk definisjonen av konvergens rate: r slik at e k+1 lim = C. e k e k r k = x k x Siden biseksjonsmetode genererer ikke en singel x k men et intervall [a k, b k ], er e k definert som e k = b k a k. 3/15 Men: i hvert iterasjon halverer vi intervallet: e k+1 = b k+1 a k+1 = 1 2 (b k a k ) = 1 2 e k Derfor, og det vil si at: e k+1 lim k e k = 1 2 konvergens er lineær: r = 1 C = 1/2.

4 konvergens er lineær: r = 1 C = 1/2. Som konsekvens: antall signifikante sifre øker av log 10 (1/2) 0.69 hver iterasjon (omtrent en ny siffer hver to iterasjoner) en bit i binær system per iterasjon. 4/15 Hvis [a, b] er det initielle intervallet (brakett), i step k er intervallets lengde (i hvert iterasjon halverer vi intervallet). e k = b a 2 k. Fikser vi en viss toleranse T OL over feilen, må vi iterere k antall ganger, hvor ( ) b a k log 2. T OL

5 Fordeler av biseksjonsmetode: veldig lett å implementere det er en robust metode, finner alltid en rot (hvis den eksisterer i [a, b]) trenger lite kjennskap av f (faktisk: kun fortegn!). 5/15 Ulemper: siden det bruker bare fortegn til f, antall iterasjoner vi trenger for en gitt toleranse er uavhenging av f. ( ) b a k log 2. T OL Det gjør at metoden er faktisk ganske treg. I praksis biseksjonsmetode brukes nesten aldri Andre metoder basert på den så kalt fiks punkt iterasjon brukes istede. Disse metoder har bruk for mer informasjon av f og derfor konvergerer betydelig raskere.

6 Fiks punkt iterasjoner Gitt en funksjon g : R R, en verdi x slik at x = g(x) kalles fiks punkt av funksjonen g (uendret av g). 6/15 En måte å løse problemet f(x) = 0 er at vi omskriver det som og prøver å takle det istedet. x = g(x) y=x finn intersesjon med y = 0 y=f(x) finn intersesjon med y = x y= g(x)

7 En rekke iterative metoder er faktisk baset på iterasjoner som x k+1 = g(x k ), hvor funksjonen g er slik at fiks punkt av g er også røtter av f = 0. En iterasjon som dette x k+1 = g(x k ) kalles for fiks punkt iterasjon eller funksjonal iterasjon (siden funksjonen g er applisert til x 0 og deres resultat gang etter gang, x k = g(g(g( g(x 0 ))))). 7/15 For en gitt likning f(x) = 0 finnes det mange ekvivalenter funksjonal iterasjoner (med forskjellige g). Ikke alle g er like gode! ikke bare konvergens ratene kan være forsjellige noen funksjonale iterasjoner kan konvergere mens andre divergerer!

8 Eksempel: f(x) = x 2 x 2 = 0 Likningen har to rot, x = 1 og x = 2. 8/15 Ekvivalente fiks punkt problemer er: 1. g 1 (x) = x g 2 (x) = x g 3 (x) = 1 + 2/x (appr. kvadrat rot, Pythagora) 4. g 4 (x) = (x 2 + 2)/(2x 1) (Newtons metode) y=x g 1 g 2 g 3 g

9 Vi kan konkludere at noen iterasjonsmetoder konvergerer andre konvergerer ikke det er forskjell i hvor fort hver enkelte iterasjonsmetode konvergerer. 9/15 Hvordan karakteriserer man konvergens? Konvergens er avhenging av g (x ): Teorem: Gitt g, deriverbare, med kontinuelle første deriverte: hvis g (x ) < 1, iterasjonen x k+1 = g(x k ) konvergerer. (lokalt konvergens, det finnes et intervall rundt x slik at fiks punkt iterasjoner konvergerer for alle mulige initielle x 0 der) x er en attraktivt fiks punkt av g hvis g (x ) > 1, iterasjoner konvergerer ikke for alle mulige initielle approksimasjoner x 0 x. x er en repulsivt fiks punkt av g Bevis:(konvergens) Feilen ved iterasjon k + 1 er e k+1 = x k+1 x = g(x k ) g(x ) Nå bruker vi en teorem ( mean value theorem ): det finnes θ k mellom x k og x slik at g(x k ) g(x ) = g (θ k )(x k x ) = g (θ k )e k

10 Derfor: e k+1 = g (θ k )e k. For x 0 nær nok x, finnes det C < 1 slik at g (θ k ) < C for alle k Vi har: e k+1 = g (θ k ) e k < C e k < C 2 e k 1 < < C k e 0 og derfor og iterasjoner konvergerer. lim e k+1 = 0 k 10/15 Merk at vi har også e k+1 e k < C, og hvis C < 1 konvergens er lineært minst. Det minste er C, g (x ), det raskeste konvergensen: g (x ) = 0 gir kvadratisk konvergens minst. Kunsten er å finne gode iterasjonsfunksjoner g som har forste deriverte som minst som mulig

11 Newtons metode Ideen er at vi approksimerer funksjonen f(x) med tangenten i (x, f(x)) ( linearisere f) 11/15 f(x + h) f(x) + hf (x) som er funksjon av en parameter h. RØtter av lineære likninger kan finnes analytisk: f(x) + hf (x) = 0 h = f(x) f (x), f (x) 0. Setter vi: x k x, x k+1 x k h, har vi formelen for Newtons metode: x k+1 = x k f(x k) f (x k ) (Newton Raphson)

12 x k+1 = x k f(x k) f (x k ) (Newton Raphson) 12/15 y=f(x) x k+1 x k y=f(x) x k+1 x k Om konvergens: Vi deriverer g: x k+1 = g(x k ), g (x) = f(x)f (x) [f (x)] 2 g(x) = x f(x) f (x).

13 g (x) = f(x)f (x) [f (x)] 2 Hvis x er en simpel rot (f(x ) = 0, f (x ) 0), er g (x ) = 0 og konvergens er kvadratisk (r = 2). 13/15 For multiple rot, Newtons metode konveregerer lineært bare, med konstant hvor m er multiplisitet av x. C = 1 1 m Merk at konvergens er garantert for bare x 0 nær nok x (lokal konvergens).

14 Sekant metode Et ulempe med Newtons metode er at vi må supplere til algoritmen funksjonen, f(x k ) første deriverte f (x k ). 14/15 Spesielt f kan være vanskelig å supplere (kanskje f er beregnet ut av en stor data fil). En alternativ er at vi bytter ut f med en endelig-differense approksimasjon: f (x k ) f(x k) f(x k 1 ) x k x k 1.

15 Metoden kalles for sekant metode fordi i hvert iterasjon den er ekvivalent til approksimerer f med sekanten gjennom (x k, f(x k )) og (x k 1, f(x k 1 )). 15/15 y=f(x) x k x k 1 Iterasjonen er: x k x k 1 x k+1 = x k f(x k ) f(x k ) f(x k 1 ) Merk at vi trenger to approksimasjoner x 0 og x 1 for å kunne starte iterasjoner