INF3030 Uke 7, våren Eric Jul PSE Inst. for informatikk

Transkript

1 INF3030 Uke 7, våre 2019 Eric Jul PSE Ist. for iformatikk 1

2 Hva så vi på i uke 6 1. Eratosthees sil 2. Kokker og Kelere 3. Cocurrecy: De første to av tre måter å programmere moitorer i Java eksemplifisert med to løsiger av problemet: Kokker og Kelere (eller geerelt: produseter og kosumeter) 1. med sleep() og aktiv pollig. 2. med moitor, sychroized methods, wait>() og otify(),.. 3. med Lock og flere køer (Coditio-køer) (I dag!) 2

3 Pla for uke 7 1. Piazza use it if you are OK with it. NOT REQUIRED. 2. Mere om sykroiserig og kokkee og kelere 3. Sil igje 4. Hvilke orde O() har Eratosthees Sil? 5. Faktoriserig av tall 6. Alterativer for å parallellisere: Eratosthees Sil 7. Geerelt om last-balaserig ved parallelliserig med eksempel. 3

4 Problemet vi å skal løse: E restaurat med kokker og kelere og med et varmebord hvor mate står Vi har c Kokker som lager mat og w Kelere som server mate (tallerkeretter) Mat som kokkee lager blir satt fra seg på et varmebord (med TABLE_SIZE atall plasser til tallerkeer) Kokkee ka ikke lage flere tallerkeer hvis varmebordet er fullt Kelere ka ikke servere flere tallerkeer hvis varmebordet er tomt Det skal lages og serveres NUM_TO_BE_MADE atall tallerkeer 4

5 Restaurat versjo 1: varmelampe Lager tallerkeretter TABLE_SIZE Serverer tallerke umotable c Kokker (produseter) w Kelere (kosumeter) 3/1/19 5

6 3) Om moitorer og køer (tre eksempler på cocurret programmig). Vi løser sykroiserig mellom to ulike klasser. Først e aktivt pollede (masede) løsig med sykroiserte metoder (Restaurat1.java). Aktiv vetig i e løkke i hver Kokk og Keler + at de er i køe på å slippe i i e sykroisert metode Så e løsig med bruk av moitor slik det var tekt fra starte av i Java (Restaurat2.java). Kokker og Kelere veter i samme wait()-køe + i køe på å slippe i i e sykroisert metode. Til siste e løsig med moitor med Lock og Coditio-køer (flere køer e per vetetilstad (Restaurat9.java) Kelere og Kokker veter i hver si kø + i e køe på å slippe i i de to metoder beskyttet av e Lock. 6

7 Først e aktivt pollede (masede) løsig med sykroiserte metoder (Restaurat1.java) Dette er e løsig med e kø, de som alle tråder kommer i hvis e ae tråd er ie i e sykroisert metode i samme objekt. Termierig ordes i hver kokk og keler (i deres ru-metode) De køe som yttes er e felles kø av alle aktive objekter som evt. samtidig prøver å kalle e av de to sykroiserte metodee get og put. Alle objekter har e slik kø. HeatigTable Kø av objekter som veter på å utføre e av de sykroiserte metodee. sychroized boolea getplate(..) sychroized boolea putplate(..) 10

8 Løsig 2: Javas origiale opplegg med moitorer og to køer. De origiale Java løsige med sykroiserte metoder og e rekke adre metoder og følgede iebygde metoder: sleep(t): De å kjørede tråde sover i t millisek. otify(): (arvet fra klasse Object som alle er subklasse av). De vekker opp e av trådee som veter på låse i ieværede objekt. Dee prøver da e gag til å få det de vetet på. otifyall(): (arvet fra klasse Object). De vekker opp alle de trådee som veter på låse i ieværede objekt. De prøver da alle e gag til å få det de vetet på. wait(): (arvet fra klasse Object). Får åværede tråd til å vete til de ete blir vekket med otify() eller otifyall() for dette objektet. 15

9 otify() 17

10 Løsig 2, All vetig er ie i sykroiserte metoder i e to køer. All vetig ie i to sykroiserte metoder Kokker ad Kelere veter på este tallerke i wait-køe Vi må vekke opp alle i wait-køe for å sikre oss at vi fier e av de type vi treger (Kokk eller Keler) som ka drive programmet videre Ige testig på ivariatee i ru-metodee 3/1/19 20

11 3) E parallell løsig med Doug Lea s Coditios. Bruker to køer: E for Kokker som veter på e tallerkeplass på bordet E for Kelere som veter på e tallerke Da treger vi ikke vekke opp alle trådee, Bare e i de riktige køe. Kaskje mer effektivt Klart lettere å programmere 3/1/19 25

12 fial Lock lock = ew ReetratLock(); fial Coditio otfull = lock.ewcoditio(); // kø for Kokker fial Coditio otempty = lock.ewcoditio(); // kø for Kelere public boolea putplate (Kokker c) throws IterruptedExceptio { lock.lock(); try {while (umotable == MAX_ON_TABLE && umproduced < NUM_TO_BE_MADE){ otfull.await(); // waitig for a place o the table } if (umproduced < NUM_TO_BE_MADE) { umproduced++; umotable++;; otempty.sigal(); // Wake up a waitig Keler to serve if (umproduced == NUM_TO_BE_MADE) { // I have produced the last plate, otempty.sigalall(); // tell Kelere to stop waitig, termiate otfull.sigalall(); // tell Kokker to stop waitig ad termiate retur false; } retur true; } else { retur false;} } fially { lock.ulock(); } } // ed putplate 27

13 public boolea getplate (Kelerw) throws IterruptedExceptio { lock.lock(); try { while (umotable == 0 && umproduced < NUM_TO_BE_MADE ) { otempty.await(); // This Keler is waitig for a plate } if (umotable > 0) { umotable--; otfull.sigal(); // Sigal to oe Kokk i the Kokker s waitig queue retur true; } else { retur false;} } fially { lock.ulock(); } } // ed getplate E Keler eller e Kokk blir sigalisert av to gruer: - for å behadle (lage eller servere) e tallerke til - ikke mer å gjøre, gå hjem (tøm begge køee) 28

14 Vurderig av de tre løsigee Løsig 1: Ekel, me ka ta for mye av CPU-tide. Særlig år systemet holder av adre gruer å gå i metig vil typisk e av trådee da bli veldig treige, og da tar dee løsige plutselig ½-parte av CPU-tide. Løsig 2: God, me vaskelig å skrive Løsig 3: God, este like effektiv som løsig 2 og lettere å skrive. 30

15 Avsluttede bemerkiger til Produset-Kosumet problemet Ivariater brukes av alle programmerere (ofte ubevisst) program, loop or metode (sekvesiell eller parallell) Å si dem eksplisitt hjelper på programmerige HUSK: sychroized/lock virker bare år alle trådee sykroiserer på samme objektet. Når det skjer er det sekvesiell takegag mellom wait/sigal Når vi sier otify() eller wait() på e kø, vet vi ikke: Hvilke tråd som starter Får de tråde det er sigalisert på kjere direkte etter at de som sa otify(), eller ikke??. Ikke defiert Debuggig ved å spore utførelse (trace) System.out.pritl(.. ) Skrivig utefor e Locket/sykroisert metode/del av metode, så lag e: sychroized void pritl(strig s) {System.out.pritl(s);} Ellers ka utskrift bli bladet eller komme i gal rekkefølge. 32

16 Hoare s Origial Moitors ad Coditios Review of Hoare s article 33

17 Om sil og faktoriserig Eratosthees sil Vi krysser av i e bit-tabell. Husk det er bare ikkeprimtallee vi fier ved avkryssige (primtallee er de som står igje etter all ødvedig avkryssig) (Det er ikke mulig å effektivt fie primtallee direkte! Ige formel for primtallee!) Faktoriserig av M: Vi dividerer M med alle primtall < N i E-Sile for N =! Fier vi e faktor f i M, fortsetter vi med faktoriserig av M = M/f; 34

18 Quick Review of Erastophee s Sieve Review of crossig off 35

19 Hvor mage gager krysser vi av i Eratosthees Sil for alle primtall < N =!? Hvorda vet vi hvor mage kryss som settes med ES? Se på faktoriseriga: sekv: = 107* sekv: = 2*2*3*5*5*89*1447*1553* sekv: = 19*2897* sekv: = 2* * sekv: = 3*101*241* sekv: = 2*2*2*2*2*1061* sekv: = 5*7*13* sekv: = 2*3*3*17*31* sekv: = * sekv: = 2*2*11*168409* sekv: = 3*2713* sekv: = 2*5* sekv: = 167*659*3581*86629* sekv: = 2*2*2*3*7*7*4127*669869* sekv: = 239* Vi ser at de største tallee har ( ) ulike faktorer som ikke er 2, er = 3,5 i sitt si 4. Hver slik ulike faktor i tallet t <! tilsvarer 1 avkryssig av p i (eller e midre faktor p j ) < " # (= $!) 38

20 Hvilke orde har Eratosthes Sil algoritme (N) Vi krysser av for alle primtall <! - hvor mage er det? svar: omlag: " #$%( ") Hvor mage kryss settes av p i mellom p i2 og N? svar: omlag "()*+ / (2*, + - )< ". Et øvre estimat for (atall primtall)* (atall kryss per primtall)= O(N) = " * " = " " = + " " = 0 0 #$%( "). #$%( ") #$%(") 123(0) 39

21 Factorizig Numbers How to factorize umber 40

22 Om å parallelliser Sil og Faktoriserig, Riktig og Raskere Eratosthees sil Vi krysser av i e bit-tabell. Hvorda gjøre dette i parallell Hva det er vi deler opp, hva gjør hver tråd? Skal vi kopiere oe data til hver tråd? Hva er felles data og hva er lokale data i hver tråd. Faktoriserig av M: Vi dividerer M med alle primtall i E-Sile fra 0:! Parallelliserige av faktoriserig: Hvorda dele opp : Primtallee? Tallee fra 0: M? Skal vi kopiere oe data til hver tråd? Hva er felles data og hva er lokale data i hver tråd. 41

23 Riktig og Raskere Eratosthees Sil Mulig problem E-sil : Hvis to tråder setter av kryss samtidig i e byte, ka det da gå galt? byte[i] = byte[i] & xxxx; // problem? Hvorda blir dette utført i kjere Må vel da sykroisere? Raskere: Atall sykroiseriger må ikke bli for stort Atall tråder gager (evt * 2,3,4) : Helt OK Log (N) gager, evt log(n)*at tråder: OK,! tja? (hvor stor %-adel er! av N, N=100, N=10 000) ikke :N = " eller M gager 42

24 Alterativ 1 for Eratosthees Sil Dele opp primtallee mellom trådee så hver tråd tar oe hver og krysser av i hele Sila: Ulempe: 3 og 5 geererer lagt de fleste kryssee (lastbalaserig) Kue la tråd 0 ta 3, tråd 1 ta 5, osv Problem: to ulike primtall krysser av ulike steder i samme byte ka da vel miste ett av kryssee (eks: 3 kryssser 51, 7 krysser 49) Avkryssig er 3 opersjoer: Last opp i register, &-operasjo, lagre tilbake To primtall krysser av for det samme tallet (eks. 7 og 5 krysser av 105) da taper vi vel (?) ige tig om ett av kryssee går tapt. Hvis alle trådee har si kopi av Sila, skulle dette gå OK. Må da tilslutt slå samme disse k stk byte-arrayee. Tide det tar å slå samme disse vil kaskje bli lag?? 43

25 Alterativ 2 for Eratosthees Sil: Dele opp tallee i Sila : tallee 0:N mellom trådee, Ka ikke dele helt likt skillet må gå mellom to byter Hvorfor (?) Hver tråd krysser av med alle aktuelle primtall på si del av Sila. Problem 1: Hvor starter avkryssige av primtall p i hver tråds (første) byte. Problem 2: Hvorda vet trådee som har området: low..high hvilke primtall de skal krysse av for?? Hvilke er det? Svar : alle primtall <! eller h#$h Hvorda lage og lagre dem først? Tre alterativer: Tråd 0 lager dem først (sekvesiell del jfr. Amdahls lov) Alle trådee lager de samme primtallee <! i e lokal kopi Se på dette rekursivt som et problem som ka parallelliseres (dvs. Sekvesiell fase : Først alle primtall <! som så lager primtall <!) 44

26 Grep 2 vi lager oe ekstra data I FiMax-problemet hadde vi først: e lokal variabel: lokalmax som hver tråd lokalt oppdaterte til de var ferdige; og så kalte hver tråd e global sykroisert metode som evt. satte y verdi i globalmax Ka vi prøve oe tilsvarede her. I løsig a) treger alle trådee primtallee <!. Skisse - ete: a1) Tråd-0 lager disse primtallee først i tabelle mes de adre trådee veter, eller a2) Alle trådee lager hver si lokale tabell over disse primtallee a3) Ete a1) eller a2), så krysser hver tråd deretter av i si del av bit-arraye for alle disse primtallee. N.B. Hvis a1) skal tråd-0 bare bruke disse små primtallee til først å krysse av i området opp til!, ikke i hele sitt område. 45

27 Billig å lage e slik lite start-tabell for trådee i alt. a) Eks: skal vi parallelt krysse av for primtall < 2 milliarder, treger dee tabelle plass til 2 "#$ = bit/16= 2796 byter for å fie de primtallee p < (og i de lille tabelle treger vi bare krysse av med primtall q < = 212 for å fie dem. Billig start på å parallellisere det å fie alle primtall < ). tallee vi skal faktorisere 1 M de lille tabelle 1 N = ( Primtallee vi da treger 1 p = ) treger da primtall 1..q 1 q = *

28 Faktoriserig alt 3: Primtallee 0:N deles likt ut e etter e etter tur Alle trådee tar hver k te primtall Ata at k=4 Tråd 0 tar: 3, 13,... Tråd 1 tar: 5, 17,... Tråd 2 tar: 7, 19,... Tråd 3 tar: 11, 23,... Fordeler Med de adre alterativee: Hvis vi fier f.,eks at 13 er e faktor, så har tråd 1,2 og 3 ikke mer å gjøre (og tråd 0 gjør reste av arbeidet) Ulempe Hvor raskt er det stadig for e tråd å fie este k te primtall i tabelle Ka vi orgaisere primtallee slik at det går raskere? 54

29 3) Geerelt om last-balaserig og ekstra lokale data Vitse er at alle trådee har om lag like mye å gjøre (tidsmessig), eller sagt på e ae måte: Vi prøver å optimalisere slik at de tråde som fullfører sist gjør det raskest mulig. Når vi skal parallellisere er det (este) alltid e array eller matrise vi skal rege/gjøre oe med: Vi ka ete dele opp selve arraye (i like store deler 1/k del til hver av de k trådee) dvs. dele opp ideksee radvis eller koloevis hvis det er e matrise, eller vi ka dele opp verdiee i arraye slik at tråd-0 får de 1/k miste verdiee, tråd-1 de este 1/k verdiee,.. osv, eller vi ka estimere arbeidsmegde og vi 1/k-del av de til hver av trådee, eller?. 58

30 Hva har vi sett på i uke 7 1. Piazza please use it 2. Mere om sykroiserig og kokkee og kelere demo ved tavle J 3. Erastostees sil review 4. Hvilke orde O() har Eratosthees Sil? 5. Faktoriserig med eksempler 6. Hvorda lage e parallell løsig ulike måter å sykroisere skrivig på felles variable med eksempel 7. Ulike strategier for å dele opp et problem for parallelliserig 70