Internminne og Cache. RAM = Random Access Memory

Transkript

1 Minne og og frames eksempel ytelse og Cache algoritmer RAM = Random Access Memory og Cache CPU-registere og cache er laget av SRAM (Static RAM) SRAM består av 6 transistorer, er meget hurtig og statisk (trenger ikke å oppfriskes) t er laget av DRAM (Dynamic RAM), består av en transistor og en kondensator, må oppfriskes 10 ganger pr sekund Synchronous DRAM (SDRAM), er DRAM hvor lesing og skriving er synkronisert med en ekstern klokke Nyeste: DDR4 (Double Data Rate) SDRAM ( Mhz)

2 Minne og og frames eksempel ytelse og Cache algoritmer 500 GByte 4 8 GByte 2MByte 128Kbyte 512 byte < 1ns 1ns 2ns 2 10 ms (10 sekunder) Minne-pyramiden 8 10 ns (10 sekunder) Registere L1 Cache L2 Cache (RAM) Disk

3 Minne og og frames eksempel ytelse og Cache algoritmer Et kjørbart program ligger i utgangspunktet på harddisken, men må lastes inn i internminnet før det kan kjøres modul statisk system bibliotek kildekode maskinkode maskinkode kompilering Linking Relative adresser Loading OS maskinkode Dynamically Linked Library (DLL) Program 2 sin(x) sin(x)

4 Minne og og frames eksempel ytelse og Cache algoritmer Et C++ prosjekt kan ha metoder man ofte bruker i en egen library-fil som man kobler sammen med hovedprogrammet når man skal bruke det c++ -c calctoolscpp # Lager maskinkode calctoolso c++ -c randtoolscpp # Lager maskinkode randtoolso ar rcv libtoolsa calctoolso randtoolso # Lager lib-filen libtoolsa Senere kan dette biblioteket brukes i et prosjekt: c++ -c -I/Tools mainsimcpp # Lager maskinkode mainsimo c++ -c -I/Tools simulationcpp # Lager maskinkode simulationo c++ -c -I/Tools usercpp # Lager maskinkode usero c++ -o sim mainsimo simulationo usero -lm -L/Tools -ltools sim # Kjører programmet

5 Minne og og frames eksempel ytelse og Cache algoritmer C++ dynamic library Man kan også lage et dynamisk (shared) library med filendelse so c++ -fpic -c randtoolscpp c++ -fpic -c calctoolscpp c++ -shared -o libstoolsso randtoolso calctoolso c++ -o sim mainsimo simulationo usero -lm -L/sTools -lstools export LD_LIBRARY_PATH="/sTools" sim # Kjører programmet

6 Minne og og frames eksempel ytelse og Cache algoritmer RAM (Random Access Memory)/arbeidsminne er et stort array av bytes: Adresser

7 Minne og og frames eksempel ytelse og Cache algoritmer Adressene må kunne lagres i registere For eksempel inneholder %rsp adressen til toppen av stack en : Alle mulige adresser (f eks IPv4 met ) Adresserom for internminnet: 0 - Maks Antall bit man bruker bestemmer hvor stort met blir Registerstørrelse (i bit) antall adresser = 64 K 32 4 G T

8 Minne og og frames eksempel ytelse og Cache algoritmer Ikke plass til alle programmer i internminnet på en gang Hvert enkelt program får sitt eget virtuelle fra 0 til feks 4G (32 bit adresser) Prosessen tror den har tilgang til alt dette minnet I virkeligheten ligger noe i RAM og andre deler på harddisken Disse virtuelle eller logiske adressene brukes overalt hvor programmet refererer til seg selv I instruksjonen mov (1023), %al er 1023 den virtuelle adressen Når et programmet lastes inn i internminnet og kjøres vil det variere hvor i det fysiske minnet programmet legges

9 Minne og og frames eksempel ytelse og Cache algoritmer Minneadressering og Et programs virtuelle adressering til variabler, subrutiner, bibliotek, data og så videre må knyttes til fysiske adresser Kunne skjedd ved loading, men tidkrevende og tungvint I moderne OS gjøres dette dynamisk mens programmene kjører Muligjør at programmer og biblioteker kan flyttes til og fra harddisk og bare loades når det er behov for dem OS oversetter fysiske adresser til logiske/virtuelle? Altfor sakte og for mye belasting av CPU Må skje på brøkdelen av et nanosekund, ikke tid til en add-instruksjon Gjøres i hardware av egen enhet, (Memory Managment Unit)

10 Minne og og frames eksempel ytelse og Cache algoritmer (Memory Mangagement Unit) CPU Logisk adresse Fysisk adresse Databuss Minne/RAM Figure: oversetter logiske adresser fra CPU til fysiske RAM-adresser i realtime

11 Minne og og frames eksempel ytelse og Cache algoritmer Anta at de to programmene skal kjøre på en maskin Adressene i de kompilerte programmene må være logiske og ikke til en fastlagt adresse i minne oversetter til fysiske adresser i real-time Trenger å oppdatere -tabellene når programmene plasseres eller omplasseres i RAM

12 Minne og og frames eksempel ytelse og Cache algoritmer Prog 1 load exit Prog 2 load exit Minne load exit load exit

13 Minne og og frames eksempel ytelse og Cache algoritmer Eksempel på -tabell CPU utfører instruksjonen load 32 for Prog1 Den logiske adressen 32 sendes til som bruker sin tabell for Prog1-adresser til å oversette til fysisk adresser 132 trenger følgende tabell: Prog1 Prog Alt for minnekrevende å ha en linje i tabellen for hver adresse! Det logiske minnet deles derfor opp i pages I eksempelet, la en page ha 50 adresser Prog1 starter på adresse 100 og Prog2 startet på adresse 150

14 Minne og og frames eksempel ytelse og Cache algoritmer Deler inn en prosess sitt virtuelle minnerom inn i like store biter (pages/sider) OS kan da effektivt laste disse sidene inn og ut av minnet og samtidig holde oversikt over hvor hver side er i en page-tabell Fast sidestørrelser hindrer huller når sider lastes inn og ut; fragmentering flytting av deler av prosesser til og fra disk blir mulig Gir full kontroll for OS over prosessers minnebruk Mulliggjør å bruke diskplass til å utvide minnet, virtuelt minne

15 Minne og og frames eksempel ytelse og Cache algoritmer En page har en størrelse 2 n bytes, typisk er n = 12 eller 13 Page-størrelsen er dermed 4 eller 8 Kbytes 4Kbytes er vanlig for X86-prosessorer Context switch: tabellen for gammel prosess lagres i PCB Deler av tabellen til den nye prosessen lastes inn i Alt det ikke er plass til i lagres i RAM

16 Minne og og frames eksempel ytelse og Cache algoritmer Page 0 Page 1 Page 2 Page 3 Logisk minne Page tabell (i ) og frames Frame nummer: Page 0 Page 2 Page 1 Page 3 Fysisk minne

17 Minne og og frames eksempel ytelse og Cache algoritmer Å dele in det logiske minnet i pages gjør det mulig å dynamisk laste inn og ut deler av en prosess Dermed kan minnet til det samlede antall prosesser på en maskin være større enn det fysiske minnet Resten lagres page for page på harddisk på swap-området Det virtuelle minnet til en prosess kan da fysisk lagres både i RAM og på disk Det å laste pages til og fra swap-området på disken kalles paging

18 Minne og og frames eksempel ytelse og Cache algoritmer Prog1 Prog2 Page 0 Page 1 Page 2 Page 3 Page 4 Page 5 Page 6 minne eksempel Page 6 Page1 Page 5 Frame nummer: Page 2 0 Page 3 1 Page 0 2 Page 4 RAM Harddisk (swap området)

19 Minne og og frames eksempel ytelse og Cache algoritmer Swapping og trashing Tidligere var swapping eneste måte å bruke disk til virtuelt minne; da blir hele prosessen lastet ut på disk Med en disk med lesehastighet på 100MByte/s tar det 10 sekunder å swappe en prosess på 1 GByte Er det fysiske minnet altfor lite, vil OS bruke nesten all sin tid på å flytte sider til og fra disk; dette kalles trashing Husk: det kan ta flere hundere tusen ganger så lang tid å hente pages fra en disk som å aksessere RAM, så virtuelt minne kan på ingen måte fullt ut erstatte RAM

20 Minne og og frames eksempel ytelse og Cache algoritmer 64K virtuell og 32K fysisk minne Virtual address space 60K 64K 56K 60K 52K 56K 48K 52K 44K 48K 40K 44K 36K 40K 32K 36K 28K 32K 24K 28K 20K 24K 16K 20K 12K 16K 8K 12K 4K 8K 0K 4K X X X X 7 X 5 X X X Virtual page Physical memory address 28K 32K 24K 28K 20K 24K 16K 20K 12K 16K 8K 12K 4K 8K 0K 4K Page frame Figure: Figure 3-9 i Tanenbaum Forholdet mellom virtuelle og fysiske adresser

21 Minne og og frames eksempel ytelse og Cache algoritmer Page table Virtual page = 2 is used as an index into the page table Present/ absent bit bit offset copied directly from input to output Outgoing physical address (24580) Incoming virtual address (8196) Figure: Figure 3-10 i Tanenbaum Slik oversetter virtuelle(logiske) adresser til fysiske

22 Minne og og frames eksempel ytelse og Cache algoritmer Endret Present/absent rw Page frame nummer referenced rettigheter Page Frame nummer: Fysisk frame-nummer i RAM Present: Hvis 0 blir det en page-fault Endret: Hvis 1 er siden dirty og må skrives til disk om den fjernes Rettigheter: lese, skrive, kjøre Referenced: settes hvis brukt, brukes av paging-algoritmer

23 Minne og og frames eksempel ytelse og Cache algoritmer - Translation Lookaside Buffer En prosess som bruker 100Mbyte minne vil med 4Kbyte page størrelse bestå av omtrent sider 4GByte prosess gir en million sider i Ikke plass til å lagre adressen til alle disse sidene i Den fullstendige tabellen ligger selv i internminnet bruker en Translation Lookaside Buffer () som er hurtig cache minne Inneholder en liten del av page-tabellen, Ved oppslag på adresser til sider som ikke ligger i, hentes de fra RAM Kalles -miss eller soft-miss Tar vesentlig lenger tid enn om adressen er i

24 Minne og og frames eksempel ytelse og Cache algoritmer Typisk ytelse størrelse: linjer oppslagstid: 05-1 klokke-sykel ekstra tid ved -miss: klokke-sykler -miss frekvens: 001-1%

25 Minne og og frames eksempel ytelse og Cache algoritmer og Cache Cache inneholder både data, instruksjoner og deler av page-tables i (Translation Lookaside Buffer) I L1 cache er ofte disse tre egne enheter L2 og L3-cache pleier å være en enhet L1 data CPU L1 instruksj L1 Mikroprosessor L2 Level 2 Cache Figure: Level 1 cache (L1) bestående av tre deler I AMD Athlon 64 er i tillegg delt i to deler, en for adresser til instruksjoner og en for adresser til data RAM

26 Minne og og frames eksempel ytelse og Cache algoritmer Et program kan be om at det settes av minnet til sine variabler før det starter Men et Java-program kan også be om at minne allokeres dynamisk: PCB = new process; denne plassen settes av i minnet først når programmet utfører det Programmet tildeles page for page med minne I C++ må man eksplisitt delete objekter som ikke er i bruk lenger for å frigjøre minne JVM utfører dette automatisk (garbage collection) Den delen av et programs minne som inneholder variabler og data og som dynamisk kan øke og minke i størrelse, kalles ofte heap

27 Minne og og frames eksempel ytelse og Cache algoritmer -algoritmer 1 Page-fault (En page mangler i minnet; ligger på swap på disk) 2 Ingen ledig frame i minnet 3 OS må velge hvilken page som skal legges på disk 4 Gjøres av paging-algoritme En page fault tar svært lang tid, siden den må hentes fra disk Men da kan andre prosesser kjøre i ventetiden

28 Minne og og frames eksempel ytelse og Cache algoritmer miss page-referanse er ikke i ; må hentes fra internminnet Også kaldt soft miss Hard miss = page fault En page mangler i minnet(og i ); må hentes fra disk Dirty page En side som har blitt endret slik at den må skrives til disk om den må ut av minnet working set Det sett av sider som en prosess har brukt nylig Segment En logisk del av et programs minne, data, programtekst, stack-segmenter buffer cache Del av minnet som brukes som filsystem-cache

29 Minne og og frames eksempel ytelse og Cache algoritmer Layout av en prosess sitt Statiske binære koden som prosessen kjører, text segmentet, text Heap: globale variabler og data som dynamisk generers lagres Stack: lokale variable, returverdier for funksjonskall MMAP, filer på disken lagret i RAM Kode (text) Stack MMAP Heap TASK_SIZE

30 Minne og og frames eksempel ytelse og Cache algoritmer rex:~/mem/ramsmp-350$ /ramsmp -b 1 RAMspeed/SMP (GENERIC) v350 by Rhett M Hollander and Paul V Bolotoff, Gb per pass mode, 2 processes INTEGER & WRITING INTEGER & WRITING INTEGER & WRITING INTEGER & WRITING INTEGER & WRITING INTEGER & WRITING INTEGER & WRITING INTEGER & WRITING INTEGER & WRITING INTEGER & WRITING INTEGER & WRITING INTEGER & WRITING INTEGER & WRITING INTEGER & WRITING INTEGER & WRITING INTEGER & WRITING 1 Kb block: MB/s 2 Kb block: MB/s 4 Kb block: MB/s 8 Kb block: MB/s 16 Kb block: MB/s 32 Kb block: MB/s 64 Kb block: MB/s 128 Kb block: MB/s 256 Kb block: MB/s 512 Kb block: MB/s 1024 Kb block: MB/s 2048 Kb block: MB/s 4096 Kb block: MB/s 8192 Kb block: MB/s Kb block: MB/s Kb block: MB/s Intel Core Duo 6600, 4MB cache

31 Minne og og frames eksempel ytelse og Cache algoritmer rex:~/www$ -m total used shared buffers cached Mem: /+ buffers/cache: Swap:

32 Minne og og frames eksempel ytelse og Cache algoritmer top top - 01:50:33 up 78 days, 11:02, 35 users, load average: 019, 051, 061 Tasks: 408 total, 1 running, 399 sleeping, 0 stopped, 8 zombie Cpu(s): 08%us, 07%sy, 00%ni, 985%id, 00%wa, 00%hi, 00%si, 00%st Mem: k total, k used, k, 14572k buffers Swap: k total, k used, k, k cached PID USER PR NI VIRT RES SHR S %CPU %MEM TIME+ COMMAND haugerud R :0021 top 1 root S :3041 init 2 root S :0002 kthreadd 3 root RT S :3207 migration/0 4 root S :3521 ksoftirqd/0

33 Minne og og frames eksempel ytelse og Cache algoritmer #include <stdioh> int array[ ]; main(int argc, char *argv[]){ int i,j; for(i = 0;i < ;i++){ j = i*100; array[i] = i; } } Eksempel på tidsforskjell Endrer tidsbruken seg om man istedet gjør array[j] = i;?

34 Minne og og frames eksempel ytelse og Cache algoritmer #include <stdioh> int array[10000][10000]; main(int argc, char *argv[]){ int i,j; for(i = 0;i < 10000;i++){ for(j = 0;j < 10000;j++){ array[i][j] = 5; } } } Array-indeksering Endrer tidsbruken seg om man istedet gjør array[j][i] = 5;?