Filsystemet fra innsiden

Like dokumenter
Filsystemet fra innsiden

Generelt om permanent lagring og filsystemer

Filer i Linux og Bourne-again shell

Filer i Linux og Bourne-again shell

Flerveis søketrær og B-trær

Filer og filsystemer i Linux

Håndtering av filer og kataloger

En harddisk består av et lite antall plater av et magnetisk materiale.

Tildeling av minne til prosesser

Operativsystemer og nettverk

Håndtering av filer og kataloger

En harddisk består av et lite antall plater av et magnetisk materiale.

Tildeling av minne til prosesser

Tildeling av minne til prosesser

Dagens temaer. Dagens emner er hentet fra Englander kapittel 11 (side ) Repetisjon av viktige emner i CPU-design.

Funksjonalitet og oppbygning av et OS (og litt mer om Linux)

Hva er en fil logisk sett?

Filhåndtering. Fysisk organisering av filer. Hva er en fil logisk sett? Eksempel: Post (record) orientert fil. Kjell Åge Bringsrud INF 103

Nadine Pedersen GRIT Datamaskinen- kjenn din Mac

Minnehåndtering i operativsystemer

Kjenn din PC (Windows vista)

Innhold. Virtuelt minne. Paging i mer detalj. Felles rammeverk for hukommelseshierarki Hukommelseshierarki-2 1

Into da BIOS<3. Bak Skallet

Minnehåndtering i operativsystemer

HØGSKOLEN I SØR-TRØNDELAG Avdeling for informatikk og e-læring

Oppgave 2: Gå til roten (/) av systemet. Finn minst tre forskjellige måter å gå tilbake til hjemmekatalogen din på.

Dagens temaer. Kort repetisjon. Mer om cache (1) Mer om cache (2) Read hit. Read miss. Write hit. Hurtig minne. Cache

Dagens tema. Flere teknikker for å øke hastigheten

D: Ingen trykte eller håndskrevne hjelpemiddel tillatt. Bestemt, enkel kalkulator tillatt.

Flerveis søketrær og B-trær

Innhold. Oversikt over hukommelseshierakiet. Ulike typer minne. Innledning til cache. Konstruksjon av cache Hukommelseshierarki-1 1

Hva er en kø? En lineær datastruktur der vi til enhver tid kun har tilgang til elementet som ble lagt inn først

Operativsystemer og nettverk Løsningsforslag til eksamen Oppgave 1. a) Linux-kommando: java Beregn & b) Shellprogram:

Patrick Fallang (Dataingeniør) Lab Oppgave: Kjenn Din Egen PC (XP)

6105 Windows Server og datanett

Betinget eksekvering og logiske tester i shell

Operativsystemer og grensesnitt

Generelt om operativsystemer

ZFS. Solaris og ZFS som ny hjemmekatalogløsning for ansatte og studenter ved UiB

Liste som abstrakt konsept/datatype

Kjenn din PC (Windows7)

Kjenn din PC (Windows 7)

HØGSKOLEN I SØR-TRØNDELAG

EKSAMEN. Operativsystemer og nettverk

Hva er en kø? En lineær datastruktur der vi til enhver tid kun har tilgang til elementet som ble lagt inn først

Opprydding og Vedlikehold av Windows

Eksamensoppgave i TDT4225 Lagring og behandling av store datamengder Kontinuasjonseksamen

Dagens temaer. Praktisk anvendelse: Satellittkommunikasjon. eksempler på bruk av assembler/c/arkitektur teknikker for å øke hastigheten

Hva er en kø? En lineær datastruktur der vi til enhver tid kun har tilgang til elementet som ble lagt inn først

Dagens temaer. Cache (repetisjon) Cache (repetisjon) Cache (repetisjon)

IN1020. Minnehierarki

Eksamensoppgave i TDT4225 Lagring og behandling av store datamengder

Filterprogrammer og redirigering av I/O

Dagens temaer. Mer om cache-hukommelse (kapittel 6.5 i Computer Organisation and Architecture ) RAM ROM. Hukommelsesbusser

Linux-programmer som bruker regulæruttrykk: grep, sed, awk

HØGSKOLEN I SØR-TRØNDELAG

UNIVERSITETET I OSLO

Filterprogrammer og redirigering av I/O

TDT4225 Lagring og behandling av store datamengder

Generelt om operativsystemer

... Når internminnet blir for lite. Dagens plan: Løsning: Utvidbar hashing. hash(x) katalog. O modellen er ikke lenger gyldig ved

D: Ingen trykte eller håndskrevne hjelpemiddel tillatt. Bestemt, enkel kalkulator tillatt.

3. - Corsair Vengeance DDR3 1600MHz 8GB CL9 Prøv om du kan finne en tastatur-snarvei for å komme til dette kontrollpanelet.

Mål. Pensum. TDT4110 Informasjonsteknologi grunnkurs: Tema: Filer og unntak (exceptions) Utgave 3: Kap. 6. Terje Rydland - IDI/NTNU

6105 Windows Server og datanett

Filsystemer. Martin Gilje Jaatun. 30. april 2007

6105 Windows Server og datanett

Her velger dere først System and Security og deretter System.

Kjenn din PC(windows7)

Hukommelseshierarki. 16/3 cache /3 virtuell hukommelse in 147, våren 1999 hukommelseshierarki 1

INF2270. Minnehierarki

Oppgave 1 - Linux kommandolinje (%)

Oppsummering av digitalteknikkdelen

Programmeringsspråket C Del 3

Internminnet. Håkon Tolsby Håkon Tolsby

Marius Rogndalen Karlsen, Informatikk Lab oppgave

Programmeringsspråket C Del 3

Håndtering av tekstfiler

Oppløsning vil si antallet pixler det er i skjermen, i min skjerm er det 2560x1600px.

Prøve- EKSAMEN. Operativsystemer med Linux

Dagens temaer. eksempler på bruk av assembler/c/arkitektur teknikker for å øke hastigheten. Organisation and Architecture )

ZFS. Siste ord innen filsystemer. Trond Endrestøl. 23. februar Fagskolen Innlandet, IT-avdelingen

TDT4258 Eksamen vår 2013

TDT4225 Lagring og behandling av store datamengder

6105 Windows Server og datanett

Singletasking OS. Device minne Skjerm minne. Brukerprogram. Brukerdata/heap. Stack. Basis for flerprosess-systemer.

Programmeringsspråket C Del 3

4. Prøv om du kan finne en tastatur-snarvei for å komme til dette kontrollpanelet.

Fakultet for informasjonsteknologi, Løsning på kontinuasjon i TDT4186 Operativsystemer August 2005,

Dataeskeleser med databrikke

Kjenn din PC (Windows7, Vista)

Programmeringsspråket C Del 3

Hva er en liste? Hvert element har en forgjenger, unntatt første element i listen. Hvert element har en etterfølger, unntatt siste element i listen

HØGSKOLEN I SØR-TRØNDELAG

Vi anbefaler at du setter deg litt inn i maskinen på forhånd. Det er en DELL Optiplex 620.

UNIVERSITETET. Indeksering. Konvensjonelle indekser B-trær og hashing Flerdimensjonale indekser Hashliknende strukturer.

ITPE/DATS 2400: Datamaskinarkitektur og Nettverk

Kjenn din Mac. Intel HD Graphics MB

Hva er en liste? Hvert element har en forgjenger, unntatt første element i listen. Hvert element har en etterfølger, unntatt siste element i listen

Til Oppgaven tester jeg med en Multicom Kunshan:

Transkript:

Filsystemet i Linux

Filsystemet fra innsiden Har tidligere sett kommandoer for håndtering av filer i Linux filsystemet sett fra utsiden Skal nå se på filsystemet fra innsiden : Hvordan er filsystemet i Linux bygget opp? Hvordan gjøres egentlig lagring av filer? Hvorledes kan vi selv kontrollere filsystemet?

Lærestoff * Oppbyggingen av filsystemet Lagring og gjenfinning av filer Lagring av metadata for filer: inoder Toppnivåkatalogene i Linux Partisjonering, montering og demontering ** Styring av lagringskvoter på disk ** Verktøy for administrasjon og overvåkning ** *: Det meste av lærestoffet finnes i kapittel 10 i læreboken **: Avsnittene 10.4 og 10.6 i læreboken, foreleses ikke

Datalagring og hardware Data som CPU bruker ligger i ikke-permanent RAM Data i filer lagres i sekundærminnet, som består av permanente media: Lagrer store datamengder til lav kostnad Ikke direkte tilgjengelig for CPU Aksesseres gjennom egne I/O-kanaler Data overføres til/fra permanente media i store, sammenhengende blokker for å øke hastigheten

Vanlig brukte lagringsenheter * Permanente media, sortert etter hastighet: RAM-disker (primærminne brukes som disk ) Solid-state disker (flash-ram / minnepinner ) Magnetiske disker Optiske disker (CD, DVD, Blu-ray) Tapestasjoner *: Se avsnitt 3.7 i læreboken for mer om hardware for datalagring

Lagringsenheter (devices) i Linux Hele det globale filsystemet (katalogtreet) kan ligge spredt utover flere fysiske lagringsenheter Maskinens interne disk er alltid en av disse fysiske lagringsenhetene Andre lagringsenheter kan monteres inn i katalogtreet på ulike steder (mount points), med egne lokale filsystemer Lesing og skriving til devices foregår gjennom spesialfiler (drivere) som ligger i katalogen /dev

Lagringsenheter og blokker Fysiske lagringsenheter deles opp i små sammenhengende områder, for raskere I/O Disse enhetene kalles en (disk) blokk Vanlig brukte blokkstørrelser: 1, 4 og 8 KB Se blokkstørrelsen for et device i Linux: blockdev getbsz device file

Blokker og filer i Linux En blokk er den minste lagringsplassen som kan settes av i Linux til å lagre en ikke-tom fil Når en ikke-tom fil opprettes: Det settes av plass til minst én blokk med data, selv om antall bytes på filen er mindre enn blokkstørrelse I tillegg lagres filens metadata internt i filsystemet Linux allokerer automatisk nye blokker til å lagre data i etterhvert som en fil vokser i størrelse

Kommandoer for å se filstørrelser ls l Lengden på en fil, antall bytes fra start på filen frem til EOF-merket ls s Antall kilobytes satt av til fil ls s block size=4k Antall 4K diskblokker satt av til fil du Disk usage: Oppsummering av plassforbruk for filer og kataloger, mange opsjoner og virkemåter

Slack space: Sløsing med diskplass Slack space: Ekstra lagringsplass som brukes fordi filen ikke fyller opp diskblokken(e) som er satt av Gjennomsnittlig slack space for en fil er halvparten av filsystemets blokkstørrelse Slack space vil inneholde gamle data sjekkes ofte i etterforskning av kriminalsaker

Slack space og blokkstørrelser Store diskblokker: Mye slack space, spesielt hvis det er mange små filer Små diskblokker: Mindre slack space Mer overhead i filsystemet, spesielt hvis det er mange store filer

Slack space eksempel *: 4 KByte = 4096 bytes blokkstørrelse 100 000 filer, hver fil er på bare 5 bytes 500 000 bytes med faktiske data Krever over 409 milloner(!) bytes med diskplass *: Fra Wikipedia

Fragmentering av filer Disken deles opp i blokker på f.eks. 4 KB Filsystemet i OS holder rede på hvilke blokker som er ledige og hvilke som er i bruk Fragmentering: Når en fil blir større enn de ledige sammenhengende områdene på disk, må den lagres i områder som er spredt rundt på disken filen blir fragmentert

Fragmentering og diskhastighet For hver fil må OS holde rede på: Hvor på disken de ulike blokkene som tilsammen utgjør en fil ligger lagret I hvilken rekkefølge disse delene av filen skal settes sammen Etter lang tids bruk vil disken bli sterkt fragmentert: Store filer består av svært mange småbiter som ligger tilfeldig spredt på disken Lesing/skriving av sterkt fragmenterte filer er lite effektivt, spesielt for tradisjonelle magnetiske disker

Hvordan redusere fragmentering? Legg filer som leses mye, men ikke oppdateres ofte, f.eks. manualsider og dokumentasjon, på en egen disk Legg filer som oppdateres mye og ofte, f.eks. loggfiler og web-cache, på egen disk Prøv å sette av nok plass ved opprettelse av filer som skjøtes på ofte. Bruk større diskblokker

Defragmentering Sterkt fragmenterte disker må repareres for å gjenopprette effektivtet Vanlig å gå gjennom disker med jevne mellomrom for å gjøre fragmenterte filer sammenhengende igjen defragmentering Ressurs- og tidkrevende prosess, bør bare gjøres ved lav belastning på systemet

Visualisering av fragmentering og defragmentering (Wikipedia)

Lagring og gjenfinning av diskfiler Diskfiler stykkes opp i blokker Blokkene ligger ikke sammenhengende, men er spredt på ulike steder (diskadresser) Filsystemet/OS må ha innebygget en mekanisme for å kunne lagre og finne igjen en bestemt blokk i en fil Det finnes flere ulike måter å gjøre dette på, som varierer mellom forskjellige OS

Indeksering av filblokkene Den fysiske diskadressen til hver blokk som utgjør filen lagres i en array (eller annen egnet datastruktur) som kan indekseres fra starten til slutten av filen De fleste OS bruker (ulike varianter av) indeksering

File Allocation Table FAT Filsystem brukt i bl.a. eldre Microsoft-OS * : Hver fil har en peker til første blokk Hver blokk på disken lagrer en peker til neste blokk Problem: Lesing av f.eks. blokk nr. 100 i en file vil kreve 99 diskaksesser Løses ved at neste-pekeren for alle diskblokkene lagres i RAM i en tabell File Allocation Table (FAT) *: Dagens Windows bruker filsystemet NTFS der blokk-info. lagres i B-trær

FAT: Eksempel Filen som starter i blokk 151 slutter i blokk 156 Blokk 152 på disken er markert som bad /uleselig Blokk 154 etterfølges av 155 som etterfølges av 732 For at dette skal virke, må OS i tillegg bl.a. ha en tabell som lagrer fysiske diskadresser for hver blokk

Filsystemet i Linux Linux har støtte for ulike filsystemer, også FAT Vanligst: The Extended File System ext : Opprinnelig fra MINIX ( leke-unix for PC, ca 1990) ext er inspirert det gamle Unix File System (UFS) Stor fordel med ext: Journaling ext er i dag betegnelse på en familie av filsystemer Mest brukt(?) i Linux er ext 3

inoder * og inodetabellen inoden er et sentralt dataobjekt i filsystemene i ext-familien En inode lagrer alle metadataene, unntatt filnavnet, om en enkelt fil Alle inodene for alle filer i hele filsystemet ligger lagret i én stor tabell/array: inodetabellen * inode er antagelig en forkortelse for index node

inodetabell og inodenummer inodetabeller i Linux har (oftest) fast lengde: Typisk er det én inode per 2-8 KB med diskplass Hvis inodetabellen er full er filsystemet fullt, selv om det er ledig diskplass igjen Når en fil fjernes, gjenbrukes den ledige plassen i inodetabellen av neste nye fil inodenummeret til en fil: Indeksen som filens inode har i inodetabellen

Sammenhengen mellom kataloger, filnavn og inoder En katalogfil i Linux inneholder bare en liste med inodenummer og filnavn for hver fil (inkludert katalogfiler) i katalogen Linux-kommandoer som håndterer filer: Bruker filnavnet som er angitt til å hente ut inodenummeret fra katalogfilen Henter deretter nødvendig informasjon om filen fra inodetabellen

Innholdet i en inode, for regulære filer Filstørrelse i antall bytes Device som filen ligger på Eier av filen og filens brukergruppetilhørighet File mode / tilgangsinformasjon Tidspunkter for siste endring av filen og inoden Tidspunkt for siste gang filen ble brukt Antallet kataloger (hard links) som peker til denne inoden Adresser til blokkene der filen fysisk ligger lagret

inoder og lagring av diskblokker En inode inneholder et lite antall pekere (typisk 12) direkte til de første diskblokkene på filen inoden har i tillegg indirekte pekere: En peker til en indirekte blokk der det er lagret flere direkte pekere til diskblokker Det kan også brukes en peker til en dobbelt indirekte blokk (med pekere til indirekte blokker) og en pekere til en trippel indirekte blokk (med pekere til dobbelt indirekte blokker)

Inoder og diskblokker: Eksempel Anta en inode inneholder: 12 direkte pekere 1 indirekte peker 1 dobbelt indirekte peker 1 trippel indirekte peker Anta at en blokk er 8 KB, og at en peker er 8 bytes en blokk kan da lagre 1024 pekere (eksempel fortsetter)

Inoder og diskblokker: Eksempel (forts.) Blokk 0 11 på filen nås gjennom de 12 direkte pekerne Den indirekte pekeren peker til en blokk med med 1024 pekere til de neste blokkene på filen (blokk 12 1035) Den dobbelt indirekte pekeren peker til 1024 indirekte blokker, hver av disse kan igjen lagre 1024 direkte pekere til diskblokker (1024 * 1024 = 1 MB med direkte pekere) Den trippel indirekte pekeren peker til 1024 dobbelt indirekte blokker, totalt en 1 GB med direkte pekere Siden hver blokk er på 8KB, blir maksimal størrelse for en fil over 8 TB (!)

Linux-kommandoer for inoder Brukes ikke ofte: OS håndterer inoder bak kulissene Sjelden at brukere trenger inode-tilgang Kommandoer for å se inode-informasjon: ls i df i stat Lister inode-nummer for filene df viser statusinfo. for filsystem, opsjonen i viser info. om inode-tabell Viser status for filer og/eller filsystem

stat display file or file system status Opsjoner: stat [OPTION]... FILE... f Vis status for filsystem i stedet for filer L Følg symbolske lenker c "string" Formatér utskriften fra stat iht. formateringskodene angitt i string

Noen formateringskoder til stat for statusinformasjon om filer %n Filnavn %s Størrelse i bytes %b Størrelse i antall blokker %u %U UID/brukernavn til eier %g %G GID/gruppenavn %h Antall harde lenker til filen %i Inode-nummer %x Tidspunkt for siste aksess %y Tidspunkt for siste endring

Et shellprogram som bruker stat Vil finne filene med minste og største inodenummer i en mengde med filer Input til programmet er filnavnene Bruker en for -løkke til å gå gjennom alle filene Bruker stat c "%i" for å finne inodenr. Kode: inode_minmax