Anvendelser. Noen begreper. Kompresjon. INF 2310 Digital bildebehandling

Transkript

1 Anvendelser INF 30 Digital ildeehandling Kompresjon og koding Del I Tre steg i kompresjon Redundanser Transformer Koding og entropi Shannon-Fano og Huffman Kompendium: Frem t.o.m Appendiks B Kompresjon og koding enyttes for å redusere antall iter som skal til for å eskrive ildet (eller en god approksimasjon til ildet). En mengde anvendelser innen data-lagring og data-overføring Televideo-konferanser Fjernanalyse / meteorologi Overvåking / fjernkontroll Telemedisin / medisinske arkiver (PACS) Dokumenthåndtering / FAX Multimedia / nettverkskommunikasjon Moil kommunikasjon MP3-spillere, DAB-radio, digitalkameraer, Tidsforruket ved offline kompresjon er ikke særlig viktig. Dekompresjons-tiden er langt viktigere. Ved sanntids dataoverføring er tidsforruket kritisk. F INF 30 F INF 30 Noen egreper Kompresjon Lagring eller oversending Kompresjonsalgoritme Dekompresjonsalgoritme Kompresjon kan deles inn i tre steg: Transform - representer dataene mer kompakt. Kvantisering - avrunding av representasjonen. Koding - produksjon og ruk av kodeok. Data Kompresjon Dekompresjon Data Bildekompresjon estår i å pakke informasjonsinnholdet i ildet ved å ikke lagre redundant informasjon. Dataene komprimeres, deretter lagres eller overføres de. Når de senere skal leses, må vi dekomprimere dem. Koding er en del av kompresjon, men vi koder for å lagre effektivt, ikke for å hemmeligholde eller skjule informasjon. F INF 30 3 inndata transform kvantisering koding utdata Kompresjons kan gjøres Eksakt / tapsfri ( loss-less ) følg de grønne pilene Her kan vi rekonstruere den originale meldingen eksakt. Ikke-tapsfri ( lossy ) følg de røde pilene Her kan vi ikke rekonstruere meldingen eksakt. Resultatet kan likevel være godt nok. Det finnes en mengde ulike metoder for egge kategorier kompresjon. F INF 30 4

2 De tre stegene i kompresjon Eksempler - plassehov inndata transform kvantisering koding utdata Mange kompresjonsmetoder er asert på å representere dataene på en annen måte, altså transformer av original-dataene. Eks.: Differansetransform, løpelengde-/ run-length -transform Hvis vi kvantiserer (original eller de transformerte) dataene, så kan ikke dette reverseres ikke-tapsfri kompresjon. Til slutt kodes dataene, dvs. transformeres til inærrepresentasjon. Bygger ofte på normaliserte histogrammer. Transformer og koding er alltid reversile. Kvantisering gir alltid et tap av presisjon. F INF 30 5 Digitalt RGB-ilde: 5 x 5 x 8 iter x 3 farger = iter 364 x 448 x 8 iter x 3 farger = iter 4 MB Radarilde fra Radarsat- satellitten: 400MB, 300 km 300 km, 6 iter pr. piksel. Miljøovervåkning av havområder: Trenger 8 ilder for å dekke hele Middelhavet 3D-seismikk data fra km i Nordsjøen GB = 4 Terayte... Røntgen-ilde: 7 x piksler à iter: iter F INF 30 6 Plass og tid Digitale data kan ta stor plass Spesielt lyd, ilder og video Eksempler :. Digitalt ilde: 5 x 5 x 8 iter x 3 farger = iter. Røntgenilde: 7 x 8636 x iter pr. piksel = iter Overføring av data tar tid: Linje med 64 kit/sek:. ca. min. 38 s.. ca. 3 timer min. Linje med Mit/sek:. ca. 6 s.. ca. min. Overføringskapasitet og ps Filstørrelser er oftest gitt i inære enheter, gjerne i potenser av 04: Kiiyte (KiB = 0 yte = 04 yte), Meiyte (MiB = 0 yte = yte), Giiyte (GiB = 30 yte = yte) Overføringshastigheter og linjekapasitet angis alltid i titallsystemet, oftest som antall iter per sekund: kps = 000 ps = 0 3 iter per sekund. Mps = 000 kps = 0 6 iter per sekund. Gps = 000 Mps = 0 9 iter per sekund. Kapasitet for noen typer linjer: GSM-telefonlinje: 9.6 kps Analogt modem: f.eks. 56 kps ADSL (Asymmetric Digital Suscrier Line): - Mps F INF 30 7 F INF 30 8

3 Melding, data og informasjon Vi skiller mellom data og informasjon: Melding: teksten, ildet eller signalet som vi skal lagre. Data: strømmen av iter som lagres på fil eller sendes. Informasjon: et mål som kvantifiserer mengden overraskelse/uventethet i en melding. Et varierende signal har mer informasjon enn et monotont signal. I et ilde: kanter rundt ojekter har høyest informasjonsinnhold, spesielt kanter med mye krumning. F INF 30 9 Redundans Vi kan ruke ulike mengder data på samme melding. Et ilde av et 5-tall (50 x 50 piksler a 8 iter = its) Teksten fem i 8-iters ISO (4 iter) ISO tegnet 5 (8 iter) Et inært heltall 0 (3 iter) Redundans sier noe om hvor stor del av datamengden vi kan fjerne uten at vi mister informasjonen i dataene. Eks: Vi skal lagre tallet 0, men hvordan lagres det faktisk: Binært i en yte: iter med 0. Standard 7-iters ASCII-kode for 0. Skal vi are lagre tallene 0 og, trenger vi are it. Ved smart komprimering kan vi fjerne redundante iter. F INF 30 0 Ulike typer redundans Kompresjonsrate og redundans Psykovisuell redundans Det finnes informasjon vi ikke kan se. Kan kanskje susample eller redusere antall it per piksel. Interilde redundans Det er en viss likhet mellom naoilder i en tidssekvens Vi kan kode noen ilder i sekvensen og ellers are differanser. Intersampel redundans Naopiksler ligner på hverandre eller er like. Hver linje i ildet kan run-length -transformeres. Kodings-redundans Gjennomsnittlig kodelengde minus et teoretisk minimum. Velg en metode som er grei å ruke og gir liten kodingsred. F INF 30 Kompresjonsraten : der i er antall it pr. sampel originalt, og c er antall it pr. sampel i det komprimerte ildet. Relativ redundans : percentage removed : CR F INF 30 i c c R CR i c PR 00 % i

4 Bildekvalitet I Hvis vi velger irreversiel kompresjon må vi kontrollere at kvaliteten på utildet er god nok. Gitt en MN innilde f(x,y) og et komprimert / dekomprimert utilde g(x,y). Feilen vi gjør lir da: e(x,y) = g(x,y) f(x,y) RMS-avviket (kvadratfeilen) mellom de to ildene lir da: e RMS MN M N x y e ( x, y) Vi kan også etrakte feilen som støy og se på midlere kvadratisk signal-støy-forhold (SNR): M N g ( x, y) x y ( SNR) MS M N e ( x, y) x y F INF 30 3 RMS-verdien av SNR er da Bildekvalitet II ( SNR) RMS M N xy M N x y Kvalitetsmålene ovenfor slår sammen alle feil over hele ildet. Vårt synssystem er ikke slik! Fler-komponent kvalitetsmål er edre! Del opp ildet etter lokal aktivitet! Fra Fourier-analyse: For å representere en skarp kant kan vi trenge mange koeffisienter. Homogene områder kan representeres ved få koeffisienter. Kompresjonsgraden ør kanskje variere rundt i ildet: g ( x, y) e ( x, y) Komprimer homogene områder kraftig, men med relativt lite tap. Mindre kompresjon langs kanter og linjer, men med relativt mer tap. Applikasjonsavhengig! Dersom det vi leter etter ligger i heterogene områder ør disse områdene komprimeres med mindre tap enn homogene områder. F INF 30 4 Kompresjon av ilder Det er en mengde redundant informasjon i ilder: Mellom piksler på samme linje Mellom ulike linjer i ildet Ojekter kan representeres mer kompakt enn med piksler. Vi kan også ta i etraktning psykovisuelle effekter. Symmetrisk kompresjon: komprimering og dekomprimering tar like lang tid. Assymmetrisk kompresjon, komprimering og dekomprimering har ulik regnetid, ofte tillater man langsom komprimering, men ønsker rask dekomprimering. F INF 30 5 Differansetransform Gitt en rad i ildet med gråtoner f,...f N, 0 f i -. Transformer (reversielt) til g = f, g = f -f,..., g N = f N -f N- Vi trenger nå + iter hvis vi skal tilordne like lange inære koder til alle mulig verdier. I differansehistogrammet vil de fleste verdiene samle seg rundt 0. En naturlig it-koding av differansene er ikke optimal. F INF 30 6

5 Differanseilder og histogram Mulig koding av differansetransform Original: Differanse-ilde (linje for linje) : Originalt Histogram: Histogram til Differanseildet: Lag f.eks. en 6 ords naturlig kode c =0000, c =000,... c 6 = Tilordne de 4 kodeordene i midten: c,... c 5 til differansene -7, -6,..., -, 0,,,..., 5, 6 Kodene c og c 6 kan rukes til å indikere om differansen x < -7 eller om x 7 (to-sidet shift-kode) x = - => c c c 5 x = => c 6 c 6 c c c c 5 c c c c 5 c c 9 c 5 c 6 c c 6 c 5 c 6 c 6 c Her øker kodeordets lengde trinnvis med 4 iter. Neppe helt optimalt i forhold til differansehistogrammet. F INF 30 7 F INF 30 8 Løpelengde-transform Ofte inneholder ildet ojekter med lignende gråtoner, f.eks. svarte okstaver på hvit akgrunn. Vi kan enytte oss av kompresjonsteknikker som tar hensyn til at naopiksler på samme rad ofte er like. Løpelengde-transform er reversiel. Først et eksempel: (4 tall) Når tallet 3 forekommer 6 ganger etter hverandre, trenger vi are lagre tallparet (3,6). Tilsammen trenger vi her 4 tallpar, (3,6), (5,0), (4,), (7,6) altså 8 tall til å lagre hele sekvensen 4 tall ovenfor. Hvor mange iter vi ruker pr. tall, avhenger av den videre kodingen. Løpelengder i inære ilder I to-nivå ilder trenger vi are å angi løpelengden for hvert run. Må også vite/definere om raden starter med hvitt eller svart run. Vi trenger kodeord for EOL og EOI. Run-length -histogrammet er ofte ikke flatt. Benytter da en kode som gir korte kodeord til de hyppigste løpelengdene. I ITU-T (tidligere CCITT) standarden for dokumentoverføring pr. fax Huffman-kodes løpelengdene. Forhåndsdefinerte Huffman-kodeøker, én for svarte og én for hvite runs. Mer effektiv dersom kompleksiteten i ildet er lav. F INF 30 9 F INF 30 0

6 Koding Naturlig inærkoding Et alfaet er mengden av alle mulige symoler (gråtoner) Hvert symol får et kodeord. Tilsammen utgjør kodeordene kodeoken. Koding skal være reversiel fra koden skal vi kunne rekonstruere det originale symolet vi kaller denne egenskaper ved koder for unik dekodarhet; en sekvens kodeord kan dekodes på én og are én måte. Instantant dekodare koder kan dekodes uten skilletegn. Alle kodeord er like lange. Kjenner vi noen eksempler på dette? Eks: En 3-iters kode gir 8 mulige verdier: Symol nr Symol s s s 3 s 4 s 5 s 6 s 7 s 8 Kode c i Naturlig inærkoding er are optimal hvis alle verdiene i sekvensen er like sannsynlige. F INF 30 F INF 30 Gray code Gray Code tranformasjoner Er den konvensjonelle inære representasjonen av gråtoner optimal? La oss se på et gråtoneilde med itplan. Ønskelig med minst mulig kompleksitet i hvert itplan Da lir løpelengde-transformasjonen mest effektiv. Konvensjonell inær representasjon gir høy itplan-kompleksitet. Hvis gråtoneverdien fluktuerer mellom k - og k vil k+ iter skifte verdi: eksempel: 7 = 0 mens 8 = I Gray Code skifter alltid are én it når gråtonen endres med. Overgangen fra naturlig inærkode til gray code er en transform, men åde naturlig inær kode og gray code er koder. Transformasjon fra Binary Code til Gray Code :. Start med MSB i BC og ehold alle 0 inntil du treffer. eholdes, men alle følgende its komplementeres inntil du treffer komplementeres, men alle følgende it eholdes inn du treffer 4. Gå til. Fra Gray Code til Binary Code :. Start med MSB i GC og ehold alle 0 inntil du treffer. eholdes, men alle følgende its komplementeres inntil du treffer. 3. komplementeres, men alle følgende its eholdes inntil du treffer. 4. Gå til F INF 30 3 F INF 30 4

7 Binary reflected gray code Gray kode i gråtoneilder 4 its Gray kode og inær Gray Binær Desimal 0000g d Gray code shaft encoder Gir sikker avlesing av vinkel. Emilie Baudot s telegrafskive 878. Koden patentert av Gray i 953. Brukes i styring av root-armer etc. MSB er likt i de to representasjonene. Større homogene områder i hvert itplan i Gray-kode enn i naturlig inærkode. Flere itplan med støy i vanlig inærkode. Det er en gevinst i løpelengdekoding av itplan i Gray kode. GC BC GC BC F INF 30 5 F INF 30 6 Informasjonsteori og koding Koder med variael lengde Koding ygger på sannsynligheter. Forekommer en pikselverdi ofte, ør vi lagre den med et lite antall iter for å ruke minst mulig lagerplass totalt. Et symol som forekommer sjeldent, kan vi tillate oss å ruke mange iter på å lagre. Vi ruker da et variaelt antall iter pr. symol. Vi skal først se på koding av enkeltpiksler. Interpiksel redundans minimeres av transform-steget: Eks.: Differansetransform, løpelengdetransform. For ulike sannsynligheter er koder med variael lengde på kodeordene edre enn like lange koder Hyppige symoler kortere kodeord. Sjeldne symoler lengre kodeord. Dette var forretnings-ideen til Samuel Morse A. - F.. -. K -. - P U.. - B -... G - -. L. -.. Q V... - C H.... M -- R. -. W. -- D -.. I.. N -. S... X E. J. --- O --- T - Y De vanligste symolene i engelsk tekst er : e, t, a, o, i, n, F INF 30 7 F INF 30 8

8 Entropi en liten forsmak Histogram og normalisert histogram Entropi er et matematisk mål på gjennomsnittlig informasjonsmengde i en sekvens av tegn eller tall. Har vi en sekvens av N tall eller tegn som lagres med iter pr. sampel, så kan vi si vi har et alfaet med mulige symoler. Vi kan finne sannsynligheten for hvert symol i alfaetet: P(s i )= n i /N Vi er interessert i gjennomsnittlig informasjon pr. symol. Intuitivt har vi at en mindre sannsynlig hendelse gir mer informasjon enn en mer sannsynlig hendelse Informasjon er relatert til mengden overraskelser. F INF 30 9 Vi har en sekvens med N symoler. Tell opp antall ganger symol s i forekommer og la n i være dette antallet. Dette er det samme som histogrammet til sekvensen. Sannsynligheten til symolene finnes da som: p i = n i / N Dette er det normaliserte histogrammet. F INF Gjennomsnittlig antall iter pr. piksel Vi konstruerer en kode c,...c N slik at symol s i kodes med kodeordet c i. i er lengden av kodeordet c i (angitt i iter). Gjennomsnittlig antall iter pr. symol for denne koden: R p p... N p Entropien H gir oss en nedre grense for hvor mange iter vi gjennomsnittlig trenger pr. symol (hvis vi are koder ett symol av gangen). N N i p i i Informasjonsinnhold Definer informasjonsinnholdet I(s i ) i hendelsen s i ved I( si ) log s ) log (x) er -er logaritmen til x Hvis log (x)= så er x= Eks: log (64)=6 fordi 64= 6 (=*****) log (8)=3 fordi 8=**= 3 log (tall) = log 0 (tall) / log 0 () log (/s i )) gir oss informasjonsinnholdet i hendelsen: symolet s i forekommer en gang, uttrykt i iter. i F INF 30 3 F INF 30 3

9 Entropi Hvis vi tar gjennomsnittet over alle symolene s i i alfaetet, får vi gjennomsnittlig informasjon pr. symol. Entropi H: H si ) I( si ) si )log( si )) i0 i0 Entropien setter en nedre grense for hvor kompakt sekvensen kan representeres Dette gjelder hvis vi are koder hvert symol for seg. Øvre og nedre grense for entropi Hvis alle symoler like sannsynlige => entropi lik antall iter. Det er symoler, og sannsynligheten for hvert av dem er s i )=/. Da lir entropien H i0 log ( ) log NB: Hvis det er symoler som alle er like sannsynlige, så kan de ikke representeres mer kompakt enn med iter pr symol. Hvis alle pikslene er like => entropi lik 0. Hvis are ett symol forekommer, er sannsynligheten for dette symolet lik, og alle andre sannsynligheter er lik 0. H log () 0 ( ) F INF F INF To eksempler Entropi i inært ilde Et inært ilde med M*N piksler inneholder it per piksel. Det er M*N iter data i ildet, men hvor mye informasjon er det i ildet? Entropi i et inært ilde Hvis det er like mange 0 som i ildet, så er det like stor sannsynlighet for at neste piksel er 0 som. Informasjonsinnholdet i hver mulig hendelse er da like stort, og entropien til et nytt symol er it. H log ( ) log / ( ) * * / Hvis det er 3 ganger så mange som 0 i ildet, så er det mindre overraskende å få en, og det skjer oftere. Entropien er da mindre: 3 3 H log ( ) log ( ) * * / 4 4 3/ F INF Entropi 0, ,5 0,5 0,75 A priori sannsynlighet for klasse Vi vil alltid måtte ruke it per piksel i et inært ilde, selv om entropien godt kan li nær null! Kodingsredundansen er null når det er like mange svarte og hvite piksler. F INF 30 36

10 Shannon-Fano koding I Shannon-Fano koding II En enkel metode: Sorterer symolene etter hyppighet, hyppigst til venstre. Deler symolene rekursivt i to grupper som forekommer så like hyppig som mulig. Fortsett til hver gruppe inneholder ett symol. For hver steg, tilordn 0 til venstre gruppe og til høyre gruppe. Traverser treet fra rot til lad Finner koden for hvert symol. Eksempel: HALLO : L() H, A, L, O (5) 0 H () H, A, O (3) 0 A, O () 0 A () O () Symol Ant. Kodeord Lengde Antall iter L 0 H 0 A O 3 3 Totalt antall iter 0 Oppdeling i to omtrentlig like store grupper kan gi et annet inært tre: Samme eksempel: HALLO Selv om treet er annerledes, og kodeoken lir forskjellig, så er koden unikt dekodar. Her har vi altså to likeverdige løsninger. Generelt for Shannon-Fano-koding er gjennomsnittlig antall iter per symol er relatert til entropien: H R H+ Øvre grense for kodingsredundans: it per symol. H, A, L, O (5) 0 L, H (3) A, O () 0 0 L ()H () A () O () Symol Ant. Kodeord Lengde Antall iter L 00 4 H 0 A 0 O Totalt antall iter 0 F INF F INF Huffman-koding Oppskrift - Huffman-koding Huffman-koding er en algoritme for variael-lengde koding som er optimal under egrensningen at vi koder symol for symol. Er asert på at vi kjenner hyppigheten for hvert symol Dette etyr at vi må lage et histogram. Ofte eregner vi sannsynlighetene Men det holder at vi kjenner hyppighetene. Gitt en sekvens med N symoler:. Sorter symolene etter sannsynlighet, slik at de minst sannsynlige kommer sist.. Slå sammen de to minst sannsynlige symolene i en gruppe, og sorter igjen etter sannsynlighet. 3. Gjenta til det are er to grupper igjen. 4. Gi koden 0 til den ene gruppen og koden til den andre. 5. Traverser innover i egge gruppene og legg til 0 og akerst i kodeordet til hver av de to undergruppene. F INF F INF 30 40

11 Eksempel - Huffman-koding Gitt 6 egivenheter A, B, C, D, E, F med sannsynligheter Begivenhet A B C D E F Sannsynlighet Slå sammen de to minst sannsynlige, Slå også sammen sannsynligheten deres Finn de to som nå er minst sannsynlige, og slå dem sammen på samme måte 0.5 Fortsett til det er are to igjen Eksempel - Huffman-koding Gitt 6 egivenheter A, B, C, D, E, F med sannsynligheter Begivenhet A B C D E F Sannsynlighet Gå aklengs gjennom strukturen og tilordne 0 eller til hver gruppe. (F. eks. kode 0 til den mest sannsynlig og kode til den minst sannsynlige) Kode Kode 0 F INF 30 4 F INF 30 4 Dette gir følgende kodeok Kodeoken Begivenhet A B C D E F Kode Med sannsynlighetene lir gjennomsnittlig antall iter pr. symol (R) for denne koden: (se foil 3) R p p... N p N i pi i Entropien H er her mindre enn R (se foil 33): H i0 si )log( s i )).34 N Kodingsredundans for Huffman Shannon-Fano metoden har en øvre grensen for kodingsredundans på it per symol. Kodingsredundansen til Huffman-koden har en øvre grense som er en funksjon av p 0, der p 0 er sannsynligheten til det hyppigste symolet. Kodingsredundansen lir større ettersom p 0 nærmer seg. F INF F INF 30 44

12 Generelt om Huffman-koding Kodingsredundans Ingen kodeord danner prefiks i en annen kode Dette sikrer at en sekvens av kodeord kan dekodes entydig Og at man IKKE trenger endemarkører / skilletegn. Mottatt kodesekvens er unikt og instantant (øyelikkelig) dekodar. Dette gjelder også Shannon-Fano og naturlig inærkoding. Hyppige symoler har kortere koder enn sjeldne symoler. Dette gjelder også for Shannon-Fano. De to minst sannsynlige symolene har like lange koder. Siste it skiller dem fra hverandre. Dette gjelder også for Shannon-Fano. Merk at kodeoken må overføres! Dette gjelder også for Shannon-Fano. Lengden av en Huffman kodeok er opptil G= kodeord. Det lengste kodeordet kan ha opptil G- iter. F INF La oss ruke de 6 mest sannsynlige symolene i engelsk tekst: Symol ^ e t a o i Sannsynlighet Huffman-kodeord Ordlengde Entropi Det gjennomsnittlige antall iter per symol, R, er gitt ved: Entropien H er litt mindre enn R: Kodingsredundansen R-H er dermed: R i p i F INF N i H i0 si )log( s i )).43 R H Ideell og faktisk kodeord-lengde Vi definerte informasjonsinnholdet I(s i ) i hendelsen s i ved: I( si ) log s ) Den ideelle inære kodeordlengden for symol s i er dermed: i = - log (s i )). Plotter den ideelle lengden på kodeordene sammen med den faktiske kodeordlengden, som er heltall: antall iter per symol F INF i ^ e t a o i Når gir Huffman-koding ingen kodingsredundans? Den ideelle inære kodeord lengden for symol s i er i = - log (s i )) Siden are heltalls ordlengder er mulig, er det are når s i ) k for et heltall k som dette er tilfredsstilt. Eksempel: hvis vi har Symol s s s 3 s 4 s 5 s 6 Sannsynlighet Huffman-kodeord lir den gjennomsnittlige ordlengden R =.9375 = H. F INF 30 48