PG4200 Algoritmer og datastrukturer Forelesning 9

Transkript

1 PG4200 Algoritmer og datastrukturer Forelesning 9 Lars Sydnes, NITH 2. april 2014

2 hash [hæs] hakke, skjære i stykker, ødelegge; hakkemat; lapskaus; hasj; virvar, rot, røre; Hvordan kan noe som kalles hashing hjelpe oss til å behandle data på en effektiv måte?

3 HASHING: VIRVAR SOM FORDEL. Effektiviteten til et binært søketre er uavhengig av om objektenes compareto()-metode er meningsfull. Snarere tvert imot: Hvis objektenes compareto()-metode er mest mulig uavhengig av dataenes mening, altså praktisk talt tilfeldig, så kan vi unngå systematiske ubalanser i søketreet. Jfr: Tilfeldig valgt partisjonselement i quicksort.

4 HASHING: BINÆRE TALL OG BINÆRE TRÆR Binær representasjon av tall: Veibeskrivelse: høyre høyre venstre høyre venstre Angivelse av node i binært tre: bits binære tall binære trær av høyde 64 Fin myte: Direkte adressering = Binære trær i hardware.

5 HASH-TABELLER En effektiv måte for lagring og søk av data: Legg til elementer. Søk etter elementer. Ta ut elementer. Bruk av tabeller (arrays) i datamaskinens minne: Indeksering av objektene. Indekser elementene på en rotete måte: To objekter som betraktes som like skal ha samme indeks. (ikke tilfeldig) Indeksen skal være mest mulig usystematisk. (tilfeldig)

6 ALTSÅ: Tabell [ Ole Per ] Strengen Ole gis indeksen 2. Strengen Per gis indeksen 4. Byggeklosser: Tabell i minnet. Avbildning mellom data og indeks. Dette kalles en hash-funksjon Optimal situasjon: Hvert objekt har én unik riktig plass. (Kun mulig om vi kjenner dataene på forhånd.) Realistisk situasjon: Objektene smøres rimelig jevnt utover.

7 HASH-TABELLER Nesten full tabell: Stor fare for at to ulike objekter får samme indeks. En hash-tabell må inneholde mange ledige adresser. Tommelfingerregel: 1/3 av plassene bør være ledige. (Lewis & Chase) KVALITET: Avbildningen Object indeks bør være laget slik at vi unngår kollisjoner.

8 I. HASH-FUNKSJONER

9 HASH-FUNKSJONER Trinn én: ( ) Object hashcode I java-verdenen er hashcode en int. Trinn to: ( ) hashcode indeks Indeksen er en int mellom 0 og n 1, der n er tabellstørrelsen. ( ) kan vi enkelt og greit løse slik: (her er % rest-operatoren) indeks = hashcode % n. Triks: Hvis n = 2 h, kan gjøre en algoritmisk forenkling: indeks = hashcode & (n 1). Her står & for bitwise and. Den binære representasjonen av n 1 = 2 h 1 blir , der antall enere = h.

10 HASH-KODER java.lang.object definerer hashcode(). Denne baserer seg på minneadressen. Objekter er enten forskjellige eller helt identiske Derfor vil vi ofte definere egne hashcode()-funksjoner. To String-objekter med samme innhold skal ha samme hashcode. Uavhengig av adresse Hvis obj.equals(other) returnerer true, så skal obj.hashcode() = other.hashcode()

11 HASHCODE: FOLDING Eksempel: Double.hashCode() public int hashcode() { long bits = doubletolongbits(value); bits = (bits ^ (bits >>> 32)); return (int) bits; } Trinn 1: Betrakt de 64 bitsene som en long. Trinn 2: Bruk xor mellom de 32 siste og de 32 første bitsene. Trinn 3: Returner de 32 siste bitsene i form av en int.

12 HASHCODE: STRING public int hashcode() { if (hash == 0) { for (int i = offset ; i < count+offset; i++) hash = 31*hash + value[i]; } return hash; } Variabelen hash (private int) brukes for å cache hashkoden. value[i] er av typen char: 16-bits Unicode-tegn. Tallverdien brukes i addisjonen. Resultatet kan skrives slik: hash = value n +value n 1 31+value n value n k 31 k. her er k = count 1, mens n = offset + k. Generell metode for å presse sammen store data til en liten hash-kode

13 HASHCODE: ANDRE IDEER I Lewis & Chase beskrives følgende metoder: Mid-Square (von Neumann) Opphav: Generator for tilfeldige tall. Radix Transformation Digit Analysis Length-Dependent method. Ulike mer eller mindre fantasifulle metoder for å hakke opp dataene og presentere resultatet som en int på en effektiv måte. Hovedtrekk: Fastlagt/deterministisk prosedyre med mest mulig tilfeldig resultat.

14 SEKUNDÆRE HASH-FUNKSJONER Noen implementasjoner bruker en sekundær hash-funksjon: private int secondaryhash(object obj) Annen opphakking av obj.hashcode() Derfor: Nyttig med et arsenal av hashingsteknikker. Viktig trade-off: Funksjonens evne til å hakke opp dataene Beregningskompleksitet

15 HASH-FUNKSJONER: OPPSUMMERING Objektene har selv ansvar for å lage en hash- Hash-koden: kode: obj.hashcode(); Hash-tabellen oversetter hash-kode til in- Hash-funksjonen: deks: private int index(object obj) return Math.abs(obj.hashCode()) % size Denne funksjonen gir oss et tall mellom 0 og size 1, altså en indeks i en tabell men size elementer. p = index(obj) array[p] = obj;

16 NOEN TANKER Teoretisk sett: System i dataene kan gjøre hashkoden mindre effektiv. Finn på en spesiell hash-kode som får frem de viktige forskjellene. Utnytt systemet i datene. Hvis datane er veldig usystematiske, så minker behovet for hashing. Vi kan bruke en billigere hash-kode? HashTable.java

17 II. KOLLISJONSHÅNDTERING

18 KOLLISJONER Hva hvis to ulike objekter får samme indeks p? String p = new String("Petter Olsen"); String a = new String("Alfred Paulsen"); p.hashcode() = a.hashcode() = I en tabell med størrelse 287 vil begge disse strengene legges i indeks %287 = %287 = 179.

19 Chaining: KOLLISJONSHÅNDTERING Lagre objektene under samme indeks Lenket liste under hver indeks. Open adressing: Finn en annen indeks. linear probing: Let etter ledig plass hos naboen (p + 1) % size, hos naboens nabo (p + 2) % size et.c. quadratic probing: Let etter ledig plass i indeks ( ( ) ) 2 i + 1 p = p + ( 1) i 1 % size, 2 der i = 1, 2,... double hashing: p = p + secondaryhash(obj)

20 CHAINING ChainingHashTable.java

21 CHAINING D E X F [ ] R C L G W A S Effektivitet: Finn fram til riktig liste: Konstant kjøretid: O(1) Finn fram i lenket liste: Kjøretid O(h), der h er antall elementer i den lenkede listen. Målsetning: Hold de lenkede listene små. Kollisjonene er håndtert men fortsatt uønsket

22 EKSEMPEL java.util.hashmap

23 OPEN ADRESSING: LINEAR PROBING objekt indeks Hvis indeks er opptatt: Prøv (indeks + 1). Hvis også den er opptatt: Prøv (indeks + 2). o.s.v. Til slutt finner vi en ledig plass :) Men :( Dette ligner sekvensiell leting etter en ledig plass. Muligens er dette ikke første gangen indeks forsøkes Opphopning av opptatte indekser. ARI ANNE BEATE ALF ERIK CARL IDA

24 SIDESPOR: HVA MED Å HASHE INDEKSENE? Lag en funksjon h(k) som opererer på indeksene og brukes slik: Hvis indeks i er opptatt, prøv indeks h(i) Hvis indeks h(i) er opptatt, prøv indeks h(h(i)). et.c. h er en omarrangering av tallene 0, 1,..., n. Men :( Vi får det samme gamle opphopningsproblemet i følgen i, h(i), h(h(i)),..., h k (i),... Det holder altså ikke med én slik funksjon

25 OPEN ADRESSING: QUADRATIC PROBING Vi kan unngå dette ved å bruke en hel familie h 1, h 2, h 3,..., h k,... av slike omarrangeringsfunksjoner. quadratic probing er en slik løsning: ( ( ) ) 2 i + 1 h i (index) = index + ( 1) i 1 2 % size i = 0, 1, 2,..., Hvis index er opptatt, så prøver vi h 1 (index). Hvis h i (index) er opptatt, så prøver vi h i+1 (h i (index)).

26 OPEN ADRESSING: DOUBLE HASHING int p = index(obj); int d = secondaryhash(obj); Let etter ledige plasser ved indeksene p, p + d, p + 2d,..., p + kd,... Nå sikrer vi at utgangspunkt og leterekkefølge avhenger av på to ulike vis. obj.hashcode()

27 OPEN ADRESSING: OPPSUMMERING Beregn objektets indeks. Så lenge vi kun finner opptatte indekser: Let gjennom tabellen i et bestemt mønster. Kollisjonenen er håndtert men fortsatt uønsket Vi ønsker å vandre minst mulig rundt i tabellen.

28 SLETTING AV ELEMENTER Problem: For å finne fram til et element må vi kunne rekonstruere den veien vi gikk for å finne en ledig plass. Derfor: Vi må merke veien frem til objektet. Løsning: Vi holder bokføring med elementene i tabellen: boolean[] present = new boolean[capacity]; Når vi sletter et element, lar vi elementet selv være i fred, men setter present[p] = false Entry-objekter Entry[] array = new Entry[capacity], der Entry-objektene husker på om de er tilstede eller ei.

29 ALTERNATIV BOKFØRING static Object GO_ON = new Integer(0); static Object STOP = null; /*...*/ /*delete*/ array[i] = GO_ON; /*test*/ if (array[i] == GO_ON) /* let videre */ if (array[i] == STOP) /* ferdig */ equals: Er objektene LIKE? ==: Er objektene IDENTISKE?

30 REHASHING Hva gjør vi når tabellen blir for full? Full = for lite luft i tabellen. Jo, vi utvider kapasiteten: Sett av plass i minnet til den nye tabellen. Sett alle elementene på plass i den nye tabellen. Indeksene avhenger av kapasiteten: Beregn nye hash-verdier for alle elementene. Derav ordet rehashing: Materialet må hakkes opp på nytt Vi bearbeide n elementer Kjøretid av orden O(n)

31 HASH-TABELLER I JAVA.UTIL java.util.hashtable (Synkronisert, for kompatibilitet java.util.hashset (Bygger på HashMap) java.util.hashmap (key1.equals(key2)) java.util.identityhashmap (key1 == key2) Basert på chaining.

32 EFFEKTIVITET Ordinære kostnader Kall hash-funksjonen Søk etter ledig plass Ekstraordinært: Rehashing add O(1) find O(1) remove O(1) rehash O(n) Dette forutsetter at vi unngår for mange kollisjoner.

33 EFFEKTIVITET Men: Her støter vi på grensene for algoritme-analysen. Beregningskompleksitet i hash-funksjonen. Hvis vi skal arbeide med ekstremt store hash-tabeller, så kan vi tenke oss at det ikke holder med en hashcode av typen int. Viktig trade-off En dårlig hash-funksjon kan skape mange kollisjoner. En bedre hash-funksjon kan kreve større ressurser.

34 REHASHING OG EFFEKTIVITET Worst case: Vi fyller på og fyller på. Kjøretide for rehashing < K capacity Rehashing med kapasitet capacity = 2 k. Total kjøretid < i=0 hk 2 i = K (2 h+1 1) 2K2 h. Tidsbruk for rehashing < 2K capacity. Total tidsbruk for rehashing er altså av orden O(n). Oppgave: Hva om vi endrer kapasiteten slik ved hver rehashing: newcapacity = capacity + 100?

35 III. MENGDER OG AVBILDNINGER: SETS AND MAPS

36 MENGDER = SETS Det som skiller en mengde fra en liste er at en mengde kun godtar ett eksemplar av hvert objekt. I en liste kan vi legge mange kopier av samme objekt. I en mengde kan vi kun legge én kopi av hvert objekt. D.v.s: add(object element)-funksjonen gjør ingen ting dersom element allerede befinner seg i mengden. Obs! To ulike varianter: Sammenligning med obj1.equals(obj2). (Er objektene like?) Sammenligning med obj1 == obj2. (Er objektene identiske?)

37 AVBILDNINGER = MAPS Assosiering av verdier med nøkler. Eksempel: Personer nøkkel=personnummer verdi = Person Eksempel: Leksikon nøkkel=oppslagsord verdi = Leksikonartikkel HashMap hashmap = new HashMap();... hashmap.put(key1,value1); hashmap.put(key2,value2); hashmap.put(key1,value3); hashmap.get(key1) returnerer nå value3.

38 TREE VS HASH TreeSet, TreeMap compareto REKKEFØLGE HashSet, HashMap hashcode, equals INDIVIDUELLE EGENSKAPER

39 OPPGAVER Innlevering 2 Oppgave 2 Oppgave 4 Implementasjon og bruk av hash-tabeller Chaining Open adressing Optimalisering Ulike typer probing Caching av hash-koder