Objekt-tjenere og deres implementasjon Foreleser: Frank Eliassen Frank Eliassen, SRL & Ifi/UiO 1 Plan Arkitektur for objekt-tjenere Prosesser og tråder (threads) Tråd-synkronisering i Java Fler-trådede tjenere CORBA Portable Object Adapter POA policies POA managers ORBacus threading policies Frank Eliassen, SRL & Ifi/UiO 2 1
Objekt-tjenere-I Tjenere som er skreddersydd til å understøtte distribuerte objekter Tjenester realiseres ved objekter som tjeneren innkapsler Tjenester legges til eller fjernes ved legge til eller fjerne objekter Objekt-tjenere opptrer som steder der objekter kan leve Flere måter å aktivisere et objekt på Frank Eliassen, SRL & Ifi/UiO 3 Objekt-tjenere II Når et objekt aktiviseres, hvilke prosesseringsressurser skal implementasjonen av det tilordnes? Skal en ny prosess eller tråd opprettes? Finnes mange måter dette kan gjøres på Finnes det én beste måte? Hvordan bruke prosesser og tråder i distribuerte system? Bedre ytelse Bedre utnyttelse av ressurser Forenkle programmering Men først Frank Eliassen, SRL & Ifi/UiO 4 2
Objekt-tjenere-III Aktiviserings-policy En bestemt måte å aktivisere et objekt på Ulike dimensjoner Hvordan oversette mellom ROR og lokal implementasjon? Skal tjeneren være enkelt-trådet eller fler-trådet? Dersom fler-trådet, hvordan tilordne tråder til objekter og forespørsler? En pr objekt? En pr forespørsel? Transiente vs persistente objekter, etc En objekt-tjener bør understøtte flere policies Objektene kan grupperes etter hvilken aktiviserings-policy de er underlagt Objekt-adapter: programvare som implementerer en spesifikk aktiviserings-policy Frank Eliassen, SRL & Ifi/UiO 5 Objekt-tjenere-IV Organisering av objekt-tjener som understøtter forskjellige aktiviseringspolicies skeleton skeleton skeleton Object adapter Object adapter OS dispatcher Frank Eliassen, SRL & Ifi/UiO 6 3
Prosesser og tråder Motivasjon tradisjonelt prosessbegrep fra Unix anno 1980 1-1 relasjon mellom prosess og prosesseringsaktivitet behov for intern samtidighet i prosesser Løsning: generalisere prosess-begrepet til å kunne assosieres med flere prosesseringsaktiviteter Prosess tråder OS-ets abstraksjon av en prosesseringsaktivitet kjøretidsomgivelse ett adresserom trådsynkronisering (f.eks. semaforer) og komm.ressurser (ports) Frank Eliassen, SRL & Ifi/UiO 7 Tråder To modeller Hver prosess har ett adresserom og en eneste kontrolltråd (og program-teller) Hver prosess har flere kontrolltråder som deler ett adresserom og eksekverer i (kvasi)parallell Datamaskin Datamaskin prosess tråd programteller Frank Eliassen, SRL & Ifi/UiO 8 4
Motivasjon tråder kjøretidsomgivelser (adresserom) er dyre å opprette tråder er mye billigere å opprette og terminere tråder kan dele kjøretidsomgivelser (f.eks. globale variable, åpne filer, timere, signal,. ) prosesser definerer beskyttelsesdomener en tråd i en prosess kan (normalt) ikke aksessere data og ressurser i en annen prosess Frank Eliassen, SRL & Ifi/UiO 9 Trådpakker Trådpakke: et sett med primitiver (f.eks. bibl. kall) cthread_fork(func,arg) --> threadid cthread_exit(result) cthread_join(threadid) cthread_yield() Tråder kan opprettes og termineres under kjøretid Trådterminering kan være frivillig eller påtvunget fra utenfor tråden Frank Eliassen, SRL & Ifi/UiO 10 5
Trådpakker II Tråder deler felles lager aksess til delte data --> kritisk region semaforer, monitorer o.l. Trådpakker tilbyr ofte en mutex abstraksjon for gjensidig utelukkelse tilsvarer binær semafor: to tilstander locked og unlocked operasjoner: LOCK, UNLOCK og noen ganger TRY_LOCK LOCK: tråd blokkeres hvis den må vente på tilstand unlocked Trådpakker kan og tilby betingelsesvariable kø forbundet med hver variabel condition_wait(conditionid,mutexid) inkluderer unlock av mutexid condition_signal(conditionid) tråd som venter på conditionid og som vekkes, prøver å utføre relock på mutexid Frank Eliassen, SRL & Ifi/UiO 11 Tråder i Java Thread run() MyThread run() Runnable run() MyRun run() target Thread class MyThread extends Thread { public void run () { // } } Thread a = new MyThread(); public interface Runnable { public abstract void run() } class MyRun implements Runnable { public void run () { // } } Thread b = new Thread(new MyRun); Frank Eliassen, SRL & Ifi/UiO 12 6
Thread metoder static void sleep tråden pauser i oppgitt antall millisek. static void yield gir opp prioritet (settes bakerst i klar køen ) static Thread currentthread tråden som eksekverer nå ( denne koden ) void run( ) void start ( ) boolean isalive( ) void join( ) koden som eksekveres når tråden startes oppretter ny tråd og legger den i klar-køen false hvis tråden har terminert den kallende tråd blokkeres inntil den kallte tråd terminerer. Finnes og variant der man angir timeout (dvs. maks. ventetid på at tråden skal terminere) Frank Eliassen, SRL & Ifi/UiO 13 Synkronisering i Java Introduserer kritiske regioner ved et monitor-begrep. Token assosiert ved hvert objekt som bare én tråd kan eie av gangen vente-kø av blokkerte tråder assosiert med hvert token tråder som venter på tokenet Monitor-objekt har synkroniserte metoder. Innkapsler felles data. public class buffer { public synchronized Data get { //.. Gjør noe som leser dataene.. } public synchronized put (Data d) { //.. Gjør noe som endrer dataene.. } } synchronized metoder: -prøver(automatisk) å tilegne seg objektets token - gir det fra seg når metoden er ferdig Frank Eliassen, SRL & Ifi/UiO 14 7
Betinget synkronisering i Java Koordinere adgang til felles ressurser (buffer o.l.) Tre metoder som tilbys av class Object: public final void notify(); vekker opp en enkel tråd som venter i objektets kø. public final void notifyall(); vekker opp alle tråder som venter i objektets kø. public final void wait()throws InterruptedException; venter på å bli vekket av en annen tråd. Den ventende tråd frigjør token assosiert med monitoren. Når tråden vekkes må den vente til den har alle sine token igjen. Andre tråder kan imellomtiden ha hatt disse (og oppdatert de delte data). Frank Eliassen, SRL & Ifi/UiO 15 Betinget synkronisering i Java Implementeres som guarded action i monitor-metode: public synchronized void action() throws InterruptedException { while (!cond) wait(); // modifiser monitor data; notify(); } Frank Eliassen, SRL & Ifi/UiO 16 8
Flertrådet tjener Forespørsel dispatch ingen disk caching ingen disk caching disk caching disk caching disk caching Inn-Ut 8 ms forsinkelse 2 ms m/cache i snitt 2 ms prosessering 2.5 ms m/cache # prosessorer # tråder Maks. anrop/sekund 1 1 100 1 2 125 1 2 400 2 2 444 2 3 500 Frank Eliassen, SRL & Ifi/UiO 17 Flertrådet klient opprett tråd RMI hovedtråd utfør RMI Frank Eliassen, SRL & Ifi/UiO 18 9
Flertrådet klient Tråd 1 genererer resultater, men krever ikke svar fra tjener Flere varianter er tenkelige. RMI utfør RMI (blokkerende) Frank Eliassen, SRL & Ifi/UiO 19 CORBA Portable Object Adapter (POA) Muliggjør portable tjenerimplementasjoner fullstendig spesifisert i CORBA 2.2 (1997) standard POA språkbinding for hvert prog.språk policies styrer adferden til en POA root POA POA som må understøttes av alle implementasjoner utøver én bestemt policy kan lage egne policies for egne POA Spesialiseringer/varianter av root POA kanhaflerepoa per applikasjon ulike objekt kan være gjenstand for ulike policies Frank Eliassen, SRL & Ifi/UiO 20 10
POA spesifikasjonen OMG, ORB Portability Joint Submission (Final) Part 1 of 2, orbos/97-05-15 (chap 3) http://www.omg.org/cgi-bin/doc?orbos/97-05-15 Frank Eliassen, SRL & Ifi/UiO 21 CORBA Portable object adapter (POA) Muliggjør portabilitet av objektimplementasjoner mellom ulike ORBer Understøtter lettvekts transiente objekter og persistente objektidentifikatorer (f.eks. i ODBMSer) Tillater tjenere å implementere mange objekter Understøtter transparent objekt-aktivisering Utvidbar mekanisme for aktiviseringspolicies Flere POAer i en tjener CORBA klient CORBA tjener ORB? POA servants Frank Eliassen, SRL & Ifi/UiO 22 11
CORBA server arkitektur Klient ORB POA manager Tjener Objekt refereanse minpoa ID Objekt Servant manager ID Objekt IOR [IRref, nettadr, (minpoa,objid)] ID Objekt Servants: Implementerer anrop på objekter Frank Eliassen, SRL & Ifi/UiO 23 POA policies POA policy kontrollerer kjøretidsomgivelsen til en servant utøves av POA og servant managers policy type et aspekt ved kjøretidsomgivelsen/aktivisering spesifieres som et attributt policy er spesifikasjon av en POA policy mengde attributtverdier oppgis som argument når man oppretter en ny POA createpoa (navn, POAmngr,policy) Frank Eliassen, SRL & Ifi/UiO 24 12
POA policy typer: Object Life Span Spesifiserer persistensmodellen for en POA TRANSIENT Objektene i denne POAen overlever ikke prosessen i hvilken de ble først opprettet PERSISTENT Objektene i denne POAen overlever prosessen i hvilken de ble først opprettet Root POA default TRANSIENT Frank Eliassen, SRL & Ifi/UiO 25 POA policy typer: Id Assignments Spesifiserer om Objekt ID i denne POA er generert av applikasjonen eller POAen USER_ID Objektene tilordnes Object ID av applikasjonen Benyttes typisk av applikasjoner med persistente objekter POA metode: activate_object_with_id(objid, object_pointer) SYSTEM-ID Objektene tilordnes Object ID av POAen. POA metode: activate_object(object_pointer) Hvis POAen også har PERSISTENT Object Life Span Policy, må de tilordnede Object ID være entydige over alle instansieringer av den samme POA Root POA default SYSTEM-ID Frank Eliassen, SRL & Ifi/UiO 26 13
POA policy typer: Object Id Uniqueness Spesifiserer om de servants som aktiviseres i denne POA har entydige Object ID. UNIQUE_ID Servants aktivisert med denne POA understøtter nøyaktig en Object Id Benyttes typisk av applikasjoner med få transiente objekter MULTIPLE_ID en servant aktivisert med denne POA kan understøtte en eller flere Object Id. Benyttes typisk av applikasjoner med mange persistente objekter eksempel: en servant inkarnerer alle objektene en servant representerer et database entry Root POA default UNIQUE-ID Frank Eliassen, SRL & Ifi/UiO 27 POA policy typer: illustrasjon Object Id Uniqueness UNIQUE_ID POA Servants Object ID Servant pointer Object reference POA Active Object Map Frank Eliassen, SRL & Ifi/UiO 28 14
POA policy typer: illustrasjon Object Id Uniqueness MULTIPLE_ID POA Servant Object ID Servant pointer Object reference POA Active Object Map Frank Eliassen, SRL & Ifi/UiO 29 POA policy typer: Implicit Activation Spesifiserer om denne POA understøtter implisitt aktivisering av objekter. IMPLICIT_ACTIVATION Denne POA vil kun understøtte implisitt aktivisering når en applikasjon prøver å få tak i en objektreferanse for en inaktiv servant (kaller metode servant_to_reference), vil POAen automatisk generere en Object Id for denne servant og aktivisere det resulterende objekt anbefales ikke å kombinere IMPLICIT_ACTIVATION med PERSISTENT NO_IMPLICIT_ACTIVATION Denne POA vil kun understøtte eksplisitt aktivisering Root POA default IMPLICIT_ACTIVATION Frank Eliassen, SRL & Ifi/UiO 30 15
POA policy typer: Servant Retention Spesifiserer om denne POA vil oppbevare aktive servants i en Active Object Map. RETAIN Denne POA vil oppbevare aktive servants i sin Active Object Map NON_RETAIN Servants oppbevares ikke i denne POA. Kun meningsfull i kombinasjon med USE_DEFAULT_SERVANT eller USE_SERVANT_MANAGER policies Root POA default RETAIN Frank Eliassen, SRL & Ifi/UiO 31 POA policy typer: Request Processing Spesifiserer hvordan forespørsler prosesseres av denne POA. USE_ACTIVE_OBJECT_MAP_ONLY Hvis denne POA ikke finner en Object Id i sin tabell, returnerer den en exception til klienten USE_DEFAULT_SERVANT Hvis denne POA ikke finner en Object Id i sin tabell, eller hvis NO_RETAIN policien er spesifiert, vil kallet bli formidlet til en default servant som tidligere er blitt registrert hos POAen (set_servant) USE_SERVANT_MANAGER Hvis denne POA ikke finner en Object Id i sin tabell, eller hvis NO_RETAIN policien er spesifiert, vil kallet bli formidlet til en servant manager som tidligere er blitt registrert hos POAen (set_servant_manager) Root POA default USE_ACTIVE_OBJECT_MAP_ONLY Frank Eliassen, SRL & Ifi/UiO 32 16
POA policy typer: Thread Spesifiserer threading modellen som brukes av denne POA. ORB_CTRL_MODEL POAen er ansvarlig for å tilordne anrop til tråder. I en fler-trådet omgivelse kan samtidige anrop formidles til flere tråder applikasjonen må programmeres for å handtere multi-threading I Java: synchronized metoder og betinget synkronisering svakhet: kunne ønske oss mer finkornet kontroll (jfr. ORBacus) SINGLE_THREAD_MODEL Denne POA vil prosessere anrop sekvensielt. Applikasjonen trenger ikke programmeres for å handtere multithreading ( thread-safe kode) Root POA default ORB_CTRL_MODEL Frank Eliassen, SRL & Ifi/UiO 33 Noen nyttige POA policy kombinasjoner RETAIN og USE_ACTIVE_OBJECT_MAP_ONLY Tjenere som forvalter et endelig (lite) antall prestartede objekter RETAIN og USE_SERVANT_MANAGER Tjenere som forvalter et stort antall persistente objekter RETAIN og USE_DEFAULT_SERVANT Tjenere som forvalter et stort antall transiente objekter NON_RETAIN og USE_SERVANT_MANAGER Tjenere som benytter en servant per metodekall etc. etc. Frank Eliassen, SRL & Ifi/UiO 34 17
Opprette nye POA Kan opprette et hierarki av POAer POA metode create_poa(navn, POAmngr,policy_spec) merk: ingen arv av policies Hver POA utøver en viss policy ulike grupper av objekter forvaltes på ulike måter root_poa A B C D Frank Eliassen, SRL & Ifi/UiO 35 POA managers Kontrollerer flyten av anrop inn i en samling POAer Factory metode create_poa_manager(navn) POA_managerinterface tillater applikasjonen å utøve denne kontrollen activate lar anrop flyte til de assosierte POAer hold_requests alle anrop til de assosierte POAer køes opp discard_requests kaster alle anrop til de assosierte POAer exceptions sendes til klienter som anroper deactivate ingen anrop kan lenger mottas. Anrop avvises på en implementasjonsspesifikk måte Frank Eliassen, SRL & Ifi/UiO 36 18
Kontrol av anropsflyt vha POA managers Applikasjon ORB root_poa POA manager POA POA POA POA POA POA POA manager Frank Eliassen, SRL & Ifi/UiO 37 ORBacus: Utdrag av kode for init av ORB & POA public class Server { static public void main (String[] args) { // initialiserer ORBen org.omg.corba.orb orb = org.omg.corba.orb.init(args,props); // få tak i referanse til rootpoa org.omg.portableserver.poa rootpoa = org.omg.portableserver.poahelper.narrow( orb.resolve_initial_reference( RootPOA ); // få tak i referanse til rootpoaens POAManager org.omg.portableserver.poamanager manager = rootpoa.the_poamanager; //annen initialisering (f.eks. opprette/registrere servants)... //aktiviser POA manager og ORBen (vente på anrop) manager.activate() orb.run(); Frank Eliassen, SRL & Ifi/UiO 38 19
Thread policy i ORBacus 4.0 Kommando-linjeopsjoner forfiner POAens Thread policy Eksempler tråd-per-klient tjener en aktiv tråd per klient, flertrådet tjener en klient kan ikke ha flere samtidige forespørsler i samme tjener tråd-per-anrop tjener en ny tråd opprettes for hvert forespørsel tråd-pool tjener statisk forråd av tråder som allokeres til innkommende forespørsler pool-størrelsen gir øvre grense for samtidighet i tjeneren Frank Eliassen, SRL & Ifi/UiO 39 ORBacus: Tråd-per-klient tjener connect f() h() accept dispatch accept dispatch connect g() dispatch Klient A Klient B Tjener Frank Eliassen, SRL & Ifi/UiO 40 20
ORBacus: Tråd-per-anrop tjener connect f() h() connect g() Klient A Klient B Tjener Frank Eliassen, SRL & Ifi/UiO 41 ORBacus: Tråd-pool tjener f() g() h() i() Klient A Tjener Frank Eliassen, SRL & Ifi/UiO 42 21
Mer detaljer om CORBA Se CORBA Programmer s Guide: http://www.iona.com/support/docs/e2a/asp/5.0/corba/ pguide_java/html/index.html Frank Eliassen, SRL & Ifi/UiO 43 Oppsummering Objekt-tjenere Et sted for objekter å leve Understøtter flere aktiviserings-policies realisert ved objekt-adaptere Flere-trådede tjenere kan i noen tilfeller benyttes til å øke gjennomstrømningen (metodekall/tidsenhet) dersom f.eks. I/O er flaskehalsen fler-trådede tjenere kan utnytte multi-cpu tjenermaskiner CORBA Portable Object Adapter kan spesifisere ulike policies for hvordan innkommende anrop skal prosesseres og allokeres ressurser (inkl. threading policy) Frank Eliassen, SRL & Ifi/UiO 44 22