So you think you can scale? Oracle Coherence i praksis OUGN vårseminar, april 2010, Øyvind Brusevold.

Presentasjon om: "So you think you can scale? Oracle Coherence i praksis OUGN vårseminar, april 2010, Øyvind Brusevold."— Utskrift av presentasjonen:

1 So you think you can scale? Oracle Coherence i praksis OUGN vårseminar, april 2010, Øyvind Brusevold

2 Innhold • Hva er Coherence? • Hvor brukes Coherence? – Clustered memory – webSessions – Level2-cache – Distributed computing • Caching typer – Replikert – Distribuert – Near • Hvor passer det i arkitekturen?

3 Utfordringen Coherence

4 Oracle Coherence • ” Coherence provides replicated and distributed (partitioned) data management and caching services on top of a reliable, highly scalable peer-to-peer clustering protocol” • “Coherence has no single points of failure” • … eller “verdens dyreste HashMap” (from Purdy himself)

5 I kode import com.tangosol.net.CacheFactory; import com.tangosol.net.*; NamedCache cache = CacheFactory.getNamedCache(”bouvet.mycache”); Object obj = cache.get(”mykey”);... // Gjør interessante ting med obj cache.put(”mykey”, obj);

6 Cache topologier • Lokal • Replikert • Distribuert ( partisjonert) • Near – Kombinerer det beste fra lokal og distribuert • Coherence*Web

7 Coherence konfigurasjon … bouvet* near-largeback … near-largeback default-near distributed-largeback …

8 Coherence i arkitekturen Session Application JVM 1 Cache JVM 2 Session Application JVM 1 Coherence Cache JVM 2 Coherence Cache

9 Near cache

10 Nasjonale prøver • Gjennomføring av nasjonale prøver i skoleverket • 60’ elever pr. trinn. • 60’ – 100’ brukere pr uke. • Topp: ca 183’ brukere på en uke – (inkl. eksempelprøver) • Intensivt både på lesing og skriving • Samarbeid mellom Inspera og Bouvet

11 Inspera • Inspera Content Server • Lang historikk med Coherence • Enkel arkitektur i forhold til caching • Caching bygd inn i applikasjonen • Facade, Factory

12 Utfordringer • Dynamiske forespørsler – Standard web-caching er vanskelig • Minimere database-tilgang – Database-tilgang skalerer ikke særlig bra • Hotspots i applikasjonen – Tilgangskontroll • Load balancing

13 Løsninger • Caching av innhold – Må caches i jvm grunnet tilgangskontroll • Caching av privilegier • For øvrig: cache alt som kan caches! • Hotspots: Lokalt og Replikert • Cache besvarelser! – Near cache for elevers besvarelser. – Lagres til DB ved innlevering. • Load-balancing: – Coherence*Web og HAProxy

14 Coherence*Web • Eget forhåndskonfigurert cluster for session management • Kan brukes med de fleste Servlet Containere • Et servletfilter som legger session-objektet i cache. • Modifiserer web.xml og jsp’er

15 Arkitektur Hardware load-balancer Apache Web-server HAProxy LB JVM1: OC4J JVM2: Coherence JVM1: OC4J JVM2: Coherence JVM1: OC4J JVM2: Coherence... Coherence*Web Coherence

16 Nye utfordringer! • Vi trenger mer CPU! – Ok. Bare legg til flere app-servere • Med identisk konfig så legges de automatisk til clusteret • Vi trenger mer minne! – Ok. Bare legg til flere Coherence-servere. • Legges også automatisk til clusteret. • Forutsatt at ram er tilgjengelig. • Distribuert vs. replikert cache.

17 Advanced stuff • Indekser • Map/reduce • Write-behind • L2 cache (hibernate, toplink etc) • Partitioning

18 Coherence utgaver • Standard • Enterprise – Overvåking, indeksering, write-behind • Grid – Separate clusters

19 Silver bullet? • Ingen silver bullet i skalering og clustering • Coherence er det nærmeste jeg har kommet!

20 Links • Produkt – http://www.oracle.com/technology/products/coherence/index.html http://www.oracle.com/technology/products/coherence/index.html • Wiki – http://coherence.oracle.com/display/COH35UG/Coherence+3.5+Home http://coherence.oracle.com/display/COH35UG/Coherence+3.5+Home • HAProxy: – http://haproxy.1wt.eu/ http://haproxy.1wt.eu/ • Nasjonale Prøver – http://www.udir.no/Artikler/_Nasjonale-prover/Eksempeloppgaver-til- nasjonale-prover-2009/ http://www.udir.no/Artikler/_Nasjonale-prover/Eksempeloppgaver-til- nasjonale-prover-2009/