Betriebserfahrungen mit SAP BW auf RAC und AIX

2

Bauerfeind. Bewegung erleben.

Seit mehr 80 Jahren leistet die Bauerfeind AG mit ihren medizinischen Hilfsmitteln einen wichtigen Beitrag zur Erhaltung und Wiederherstellung der Gesundheit.

1.800 Mitarbeiter konzentrieren ihre Kraft darauf, Menschen ein beschwerdefreies und aktives Leben zu ermöglichen.

Damit sie bis ins hohe Alter hinein „Bewegung erleben“.

3

BauerfeindKompressionsstrümpfe

BauerfeindBandagen und Orthesen

BauerfeindEinlagen und Schuhe

BauerfeindProthesenpassteile und

Materialien

BICInnovationscentrum

Unser Portfolio im Überblick

BauerfeindMesstechnologie

4

Bauerfeind international

5

Bauerfeind. Systemlandschaft.

• Seit 2002 SAP im Einsatz, derzeit über 40 SAP Systeme – ECC 6.0 mit Internet Sales 5.0– CRM 4.0 mit Mobile Sales– SAP Netweaver 2004s (BI 7.0, XI 7.0,EP 7.0)– Solution Manager (Helpdesk, Change Managment, Incident Managment)– GTS 7.1– Alle Systeme laufen auf AIX (5.3 TL8 bzw. 6.1 TL2 SP2) und Oracle 10.2.0.4– LPAR‘s laufen uncapped

• Getrennte Rechenraum-Lokationen– 2 IBM Power 570 (16 CPU, 196GB Ram)– 2 IBM Power6 570 (8 CPU, 92GB Ram)– 2 IBM Power 520 als GPFS-Tiebreaker-Nodes in 3. Lokation– 8 IBM JS22 Blade Power6 (4 CPU, 32GB Ram)– 2 gespiegelte SVC-Cluster im SAN-Umfeld

6

Bauerfeind. Einführung Oracle RAC - Motivation.

• Kosten: – HACMP / TSM – Lizenzen gegen Mehraufwand SAP-Lizenzen– Kleinere Server / günstigere HW (statt P570 etwa „nur“ JS22)– Skalierbarkeit (Erweiterbarkeit durch hinzufügen statt durch ersetzen)– Kostensenkung im administrativen Bereich (Zeit / Beratung)

• Verfügbarkeit:– Zunehmende Internationalisierung fordert höhere Verfügbarkeit – Internationale Webshops 24x7x365– Wartungsfenster werden zunehmend kleiner (Wachstum Richtung Asien + kulturelle Zwänge)– Hohe Belastung der Basistruppe (oft WE-Einsätze unter Zeitdruck)– Unzufriedenheit mit der bisherigen Clusterlösung HACMP

7

Bauerfeind. Oracle RAC im SAP-Umfeld.

• „Einfache“ Integration in SAP– Transparent– Tools und Monitore– Hochverfügbarkeit durch Clusterware und SAPCTL

• Hot failover Lösung: – 1 DB mehrere DB-Instanzen – Ausfall von Hardware und / oder DB-Instanzen führt nicht automatisch zu einer Downtime– Reduzierung von geplanter und ungeplanter Downtime

8

Bauerfeind. Einführung Oracle RAC Projektmeilensteine (1).

•April 2008:

– Evaluierung Technologie und Machbarkeit Oracle RAC bei Bauerfeind– Oracle 10 RAC zu diesem Zeitpunkt nur mit Freigabe SAP – erster Kontakt mit Herr Dr. Graf (SAP) und

Herrn Klokkers (Oracle)– Freigabe Projekt durch SAP – Workshop mit Oracle in Walldorf

•Mai / Juni 2008:– Beschluss Einführung RAC bei Bauerfeind– Erstes Systeme sollte die BW-Linie sein (geringere Verfügbarkeitsanforderungen, Erfahrung sammeln)

•August / September 2008:– Unicode Umstellung BI– Produktivsetzung GPFS– Erster Test-RAC

9


• Oktober / November 2008:– Umstellung Entwicklung und QA BW auf RAC (sehr gute Unterstützung durch Oracle)– Diverse Test bzgl. Verfügbarkeit und Flexibilität, Lasttests waren leider nicht möglich

• Dezember 2008:– Produktivsetzung 2 Knoten RAC in BW auf Power6 570– Umstellung R/3 Entwicklung und QA auf RAC

• Januar 2009:– Diverse Performance Probleme

• Erhöhung shared_pool_size auf 3GB• Einspielung neuerer DB-Patches incl. Aktualisierung div. DB-Parameter• Tuning im GPFS-Umfeld

– Sperren auf DB-Ebene • Einspielen eines zusätzlichen Oracle-Patches

• seit Ende Januar 2009:

– Störungsfreier und performanter Produktivbetrieb!!

10


• März 2009:– Umzug von Power6 570 auf JS22 Blades –> Keine Performanceeinbrüche feststellbar!– Erweiterung 2 Knoten RAC um 2 weiter kleinere DB-Instanzen, vordringlich wegen Einsparung TSM-

Lizenzierung– Nebeneffekt: System skaliert extrem gut!! Kaum Lastspitzen mehr feststellbar!

• ab Ende Juni 2009:– Produktivstart ERP

• Q3/Q4 2009:– Umstellung restlicher Systeme mit hohen Verfügbarkeitsanforderungen

11

Bauerfeind. Oracle RAC Erfahrungen / Tips und Tricks (1)

• GPFS (Grundlage jedes RAC – Clusters)– hochperformantes von allen Knoten zugängliches Filesystem– Redundanz durch integrierte Replikation– Ein GPFS-Cluster pro SAP-System – Filesystemaufteilung:

• /oracle/<SID>/• /oracle/CRS/• /gpfs/oradb/<SID>/ + Verlinkung in SAP-Standard FS-Layout (Vorsicht immer voller Pfad nutzen)• /gpfs/oraarch/<SID>/ + Verlinkung in SAP-Standard FS-Layout• /gpfs/oraolog/<SID>/ + Verlinkung in SAP-Standard FS-Layout• /gpfs/oramlog/<SID>/ + Verlinkung in SAP-Standard FS-Layout• /sapmnt/<SID>/

12


• GPFS (Grundlage jedes RAC – Clusters)– Wichtige Parameter:

• usePersistentReserve yes• failureDetectionTime 10• prefetchThreads 100• worker1Threads 420• maxMBpS 800• maxFilesToCache 25000 (!)• maxStatCache 100000 (!)• leaseDuration 10• pagepool 2000M

13


• GPFS weitere Anmerkungen:– Platten im laufenden Betrieb hinzufügen kein Problem, nachfolgendes Restripe im laufenden Betrieb ist

nicht zu empfehlen– Je mehr Platten pro Filesystem desto besser– Nebeneffekt: Da Filesysteme auf allen GPFS-Knoten verfügbar, ist es sehr einfach Applikationsserver

aufzusetzen– Auch für non-RAC-Umgebungen interessant! – Kein bis kaum relevantes SAP/Oracle/GPFS-Know-How bei IBM – Selbst ist der Admin!– Probleme mit bestimmten Versionen:

• 3.2.1.4 teilweise Probleme bei Installation mit Sapinst• 3.2.1.7 keine Oracle-Installation möglich, da Linken mit Version nicht funktioniert• 3.2.1.9 bisher keine Probleme

14


• RAC-Umfeld allgemein:– Relativ neues Thema bei SAP

• Relevante und aktuelle Informationen im OSS noch rar • Parameterempfehlungen im OSS oft nur für Single-Instanz-Systeme und bedingt relevant für RAC• Ohne Unterstützung von Oracle wäre die Einführung aufgrund der Probleme im Januar sicherlich

nicht so glücklich verlaufen– Für stabilen und performanten Betrieb aktuelle Patches einspielen

15


• RAC-Umfeld weitere Anmerkungen:– Sapinst kennt kein RAC, nachträgliche Installation JAVA-Addin nur durch tricksen(!)– Besonderheiten bei Integration und Backup:

• Anpassungen der .dbenv_<hostname> Profile (wichtig auch .sh nicht nur .csh)– ORACLE_SID– BR_RSC = 1/BR_RSH_CMD = /usr/bin/ssh (HW914174)

• Standardeinstellung in .j2ee _<hostname> Profile verhindert Backup (-Xj9)• Berechtigungen gem. HW 131610• Backendkonfiguration in der DB13 + init<SID>.sap (für jede Instanz ein Link)• Vorsicht: Nie einen Konten während Backup runterfahren!• Vorsicht: Bei Sicherung über Crontab. Immer nur von einen Knoten aus!

– Integration in Brtools sehr gut. Recovery-Tests ohne Probleme.– Umstellung auf RMAN (Backup und DBverify) sehr zu empfehlen! Integration in Brtools ebenfalls sehr

gut!

16


• RAC-Umfeld weitere Anmerkungen:– Sehr viele SAP-Profile, da sapctl nicht mit virtuellen Hostnamen arbeitet– Sapctl verwaltet nur SAP-Resourcen auf CRS-Knoten– Zu beachten sapctl vs. Kerneltausch– Nur manuelles Rückschwenken nach Clusterübernahme– Kein echtes Loadbalancing bei ABAP -> manuelle Steuerung nötig – Man braucht genügend Applikationsserver um sinnvoll zu skalieren– Timeout‘s laut SAP/Oracle-Empfehlung sehr konservativ, daher dauert es 3-4 min bis Cluster schaltet– Administration mit den Tools srvctl und sapctl nach kurzer Eingewöhnung relativ einfach und logisch– tnsnames.ora sehr komplex – Es ist auch schon passiert, das man nicht gemerkt hat, das ein Clusterknoten ausgefallen ist ! J

17

Bauerfeind. Einführung Oracle RAC – Zielerreichung.

• Kosten: – HACMP / TSM – Lizenzen eingespart– Kleinere Server / günstigere HW (statt P570 „nur“ JS22)– Skalierbarkeit (Erweiterbarkeit durch hinzufügen statt durch ersetzen)– Kostensenkung im administrativen Bereich (Zeit / Beratung)

• Verfügbarkeit:– Bessere Verfügbarkeit als mit HACMP– Ausfälle werden teilweise durch User gar nicht bemerkt– Reduzierung von WE-Einsätzen -> Einfach Knoten außer Betrieb nehmen.

18

Bauerfeind. Oracle RAC Live.

•ST04 / DB13 / Brtools (Enviroment /init<SID>.sap, SAP-Profile)•GPFS-Strukturen und Aufbau•srvctl und sapctl

– Schwenken von Services, Starten / Stoppen– halt –q

•tnsnames.ora und listener.ora / spfile.ora

Betriebserfahrungen mit SAP BW auf RAC und AIX - doag.org · – GTS 7.1 – Alle Systeme laufen...

Documents

Transcript of Betriebserfahrungen mit SAP BW auf RAC und AIX - doag.org · – GTS 7.1 – Alle Systeme laufen...