BlockseminarOptimierung unter unvollständiger Information

Thema: Die Sample Average Approximation Methode fürstochastische Programme mit Integer Recourse

von Maria Gundermann

18. bis 20. Januar 2008

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 1 / 34

Gliederung

1 ProblemstellungDas ProblemAnwendungsbeispieleSchwierigkeiten beim Lösen

2 Die Sample Average Approximation MethodeDie SAA-MethodeFragen

3 Konvergenz-Analyse

4 Lösen des SAA-ProblemsVorbereitungDBB-AlgorithmusEigenschaften des Algorithmus

5 Bewertung der LösungStatistische Grenzen

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 2 / 34

Gliederung

1 ProblemstellungDas ProblemAnwendungsbeispieleSchwierigkeiten beim Lösen

2 Die Sample Average Approximation MethodeDie SAA-MethodeFragen

3 Konvergenz-Analyse

4 Lösen des SAA-ProblemsVorbereitungDBB-AlgorithmusEigenschaften des Algorithmus

5 Bewertung der LösungStatistische Grenzen

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 2 / 34

Gliederung

1 ProblemstellungDas ProblemAnwendungsbeispieleSchwierigkeiten beim Lösen

2 Die Sample Average Approximation MethodeDie SAA-MethodeFragen

3 Konvergenz-Analyse

4 Lösen des SAA-ProblemsVorbereitungDBB-AlgorithmusEigenschaften des Algorithmus

5 Bewertung der LösungStatistische Grenzen

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 2 / 34

Gliederung

1 ProblemstellungDas ProblemAnwendungsbeispieleSchwierigkeiten beim Lösen

2 Die Sample Average Approximation MethodeDie SAA-MethodeFragen

3 Konvergenz-Analyse

4 Lösen des SAA-ProblemsVorbereitungDBB-AlgorithmusEigenschaften des Algorithmus

5 Bewertung der LösungStatistische Grenzen

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 2 / 34

Gliederung

1 ProblemstellungDas ProblemAnwendungsbeispieleSchwierigkeiten beim Lösen

2 Die Sample Average Approximation MethodeDie SAA-MethodeFragen

3 Konvergenz-Analyse

4 Lösen des SAA-ProblemsVorbereitungDBB-AlgorithmusEigenschaften des Algorithmus

5 Bewertung der LösungStatistische Grenzen

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 2 / 34

Problemstellung

Problemstellung

Problemstellung

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 3 / 34

Problemstellung Das Problem

Stochastisches Problem mit Integer Recourse

Ausgangsproblem

minx∈X

g(x) := cT x + E(Q(x , ξ(ω))) (1)

mit

Q(x , ξ) := infy∈Y

{qT y : Wy ≥ h − Tx

}(2)

(1) Erste Phase mit x ∈ X ⊆ Rn1

(2) Zweite/Recourse-Phase mit y ∈ Y ⊆ Zn2 (Integer Recourse)ξ = (q,T ,W ,h) wobei W konstant, aber q(ω),T (ω),h(ω)

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 4 / 34

Problemstellung Das Problem

Stochastisches Problem mit Integer Recourse

Ausgangsproblem

minx∈X

g(x) := cT x + E(Q(x , ξ(ω))) (1)

mit

Q(x , ξ) := infy∈Y

{qT y : Wy ≥ h − Tx

}(2)

(1) Erste Phase mit x ∈ X ⊆ Rn1

(2) Zweite/Recourse-Phase mit y ∈ Y ⊆ Zn2 (Integer Recourse)ξ = (q,T ,W ,h) wobei W konstant, aber q(ω),T (ω),h(ω)

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 4 / 34

Problemstellung Das Problem

Stochastisches Problem mit Integer Recourse

Ausgangsproblem

minx∈X

g(x) := cT x + E(Q(x , ξ(ω))) (1)

mit

Q(x , ξ) := infy∈Y

{qT y : Wy ≥ h − Tx

}(2)

(1) Erste Phase mit x ∈ X ⊆ Rn1

(2) Zweite/Recourse-Phase mit y ∈ Y ⊆ Zn2 (Integer Recourse)ξ = (q,T ,W ,h) wobei W konstant, aber q(ω),T (ω),h(ω)

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 4 / 34

Problemstellung Das Problem

Stochastisches Problem mit Integer Recourse

Ausgangsproblem

minx∈X

g(x) := cT x + E(Q(x , ξ(ω))) (1)

mit

Q(x , ξ) := infy∈Y

{qT y : Wy ≥ h − Tx

}(2)

(1) Erste Phase mit x ∈ X ⊆ Rn1

(2) Zweite/Recourse-Phase mit y ∈ Y ⊆ Zn2 (Integer Recourse)ξ = (q,T ,W ,h) wobei W konstant, aber q(ω),T (ω),h(ω)

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 4 / 34

Problemstellung Anwendungsbeispiele

Anwendungsbeispiele

ProduktionsplanungZeitplanungElektrizitätsproduktionRoutenplanung

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 5 / 34

Problemstellung Anwendungsbeispiele

Anwendungsbeispiele

Produktionsplanung

ZeitplanungElektrizitätsproduktionRoutenplanung

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 5 / 34

Problemstellung Anwendungsbeispiele

Anwendungsbeispiele

ProduktionsplanungZeitplanung

ElektrizitätsproduktionRoutenplanung

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 5 / 34

Problemstellung Anwendungsbeispiele

Anwendungsbeispiele

ProduktionsplanungZeitplanungElektrizitätsproduktion

Routenplanung

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 5 / 34

Problemstellung Anwendungsbeispiele

Anwendungsbeispiele

ProduktionsplanungZeitplanungElektrizitätsproduktionRoutenplanung

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 5 / 34

Problemstellung Schwierigkeiten beim Lösen

Schwierigkeiten beim Lösen von SP mit IntegerRecourse

1 Exakte Berechnung der erwarteten Recourse-Kosten: pro Szenario ω einganzzahliges Programm zu lösen

2 Optimierung der erwarteten Recourse-Kosten über den Entscheidungender ersten Phase

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 6 / 34

Problemstellung Schwierigkeiten beim Lösen

Schwierigkeiten beim Lösen von SP mit IntegerRecourse

1 Exakte Berechnung der erwarteten Recourse-Kosten: pro Szenario ω einganzzahliges Programm zu lösen

2 Optimierung der erwarteten Recourse-Kosten über den Entscheidungender ersten Phase

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 6 / 34

Problemstellung Schwierigkeiten beim Lösen

Schwierigkeiten beim Lösen von SP mit IntegerRecourse

1 Exakte Berechnung der erwarteten Recourse-Kosten: pro Szenario ω einganzzahliges Programm zu lösen

2 Optimierung der erwarteten Recourse-Kosten über den Entscheidungender ersten Phase

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 6 / 34

Die Sample Average Approximation Methode

Die Sample Average Approximation Methode

Die Sample AverageApproximation Methode

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 7 / 34

Die Sample Average Approximation Methode Die SAA-Methode

Die SAA-Methode

Idee:Nutze iid Sample ξ1,..., ξN von N Szenarien anstelle des Zufallsvektors ξ(ω)

⇒ SAA-Problem:

minx∈X

g(x) := cT x +1N

N∑n=1

Q(x , ξn) (3)

mit

Q(x , ξ) := infy∈Y

{qT y : Wy ≥ h − Tx

}(3) kann nun mit einem deterministischen Algorithmus gelöst werden.

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 8 / 34

Die Sample Average Approximation Methode Die SAA-Methode

Die SAA-Methode

Idee:Nutze iid Sample ξ1,..., ξN von N Szenarien anstelle des Zufallsvektors ξ(ω)

⇒ SAA-Problem:

minx∈X

g(x) := cT x +1N

N∑n=1

Q(x , ξn) (3)

mit

Q(x , ξ) := infy∈Y

{qT y : Wy ≥ h − Tx

}(3) kann nun mit einem deterministischen Algorithmus gelöst werden.

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 8 / 34

Die Sample Average Approximation Methode Die SAA-Methode

Die SAA-Methode

Idee:Nutze iid Sample ξ1,..., ξN von N Szenarien anstelle des Zufallsvektors ξ(ω)

⇒ SAA-Problem:

minx∈X

g(x) := cT x +1N

N∑n=1

Q(x , ξn) (3)

mit

Q(x , ξ) := infy∈Y

{qT y : Wy ≥ h − Tx

}(3) kann nun mit einem deterministischen Algorithmus gelöst werden.

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 8 / 34

Die Sample Average Approximation Methode Fragen

Fragen

SAA-Problem (3): Optimalwert vN , Optimallösung xNAusgangsproblem (1): Optimalwert v∗, Optimallösung x∗

1 vN → v∗ und xN → x∗, wenn N →∞?2 Wenn Konvergenz auftritt: Ist Größe von N abschätzbar, die für

Optimallösung notwendig ist?3 Gibt es einen effizienten Optimierungsansatz, der das SAA-Problem mit

der notwendigen Sample-Größe N löst?4 Welche Informationen bezüglich der Qualität einer Lösung xN des

SAA-Problems für das Ausgangsproblem gibt es?

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 9 / 34

Die Sample Average Approximation Methode Fragen

Fragen

SAA-Problem (3): Optimalwert vN , Optimallösung xNAusgangsproblem (1): Optimalwert v∗, Optimallösung x∗

1 vN → v∗ und xN → x∗, wenn N →∞?2 Wenn Konvergenz auftritt: Ist Größe von N abschätzbar, die für

Optimallösung notwendig ist?3 Gibt es einen effizienten Optimierungsansatz, der das SAA-Problem mit

der notwendigen Sample-Größe N löst?4 Welche Informationen bezüglich der Qualität einer Lösung xN des

SAA-Problems für das Ausgangsproblem gibt es?

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 9 / 34

Die Sample Average Approximation Methode Fragen

Fragen

SAA-Problem (3): Optimalwert vN , Optimallösung xNAusgangsproblem (1): Optimalwert v∗, Optimallösung x∗

1 vN → v∗ und xN → x∗, wenn N →∞?

2 Wenn Konvergenz auftritt: Ist Größe von N abschätzbar, die fürOptimallösung notwendig ist?

3 Gibt es einen effizienten Optimierungsansatz, der das SAA-Problem mitder notwendigen Sample-Größe N löst?

4 Welche Informationen bezüglich der Qualität einer Lösung xN desSAA-Problems für das Ausgangsproblem gibt es?

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 9 / 34

Die Sample Average Approximation Methode Fragen

Fragen

SAA-Problem (3): Optimalwert vN , Optimallösung xNAusgangsproblem (1): Optimalwert v∗, Optimallösung x∗

1 vN → v∗ und xN → x∗, wenn N →∞?2 Wenn Konvergenz auftritt: Ist Größe von N abschätzbar, die für

Optimallösung notwendig ist?

3 Gibt es einen effizienten Optimierungsansatz, der das SAA-Problem mitder notwendigen Sample-Größe N löst?

4 Welche Informationen bezüglich der Qualität einer Lösung xN desSAA-Problems für das Ausgangsproblem gibt es?

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 9 / 34

Die Sample Average Approximation Methode Fragen

Fragen

SAA-Problem (3): Optimalwert vN , Optimallösung xNAusgangsproblem (1): Optimalwert v∗, Optimallösung x∗

1 vN → v∗ und xN → x∗, wenn N →∞?2 Wenn Konvergenz auftritt: Ist Größe von N abschätzbar, die für

Optimallösung notwendig ist?3 Gibt es einen effizienten Optimierungsansatz, der das SAA-Problem mit

der notwendigen Sample-Größe N löst?

4 Welche Informationen bezüglich der Qualität einer Lösung xN desSAA-Problems für das Ausgangsproblem gibt es?

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 9 / 34

Die Sample Average Approximation Methode Fragen

Fragen

SAA-Problem (3): Optimalwert vN , Optimallösung xNAusgangsproblem (1): Optimalwert v∗, Optimallösung x∗

1 vN → v∗ und xN → x∗, wenn N →∞?2 Wenn Konvergenz auftritt: Ist Größe von N abschätzbar, die für

Optimallösung notwendig ist?3 Gibt es einen effizienten Optimierungsansatz, der das SAA-Problem mit

der notwendigen Sample-Größe N löst?4 Welche Informationen bezüglich der Qualität einer Lösung xN des

SAA-Problems für das Ausgangsproblem gibt es?

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 9 / 34

Konvergenz-Analyse

Konvergenz-Analyse

Konvergenz-Analyse

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 10 / 34

Konvergenz-Analyse

Diskrete erste PhaseVoraussetzungen:

X endlich, Q(x , ·) messbar und E(Q(x , ξ(ω))) endlich ∀ x ∈ X .

Es ist möglich zu zeigen, dass vN → v∗ mit Wahrscheinlichkeit 1, wennN →∞.

Welches N ist notwendig, um das Ausgangsproblemmit Wahrscheinlichkeit 1− αund Genauigkeit ε ≥ 0 zu lösen,wobei das SAA-Problem mit Genauigkeit δ ∈ [0, ε) zu lösen ist?

⇒

N ≥ 3σ2

(ε− δ)2 log(|X |α

) (4)

Keine Annahmen über Recourse-Variablen⇒ für Programme mit IntegerRecourse und endlicher Menge X direkt anwendbar.

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 11 / 34

Konvergenz-Analyse

Diskrete erste PhaseVoraussetzungen:X endlich, Q(x , ·) messbar und E(Q(x , ξ(ω))) endlich ∀ x ∈ X .

Es ist möglich zu zeigen, dass vN → v∗ mit Wahrscheinlichkeit 1, wennN →∞.

Welches N ist notwendig, um das Ausgangsproblemmit Wahrscheinlichkeit 1− αund Genauigkeit ε ≥ 0 zu lösen,wobei das SAA-Problem mit Genauigkeit δ ∈ [0, ε) zu lösen ist?

⇒

N ≥ 3σ2

(ε− δ)2 log(|X |α

) (4)

Keine Annahmen über Recourse-Variablen⇒ für Programme mit IntegerRecourse und endlicher Menge X direkt anwendbar.

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 11 / 34

Konvergenz-Analyse

Diskrete erste PhaseVoraussetzungen:X endlich, Q(x , ·) messbar und E(Q(x , ξ(ω))) endlich ∀ x ∈ X .

Es ist möglich zu zeigen, dass vN → v∗ mit Wahrscheinlichkeit 1, wennN →∞.

Welches N ist notwendig, um das Ausgangsproblemmit Wahrscheinlichkeit 1− αund Genauigkeit ε ≥ 0 zu lösen,wobei das SAA-Problem mit Genauigkeit δ ∈ [0, ε) zu lösen ist?

⇒

N ≥ 3σ2

(ε− δ)2 log(|X |α

) (4)

Keine Annahmen über Recourse-Variablen⇒ für Programme mit IntegerRecourse und endlicher Menge X direkt anwendbar.

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 11 / 34

Konvergenz-Analyse

Diskrete erste PhaseVoraussetzungen:X endlich, Q(x , ·) messbar und E(Q(x , ξ(ω))) endlich ∀ x ∈ X .

Es ist möglich zu zeigen, dass vN → v∗ mit Wahrscheinlichkeit 1, wennN →∞.

Welches N ist notwendig, um das Ausgangsproblemmit Wahrscheinlichkeit 1− αund Genauigkeit ε ≥ 0 zu lösen,

wobei das SAA-Problem mit Genauigkeit δ ∈ [0, ε) zu lösen ist?

⇒

N ≥ 3σ2

(ε− δ)2 log(|X |α

) (4)

Keine Annahmen über Recourse-Variablen⇒ für Programme mit IntegerRecourse und endlicher Menge X direkt anwendbar.

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 11 / 34

Konvergenz-Analyse

Diskrete erste PhaseVoraussetzungen:X endlich, Q(x , ·) messbar und E(Q(x , ξ(ω))) endlich ∀ x ∈ X .

Es ist möglich zu zeigen, dass vN → v∗ mit Wahrscheinlichkeit 1, wennN →∞.

Welches N ist notwendig, um das Ausgangsproblemmit Wahrscheinlichkeit 1− αund Genauigkeit ε ≥ 0 zu lösen,wobei das SAA-Problem mit Genauigkeit δ ∈ [0, ε) zu lösen ist?

⇒

N ≥ 3σ2

(ε− δ)2 log(|X |α

) (4)

Keine Annahmen über Recourse-Variablen⇒ für Programme mit IntegerRecourse und endlicher Menge X direkt anwendbar.

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 11 / 34

Konvergenz-Analyse

Diskrete erste PhaseVoraussetzungen:X endlich, Q(x , ·) messbar und E(Q(x , ξ(ω))) endlich ∀ x ∈ X .

Es ist möglich zu zeigen, dass vN → v∗ mit Wahrscheinlichkeit 1, wennN →∞.

Welches N ist notwendig, um das Ausgangsproblemmit Wahrscheinlichkeit 1− αund Genauigkeit ε ≥ 0 zu lösen,wobei das SAA-Problem mit Genauigkeit δ ∈ [0, ε) zu lösen ist?

⇒

N ≥ 3σ2

(ε− δ)2 log(|X |α

) (4)

Keine Annahmen über Recourse-Variablen⇒ für Programme mit IntegerRecourse und endlicher Menge X direkt anwendbar.

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 11 / 34

Konvergenz-Analyse

Diskrete erste PhaseVoraussetzungen:X endlich, Q(x , ·) messbar und E(Q(x , ξ(ω))) endlich ∀ x ∈ X .

Es ist möglich zu zeigen, dass vN → v∗ mit Wahrscheinlichkeit 1, wennN →∞.

Welches N ist notwendig, um das Ausgangsproblemmit Wahrscheinlichkeit 1− αund Genauigkeit ε ≥ 0 zu lösen,wobei das SAA-Problem mit Genauigkeit δ ∈ [0, ε) zu lösen ist?

⇒

N ≥ 3σ2

(ε− δ)2 log(|X |α

) (4)

Keine Annahmen über Recourse-Variablen⇒ für Programme mit IntegerRecourse und endlicher Menge X direkt anwendbar.

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 11 / 34

Konvergenz-Analyse

Kontinuierliche erste Phase und diskrete zweite PhaseAnnahmen:

(A1) Verteilung von ξ(ω) habe endlichen Support Ξ = {ξ1, ..., ξK} mit positivenWahrscheinlichkeiten p1,..., pK

(A2) X 6= ∅, X ⊆ Rn1 , X kompakt, polyedrisch.(A3) Recourse-Variablen y ∈ Y ⊆ Zn2

(A4) −∞ < Q(x , ξk ) < +∞ ∀x ∈ X und k = 1, ...,K(A5) W ∈ Zm2×n2

⇒ Problem kann geschrieben werden als:

minx∈X

g(x) := cT x +K∑

k=1

pk Q(x , ξk )

Q(x , ξk ) := infy∈Y

{qk

T y : Wy ≥ hk − Tk x}

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 12 / 34

Konvergenz-Analyse

Kontinuierliche erste Phase und diskrete zweite PhaseAnnahmen:

(A1) Verteilung von ξ(ω) habe endlichen Support Ξ = {ξ1, ..., ξK} mit positivenWahrscheinlichkeiten p1,..., pK

(A2) X 6= ∅, X ⊆ Rn1 , X kompakt, polyedrisch.(A3) Recourse-Variablen y ∈ Y ⊆ Zn2

(A4) −∞ < Q(x , ξk ) < +∞ ∀x ∈ X und k = 1, ...,K(A5) W ∈ Zm2×n2

⇒ Problem kann geschrieben werden als:

minx∈X

g(x) := cT x +K∑

k=1

pk Q(x , ξk )

Q(x , ξk ) := infy∈Y

{qk

T y : Wy ≥ hk − Tk x}

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 12 / 34

Konvergenz-Analyse

Kontinuierliche erste Phase und diskrete zweite PhaseAnnahmen:

(A1) Verteilung von ξ(ω) habe endlichen Support Ξ = {ξ1, ..., ξK} mit positivenWahrscheinlichkeiten p1,..., pK

(A2) X 6= ∅, X ⊆ Rn1 , X kompakt, polyedrisch.

(A3) Recourse-Variablen y ∈ Y ⊆ Zn2

(A4) −∞ < Q(x , ξk ) < +∞ ∀x ∈ X und k = 1, ...,K(A5) W ∈ Zm2×n2

⇒ Problem kann geschrieben werden als:

minx∈X

g(x) := cT x +K∑

k=1

pk Q(x , ξk )

Q(x , ξk ) := infy∈Y

{qk

T y : Wy ≥ hk − Tk x}

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 12 / 34

Konvergenz-Analyse

Kontinuierliche erste Phase und diskrete zweite PhaseAnnahmen:

(A1) Verteilung von ξ(ω) habe endlichen Support Ξ = {ξ1, ..., ξK} mit positivenWahrscheinlichkeiten p1,..., pK

(A2) X 6= ∅, X ⊆ Rn1 , X kompakt, polyedrisch.(A3) Recourse-Variablen y ∈ Y ⊆ Zn2

(A4) −∞ < Q(x , ξk ) < +∞ ∀x ∈ X und k = 1, ...,K(A5) W ∈ Zm2×n2

⇒ Problem kann geschrieben werden als:

minx∈X

g(x) := cT x +K∑

k=1

pk Q(x , ξk )

Q(x , ξk ) := infy∈Y

{qk

T y : Wy ≥ hk − Tk x}

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 12 / 34

Konvergenz-Analyse

Kontinuierliche erste Phase und diskrete zweite PhaseAnnahmen:

(A1) Verteilung von ξ(ω) habe endlichen Support Ξ = {ξ1, ..., ξK} mit positivenWahrscheinlichkeiten p1,..., pK

(A2) X 6= ∅, X ⊆ Rn1 , X kompakt, polyedrisch.(A3) Recourse-Variablen y ∈ Y ⊆ Zn2

(A4) −∞ < Q(x , ξk ) < +∞ ∀x ∈ X und k = 1, ...,K

(A5) W ∈ Zm2×n2

⇒ Problem kann geschrieben werden als:

minx∈X

g(x) := cT x +K∑

k=1

pk Q(x , ξk )

Q(x , ξk ) := infy∈Y

{qk

T y : Wy ≥ hk − Tk x}

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 12 / 34

Konvergenz-Analyse

Kontinuierliche erste Phase und diskrete zweite PhaseAnnahmen:

(A1) Verteilung von ξ(ω) habe endlichen Support Ξ = {ξ1, ..., ξK} mit positivenWahrscheinlichkeiten p1,..., pK

(A2) X 6= ∅, X ⊆ Rn1 , X kompakt, polyedrisch.(A3) Recourse-Variablen y ∈ Y ⊆ Zn2

(A4) −∞ < Q(x , ξk ) < +∞ ∀x ∈ X und k = 1, ...,K(A5) W ∈ Zm2×n2

⇒ Problem kann geschrieben werden als:

minx∈X

g(x) := cT x +K∑

k=1

pk Q(x , ξk )

Q(x , ξk ) := infy∈Y

{qk

T y : Wy ≥ hk − Tk x}

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 12 / 34

Konvergenz-Analyse

Kontinuierliche erste Phase und diskrete zweite PhaseAnnahmen:

(A1) Verteilung von ξ(ω) habe endlichen Support Ξ = {ξ1, ..., ξK} mit positivenWahrscheinlichkeiten p1,..., pK

(A2) X 6= ∅, X ⊆ Rn1 , X kompakt, polyedrisch.(A3) Recourse-Variablen y ∈ Y ⊆ Zn2

(A4) −∞ < Q(x , ξk ) < +∞ ∀x ∈ X und k = 1, ...,K(A5) W ∈ Zm2×n2

⇒ Problem kann geschrieben werden als:

minx∈X

g(x) := cT x +K∑

k=1

pk Q(x , ξk )

Q(x , ξk ) := infy∈Y

{qk

T y : Wy ≥ hk − Tk x}

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 12 / 34

Konvergenz-Analyse

Kontinuierliche erste Phase und diskrete zweite Phase

Bedingung in Q(x , ξk ): Wy ≥ hk − Tk x .

W und y ganzzahlig⇒ Q(·, ξ) ändert sich nicht, wennz + 1 ≥ hk − Tk x > z für ein z ∈ Zm2 gilt

⇒ Funktion Q(·, ξ) ist konstant über folgender Menge:

C(z, ξ) := {x ∈ Rn1 : h − z − 1 ≤ Tx < h − z}

⇒ für jedes z ∈ Zm2 ist∑K

k=1 pk Q(·, ξk ) konstant auf

C(z) :=K⋂

k=1

C(z, ξk ).

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 13 / 34

Konvergenz-Analyse

Kontinuierliche erste Phase und diskrete zweite Phase

Bedingung in Q(x , ξk ): Wy ≥ hk − Tk x .W und y ganzzahlig⇒ Q(·, ξ) ändert sich nicht, wennz + 1 ≥ hk − Tk x > z für ein z ∈ Zm2 gilt

⇒ Funktion Q(·, ξ) ist konstant über folgender Menge:

C(z, ξ) := {x ∈ Rn1 : h − z − 1 ≤ Tx < h − z}

⇒ für jedes z ∈ Zm2 ist∑K

k=1 pk Q(·, ξk ) konstant auf

C(z) :=K⋂

k=1

C(z, ξk ).

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 13 / 34

Konvergenz-Analyse

Kontinuierliche erste Phase und diskrete zweite Phase

Bedingung in Q(x , ξk ): Wy ≥ hk − Tk x .W und y ganzzahlig⇒ Q(·, ξ) ändert sich nicht, wennz + 1 ≥ hk − Tk x > z für ein z ∈ Zm2 gilt

⇒ Funktion Q(·, ξ) ist konstant über folgender Menge:

C(z, ξ) := {x ∈ Rn1 : h − z − 1 ≤ Tx < h − z}

⇒ für jedes z ∈ Zm2 ist∑K

k=1 pk Q(·, ξk ) konstant auf

C(z) :=K⋂

k=1

C(z, ξk ).

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 13 / 34

Konvergenz-Analyse

Kontinuierliche erste Phase und diskrete zweite Phase

Bedingung in Q(x , ξk ): Wy ≥ hk − Tk x .W und y ganzzahlig⇒ Q(·, ξ) ändert sich nicht, wennz + 1 ≥ hk − Tk x > z für ein z ∈ Zm2 gilt

⇒ Funktion Q(·, ξ) ist konstant über folgender Menge:

C(z, ξ) := {x ∈ Rn1 : h − z − 1 ≤ Tx < h − z}

⇒ für jedes z ∈ Zm2 ist∑K

k=1 pk Q(·, ξk ) konstant auf

C(z) :=K⋂

k=1

C(z, ξk ).

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 13 / 34

Konvergenz-Analyse

Kontinuierliche erste Phase und diskrete zweite Phase

In jeder Menge C(z) ∩ X ist g(x) linear und nimmt seinen Optimalwert aneiner Ecke von C(z) ∩ X an.

V :=⋃

z∈Z vert(C(z) ∩ X ), wobei vert(S) = {Ecken der polyedrischen Menge S}.

⇒ Zielfunktion unseres Problems:

minx∈V

g(x) := cT x +K∑

k=1

pk Q(x , ξk )

Wie sieht nun die notwendige Sample-Größe N aus?

N ≥ 3σ2

(ε− δ)2 log(|V |α

)

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 14 / 34

Konvergenz-Analyse

Kontinuierliche erste Phase und diskrete zweite Phase

In jeder Menge C(z) ∩ X ist g(x) linear und nimmt seinen Optimalwert aneiner Ecke von C(z) ∩ X an.

V :=⋃

z∈Z vert(C(z) ∩ X ), wobei vert(S) = {Ecken der polyedrischen Menge S}.

⇒ Zielfunktion unseres Problems:

minx∈V

g(x) := cT x +K∑

k=1

pk Q(x , ξk )

Wie sieht nun die notwendige Sample-Größe N aus?

N ≥ 3σ2

(ε− δ)2 log(|V |α

)

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 14 / 34

Konvergenz-Analyse

Kontinuierliche erste Phase und diskrete zweite Phase

In jeder Menge C(z) ∩ X ist g(x) linear und nimmt seinen Optimalwert aneiner Ecke von C(z) ∩ X an.

V :=⋃

z∈Z vert(C(z) ∩ X ), wobei vert(S) = {Ecken der polyedrischen Menge S}.

⇒ Zielfunktion unseres Problems:

minx∈V

g(x) := cT x +K∑

k=1

pk Q(x , ξk )

Wie sieht nun die notwendige Sample-Größe N aus?

N ≥ 3σ2

(ε− δ)2 log(|V |α

)

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 14 / 34

Konvergenz-Analyse

Kontinuierliche erste Phase und diskrete zweite Phase

In jeder Menge C(z) ∩ X ist g(x) linear und nimmt seinen Optimalwert aneiner Ecke von C(z) ∩ X an.

V :=⋃

z∈Z vert(C(z) ∩ X ), wobei vert(S) = {Ecken der polyedrischen Menge S}.

⇒ Zielfunktion unseres Problems:

minx∈V

g(x) := cT x +K∑

k=1

pk Q(x , ξk )

Wie sieht nun die notwendige Sample-Größe N aus?

N ≥ 3σ2

(ε− δ)2 log(|V |α

)

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 14 / 34

Konvergenz-Analyse

Kontinuierliche erste Phase und diskrete zweite Phase

Betrachte Sample {ξ1, ..., ξN} der Größe N mit N � K .Dann:

minx∈VN

{gN(x) = cT x +

1N

N∑n=1

Q(x , ξn)

}

mit

VN :=⋃

z∈ZN

vert(CN(z) ∩ X )

CN(z) :=N⋂

n=1

C(z, ξn)

ZN := {z ∈ Zm2 : CN(z) ∩ X 6= ∅}.

Dieses SAA-Problem bildet Grundlage für den folgenden Algorithmus.

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 15 / 34

Lösen des SAA-Problems

Lösen des SAA-Problems

Lösen des SAA-Problems

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 16 / 34

Lösen des SAA-Problems Vorbereitung

Der DBB-Algorithmus

Zerlegungsbasierter Branch&Bound-Algorithmus(decomposition based branch and bound (DBB))

wird zur Lösung des SAA-Problemsminx∈VN

{gN(x) = cT x + 1

N

∑Nn=1 Q(x , ξn)

}benutzt

Identifizierung von Kandidatenlösungen durch sukzessive Zerlegung desSuchraums VN

nutzt Informationen über untere Schranken zur Elimination von Teilen desSuchraumsvermeidet komplette Berechnung von VN

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 17 / 34

Lösen des SAA-Problems Vorbereitung

Der DBB-Algorithmus

Zerlegungsbasierter Branch&Bound-Algorithmus(decomposition based branch and bound (DBB))

wird zur Lösung des SAA-Problemsminx∈VN

{gN(x) = cT x + 1

N

∑Nn=1 Q(x , ξn)

}benutzt

Identifizierung von Kandidatenlösungen durch sukzessive Zerlegung desSuchraums VN

nutzt Informationen über untere Schranken zur Elimination von Teilen desSuchraumsvermeidet komplette Berechnung von VN

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 17 / 34

Lösen des SAA-Problems Vorbereitung

Der DBB-Algorithmus

Zerlegungsbasierter Branch&Bound-Algorithmus(decomposition based branch and bound (DBB))

wird zur Lösung des SAA-Problemsminx∈VN

{gN(x) = cT x + 1

N

∑Nn=1 Q(x , ξn)

}benutzt

Identifizierung von Kandidatenlösungen durch sukzessive Zerlegung desSuchraums VN

nutzt Informationen über untere Schranken zur Elimination von Teilen desSuchraumsvermeidet komplette Berechnung von VN

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 17 / 34

Lösen des SAA-Problems Vorbereitung

Der DBB-Algorithmus

Zerlegungsbasierter Branch&Bound-Algorithmus(decomposition based branch and bound (DBB))

wird zur Lösung des SAA-Problemsminx∈VN

{gN(x) = cT x + 1

N

∑Nn=1 Q(x , ξn)

}benutzt

Identifizierung von Kandidatenlösungen durch sukzessive Zerlegung desSuchraums VN

nutzt Informationen über untere Schranken zur Elimination von Teilen desSuchraums

vermeidet komplette Berechnung von VN

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 17 / 34

Lösen des SAA-Problems Vorbereitung

Der DBB-Algorithmus

Zerlegungsbasierter Branch&Bound-Algorithmus(decomposition based branch and bound (DBB))

wird zur Lösung des SAA-Problemsminx∈VN

{gN(x) = cT x + 1

N

∑Nn=1 Q(x , ξn)

}benutzt

Identifizierung von Kandidatenlösungen durch sukzessive Zerlegung desSuchraums VN

nutzt Informationen über untere Schranken zur Elimination von Teilen desSuchraumsvermeidet komplette Berechnung von VN

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 17 / 34

Lösen des SAA-Problems Vorbereitung

Annahmen

Die Annahmen (A1) bis (A5) aus dem letzten Abschnitt gelten weiterhin.

Es kommt noch eine weitere Annahme (A6) hinzu:

(A6) Die Technologiematrix T ist deterministisch, d.h. Tk = T ∀ k

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 18 / 34

Lösen des SAA-Problems Vorbereitung

Annahmen

Die Annahmen (A1) bis (A5) aus dem letzten Abschnitt gelten weiterhin.Es kommt noch eine weitere Annahme (A6) hinzu:

(A6) Die Technologiematrix T ist deterministisch, d.h. Tk = T ∀ k

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 18 / 34

Lösen des SAA-Problems Vorbereitung

Tender-Variablen

„Tender“-Variablen durch lineare Transformation χ := Tx .

DBB-Algorithmus löst folgendes SAA-Problem

minχ∈X

{GN(χ) := Φ(χ) + ΨN(χ)

}mit

Φ(χ) := infx∈X{cT x : Tx = χ}ΨN(χ) := N−1∑N

n=1 Ψ(χ, ξn) (entspricht 1N

∑Nn=1 Q(x , ξn))

Ψ(χ, ξ) := infy∈Y{qT y : Wy ≥ h − χ} (entspricht Q(x , ξ))X := {χ ∈ Rm2 : χ = Tx , x ∈ X}

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 19 / 34

Lösen des SAA-Problems Vorbereitung

Tender-Variablen

„Tender“-Variablen durch lineare Transformation χ := Tx .

DBB-Algorithmus löst folgendes SAA-Problem

minχ∈X

{GN(χ) := Φ(χ) + ΨN(χ)

}mit

Φ(χ) := infx∈X{cT x : Tx = χ}ΨN(χ) := N−1∑N

n=1 Ψ(χ, ξn) (entspricht 1N

∑Nn=1 Q(x , ξn))

Ψ(χ, ξ) := infy∈Y{qT y : Wy ≥ h − χ} (entspricht Q(x , ξ))X := {χ ∈ Rm2 : χ = Tx , x ∈ X}

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 19 / 34

Lösen des SAA-Problems Vorbereitung

Tender-Variablen

„Tender“-Variablen durch lineare Transformation χ := Tx .

DBB-Algorithmus löst folgendes SAA-Problem

minχ∈X

{GN(χ) := Φ(χ) + ΨN(χ)

}

mitΦ(χ) := infx∈X{cT x : Tx = χ}ΨN(χ) := N−1∑N

n=1 Ψ(χ, ξn) (entspricht 1N

∑Nn=1 Q(x , ξn))

Ψ(χ, ξ) := infy∈Y{qT y : Wy ≥ h − χ} (entspricht Q(x , ξ))X := {χ ∈ Rm2 : χ = Tx , x ∈ X}

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 19 / 34

Lösen des SAA-Problems Vorbereitung

Tender-Variablen

„Tender“-Variablen durch lineare Transformation χ := Tx .

DBB-Algorithmus löst folgendes SAA-Problem

minχ∈X

{GN(χ) := Φ(χ) + ΨN(χ)

}mit

Φ(χ) := infx∈X{cT x : Tx = χ}

ΨN(χ) := N−1∑Nn=1 Ψ(χ, ξn) (entspricht 1

N

∑Nn=1 Q(x , ξn))

Ψ(χ, ξ) := infy∈Y{qT y : Wy ≥ h − χ} (entspricht Q(x , ξ))X := {χ ∈ Rm2 : χ = Tx , x ∈ X}

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 19 / 34

Lösen des SAA-Problems Vorbereitung

Tender-Variablen

„Tender“-Variablen durch lineare Transformation χ := Tx .

DBB-Algorithmus löst folgendes SAA-Problem

minχ∈X

{GN(χ) := Φ(χ) + ΨN(χ)

}mit

Φ(χ) := infx∈X{cT x : Tx = χ}ΨN(χ) := N−1∑N

n=1 Ψ(χ, ξn) (entspricht 1N

∑Nn=1 Q(x , ξn))

Ψ(χ, ξ) := infy∈Y{qT y : Wy ≥ h − χ} (entspricht Q(x , ξ))X := {χ ∈ Rm2 : χ = Tx , x ∈ X}

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 19 / 34

Lösen des SAA-Problems Vorbereitung

Tender-Variablen

„Tender“-Variablen durch lineare Transformation χ := Tx .

DBB-Algorithmus löst folgendes SAA-Problem

minχ∈X

{GN(χ) := Φ(χ) + ΨN(χ)

}mit

Φ(χ) := infx∈X{cT x : Tx = χ}ΨN(χ) := N−1∑N

n=1 Ψ(χ, ξn) (entspricht 1N

∑Nn=1 Q(x , ξn))

Ψ(χ, ξ) := infy∈Y{qT y : Wy ≥ h − χ} (entspricht Q(x , ξ))

X := {χ ∈ Rm2 : χ = Tx , x ∈ X}

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 19 / 34

Lösen des SAA-Problems Vorbereitung

Tender-Variablen

„Tender“-Variablen durch lineare Transformation χ := Tx .

DBB-Algorithmus löst folgendes SAA-Problem

minχ∈X

{GN(χ) := Φ(χ) + ΨN(χ)

}mit

Φ(χ) := infx∈X{cT x : Tx = χ}ΨN(χ) := N−1∑N

n=1 Ψ(χ, ξn) (entspricht 1N

∑Nn=1 Q(x , ξn))

Ψ(χ, ξ) := infy∈Y{qT y : Wy ≥ h − χ} (entspricht Q(x , ξ))X := {χ ∈ Rm2 : χ = Tx , x ∈ X}

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 19 / 34

Lösen des SAA-Problems Vorbereitung

Anmerkungen

ΨN : Rm2 → R hat folgende Eigenschaften:

ΨN(·) ist nicht-wachsend in jeder Komponente χj , j = 1, ...,m2 von χ

für jedes z ∈ Zm2 ist ΨN(·) konstant über der Menge

CN(z) : = {χ : hn − z − 1 ≤ χ < hn − z, n = 1, ...,N}= {χ : z + 1 ≥ hn − χ > z, n = 1, ...,N}

⇒ ΨN(·) stückweise konstant über rechteckigen Regionen.Unstetigkeiten können nur an den Grenzen dieser Regionen liegen.

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 20 / 34

Lösen des SAA-Problems Vorbereitung

Anmerkungen

ΨN : Rm2 → R hat folgende Eigenschaften:

ΨN(·) ist nicht-wachsend in jeder Komponente χj , j = 1, ...,m2 von χ

für jedes z ∈ Zm2 ist ΨN(·) konstant über der Menge

CN(z) : = {χ : hn − z − 1 ≤ χ < hn − z, n = 1, ...,N}= {χ : z + 1 ≥ hn − χ > z, n = 1, ...,N}

⇒ ΨN(·) stückweise konstant über rechteckigen Regionen.Unstetigkeiten können nur an den Grenzen dieser Regionen liegen.

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 20 / 34

Lösen des SAA-Problems Vorbereitung

Anmerkungen

ΨN : Rm2 → R hat folgende Eigenschaften:

ΨN(·) ist nicht-wachsend in jeder Komponente χj , j = 1, ...,m2 von χ

für jedes z ∈ Zm2 ist ΨN(·) konstant über der Menge

CN(z) : = {χ : hn − z − 1 ≤ χ < hn − z, n = 1, ...,N}= {χ : z + 1 ≥ hn − χ > z, n = 1, ...,N}

⇒ ΨN(·) stückweise konstant über rechteckigen Regionen.Unstetigkeiten können nur an den Grenzen dieser Regionen liegen.

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 20 / 34

Lösen des SAA-Problems Vorbereitung

Anmerkungen

ΨN : Rm2 → R hat folgende Eigenschaften:

ΨN(·) ist nicht-wachsend in jeder Komponente χj , j = 1, ...,m2 von χ

für jedes z ∈ Zm2 ist ΨN(·) konstant über der Menge

CN(z) : = {χ : hn − z − 1 ≤ χ < hn − z, n = 1, ...,N}= {χ : z + 1 ≥ hn − χ > z, n = 1, ...,N}

⇒ ΨN(·) stückweise konstant über rechteckigen Regionen.Unstetigkeiten können nur an den Grenzen dieser Regionen liegen.

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 20 / 34

Lösen des SAA-Problems Vorbereitung

Anmerkungen

DBB-Algorithmus teilt X in Regionen der Form∏m2

j=1[lj ,uj ) auf.

Dabei:lj ist j-te Komponente eines Punkte χ so, dass hn

j − lj ganzzahlig istuj ist j-te Komponente eines Punkte χ so, dass hn

j − uj ganzzahlig ist

⇒ ΨN(·) kann in diesen Randpunkten unstetig sein

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 21 / 34

Lösen des SAA-Problems Vorbereitung

Anmerkungen

DBB-Algorithmus teilt X in Regionen der Form∏m2

j=1[lj ,uj ) auf.Dabei:

lj ist j-te Komponente eines Punkte χ so, dass hnj − lj ganzzahlig ist

uj ist j-te Komponente eines Punkte χ so, dass hnj − uj ganzzahlig ist

⇒ ΨN(·) kann in diesen Randpunkten unstetig sein

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 21 / 34

Lösen des SAA-Problems Vorbereitung

Anmerkungen

DBB-Algorithmus teilt X in Regionen der Form∏m2

j=1[lj ,uj ) auf.Dabei:

lj ist j-te Komponente eines Punkte χ so, dass hnj − lj ganzzahlig ist

uj ist j-te Komponente eines Punkte χ so, dass hnj − uj ganzzahlig ist

⇒ ΨN(·) kann in diesen Randpunkten unstetig sein

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 21 / 34

Lösen des SAA-Problems DBB-Algorithmus

Der DBB-Algorithmus

Der DBB-Algorithmus

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 22 / 34

Lösen des SAA-Problems DBB-Algorithmus

Algorithmus

Initialisierung

Konstruktion von P0 :=∏m2

j=1[l0j ,u0j ), sodass X ⊂ P0

Füge das Problem min GN(χ) st. χ ∈ X ∩ P0 zu einer Liste L von offenenTeilproblemen hinzuSetze U ← +∞Setze k ← 0

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 23 / 34

Lösen des SAA-Problems DBB-Algorithmus

Algorithmus

InitialisierungKonstruktion von P0 :=

∏m2j=1[l0j ,u

0j ), sodass X ⊂ P0

Füge das Problem min GN(χ) st. χ ∈ X ∩ P0 zu einer Liste L von offenenTeilproblemen hinzuSetze U ← +∞Setze k ← 0

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 23 / 34

Lösen des SAA-Problems DBB-Algorithmus

Algorithmus

InitialisierungKonstruktion von P0 :=

∏m2j=1[l0j ,u

0j ), sodass X ⊂ P0

Füge das Problem min GN(χ) st. χ ∈ X ∩ P0 zu einer Liste L von offenenTeilproblemen hinzu

Setze U ← +∞Setze k ← 0

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 23 / 34

Lösen des SAA-Problems DBB-Algorithmus

Algorithmus

InitialisierungKonstruktion von P0 :=

∏m2j=1[l0j ,u

0j ), sodass X ⊂ P0

Füge das Problem min GN(χ) st. χ ∈ X ∩ P0 zu einer Liste L von offenenTeilproblemen hinzuSetze U ← +∞Setze k ← 0

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 23 / 34

Lösen des SAA-Problems DBB-Algorithmus

Algorithmus

Iteration kk .1: If L = ∅: Beende mit Lösung χ∗.

Else: Wähle Teilproblem i aus L: min GN(χ) st. χ ∈ X ∩ P i .Setze L ← L \ {i}.

k .2: Finde β i mit β i ≤ inf{

GN(χ) : χ ∈ X ∩ P i}

.

Bestimme zulässige Lösung χi ∈ X .Berechne obere Schranke αi ≥ min{GN(χ) : χ ∈ X}.

k .2.a: Setze L← minl∈L∪{i} βl .

k .2.b: If αi < U: Setze χ∗ ← χi und U ← αi .k .2.c: L ← L \ {l : β l ≥ U}.

If β i ≥ U: gehe zu k .1 und wähle anderes Teilproblem.

k .3: Zerlege P i in P i1 und P i2 .Setze L ← L ∪ {i1, i2}. Setze β i1 , β i2 ← β i .Setze k ← k + 1 und gehe zu Schritt k .1.

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 24 / 34

Lösen des SAA-Problems DBB-Algorithmus

Algorithmus

Iteration kk .1: If L = ∅: Beende mit Lösung χ∗.

Else: Wähle Teilproblem i aus L: min GN(χ) st. χ ∈ X ∩ P i .Setze L ← L \ {i}.

k .2: Finde β i mit β i ≤ inf{

GN(χ) : χ ∈ X ∩ P i}

.

Bestimme zulässige Lösung χi ∈ X .Berechne obere Schranke αi ≥ min{GN(χ) : χ ∈ X}.

k .2.a: Setze L← minl∈L∪{i} βl .

k .2.b: If αi < U: Setze χ∗ ← χi und U ← αi .k .2.c: L ← L \ {l : β l ≥ U}.

If β i ≥ U: gehe zu k .1 und wähle anderes Teilproblem.

k .3: Zerlege P i in P i1 und P i2 .Setze L ← L ∪ {i1, i2}. Setze β i1 , β i2 ← β i .Setze k ← k + 1 und gehe zu Schritt k .1.

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 24 / 34

Lösen des SAA-Problems DBB-Algorithmus

Algorithmus

Iteration kk .1: If L = ∅: Beende mit Lösung χ∗.

Else: Wähle Teilproblem i aus L: min GN(χ) st. χ ∈ X ∩ P i .Setze L ← L \ {i}.

k .2: Finde β i mit β i ≤ inf{

GN(χ) : χ ∈ X ∩ P i}

.

Bestimme zulässige Lösung χi ∈ X .Berechne obere Schranke αi ≥ min{GN(χ) : χ ∈ X}.

k .2.a: Setze L← minl∈L∪{i} βl .

k .2.b: If αi < U: Setze χ∗ ← χi und U ← αi .k .2.c: L ← L \ {l : β l ≥ U}.

If β i ≥ U: gehe zu k .1 und wähle anderes Teilproblem.

k .3: Zerlege P i in P i1 und P i2 .Setze L ← L ∪ {i1, i2}. Setze β i1 , β i2 ← β i .Setze k ← k + 1 und gehe zu Schritt k .1.

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 24 / 34

Lösen des SAA-Problems DBB-Algorithmus

Algorithmus

Iteration kk .1: If L = ∅: Beende mit Lösung χ∗.

Else: Wähle Teilproblem i aus L: min GN(χ) st. χ ∈ X ∩ P i .Setze L ← L \ {i}.

k .2: Finde β i mit β i ≤ inf{

GN(χ) : χ ∈ X ∩ P i}

.

Bestimme zulässige Lösung χi ∈ X .Berechne obere Schranke αi ≥ min{GN(χ) : χ ∈ X}.

k .2.a: Setze L← minl∈L∪{i} βl .

k .2.b: If αi < U: Setze χ∗ ← χi und U ← αi .

k .2.c: L ← L \ {l : β l ≥ U}.If β i ≥ U: gehe zu k .1 und wähle anderes Teilproblem.

k .3: Zerlege P i in P i1 und P i2 .Setze L ← L ∪ {i1, i2}. Setze β i1 , β i2 ← β i .Setze k ← k + 1 und gehe zu Schritt k .1.

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 24 / 34

Lösen des SAA-Problems DBB-Algorithmus

Algorithmus

Iteration kk .1: If L = ∅: Beende mit Lösung χ∗.

Else: Wähle Teilproblem i aus L: min GN(χ) st. χ ∈ X ∩ P i .Setze L ← L \ {i}.

k .2: Finde β i mit β i ≤ inf{

GN(χ) : χ ∈ X ∩ P i}

.

Bestimme zulässige Lösung χi ∈ X .Berechne obere Schranke αi ≥ min{GN(χ) : χ ∈ X}.

k .2.a: Setze L← minl∈L∪{i} βl .

k .2.b: If αi < U: Setze χ∗ ← χi und U ← αi .k .2.c: L ← L \ {l : β l ≥ U}.

If β i ≥ U: gehe zu k .1 und wähle anderes Teilproblem.

k .3: Zerlege P i in P i1 und P i2 .Setze L ← L ∪ {i1, i2}. Setze β i1 , β i2 ← β i .Setze k ← k + 1 und gehe zu Schritt k .1.

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 24 / 34

Lösen des SAA-Problems DBB-Algorithmus

Algorithmus

Iteration kk .1: If L = ∅: Beende mit Lösung χ∗.

Else: Wähle Teilproblem i aus L: min GN(χ) st. χ ∈ X ∩ P i .Setze L ← L \ {i}.

k .2: Finde β i mit β i ≤ inf{

GN(χ) : χ ∈ X ∩ P i}

.

Bestimme zulässige Lösung χi ∈ X .Berechne obere Schranke αi ≥ min{GN(χ) : χ ∈ X}.

k .2.a: Setze L← minl∈L∪{i} βl .

k .2.b: If αi < U: Setze χ∗ ← χi und U ← αi .k .2.c: L ← L \ {l : β l ≥ U}.

If β i ≥ U: gehe zu k .1 und wähle anderes Teilproblem.

k .3: Zerlege P i in P i1 und P i2 .

Setze L ← L ∪ {i1, i2}. Setze β i1 , β i2 ← β i .Setze k ← k + 1 und gehe zu Schritt k .1.

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 24 / 34

Lösen des SAA-Problems DBB-Algorithmus

Algorithmus

Iteration kk .1: If L = ∅: Beende mit Lösung χ∗.

Else: Wähle Teilproblem i aus L: min GN(χ) st. χ ∈ X ∩ P i .Setze L ← L \ {i}.

k .2: Finde β i mit β i ≤ inf{

GN(χ) : χ ∈ X ∩ P i}

.

Bestimme zulässige Lösung χi ∈ X .Berechne obere Schranke αi ≥ min{GN(χ) : χ ∈ X}.

k .2.a: Setze L← minl∈L∪{i} βl .

k .2.b: If αi < U: Setze χ∗ ← χi und U ← αi .k .2.c: L ← L \ {l : β l ≥ U}.

If β i ≥ U: gehe zu k .1 und wähle anderes Teilproblem.

k .3: Zerlege P i in P i1 und P i2 .Setze L ← L ∪ {i1, i2}. Setze β i1 , β i2 ← β i .

Setze k ← k + 1 und gehe zu Schritt k .1.

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 24 / 34

Lösen des SAA-Problems DBB-Algorithmus

Algorithmus

Iteration kk .1: If L = ∅: Beende mit Lösung χ∗.

Else: Wähle Teilproblem i aus L: min GN(χ) st. χ ∈ X ∩ P i .Setze L ← L \ {i}.

k .2: Finde β i mit β i ≤ inf{

GN(χ) : χ ∈ X ∩ P i}

.

Bestimme zulässige Lösung χi ∈ X .Berechne obere Schranke αi ≥ min{GN(χ) : χ ∈ X}.

k .2.a: Setze L← minl∈L∪{i} βl .

k .2.b: If αi < U: Setze χ∗ ← χi und U ← αi .k .2.c: L ← L \ {l : β l ≥ U}.

If β i ≥ U: gehe zu k .1 und wähle anderes Teilproblem.

k .3: Zerlege P i in P i1 und P i2 .Setze L ← L ∪ {i1, i2}. Setze β i1 , β i2 ← β i .Setze k ← k + 1 und gehe zu Schritt k .1.

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 24 / 34

Lösen des SAA-Problems Eigenschaften des Algorithmus

Eigenschaften des Algorithmus

Eigenschaften des Algorithmus

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 25 / 34

Lösen des SAA-Problems Eigenschaften des Algorithmus

Eigenschaften des Algorithmus

Untere Schranke:

Finde β i mit

β i ≤ inf{

GN(χ) : χ ∈ X ∩ P i}.

Das entspricht:

β i := min cT x + θ

st. x ∈ X ,Tx = χ,

l i ≤ χ ≤ ui ,

θ ≥ 1N

N∑n=1

Ψ(ui − ε, ξn),

ε so klein, dass Ψ(·, ξn) konstantüber [ui − ε,ui ) ∀n.⇒ ΨN(·) nicht wachsend⇒ β i stellt untere Schranke dar.

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 26 / 34

Lösen des SAA-Problems Eigenschaften des Algorithmus

Eigenschaften des Algorithmus

Untere Schranke:

Finde β i mit

β i ≤ inf{

GN(χ) : χ ∈ X ∩ P i}.

Das entspricht:

β i := min cT x + θ

st. x ∈ X ,Tx = χ,

l i ≤ χ ≤ ui ,

θ ≥ 1N

N∑n=1

Ψ(ui − ε, ξn),

ε so klein, dass Ψ(·, ξn) konstantüber [ui − ε,ui ) ∀n.⇒ ΨN(·) nicht wachsend⇒ β i stellt untere Schranke dar.

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 26 / 34

Lösen des SAA-Problems Eigenschaften des Algorithmus

Eigenschaften des Algorithmus

Untere Schranke:

Finde β i mit

β i ≤ inf{

GN(χ) : χ ∈ X ∩ P i}.

Das entspricht:

β i := min cT x + θ

st. x ∈ X ,Tx = χ,

l i ≤ χ ≤ ui ,

θ ≥ 1N

N∑n=1

Ψ(ui − ε, ξn),

ε so klein, dass Ψ(·, ξn) konstantüber [ui − ε,ui ) ∀n.

⇒ ΨN(·) nicht wachsend⇒ β i stellt untere Schranke dar.

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 26 / 34

Lösen des SAA-Problems Eigenschaften des Algorithmus

Eigenschaften des Algorithmus

Untere Schranke:

Finde β i mit

β i ≤ inf{

GN(χ) : χ ∈ X ∩ P i}.

Das entspricht:

β i := min cT x + θ

st. x ∈ X ,Tx = χ,

l i ≤ χ ≤ ui ,

θ ≥ 1N

N∑n=1

Ψ(ui − ε, ξn),

ε so klein, dass Ψ(·, ξn) konstantüber [ui − ε,ui ) ∀n.⇒ ΨN(·) nicht wachsend⇒ β i stellt untere Schranke dar.

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 26 / 34

Lösen des SAA-Problems Eigenschaften des Algorithmus

Eigenschaften des Algorithmus

Obere Schranke:

χi sei optimale Lösung des Problems inf{

GN(χ) : χ ∈ X ∩ P i}

.

Dann ist χi ∈ X und damit zulässig.Dann kann man eine obere Schranke erhalten durch

αi := GN(χi ) ≥ min{GN(χ)|χ ∈ X}

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 27 / 34

Lösen des SAA-Problems Eigenschaften des Algorithmus

Eigenschaften des Algorithmus

Obere Schranke:χi sei optimale Lösung des Problems inf

{GN(χ) : χ ∈ X ∩ P i

}.

Dann ist χi ∈ X und damit zulässig.Dann kann man eine obere Schranke erhalten durch

αi := GN(χi ) ≥ min{GN(χ)|χ ∈ X}

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 27 / 34

Lösen des SAA-Problems Eigenschaften des Algorithmus

Eigenschaften des Algorithmus

Obere Schranke:χi sei optimale Lösung des Problems inf

{GN(χ) : χ ∈ X ∩ P i

}.

Dann ist χi ∈ X und damit zulässig.Dann kann man eine obere Schranke erhalten durch

αi := GN(χi ) ≥ min{GN(χ)|χ ∈ X}

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 27 / 34

Lösen des SAA-Problems Eigenschaften des Algorithmus

Eigenschaften des Algorithmus

Branching:

Notwendig, um die unstetigen Teile von ΨN(·) zu isolieren.Zerlege P i im Punkt χj , in dem Ψ(χ, ξn) unstetig ist für mind. ein n.d.h. Teilung der Achse j im Punkt χj

Abbildung: Branching in χj

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 28 / 34

Lösen des SAA-Problems Eigenschaften des Algorithmus

Eigenschaften des Algorithmus

Branching:

Notwendig, um die unstetigen Teile von ΨN(·) zu isolieren.

Zerlege P i im Punkt χj , in dem Ψ(χ, ξn) unstetig ist für mind. ein n.d.h. Teilung der Achse j im Punkt χj

Abbildung: Branching in χj

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 28 / 34

Lösen des SAA-Problems Eigenschaften des Algorithmus

Eigenschaften des Algorithmus

Branching:

Notwendig, um die unstetigen Teile von ΨN(·) zu isolieren.Zerlege P i im Punkt χj , in dem Ψ(χ, ξn) unstetig ist für mind. ein n.d.h. Teilung der Achse j im Punkt χj

Abbildung: Branching in χj

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 28 / 34

Bewertung der Lösung

Bewertung der Lösung

Bewertung der Lösung

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 29 / 34

Bewertung der Lösung Statistische Grenzen

Statistische Grenzen

Gegeben:

xN ist Optimallösung des SAA-Problems mit Sample-Größe NvN ist Optimalwert des SAA-Problems mit Sample-Größe N

Gesucht:

x∗ als Optimallösung des Ausgangsproblemsv∗ als Optimalwert des Ausgangsproblems

Frage: Wie groß ist die Optimalitätslücke, d.h. wie “gut“ ist xN imAusgangsproblem?

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 30 / 34

Bewertung der Lösung Statistische Grenzen

Statistische Grenzen

Gegeben:

xN ist Optimallösung des SAA-Problems mit Sample-Größe NvN ist Optimalwert des SAA-Problems mit Sample-Größe N

Gesucht:x∗ als Optimallösung des Ausgangsproblemsv∗ als Optimalwert des Ausgangsproblems

Frage:

Wie groß ist die Optimalitätslücke, d.h. wie “gut“ ist xN imAusgangsproblem?

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 30 / 34

Bewertung der Lösung Statistische Grenzen

Statistische Grenzen

Gegeben:

xN ist Optimallösung des SAA-Problems mit Sample-Größe NvN ist Optimalwert des SAA-Problems mit Sample-Größe N

Gesucht:x∗ als Optimallösung des Ausgangsproblemsv∗ als Optimalwert des Ausgangsproblems

Frage: Wie groß ist die Optimalitätslücke, d.h. wie “gut“ ist xN imAusgangsproblem?

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 30 / 34

Bewertung der Lösung Statistische Grenzen

Untere Schranke

Es ist bekannt: E(vN) ≤ v∗

Generiere M unabhängige Samples der Größe NLöse korrespondierende SAA-Probleme⇒ M Optimalwerte v1

N , ..., vMN

⇒ Schätzer von E(vN) ist:

vMN =

1M

M∑m=1

vmN

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 31 / 34

Bewertung der Lösung Statistische Grenzen

Untere Schranke

Es ist bekannt: E(vN) ≤ v∗

Generiere M unabhängige Samples der Größe NLöse korrespondierende SAA-Probleme⇒ M Optimalwerte v1

N , ..., vMN

⇒ Schätzer von E(vN) ist:

vMN =

1M

M∑m=1

vmN

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 31 / 34

Bewertung der Lösung Statistische Grenzen

Untere Schranke

Es ist bekannt: E(vN) ≤ v∗

Generiere M unabhängige Samples der Größe NLöse korrespondierende SAA-Probleme⇒ M Optimalwerte v1

N , ..., vMN

⇒ Schätzer von E(vN) ist:

vMN =

1M

M∑m=1

vmN

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 31 / 34

Bewertung der Lösung Statistische Grenzen

Obere Schranke

xN ∈ X ist zulässige Lösung des Ausgangsproblems.

Generiere ein Sample ξ1, ..., ξN′der Größe N ′

Berechne gN′(xN) = cT xN + 1N′

∑N′

n=1 Q(xN , ξn)

gN′(xN) ist Schätzer für cT xN + E(Q(xN , ξ))

⇒ Obere Schranke für v∗: gN′(xN)

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 32 / 34

Bewertung der Lösung Statistische Grenzen

Obere Schranke

xN ∈ X ist zulässige Lösung des Ausgangsproblems.

Generiere ein Sample ξ1, ..., ξN′der Größe N ′

Berechne gN′(xN) = cT xN + 1N′

∑N′

n=1 Q(xN , ξn)

gN′(xN) ist Schätzer für cT xN + E(Q(xN , ξ))

⇒ Obere Schranke für v∗: gN′(xN)

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 32 / 34

Bewertung der Lösung Statistische Grenzen

Obere Schranke

xN ∈ X ist zulässige Lösung des Ausgangsproblems.

Generiere ein Sample ξ1, ..., ξN′der Größe N ′

Berechne gN′(xN) = cT xN + 1N′

∑N′

n=1 Q(xN , ξn)

gN′(xN) ist Schätzer für cT xN + E(Q(xN , ξ))

⇒ Obere Schranke für v∗: gN′(xN)

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 32 / 34

Bewertung der Lösung Statistische Grenzen

Obere Schranke

xN ∈ X ist zulässige Lösung des Ausgangsproblems.

Generiere ein Sample ξ1, ..., ξN′der Größe N ′

Berechne gN′(xN) = cT xN + 1N′

∑N′

n=1 Q(xN , ξn)

gN′(xN) ist Schätzer für cT xN + E(Q(xN , ξ))

⇒ Obere Schranke für v∗: gN′(xN)

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 32 / 34

Bewertung der Lösung Statistische Grenzen

Optimalitätslücke

Mit diesen Schranken ist die Optimalitätslücke eines Lösungskandidaten xNgegeben durch:

gN′(xN)− vMN = cT xN +

1N ′

N′∑n=1

Q(xN , ξn)− 1

M

M∑m=1

vmN

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 33 / 34

Bewertung der Lösung Statistische Grenzen

Vielen Dank

für die

Aufmerksamkeit!

Maria Gundermann () Sample Average Approximation Methode Blockseminar OuuI 34 / 34