Beispiel 1.1

(1) ${\displaystyle b=2.}$ Dem sog. dyadischen Bruch ${\displaystyle 11100.10}$ entspricht im Dezimalsystem die Zahl

${\displaystyle 1\cdot 2^{4}+1\cdot 2^{3}+1\cdot 2^{2}+0\cdot 2^{1}+0\cdot 2^{0}+1\cdot 2^{-1}=16+8+4+{\frac {1}{2}}=28.5.}$

(2) ${\displaystyle b=16.}$ Der ${\displaystyle b}$-adische Bruch ${\displaystyle C17.E}$ zur Basis ${\displaystyle b=16}$ bedeutet im Dezimalsystem die Zahl

${\displaystyle 12\cdot 16^{2}+1\cdot 16^{1}+7\cdot 160+14\cdot 16^{-1}=3095.875.}$

Will man umgekehrt eine Dezimalzahl bezüglich einer anderen Basis als ${\displaystyle b:=10}$ beschreiben, so verfährt man wie folgt.

Beispiel 1.2

Gegeben sei die Zahl ${\displaystyle x:=60.125}$ im Dezimalsystem. Diese sei nun mittels einer anderen Basis dargestellt.
(1) ${\displaystyle b=2.}$ (Als Vielfache der Potenzen von 2 stehen nur die Ziffern 0 und 1, für die erste Stelle nur die 1 zur Verfügung.) Man ermittelt zuerst die höchste Potenz von 2, die in 60 steckt. Dies ist wegen ${\displaystyle 2^{5}=32}$ und ${\displaystyle 2^{6}=64}$ die 5. Weiter enthält ${\displaystyle 60.125-2^{5}=28.125}$ das 1-fache von ${\displaystyle 2^{4}=16}$, die Zahl ${\displaystyle 28.125-16=12.125}$ das 1-fache von ${\displaystyle 2^{3}=8}$, die Zahl ${\displaystyle 4.125}$ das 1-fache von ${\displaystyle 2^{2}=4}$, die Zahl ${\displaystyle 0.125}$ das 0-fache von ${\displaystyle 2^{1}=2}$ sowie das 0-fache von ${\displaystyle 2^{0}=1}$, die Zahl ${\displaystyle 0.125}$ das 0-fache von ${\displaystyle 2^{-1}=0.5}$ sowie das 0-fache von ${\displaystyle 2^{-2}=0.25}$ und schließlich das 1-fache von ${\displaystyle 2^{-3}=0.125}$, so dass man zu folgender Darstellung gelangt:

${\displaystyle 111100.001.}$

(2) ${\displaystyle b=8.}$ (Als Vielfache der Potenzen von 8 stehen jetzt die Ziffern ${\displaystyle 0,1,\ldots ,7}$ zur Verfügung bzw. für die erste Stelle die Ziffern ${\displaystyle 1,2,\ldots ,7}$.) Es ergibt sich

${\displaystyle 60.125=7\cdot 8^{1}+4\cdot 8^{0}+1\cdot 8^{-1}.}$

Also entspricht ${\displaystyle 60.125}$ im Dezimalsystem der Zahl ${\displaystyle 74.1}$ zur Basis ${\displaystyle b=8}$.

(3) ${\displaystyle b=16.}$ Man erhält

${\displaystyle 60.125=3\cdot 16^{1}+12\cdot 16^{0}+2\cdot 16^{-1}.}$

Es ergibt sich zur Basis ${\displaystyle b=16}$ die Zahl ${\displaystyle 3C.2}$.

Satz 1.3

Sei ${\displaystyle b\in \mathbb {N} }$ und ${\displaystyle b\geq 2}$. Dann lässt sich jede reelle Zahl in einen ${\displaystyle b}$-adischen Bruch zur Basis ${\displaystyle b}$ entwickeln.

Beispiel 1.4

Sei ${\displaystyle b:=10}$.
(1) Die Zahl ${\displaystyle -30.421}$ lautet (bei Nichtberücksichtigung der Größen ${\displaystyle r}$ und ${\displaystyle s}$) in normalisierter Gleitkomma-Darstellung ${\displaystyle -0.30421\cdot 10^{2}}$. Letztere Darstellung schreibt man z.B. für ${\displaystyle r:=6}$ und ${\displaystyle s:=2}$ auch in der Form ${\displaystyle -0.304210E+02}$ oder ${\displaystyle -0.304210_{10}+02}$.

(2) Die Zahl ${\displaystyle -0.00030421}$ lautet in der normalisierten Gleitkomma-Darstellung für ${\displaystyle r:=6}$ und ${\displaystyle s:=2}$ z. B. ${\displaystyle -0.304210E-03}$ oder ${\displaystyle -0.304210_{10}-03}$.

Eine normalisierte Gleitkomma-Darstellung mit der Basis ${\displaystyle b}$, beispielsweise ${\displaystyle b:=10}$ oder ${\displaystyle b:=2}$, bestimmt die Menge ${\displaystyle A:=A(b;r;s)}$ reeller Zahlen, die auf dem Rechner exakt dargestellt werden können, die sog. Maschinenzahlen. Eine solche Zahlendarstellung ermöglicht also nur die Repräsentation einer endlichen Teilmenge der reellen Zahlen. Und zwar ist offenbar insbesondere die kleinste darstellbare positive Zahl ${\displaystyle a_{\min }}$ durch

${\displaystyle M:=0.1,\quad E:=-\underbrace {(b-1)(b-1)\ldots (b-1)} _{s-mal}}$

und die größte positive Zahl ${\displaystyle a_{\max }}$ durch

${\displaystyle M:=0.\underbrace {(b-1)(b-1)\ldots (b-1)} _{r-mal},\quad E:=+\underbrace {(b-1)(b-1)\ldots (b-1)} _{s-mal}}$

gegeben. Die Mantisse ${\displaystyle M}$ von ${\displaystyle a_{\min }}$ entspricht offenbar der Dezimalzahl ${\displaystyle b^{-1}}$ und die von ${\displaystyle a_{\max }}$ der Dezimalzahl

${\displaystyle (b-1)\sum _{i=1}^{r}b^{-i}=(b-1)\left[{\frac {1-b^{-r-1}}{1-b^{-1}}}-1\right]={\frac {b(b^{r+1}-1)}{b^{r+1}}}-b+1=1-b^{-r}.}$

Der Exponent ${\displaystyle E}$ für beide Zahlen ist bis auf das Vorzeichen gegeben durch die Dezimalzahl

${\displaystyle (b-1)\sum _{i=0}^{s-1}b^{i}=(b-1){\frac {1-b^{s}}{1-b}}=b^{s}-1.}$

Somit haben ${\displaystyle a_{\min }}$ und ${\displaystyle a_{\max }}$ den Dezimalwert

${\displaystyle a_{\min }=b^{-b^{s}},\quad a_{\max }=(1-b^{-r})b^{b^{s}-1}.}$

Ist ${\displaystyle D}$ die reelle Zahlenmenge

${\displaystyle D:=[-a_{\max },-a_{\min }]\cup \{0\}\cup [a_{\min },a_{\max }],}$

so können also insbesondere Zahlen ${\displaystyle x\notin D}$ nicht auf dem Rechner wiedergegeben werden. Im Fall ${\displaystyle x>a_{\max }}$ und ${\displaystyle x<-a_{\max }}$ melden alle Rechner normalerweise einen Exponentenüberlauf („overflow“), während sie im Fall ${\displaystyle x\in (-a_{\min },a_{\min })}$ meist keine Meldung machen und ${\displaystyle x=0}$ setzen.

Ferner ist offenbar nicht jede Zahl ${\displaystyle x\in D}$ auf dem Rechner, d. h. als ${\displaystyle x\in A}$ darstellbar (z. B. trifft dies für die Zahlen ${\displaystyle \pi }$ und ${\displaystyle {\sqrt {2}}}$ zu). Somit stellt sich das Problem, eine Zahl ${\displaystyle x\in D}$ durch eine Zahl aus ${\displaystyle A}$ zu approximieren. Man verwendet hierzu einen Rundungsoperator ${\displaystyle \operatorname {rd} :D\to A}$, der jeder Zahl ${\displaystyle x\in D}$ eine Zahl ${\displaystyle \operatorname {rd} (x)\in A}$ zuordnet, welche sinnvollerweise der folgenden Beziehung genügt:

(1.2) ${\displaystyle |x-\operatorname {rd} (x)|=\min _{a\in A}|x-a|.}$

Im Fall, dass die Aufgabe in (1.2) zwei Lösungen besitzt, rundet man dabei normalerweise (wir legen dies hier auch so fest) z. B. für ${\displaystyle b:=10}$ und eine Endziffer 5 nach oben.

Beispiel 1.5

Sei ${\displaystyle b:=10,r:=4}$ und ${\displaystyle s:=2}$. Dann gilt

${\displaystyle \operatorname {rd} (3.14159)=0.3142_{10}+01,}$

${\displaystyle \operatorname {rd} (14.2842)=0.1428_{10}+02,}$

${\displaystyle \operatorname {rd} (0.142749)=0.1427_{10}+00,}$

${\displaystyle \operatorname {rd} (0.14275)=0.1428_{10}+00.}$

Allgemein kann man für ${\displaystyle b:=10}$ und eine Mantissenlänge ${\displaystyle r}$ die zu einer beliebigen Zahl ${\displaystyle x\in D}$ gehörende Maschinenzahl ${\displaystyle \operatorname {rd} (x)\in A}$ folgendermaßen finden. Es sei dazu ${\displaystyle x\in D}$ zunächst in der Form ${\displaystyle x=a\cdot 10^{q}}$ dargestellt, wobei ${\displaystyle q\in \mathbb {Z} }$ und

${\displaystyle |a|=0.\alpha _{1}\alpha _{2}\ldots \alpha _{r}\alpha _{r+1}\ldots }$

mit ${\displaystyle 0\leq \alpha _{i}\leq 9}$ und ${\displaystyle \alpha _{1}\neq 0}$ seien. Insbesondere ist also ${\displaystyle |a|\geq 0.1}$. Zu ${\displaystyle a}$ bildet man nun

${\displaystyle {\tilde {a}}:={\begin{cases}0.\alpha _{1}\alpha _{2}\ldots \alpha _{r},&{\text{falls }}0\leq \alpha _{r+1}\leq 4,\\0.\alpha _{1}\alpha _{2}\ldots \alpha _{r}+10^{-r},&{\text{falls }}\alpha _{r+1}\geq 5\end{cases}}}$

und setzt dann

${\displaystyle \operatorname {rd} (x):=\operatorname {sgn}(x)\cdot {\tilde {a}}\cdot 10^{q}.}$

Offenbar ist die Zahl ${\displaystyle \operatorname {rd} (x)}$ für jedes ${\displaystyle x\in D}$ eine Maschinenzahl, d. h. ${\displaystyle \operatorname {rd} (x)\in A}$.

Beispiel 1.6

Für ${\displaystyle b:=10,r:=4}$ und ${\displaystyle s:=2}$ folgt

${\displaystyle \operatorname {rd} (0.99997_{10}+98)=0.1000_{10}+99,}$

${\displaystyle \operatorname {rd} (0.012345_{10}-9)=0.1235_{10}-10.}$

Für den mit der Rundung verbundenen absoluten Fehler hat man

${\displaystyle |x-\operatorname {rd} (x)|\leq 5\cdot 10^{-(r+1)}\cdot 10^{q}={\frac {1}{2}}10^{-r}10^{q}}$

und für den relativen Fehler, sofern ${\displaystyle x\neq 0}$ ist,

${\displaystyle {\frac {|x-\operatorname {rd} (x)|}{|x|}}\leq {\frac {0.5\cdot 10^{-r}10^{q}}{|a|10^{q}}}\leq {\frac {0.5\cdot 10^{-r}}{0.1}}={\frac {1}{2}}10^{-r+1}.}$

Bei einer analogen Definition der Rundungsoperation für die Basis ${\displaystyle b}$ erhält man

${\displaystyle |x-\operatorname {rd} (x)|\leq {\frac {1}{2}}b^{-r}b^{q},\quad {\frac {|x-\operatorname {rd} (x)|}{|x|}}\leq {\frac {1}{2}}b^{-r+1}.}$

Diese Vorgehensweise führt auf die Definition der sogenannten relativen Maschinengenauigkeit

${\displaystyle eps:={\frac {1}{2}}b^{-r+1}.}$

Mit dieser gilt also

(1.3) ${\displaystyle \operatorname {rd} (x)=x(1+\varepsilon ),\quad |\varepsilon |\leq eps,}$

wie man mit der Setzung ${\displaystyle \varepsilon :=-(x-\operatorname {rd} (x))/x}$ sieht.

Beispiel 1.7 (IEEE-Standard)

${\displaystyle {\begin{array}{l|c|c}&{\text{single precision}}&{\text{double precision}}\\\hline a_{\min }&1.10\cdot 10^{-38}&2.23\cdot 10^{-308}\\a_{\max }&3.40\cdot 10^{+38}&1.80\cdot 10^{+308}\\eps&0.60\cdot 10^{-7}&1.11\cdot 10^{-16}\end{array}}}$

Die arithmetischen Grundoperationen ${\displaystyle +,-,*,/}$ werden auf digitalen Rechnern durch sog. Gleitpunktoperationen ersetzt, welche Maschinenzahlen wieder auf Maschinenzahlen abbilden. Sind ${\displaystyle a,b\in A}$, ist „${\displaystyle \circ }$“ eine der vier Grundoperationen, ${\displaystyle c:=a\circ b}$ und ${\displaystyle c\in D}$, so definiert man die zugehörige Gleitpunktoperation ${\displaystyle gl(a\circ b)}$ durch

${\displaystyle gl(a\circ b):=\operatorname {rd} (a\circ b).}$

Für sie gilt nach (1.3)

${\displaystyle gl(a\circ b)=(a\circ b)(1+\varepsilon ),\quad |\varepsilon |\leq eps.}$

Für das Ergebnis ${\displaystyle c:=a\circ b}$ kann natürlich auch ${\displaystyle c\notin D}$ gelten. In diesem Fall meldet der Rechner normalerweise einen Exponentenüberlauf oder setzt er ${\displaystyle c:=0}$.

Beispiel 1.8

Seien ${\displaystyle a=0.03615,b=62.88}$ und ${\displaystyle c=62.73}$. Dann gilt bei exakter Rechnung

${\displaystyle a+b-c=0.18615.}$

Bei 4-stelliger Rechnung ergibt sich hingegen

${\displaystyle gl(a+gl(b-c))=gl(0.03615+0.1500)=0.1862}$

mit 4 in Bezug auf das exakte Ergebnis korrekten Stellen oder alternativ

${\displaystyle gl(gl(a+b)-c)=gl(62.92-62.73)=0.1900}$

mit einem Ergebnis, welches lediglich 2 korrekte Stellen aufweist.

Die ${\displaystyle gl}$-Operationen genügen also weder dem Assoziativ- noch dem Distributivgesetz!

Das Ziel der numerischen Mathematik ist die Konstruktion und Analyse von effizienten Algorithmen. Dabei meinen wir mit effizient, dass sie

(a) schnell und sparsam sein, d. h. möglichst wenige Rechenoperationen und damit bei geringem Speicherplatzbedarf wenig Rechenzeit zur Berechnung des gewünschten Resultates benötigen sollten,

(b) numerisch stabil sein sollten, d. h. die Verfälschung der Resultate durch Rundungsfehler nicht wesentlich größer sein sollte als die Verfälschung durch die Eingabefehler.

Unter Eingabefehler versteht man dabei die durch Rundung der Eingabedaten auf dem Rechner sich bereits ergebenden (im Allgemeinen kleinen) Fehler. Ein mathematisches Problem kann aber selbst schon „gutartig“ oder „bösartig“ sein. So nennt man ein mathematisches Problem gut konditioniert, wenn kleine Störungen in den Daten auch nur kleine Fehler in den Lösungen zur Folge haben, und es heißt schlecht konditioniert (ill-conditioned), wenn kleine Störungen in den Daten große Fehler in den Lösungen bewirken können. Bei schlecht konditionierten Problemen ziehen also Eingabefehler auf dem Rechner üblicherweise automatisch große Fehler in den erzielten Resultaten nach sich und zwar für jeden Algorithmus.

Beispiel 1.9

(1) Die Subtraktion ${\displaystyle c:=a-b}$ etwa gleich großer reeller Zahlen ${\displaystyle a}$ und ${\displaystyle b}$ ist ein schlecht konditioniertes Problem. Denn sind ${\displaystyle a}$ und ${\displaystyle b}$ mit Fehlern ${\displaystyle \varepsilon _{a}}$ und ${\displaystyle \varepsilon _{b}}$ gestört, d. h. hat man statt ${\displaystyle a}$ und ${\displaystyle b}$

${\displaystyle {\tilde {a}}=a(1+\varepsilon _{a}),\quad {\tilde {b}}=b(1+\varepsilon _{b}),}$

dann ergibt sich

${\displaystyle {\tilde {c}}={\tilde {a}}-{\tilde {b}}=a(1+\varepsilon _{a})-b(1+\varepsilon _{b})=(a-b)\left(1+{\frac {a}{a-b}}\varepsilon _{a}-{\frac {b}{a-b}}\varepsilon _{b}\right).}$

Für ${\displaystyle a\approx b}$ (und ${\displaystyle |a-b|\ll |a|}$ bzw. ${\displaystyle |a-b|\ll |b|}$) hat man bezüglich ${\displaystyle c:=a-b}$ im Ergebnis eine Fehlerverstärkung gegenüber ${\displaystyle \varepsilon _{a}}$ bzw. ${\displaystyle \varepsilon _{b}}$ von

${\displaystyle \left|{\frac {a}{a-b}}\right|\gg 1,\quad \left|{\frac {b}{a-b}}\right|\gg 1}$

Auf dem Rechner führt dies zum Phänomen der Auslöschung von korrekten Stellen. Hat man z. B. bei 8-stelliger Rechnung

${\displaystyle {\tilde {a}}=0.123\,467\,xx}$ (6 korrekte Stellen),

${\displaystyle {\tilde {b}}=0.123\,456\,1x}$ (7 korrekte Stellen),

so erhält man

${\displaystyle {\tilde {a}}-{\tilde {b}}=0.000\,011\,xx=0.11x\,x00\,00_{10}-4}$ (2 korrekte Stellen).

(2) Das Problem, den Schnittpunkt zweier Geraden ${\displaystyle g}$ und ${\displaystyle h}$, die fast parallel zueinander sind, zu berechnen, ist schlecht konditioniert. Um dies einzusehen, mache man sich geometrisch klar, dass im Fall zweier sich im rechten Winkel schneidender Geraden kleine „Störungen“ der Geraden auch nur kleine Störungen bezüglich des gemeinsamen Schnittpunktes zur Folge haben, während solche Störungen großen Einfluss haben, wenn die Geraden fast parallel zueinander sind.

Bei der Konstruktion von Algorithmen sollte man also, wenn möglich, schlecht konditionierte Teilprobleme vermeiden.

Beispiel 1.10

(1) Der Ausdruck

${\displaystyle c:=a^{2}-b^{2}}$

sollte mittels der numerisch stabileren Darstellung

${\displaystyle c:=(a-b)(a+b)}$

berechnet werden.

(2) Die Funktion

${\displaystyle f(x):={\frac {1}{1+2x}}-{\frac {1-x}{1+x}}}$

erlaubt die stabilisierte Darstellung

${\displaystyle y={\frac {2x^{2}}{(1+x)(1+2x)}},}$

welche sich zur Berechnung von Funktionswerten für ${\displaystyle |x|\ll 1}$ anbietet. Man mache sich klar, dass bei der Auswertung der stabilisierten Darstellung keine Auslöschung auftritt.

Beispiel 1.11

Die Lösungen ${\displaystyle \lambda _{1}}$ und ${\displaystyle \lambda _{2}}$ einer quadratischen Gleichung

(1.6) ${\displaystyle x^{2}-2px+q=0}$

sind gegeben durch

(1.7) ${\displaystyle \lambda _{1,2}:=p\pm {\sqrt {p^{2}-q}},}$

wobei wir hier davon ausgehen, dass die Gleichung zwei unterschiedliche reelle Lösungen besitzt, also

${\displaystyle p^{2}-q>0}$

ist. Zur Analyse der Fehlerempfindlichkeit der beiden Lösungen von (1.6) in Abhängigkeit von den Eingabedaten ${\displaystyle p}$ und ${\displaystyle q}$ betrachten wir diese nun als Funktionen von ${\displaystyle p}$ und ${\displaystyle q}$. Wir untersuchen dazu die beiden Gleichungen

(1.8) ${\displaystyle \lambda _{1}(p,q)=p+{\sqrt {p^{2}-q}},\quad \lambda _{2}(p,q)=p-{\sqrt {p^{2}-q}}.}$

(Im Vergleich mit (1.4) ist ${\displaystyle x:=(p,q),m=2,f_{i}:=\lambda _{i}}$ und entsprechen die rechten Seiten in (1.8) den ${\displaystyle y_{i}}$.) Man hat dafür

(1.9) ${\displaystyle \lambda _{1}+\lambda _{2}=2p,\quad \lambda _{1}-\lambda _{2}=2{\sqrt {p^{2}-q}},\quad \lambda _{1}\lambda _{2}=q.}$

Damit errechnet man

${\displaystyle {\frac {\partial \lambda _{1,2}}{\partial p}}=1\pm {\frac {p}{\sqrt {p^{2}-q}}}={\frac {{\sqrt {p^{2}-q}}\pm p}{\sqrt {p^{2}-q}}}=\pm {\frac {\lambda _{1,2}}{\lambda _{1}-\lambda _{2}}},}$

${\displaystyle {\frac {\partial \lambda _{1,2}}{\partial p}}=\mp {\frac {1}{2{\sqrt {p^{2}-q}}}}=\mp {\frac {1}{\lambda _{1}-\lambda _{2}}}.}$

Hieraus ergeben sich die Verstärkungsfaktoren

${\displaystyle k_{11}:=\left|{\frac {\partial \lambda _{1}}{\partial p}}{\frac {p}{\lambda _{1}}}\right|=\left|\left({\frac {2\lambda _{1}}{\lambda _{1}-\lambda _{2}}}\right)\left({\frac {\lambda _{1}+\lambda _{2}}{2\lambda _{1}}}\right)\right|={\frac {|1+(\lambda _{1}/\lambda _{2})|}{|1-(\lambda _{1}/\lambda _{2})|}},}$

${\displaystyle k_{12}:=\left|{\frac {\partial \lambda _{1}}{\partial q}}{\frac {q}{\lambda _{1}}}\right|=\left|\left({\frac {1}{\lambda _{1}-\lambda _{2}}}\right)\left({\frac {\lambda _{1}\lambda _{2}}{\lambda _{1}}}\right)\right|={\frac {1}{|1-(\lambda _{1}/\lambda _{2})|}},}$

${\displaystyle k_{21}:=\left|{\frac {\partial \lambda _{2}}{\partial p}}{\frac {p}{\lambda _{2}}}\right|=\left|\left({\frac {2\lambda _{2}}{\lambda _{1}-\lambda _{2}}}\right)\left({\frac {\lambda _{1}+\lambda _{2}}{2\lambda _{2}}}\right)\right|=k_{11},}$

${\displaystyle k_{22}:=\left|{\frac {\partial \lambda _{2}}{\partial q}}{\frac {q}{\lambda _{2}}}\right|=\left|\left({\frac {1}{\lambda _{1}-\lambda _{2}}}\right)\left({\frac {\lambda _{1}\lambda _{2}}{\lambda _{2}}}\right)\right|=k_{12}.}$

Die Bestimmung der Lösungen von (1.6) ist somit für ${\displaystyle \lambda _{1}\approx \lambda _{2}}$ ein schlecht konditioniertes Problem. Zur Veranschaulichung geben wir ein Zahlenbeispiel. Es seien ${\displaystyle p:=2}$ und ${\displaystyle q:=3.999}$. Dann sind ${\displaystyle \lambda _{1}=2.01}$ und ${\displaystyle \lambda _{2}=1.99}$ die beiden Nullstellen von (1.6). Für die Verstärkungsfaktoren ergibt sich in diesem Fall

${\displaystyle k_{11}=k_{21}={\frac {|1+(\lambda _{1}/\lambda _{2})|}{|1-(\lambda _{1}/\lambda _{2})|}}\approx 200,\quad k_{22}=k_{12}={\frac {1}{|1-(\lambda _{1}/\lambda _{2})|}}\approx 99.5.}$

Somit ist zu erwarten, dass Eingabefehler in den Daten ${\displaystyle p}$ und ${\displaystyle q}$ in Bezug auf die Lösungen ${\displaystyle \lambda _{1}}$ und ${\displaystyle \lambda _{2}}$ von (1.6) um den 100- bis 200-fachen Wert verstärkt werden.

Wir wollen nun zwei unterschiedliche Algorithmen zur Berechnung von

${\displaystyle \lambda _{1}:=p+{\sqrt {p^{2}-q}},\quad \lambda _{2}:=p-{\sqrt {p^{2}-q}}}$

betrachten und zwar unter den Bedingungen

(1.10) ${\displaystyle p^{2}-q>0,\quad |q|\ll p^{2},\quad p<0.}$

In diesem Fall ist offenbar

${\displaystyle \lambda _{1}\approx -|p|+|p|=0,\quad \lambda _{2}\approx -|p|-|p|=-2|p|,}$

d. h. für nicht zu kleine ${\displaystyle |p|}$ auch ${\displaystyle \lambda _{1}\gg \lambda _{2}}$ und somit das Problem der Bestimmung der Lösungen der quadratischen Gleichung (1.6) gut konditioniert. Ein „Lösungsalgorithmus“ könnte nun zunächst darin bestehen, hintereinander die folgenden Größen zu berechnen

${\displaystyle u:=p^{2},\quad v:=u-q,\quad w:={\sqrt {v}}\geq 0.}$

Wegen ${\displaystyle p<0}$ sollte man als nächstes den unkritischen Wert

${\displaystyle \lambda _{2}:=p-w}$

berechnen. Zur Berechnung von ${\displaystyle \lambda _{1}}$ betrachten wir nun zwei Varianten (vgl. (1.9)):

${\displaystyle {\text{Variante A}}:\quad \lambda _{1}:=p+w,}$

${\displaystyle {\text{Variante B}}:\quad \lambda _{1}:=q/\lambda _{2}.}$

Da unter den Voraussetzungen (1.10) ${\displaystyle w\approx -p}$ gilt, tritt bei Variante A zwangsläufig Auslöschung auf. Betrachtet man ${\displaystyle \lambda _{1}}$ als Funktion in den Variablen ${\displaystyle p}$ und ${\displaystyle w}$, so erhält man für die Verstärkungsfaktoren

${\displaystyle k_{11}(p,w)=\left|{\frac {p}{p+w}}\right|=\underbrace {\left|{\frac {1}{1+(w/p)}}\right|} _{\gg 1},}$

${\displaystyle k_{12}(p,w)=\left|{\frac {w}{p+w}}\right|=\underbrace {\left|{\frac {1}{1+(p/w)}}\right|} _{\gg 1}.}$

Also ist die Variante A im Fall (1.10) nicht stabil. Bei Variante B erhält man dagegen

${\displaystyle k_{11}(q,\lambda _{2})=k_{12}(q,\lambda _{2})=1.}$

D. h., der Algorithmus B ist stabil. Für ${\displaystyle p:=-2}$ und ${\displaystyle q:=0.01}$ ergibt sich bei exakter (bzw. 4-stelliger) Rechnung

${\displaystyle u:=p^{2}=4\quad (4.000),}$

${\displaystyle v:=u-q=3.99\quad (3.990),}$

${\displaystyle w:={\sqrt {v}}=1.997\,49\ldots \quad (1.997),}$

${\displaystyle \lambda _{2}:=p-w=-3.997\,4\ldots \quad (-3.997).}$

Die exakte Lösung für ${\displaystyle \lambda _{1}}$ ist ${\displaystyle \lambda _{1}=-0.0025}$. Bei Rechnung mit 4-stelliger Mantisse erhält man im Fall der Variante B ${\displaystyle \lambda _{1}=-0.0025}$, während man für die Variante A ${\displaystyle \lambda _{1}=-0.0030}$ erhält mit einem relativen Fehler bezüglich der exakten Lösung von

${\displaystyle \left|{\frac {0.0030-0.0025}{0.0025}}\right|=0.2}$

Im Fall

${\displaystyle p^{2}-q>0,\quad |q|\ll p^{2},\quad p>0}$

gilt offenbar ${\displaystyle w\approx p}$. Somit ist die Berechnung von ${\displaystyle \lambda _{1}:=p+w}$ stabil möglich und von ${\displaystyle \lambda _{2}:=p-w}$ kritisch. Ein stabiler Algorithmus ergibt sich hier durch die Vertauschung der Rollen von ${\displaystyle \lambda _{1}}$ und ${\displaystyle \lambda _{2}}$ oben.

Wir nennen einen Algorithmus zur Lösung eines bestimmten Problems numerisch stabiler als einen zweiten zur Lösung desselben Problems, wenn der Gesamteinfluss aller Rundungsfehler auf die Lösung bei dem ersten Algorithmus kleiner als bei dem zweiten ist.