Festkommaschreibweise

Das Rechenwerk von mechanischen und elektronischen Rechenmaschinen arbeitet mit Zahlen fester Länge. Beispiele dafür sind mechanische Registrierkassen, bei denen im Anzeigebereich eine feste Anzahl von Ziffern verbaut ist. Registrierkassen werden eingesetzt, um Geldbeträge zu addieren. In den meisten Währungen werden Geldbeträge mit zwei Nachkommastellen angegeben, und die Beträge haben insbesondere im Einzelhandel eine praktische Obergrenze, daher reicht für diesen Anwendungsfall ein Zahlenraum aus, der 3 oder 4 Stellen vor dem Komma und 2 Nachkommastellen hat. Bei allen Zahlen, die die Registrierkasse anzeigen kann, hat das Komma dieselbe Position, daher heißt die Menge der so darstellbaren Zahlen Festkommazahlen, im Beispiel der abgebildeten Registrierkasse „Festkommazahlen im Dezimalsystem ohne Vorzeichen mit 3 Stellen vor und 2 Stellen nach dem Komma“.

Mit dieser Schreibweise kann Exaktheit beabsichtigt und erreicht werden, und die Genauigkeit ist eine absolute.

Exponentialschreibweise

Im naturwissenschaftlichen Bereich ist der Zahlenraum deutlich größer, bei Längenangaben reicht er vom Atomradius von Wasserstoff (etwa 0,000 000 000 032 Meter bzw. 32 Pikometer) bis zum Lichtjahr (etwa 9 460 000 000 000 000 Meter bzw. 9,46 Billionen Kilometer) und darüber hinaus. Bei so großen oder kleinen Zahlen ist die Schreibweise durch die vielen Nullen unübersichtlich, daher hat sich dort eine andere Schreibweise etabliert, bei der die Zahl in ihre signifikanten Ziffern und eine Kommaverschiebung zerlegt wird. In dieser Schreibweise sind die Zahlen 32 · 10⁻¹² und 9,46 · 10¹⁵ deutlich kürzer und dadurch einfacher zu erkennen. Die hinter der Basis 10 hochgestellte −12 bzw. 15 in dieser Exponentialschreibweise gibt an, um wie viele Stellen das Komma nach links bzw. nach rechts verschoben werden muss. Das Komma hat keine feste Position, sondern die Position ist beweglich, daher der Begriff Gleitkommazahl.

Mit dieser Schreibweise ist absolute Exaktheit normalerweise nicht beabsichtigt, und die relative Genauigkeit hängt eng mit der Anzahl der vorgesehenen signifikanten Stellen zusammen.

Schreibweisen für Gleitkommazahlen

• Wissenschaftliche Notation mit konsequenter Normalisierung auf ${\displaystyle 1\leq m<10}$
  • Beispiel: 10000 = 1e⁴
• Technische Notation mit Normalisierung auf ${\displaystyle 1/f\leq m<1000}$, mit f als Potenz der Anzahl der verbleibenden signifikanten Stellen der Messunsicherheit für die Rechengenauigkeit (denormalisierte Stellen). Im Exponent erscheinen nur Vielfache von 3 – diese Darstellung lässt sich beim Rechnen mit Maßeinheiten sowohl zwanglos in die Einheitenvorsätze, als auch die Zifferngruppierung mit Tausendertrennzeichnung überführen, bzw. sich daraus erzeugen
  • Beispiel: 10.000 m = 10e³ m = 10 km
  • Signifikanz: 10.00e³ m = 10.000 ± 5 m (4 signifikante Stellen bezüglich Messung in Kilometern mit Rundung), aber 0.01e⁶ m = 10.000 ± 5000 m (2 signifikante Stellen bezüglich Messung in Mm) – wobei die präzisen Angaben über Standard- und erweiterte Messunsicherheit DIN 1319-3 bzw. dem ISO/BIPM-Guide (GUM, ENV 13005) folgen

In Programmiersprachen wird für die Notation von Gleitkommazahlen im Quelltext und für ihre Ein- und Ausgabe eine kompakte Variante der Exponentialschreibweise verwendet, z. B. 2.99792458e8 (= 2,997.924.58 · 10⁸). Das e steht für „mal 10 hoch“. In der Sprache Algol 60 war dafür ein eigenes Zeichen ⏨ (Basiszehn) vorgesehen, das zwar auf manchen Ein- und Ausgabegeräten damaliger Rechner vorhanden war, aber erst 2002, also nach der Verwendungszeit von Algol 60, als Unicode-Zeichen U+23E8 in einen genormten Zeichencode aufgenommen wurde.

Beispiel

Ein häufiges Darstellungsformat für die Anzeige von Zahlen auf wissenschaftlichen Taschenrechnern ist:

• Basis 10, mit den Ziffern 0 bis 9
• 10 Stellen Genauigkeit für die Mantisse
• normalisierte Mantisse mit 1 Stelle vor dem Komma
• Exponenten von ${\displaystyle -99}$ bis ${\displaystyle +99}$

Die Zahl mit der Darstellung ${\displaystyle v=+1,\;m=9{,}460\,730\,5,\;e=15}$ hat damit den Wert ${\displaystyle 9{,}460\,730\,5\cdot 10^{15}}$ oder als ganze Zahl geschrieben ${\displaystyle 9\,460\,730\,500\,000\,000}$.

Die betragsmäßig kleinste darstellbare Zahl in diesem Darstellungsformat ist ${\displaystyle 0{,}000\,000\,0\cdot 10^{-99}}$, also 0, die größte darstellbare Zahl ist ${\displaystyle 9{,}999\,999\,9\cdot 10^{99}}$, das ist eine 100-stellige Zahl.

Rechenbeispiel

Im Format „IEEE 754 binary32“ ist ${\displaystyle b=2}$, ${\displaystyle p=24}$, ${\displaystyle e_{\textit {min}}=-126}$ und ${\displaystyle e_{\textit {max}}=127}$, der benötigte Speicherplatz ist daher:

• für das Vorzeichen 1 Bit,
• für die normalisierte Mantisse ${\displaystyle 24-1=23}$ Bit,
• für den Exponenten ${\displaystyle \left\lceil \log _{2}\left(1+127-(-126)\right)\right\rceil =\left\lceil \log _{2}254\right\rceil =\log _{2}256=8}$ Bit,
• insgesamt also 32 Bit.

Auslöschung

Unter Auslöschung versteht man den Effekt, dass bei der Subtraktion fast gleich großer Zahlen das Ergebnis falsch wird.

Zahlen verschiedener Größenordnung (Absorption)

Die Addition bzw. Subtraktion einer betragsmäßig viel kleineren Zahl ändert die größere Zahl nicht.

Im Beispiel der vierstelligen Dezimalarithmetik (${\displaystyle b=10}$, ${\displaystyle p=4}$) ändert die Addition von 0,001 zu 100 am größeren Operanden nichts. Dasselbe gilt für die Subtraktion:

Rechenbeispiel

Term	Anmerkungen
${\displaystyle 100+0{,}001}$	Die Ausgangsrechnung in mathematischer Schreibweise
${\displaystyle 1{,}000\cdot 10^{2}+1{,}000\cdot 10^{-3}}$	Die gleiche Rechnung in Gleitkommaschreibweise, kein Runden nötig
	Die Addition beginnt, ab hier wird intern mit beliebiger Genauigkeit gerechnet
${\displaystyle 1{,}00000\cdot 10^{2}+0{,}00001\cdot 10^{2}}$	Beide Operanden haben jetzt den gleichen Exponenten und die gleiche Mantissenlänge
${\displaystyle 1{,}00001\cdot 10^{2}}$	Die Operanden werden ziffernweise addiert
${\displaystyle 1{,}000\cdot 10^{2}}$	Das Ergebnis der Addition wird so gerundet, dass es ins Darstellungsformat passt
	Die Addition endet, ab hier wird nicht mehr mit beliebiger Genauigkeit gerechnet
${\displaystyle 100}$	Das Ergebnis in Dezimalschreibweise; die Addition hat nichts an der 100 geändert

Unterlauf

Liegt das Ergebnis eines Rechenschritts zwischen der kleinsten darstellbaren positiven Zahl und der 0, kann es zur 0 abgerundet werden. Dieses Abrunden wird Unterlauf (engl. underflow) genannt.

Ungültigkeit der Assoziativ- und Distributivgesetze

Die Addition und die Multiplikation von Gleitkommazahlen sind nicht assoziativ, das heißt die Ausdrücke ${\displaystyle (x+y)+z}$ und ${\displaystyle x+(y+z)}$ sowie ${\displaystyle (x\cdot y)\cdot z}$ und ${\displaystyle x\cdot (y\cdot z)}$ sind nicht äquivalent.

Die Addition und Multiplikation von Gleitkommazahlen sind nicht distributiv, das heißt die Ausdrücke ${\displaystyle x\cdot (y+z)}$ und ${\displaystyle (x\cdot y)+(x\cdot z)}$ sowie ${\displaystyle (x+y)\cdot z}$ und ${\displaystyle (x\cdot z)+(y\cdot z)}$ sind nicht äquivalent.

Lösbarkeit von Gleichungen

Bei Verwendung von Gleitkommaarithmetik haben viele Gleichungen andere Lösungsmengen als im Bereich der rationalen oder reellen Zahlen.

Beispiele (unter Verwendung einer vierstelligen Dezimal-Gleitkomma-Arithmetik)

Die Gleichung ${\displaystyle 1+x=1}$ hat im Bereich der rationalen Zahlen genau eine Lösung, nämlich ${\displaystyle x=0}$.

Bei Verwendung von Gleitkomma-Arithmetik hat diese Gleichung viele Lösungen, nämlich alle Zahlen, die zu klein sind, um bei der Addition mit der Zahl ${\displaystyle 1{,}000}$ das Ergebnis zu verändern. Je nach Rundungsregeln und Ausführung der Arithmetik sind das mindestens alle Zahlen mit ${\displaystyle -0{,}000\,05<x<0{,}000\,5}$, maximal alle Zahlen ${\displaystyle -0{,}001<x<0{,}001}$.

${\displaystyle {\begin{aligned}1-5{,}000\cdot 10^{-5}=1{,}000-0{,}000\,050\,0=0{,}999|950\,0=1{,}000=1\\1+4{,}999\cdot 10^{-4}=1{,}000+0{,}000\,499\,9=1{,}000|499\,9=1{,}000=1\\1+5{,}000\cdot 10^{-4}=1{,}000+0{,}000\,500\,0=1{,}000|500\,0=1{,}000=1\\1+1{,}000\cdot 10^{-3}=1{,}000+0{,}001\,000\,0=1{,}001|000\,0=1{,}001\neq 1\\\end{aligned}}}$

Die Gleichung ${\displaystyle 2+x^{2}=8}$ hat im Bereich der reellen Zahlen genau 2 Lösungen, nämlich ${\displaystyle x=\pm {\sqrt {6}}}$, im Bereich der rationalen Zahlen keine Lösung.

Bei Verwendung von Gleitkomma-Arithmetik hat diese Gleichung keine Lösung, da

${\displaystyle {\begin{aligned}2+2{,}449\cdot 10^{0}=2{,}000+5{,}997\,601=7{,}997|601=7{,}998<8\\2+2{,}450\cdot 10^{0}=2{,}000+6{,}002\,500=8{,}002|500=8{,}002>8\\\end{aligned}}}$

Konversionen

Wenn die Basis verschieden von 10 ist, müssen die Zahlen zwischen dem vorliegenden Gleitkommasystem und dem Dezimalsystem konvertiert werden, um eine menschenlesbare Darstellung zu erhalten. Eine schon alte und wichtige Forderung an diese Konversion ist ihre bitgenaue Umkehrbarkeit: Eine Zahl, die im Gleitkommaformat vorliegt und dann im Dezimalsystem dargestellt wird, soll wieder eingelesen werden können und bitgenau dieselbe Darstellung im Gleitkommasystem reproduzieren.

In vielen Programmiersprachen (C, C++, Python) wird diese Forderung nicht beachtet, dort gibt es in der Standardbibliothek keine Routinen, die eine exakte Umwandlung garantieren. Einige andere Programmiersprachen (Java, Scheme) liefern diese Umwandlungsroutinen bereits mit.

Dezimalbrüche

Schon einfache Dezimalbrüche wie 0,1 können nicht exakt als binäre Gleitkommazahlen dargestellt werden, da jede rationale Zahl, deren gekürzter Nenner keine Zweierpotenz ist, im Binärsystem zu einer nicht abbrechenden, periodischen Darstellung führt. Von dieser werden nur die ersten ${\displaystyle p}$ Ziffern gespeichert, wodurch Ungenauigkeit entsteht. Dezimal 0,1 ist binär 0,0001100110011… Allerdings wurde für binäre Gleitkommasysteme mit entsprechenden Rundungsregeln bewiesen, dass die Darstellung von 0,1 multipliziert mit 10 wieder exakt 1 ergibt. Allgemein gilt bei richtiger Rundung (m / 10) · 10 = m (Goldbergs Theorem 7 für den konkreten Fall n = 2¹ + 2³ = 10).

In Disziplinen wie der Finanzmathematik werden oft Ergebnisse verlangt, die mit einer dezimalen Handrechnung exakt übereinstimmen. Für diesen Anwendungsbereich sind Gleitkommazahlen ungeeignet, stattdessen wird dort dezimale Festkommaarithmetik eingesetzt.

Prüfung auf Gleichheit

Die im Abschnitt Dezimalbrüche genannte Einschränkung, dass viele dieser Dezimalzahlen im Binärsystem eines Computers nicht exakt dargestellt werden können, hat beim Programmieren Auswirkungen auf Vergleiche ${\displaystyle x=y}$ zwischen Gleitkommazahlen.

Zum Beispiel gilt mathematisch: ${\displaystyle 0{,}362\cdot 100=36{,}2}$ und ${\displaystyle 0{,}362\cdot 100/100=0{,}362}$. Beim Rechnen im Darstellungsformat „IEEE 754 double“ treten jedoch die folgenden Rundungsfehler auf, so dass diese Gleichungen dort nicht gelten.

Rundung von Gleitkommazahlen

Dezimalzahl	Gleitkommazahl IEEE 754 double	Anmerkung
${\displaystyle 0{,}362}$	${\displaystyle 0{,}36199999999999998845368054389837197959423065185546875}$	abgerundet
${\displaystyle 0{,}362\cdot 100}$	${\displaystyle {\hphantom {0}}36{,}19999999999999573674358543939888477325439453125}$	nach dem Multiplizieren wird erneut abgerundet
${\displaystyle 36{,}2}$	${\displaystyle {\hphantom {0}}36{,}2000000000000028421709430404007434844970703125}$	aufgerundet
${\displaystyle 0{,}362\cdot 100/100}$	${\displaystyle 0{,}361999999999999932942529312640544958412647247314453125}$	nach dem Dividieren wird erneut abgerundet
${\displaystyle 0{,}362}$	${\displaystyle 0{,}36199999999999998845368054389837197959423065185546875}$	abgerundet

Vergleiche auf exakte Gleichheit müssen deshalb durch eine Abfrage ersetzt werden, ob die zu vergleichenden Werte im Rahmen einer erreichbaren Genauigkeit ${\displaystyle \varepsilon }$ (meist Toleranz genannt) als gleich angesehen werden können.

Toleriert man beim Vergleich einen absoluten Fehler, lautet eine mögliche Formulierung ${\displaystyle \vert x-y\vert \leq \varepsilon }$.

Toleriert man beim Vergleich einen relativen Fehler, lautet eine mögliche Formulierung ${\displaystyle \vert 1-{\tfrac {y}{x}}\vert \leq \varepsilon }$. Der zweite Fall muss meist noch mit der Sonderfallabfrage ${\displaystyle x\neq 0}$ verbunden werden.

Versteckte Verwendung anderer Darstellungen

CPUs, Compiler und Bibliotheken stellen so gut wie immer verschiedene Gleitkommaformate zur Verfügung. Welche das sind, hängt von dem Zusammenspiel aus verwendeten CPU/FPU/GPU, dem verwendeten Compiler/Sprache und den verwendeten Optionen und den verwendeten Bibliotheken ab. Die Gleitkommaeinheiten des Intel 8087 und des Motorola 68881 unterstützen zum Beispiel ein Darstellungsformat mit 64 Bit unnormalisierter Mantisse, das genauer als das Darstellungsformat IEEE 754 binary64 mit seinen 53 Bit normalisierter Mantisse ist. Wird eine Zahl vom größeren Darstellungsformat in das kleinere Darstellungsformat umgewandelt, wird es entsprechend gerundet und verliert dadurch die letzten Stellen der Mantisse. Je nachdem, ob die Zwischenergebnisse von Rechnungen im internen Darstellungsformat oder im externen Darstellungsformat gespeichert werden, können selbst identische Ausdrücke wie etwa ${\displaystyle \cos(0{,}2)}$ zu unterschiedlichen Ergebnissen führen.