Javascript: Floatingpoint operation Bug

Frank.A

Hallo Leute,

ich sitze hier grade an einem Javascript das partou der Meinung ist, daß eine Subtraktion von 2 Zahlen mit einer Nachkommastelle ein Ergebnis mit fast unendlich vielen Nachkommastellen ergeben muß.

Mir fällt hierzu der Bug ein, der hier mal bei Intel Prozessoren aufgetaucht ist.
Ich weiß auch, daß es hierzu mal eine recht einfache Formel gab, um das zu erkennen, finde die aber nicht mehr.

Ich möchte den Nutzer aber zumindest einen Hinweis drauf geben, daß das angezeigt Ergebnis Mist sein könnte, weil sein Rechner evtl. diesen Bug enthält.

Hat jemand von Euch diese Formel noch parat?

viele Grüße

Frank

O'Dog

Ich glaub nicht das das ein Bug ist.
Das ist ein allgemeines Problem beim rechnen mit floating point Zahlen.
Eine Mischung aus Rundungs- und Abbruchfehler die so in jeder Programmiersprache vorkommen können. Zahlen die im Dezimalsystem in nur wenigen Stellen abgebildet werden können im Binärsystem unendlich viele Stellen haben. Unter bestimmten Voraussetzungen bekommt man halt so Ergebnisse wie bei dir anscheinend aufgetreten sind

Um das Problem zu vermeiden sollte man das Dezimalergebnis entsprechend runden.

bis dänn, O'Dog