C - Double Stelligkeit festlegen
-
Hallo,
ich vlt frage ich mal kleiner,ich möchte eine beliebe double Zahl auf 15 signifkante Stellen 'zuschneiden'
also alles was rechts von der 15 signifkante stellen steht wegschneidenhat jemand eine Idee wie?
Danke,
James
-
@JamesNguyen
Die eingebauten Fließkommatypen speichern die Zahlen intern zur Basis 2 ab. Bei der Umwandlung kommt es zu Ungenauigkeiten.Stell mal 1/3 (im Dezimalsystem) mit 15 Stellen genau dar.
Geht nicht.
Im Dualsystem sind es andere Zahlen. Z.B die 0.1
Ganz einfach im Dezimalsystem aber Dual nicht.