Umgang mit Rundungsfehler
-
@SeppJ sagte in Umgang mit Rundungsfehler:
Wieso soll 0 nicht 0 sein?
weil die steigung zwar jeweils 0 sind aber einmal nach recht oder nach links driften;)
Laut debugger seh ich auch 0.00000000 bzw. -0.000000000. müsste ja ein sign bit sein p.s. sollte auch int64_t nehme aber kein bit
-
@SeppJ sagte in Umgang mit Rundungsfehler:
Aber wozu ist das alles gut? Ist das eine Simulation wo Polygone durch die Gegend fliegen und du willst ausrechnen, ob sie sich stoßen?
ne ich schieße ein paar rays , linen durch und will auch sicherstellen dass sie treffen wo sie treffen sollen;)
-
Das ist aber nicht, was du berechnest. Die Steigung ist schließlich 0. Würde dir jedes Grundschulkind so ausrechnen und bestätigen können, dass die beide 0 sind.
Es gibt Funktionen in C, die dir das Vorzeichen korrekt liefern, ohne dich auf wilde Casts verlassen zu müssen. Aber wie gesagt, ist da eher ein Fehler in deiner Logik, dass du nicht die richtige Rechnung machst zu der Frage, die du beantworten willst.
@SoIntMan sagte in Umgang mit Rundungsfehler:
ne ich schieße ein paar rays , linen durch und will auch sicherstellen dass sie treffen wo sie treffen sollen;)
Bitte genauer! Was meinst du mit "sollen"?
-
@SeppJ sagte in Umgang mit Rundungsfehler:
Das ist aber nicht, was du berechnest. Die Steigung ist schließlich 0. Würde dir jedes Grundschulkind so ausrechnen und bestätigen können, dass die beide 0 sind.
Es gibt Funktionen in C, die dir das Vorzeichen korrekt liefern, ohne dich auf wilde Casts verlassen zu müssen. Aber wie gesagt, ist da eher ein Fehler in deiner Logik, dass du nicht die richtige Rechnung machst zu der Frage, die du beantworten willst.du hast recht..
@SeppJ sagte in Umgang mit Rundungsfehler:
Bitte genauer! Was meinst du mit "sollen"?
weil es sonst falsch wäre? wenn da ein schnittpunkt ist?
-
@SoIntMan sagte in Umgang mit Rundungsfehler:
@SeppJ sagte in Umgang mit Rundungsfehler:
Bitte genauer! Was meinst du mit "sollen"?
weil es sonst falsch wäre? wenn da ein schnittpunkt ist?
(Floating point-)arithmetisch ist da ja kein Schnittpunkt…
Da ich nicht die Antwort bekomme, die ich brauche, und du wahrscheinlich genauso genervt bist von meinen dauernden Gegenfragen: Ich will wissen, was du erreichen willst. Ganz weit weg von allen deinen konkreten Problemen mit Schnittpunkten und Steigungen. Nicht wie du es machst; nicht was deine Probleme dabei sind; nicht wie du denkst, dass das geht. Klassisches XY-Problem. Ich bin nämlich ziemlich sicher, dass du wahrscheinlich gar kein Problem hast, sondern dir nur selber eines einredest. Aber es gäbe auch genügend Fälle, wo du tatsächlich ein Problem haben könntest und die Lösung ganz woanders liegt, daher mag ich das auch nicht pauschal behaupten, ohne den genauen Anwendungsfall zu kennen.
-
@SeppJ sagte in Umgang mit Rundungsfehler:
Da ich nicht die Antwort bekomme, die ich brauche, und du wahrscheinlich genauso genervt bist von meinen dauernden Gegenfragen: Ich will wissen, was du erreichen willst. Ganz weit weg von allen deinen konkreten Problemen mit Schnittpunkten und Steigungen. Nicht wie du es machst; nicht was deine Probleme dabei sind; nicht wie du denkst, dass das geht. Klassisches XY-Problem. Ich bin nämlich ziemlich sicher, dass du wahrscheinlich gar kein Problem hast, sondern dir nur selber eines einredest. Aber es gäbe auch genügend Fälle, wo du tatsächlich ein Problem haben könntest und die Lösung ganz woanders liegt, daher mag ich das auch nicht pauschal behaupten, ohne den genauen Anwendungsfall zu kennen.
ja schwierig.. wir sollten mal ein Bier trinken:) naja ich mach mir nochmal Gedanken..
