Hallo,
wir haben rundungsprobleme in dieser Session, diese können wir auch leicht nachvollziehen wenn wir z. B. einfach diese Rechnung machen lassen:
[Nettomenge] = 1 / 1 / 1
Dann kommt leider nicht 1 raus sondern 0,99.
Kennt jemand dieses Problem und vielleicht dessen lösung?
Baan40c4 auf Oracle 8.0.6

>Hallo,
>wir haben rundungsprobleme in dieser Session, diese können wir auch leicht nachvollziehen wenn wir z. B. einfach diese Rechnung machen lassen:
>[Nettomenge] = 1 / 1 / 1
>Dann kommt leider nicht 1 raus sondern 0,99.
>Kennt jemand dieses Problem und vielleicht dessen lösung?
>Baan40c4 auf Oracle 8.0.6

Hallo, Herr Eikenberg,
setzen Sie die Interpreter- oder die Objekt-ersion des pcf ein?
Die Variable "Nettomenge" ist vom Typ Double (Fliesskomma), eine definierte Nachkommastellenzahl kann dabei nur mit Runden erreicht werden (round-Befehl: [Nettomenge]=round(1/1/1,0,1). Manchmal hilft es aber schon, die Variable vorher mit 0.0 zu initialisieren.
Mit freundlichem GrußAlfred Spiegler