Omdat binaire computers zelfs rationale getallen slechts beperkt nauwkeurig kunnen voorstellen, is voor zo’n ding 1,0/10 niet steeds (exact) 0,1 (maar bijvoorbeeld 0,10000000000000001).
The Floating-Point Guide illustreert waarom dat helemaal zo dom niet is:
Decimal numbers [also] cannot accurately represent a number like 1/3, so you have to round to something like 0.33 – and you don’t expect 0.33 + 0.33 + 0.33 to add up to 1, either – do you?
Voor financiële berekeningen worden weleens decimale datatypes gebruikt. Die zijn dan tot bijvoorbeeld exact twee cijfers na de komma nauwkeurig, zonder afrondingsfout.
Ook: méér cijfers, beduidend of niet, dat moet iemand Kris Peeters nog ’n keer uitleggen, betekenen niet per definitie een correct resultaat.
