Floating point-precisie

Omdat binaire computers zelfs rationale getallen slechts beperkt nauwkeurig kunnen voorstellen, is voor zo’n ding 1,0/10 niet steeds (exact) 0,1 (maar bijvoorbeeld 0,10000000000000001).

The Floating-Point Guide illustreert waarom dat helemaal zo dom niet is:

Decimal numbers [also] cannot accurately represent a number like 1/3, so you have to round to something like 0.33 - and you don’t expect 0.33 + 0.33 + 0.33 to add up to 1, either - do you?

Voor financiële berekeningen worden weleens decimale datatypes gebruikt. Die zijn dan tot bijvoorbeeld exact twee cijfers na de komma nauwkeurig, zonder afrondingsfout.

Ook: méér cijfers, beduidend of niet, dat moet iemand Kris Peeters nog ’n keer uitleggen, betekenen niet per definitie een correct resultaat.