• Privacywetgeving
    Het is bij Helpmij.nl niet toegestaan om persoonsgegevens in een voorbeeld te plaatsen. Alle voorbeelden die persoonsgegevens bevatten zullen zonder opgaaf van reden verwijderd worden. In de vraag zal specifiek vermeld moeten worden dat het om fictieve namen gaat.

Help.. rekenprobleem met excel

Status
Niet open voor verdere reacties.

Jeroen123456

Gebruiker
Lid geworden
3 jul 2007
Berichten
115
Ik ben bezig in een sheet waar ik simpel 2 getallen van elkaar aftrek.
Maar daar maakt Excel ineens eigen getallen van ergens ver achter de comma.

Ik werk normaal gewoon met max 2 cijfers achter de comma.
dus zeg 14565,00 - 14567,34 = -2,34

Maar excel zegt dat dat -2,34000000000015 is.

Dat kan toch niet...???

Ik heb excel nog nooit zo raar zien doen.
Iemand een idee??



Bekijk bijlage rekenprobleem excel.xlsx
 
Zet in de celeigenschappen op 2 decimale en niet op 19
 
Normaal kijk ook ik niet naar meer dan 2 decimalen maar omdat er een verschil te voorschijn kwam, ben ik gaan zoeken hoe dat komt.
en zodoende kwam ik op die rare waarden achter de comma..

Ik heb dit probleem ook in een sheet waar met een paar honderd waarden word gerekend.
Daar ontstaat nu een afrondingsverschil.

Daarbij mag ik toch verwachten dat 101,23 ook 101,23 is en niet 101,230000056 of iets dergelijks.
 
Hoi,

dit fenomeen heeft te maken met "floating point numbers".
de wijze waarop een computer getallen binair verwerkt.
Technisch verhaal.

Op youtube ooit deze uitleg gevonden:
Floating Point Numbers - Computerphile

voor degenen die liever video kijken dan lezen ;)

Lambert
 
Status
Niet open voor verdere reacties.
Terug
Bovenaan Onderaan