• Privacywetgeving
    Het is bij Helpmij.nl niet toegestaan om persoonsgegevens in een voorbeeld te plaatsen. Alle voorbeelden die persoonsgegevens bevatten zullen zonder opgaaf van reden verwijderd worden. In de vraag zal specifiek vermeld moeten worden dat het om fictieve namen gaat.

Onnauwkeurigheid (?) in excel...

Status
Niet open voor verdere reacties.

andyr74

Gebruiker
Lid geworden
9 jan 2002
Berichten
181
Ik moest onlangs een excel-sheet opmaken voor een bepaalde berekening.
In de eerste kolom (x-waarde) had ik de waarden oplopende van 0 tot een bepaalde eindewaarde nodig. De liepen op met een in te geven waarde (d) zoals bvb 0.1 of 0.2 (normaalgezien kleiner dan 1). En ik had voorlopig 200 rijen voorzien. Dit kunnen er uiteindeljik meer worden.
Dus nieuwe x = voorgaande x + d.
Als test en om te vergelijken met een correct voorbeeld op papier had ik als oplopende waarde 0.2 en liep mijn kolom dus tot 40. In verschillende andere kolommen werden dan berekeningen uitgevoerd zodat uiteindelijke per waarde van X een resultaat had. In die formules zaten onder andere kwadraten, delingen, gehele delingen,...
Maar bij bepaalde waarden liep het mis. Mijn resultaat klopte niet. Na wat zoekwerk kwam ik erachter dat dat 28 div 7 = 3. Ook 28/3 afgerond naar beneden was 3. Bij nazicht bleek 28 geen 28 maar 27.9999999....7 te zijn. Dus door iedere keer 0.2 erbij te tellen loopt het plots mis.

Kan hier iets aan gedaan worden? Iemand een oplossing? Door iedere keer een zeer minime afwijking erbij te tellen heb je dan plots een zichtbare afwijking.
Nu heb ik na iedere keer +0.2 gedaan te hebben het resultaat hiervan afgerond op 2 cijfers na de komma. Maar als ik als stap 0.05 ingeef zou ik moeten afronden op 3 cijfers. Eventueel als stap 20 gebruiken en voor de berekeningen delen door 100.
 
Post eens even zulk bestandje met hetgeen je benoemt.
 
Dit is een bekend probleem.
Excel kent voor een getal maximaal 15 significante cijfers.
Dat is niet zo belangrijk, want je hebt geen 15 cijfers.
Maar een computer kan niet zo goed oveweg met decimale waarden.
Tengevolge hiervan kan bij een berekening wel eens een foutje gemaakt worden.
Dit veroorzaakt dan jouw probleem.
Er is dus altijd kans op een kleine afwijking bij decimale getallen.
Als dit niet gewenst is dan zul je moeten afronden of bij Extra>Opties>Berekenen>Precisie zoals afgebeeld aan moeten vinken zodat met de getoonde nauwkeurigheid wordt gerekend.

Kijk ook eens hieronder wat er allemaal fout kan gaan.

http://www.cpearson.com/Excel/rounding.htm

Mvg

Piet
 
Laatst bewerkt:
Met de invoegtoepassing Xnumbers van Leonardo Volpi kan een heel hoge nauwkeurigheid (tot 250 digits) bereikt worden.
Deze xla kan nog veel meer !!

Voor excellers met wiskunde interesse.
 
Ik heb het voorlopig opgelost door de x-waarden af te ronden op 2 cijfers na de komma. Dus de waarde 28.00 die eigenlijk 27.99999..... was is nu "echt" 28.00. Gehele deling door 7 geeft nu ook 4 ipv. 3 zoals eerst.
 
Hoi Andy,

Wil je dan nog de vraag op Opgelost zetten zodat je de zoekfunctie en andere probleemhebbers helpt?

Merçi,

Richard
 
Status
Niet open voor verdere reacties.
Terug
Bovenaan Onderaan