Ik moest onlangs een excel-sheet opmaken voor een bepaalde berekening.
In de eerste kolom (x-waarde) had ik de waarden oplopende van 0 tot een bepaalde eindewaarde nodig. De liepen op met een in te geven waarde (d) zoals bvb 0.1 of 0.2 (normaalgezien kleiner dan 1). En ik had voorlopig 200 rijen voorzien. Dit kunnen er uiteindeljik meer worden.
Dus nieuwe x = voorgaande x + d.
Als test en om te vergelijken met een correct voorbeeld op papier had ik als oplopende waarde 0.2 en liep mijn kolom dus tot 40. In verschillende andere kolommen werden dan berekeningen uitgevoerd zodat uiteindelijke per waarde van X een resultaat had. In die formules zaten onder andere kwadraten, delingen, gehele delingen,...
Maar bij bepaalde waarden liep het mis. Mijn resultaat klopte niet. Na wat zoekwerk kwam ik erachter dat dat 28 div 7 = 3. Ook 28/3 afgerond naar beneden was 3. Bij nazicht bleek 28 geen 28 maar 27.9999999....7 te zijn. Dus door iedere keer 0.2 erbij te tellen loopt het plots mis.
Kan hier iets aan gedaan worden? Iemand een oplossing? Door iedere keer een zeer minime afwijking erbij te tellen heb je dan plots een zichtbare afwijking.
Nu heb ik na iedere keer +0.2 gedaan te hebben het resultaat hiervan afgerond op 2 cijfers na de komma. Maar als ik als stap 0.05 ingeef zou ik moeten afronden op 3 cijfers. Eventueel als stap 20 gebruiken en voor de berekeningen delen door 100.
In de eerste kolom (x-waarde) had ik de waarden oplopende van 0 tot een bepaalde eindewaarde nodig. De liepen op met een in te geven waarde (d) zoals bvb 0.1 of 0.2 (normaalgezien kleiner dan 1). En ik had voorlopig 200 rijen voorzien. Dit kunnen er uiteindeljik meer worden.
Dus nieuwe x = voorgaande x + d.
Als test en om te vergelijken met een correct voorbeeld op papier had ik als oplopende waarde 0.2 en liep mijn kolom dus tot 40. In verschillende andere kolommen werden dan berekeningen uitgevoerd zodat uiteindelijke per waarde van X een resultaat had. In die formules zaten onder andere kwadraten, delingen, gehele delingen,...
Maar bij bepaalde waarden liep het mis. Mijn resultaat klopte niet. Na wat zoekwerk kwam ik erachter dat dat 28 div 7 = 3. Ook 28/3 afgerond naar beneden was 3. Bij nazicht bleek 28 geen 28 maar 27.9999999....7 te zijn. Dus door iedere keer 0.2 erbij te tellen loopt het plots mis.
Kan hier iets aan gedaan worden? Iemand een oplossing? Door iedere keer een zeer minime afwijking erbij te tellen heb je dan plots een zichtbare afwijking.
Nu heb ik na iedere keer +0.2 gedaan te hebben het resultaat hiervan afgerond op 2 cijfers na de komma. Maar als ik als stap 0.05 ingeef zou ik moeten afronden op 3 cijfers. Eventueel als stap 20 gebruiken en voor de berekeningen delen door 100.