基本的なこと
基本的なこと 小数点以下の計算に誤差・丸め誤差が発生する。
1÷3の計算をします。
答えは0.33333・・・・・
無限小数(循環小数)となります。
0.33333・・・・の無限小数(循環小数)3つをSUM関数で合計します。
答えは1となりました。
間違ってますよね。
本当でしたら、0.999999・・・・になります。
これがExcelの丸め誤差です。
無限小数のように、無限に数字の列が繰り返される数値があります。
しかしPCでは有効桁数をある程度の範囲で基準を決めています。
有効桁数を超えた場合、丸め処理が行われます。
そのため、小数点の計算に誤差が生じる事があります。
細かく説明すると、PCでの計算は2進数で行われています。
10進数から2進数へ変換、2進数から10進数へ変換する事が丸め誤差が生じる原因です。
※2進数、10進数についてはまた別の記事にしたいと思います。
その誤差をある程度回避するため、前回記事にしたROUND関数や、ROUNDDOWN関数、ROUNDUP関数を使用するのです。