Excelができるとは?

基本的なこと 小数点以下の計算に誤差・丸め誤差

基本的なこと

基本的なこと 小数点以下の計算に誤差・丸め誤差が発生する。

 

1÷3の計算をします。

 

答えは0.33333・・・・・

無限小数(循環小数)となります。

 

0.33333・・・・の無限小数(循環小数)3つをSUM関数で合計します。

 

答えは1となりました。

間違ってますよね。

本当でしたら、0.999999・・・・になります。

これがExcelの丸め誤差です。

 

無限小数のように、無限に数字の列が繰り返される数値があります。

しかしPCでは有効桁数をある程度の範囲で基準を決めています。

有効桁数を超えた場合、丸め処理が行われます。

そのため、小数点の計算に誤差が生じる事があります。

 

細かく説明すると、PCでの計算は2進数で行われています。

10進数から2進数へ変換、2進数から10進数へ変換する事が丸め誤差が生じる原因です。

※2進数、10進数についてはまた別の記事にしたいと思います。

 

その誤差をある程度回避するため、前回記事にしたROUND関数や、ROUNDDOWN関数、ROUNDUP関数を使用するのです。

ROUND関数 数値を四捨五入して指定された桁数にします。

ROUNDDOWN関数 数値を切り捨てて指定された桁数にします

ROUNDUP関数 数値を切り上げて指定された桁数にします

 


派遣社員ランキング

モバイルバージョンを終了