関数の基本

基本的なこと 小数点以下の計算に誤差・丸め誤差

投稿日:2018年3月17日 更新日:

基本的なこと

基本的なこと 小数点以下の計算に誤差・丸め誤差が発生する。

 

1÷3の計算をします。

 

答えは0.33333・・・・・

無限小数(循環小数)となります。

 

0.33333・・・・の無限小数(循環小数)3つをSUM関数で合計します。

 

答えは1となりました。

間違ってますよね。

本当でしたら、0.999999・・・・になります。

これがExcelの丸め誤差です。

 

無限小数のように、無限に数字の列が繰り返される数値があります。

しかしPCでは有効桁数をある程度の範囲で基準を決めています。

有効桁数を超えた場合、丸め処理が行われます。

そのため、小数点の計算に誤差が生じる事があります。

 

細かく説明すると、PCでの計算は2進数で行われています。

10進数から2進数へ変換、2進数から10進数へ変換する事が丸め誤差が生じる原因です。

※2進数、10進数についてはまた別の記事にしたいと思います。

 

その誤差をある程度回避するため、前回記事にしたROUND関数や、ROUNDDOWN関数、ROUNDUP関数を使用するのです。

ROUND関数 数値を四捨五入して指定された桁数にします。

ROUNDDOWN関数 数値を切り捨てて指定された桁数にします

ROUNDUP関数 数値を切り上げて指定された桁数にします

 


派遣社員ランキング
このエントリーをはてなブックマークに追加

- 関数の基本
-, , , , , , , , ,

執筆者:


comment

メールアドレスが公開されることはありません。

CAPTCHA


関連記事

基本的なこと 絶対参照・相対参照・複合参照

基本的なこと 四則演算とは

基本的な事 串刺し計算について

基本的なこと 関数でワイルドカードを使用する

基本的な事 演算子の種類

人気記事




  • 28,187 アクセス
%d人のブロガーが「いいね」をつけました。