2015年12月25日金曜日

Excel 2013でMOD関数を利用して小数点以下の桁数を取り出すときに問題になる例

  1. A1セルに 1.001 と入力する。
  2. B1セルに数式を =MOD(A1,1) と入力する。
  3. B1セルをコピーして,C1セルに値のみ貼り付ける。
  4. C1セルの値は,0.00099999999999989 となっている。本当は 0.001 となってほしいのだが・・・。
この現象は,MOD関数を利用して小数点以下の桁数(この例では3桁)を調べようとする場合に問題となる。

これまで試した範囲では,小数点以下の桁数を調べるには,数値としてではなく文字列として処理するのがよさそうだ。

確認環境

Excel 2013(64bit) + Windows 10 Pro(64bit)

0 件のコメント:

コメントを投稿