- A1セルに 1.001 と入力する。
- B1セルに数式を =MOD(A1,1) と入力する。
- B1セルをコピーして,C1セルに値のみ貼り付ける。
- C1セルの値は,0.00099999999999989 となっている。本当は 0.001 となってほしいのだが・・・。
これまで試した範囲では,小数点以下の桁数を調べるには,数値としてではなく文字列として処理するのがよさそうだ。
確認環境
Excel 2013(64bit) + Windows 10 Pro(64bit)
Excel,VBAで手軽に解析・計算をやりたいのですが,演算精度や処理速度も気になるので,いろいろと試しています。その結果が自分のPCに散在していて収拾がつかないので,自分用の備忘録としてまとめています。 あくまでも自分用なので,誰にでもわかるかどうかは保証できません。悪しからずご了承ください。ご質問はコメント欄へどうぞ。
0 件のコメント:
コメントを投稿