- 任意のセルに -0.1 と入力する。
- 「ホーム」 → 「フィル」 → 「連続データの作成」で,以下のように入力する。
範囲: 列
種類: 加算
増分値: 0.01
停止値: 1 - OKをクリックする。
- -0.06,-0.05などのところで,値が不正確になっている。浮動小数計算の結果なので,驚くことではないが・・・。
これと類似の事例で次のようなケースもある。
- A1セルに -1 と入力する。
- A2セルに数式を =A1+0.1 と入力する。
- A2セルをコピーする。
- A3セル以下の数十個のセルを選択し,貼り付ける。
- A11セルは,値が0になってほしいが,0にならず,-1.38777878078145E-16 となってしまう。これに影響されるためか,A12セルでは,値が0.1になってほしいが 0.0999999999999999 になってしまう。それ以降,しばらくはよいが,A71セルで,値が6になってほしいが,5.99999999999999 になってしまう。
確認環境
Excel 2013(64bit) + Windows 10 Pro(64bit)
0 件のコメント:
コメントを投稿