2015年12月25日金曜日

Excel2013の「連続データの作成」で,結果が不正確になる例



  1. 任意のセルに -0.1 と入力する。 
  2. 「ホーム」 → 「フィル」 → 「連続データの作成」で,以下のように入力する。
    範囲: 列
    種類: 加算
    増分値: 0.01
    停止値: 1
  3. OKをクリックする。
  4. -0.06,-0.05などのところで,値が不正確になっている。浮動小数計算の結果なので,驚くことではないが・・・。


これと類似の事例で次のようなケースもある。
  1. A1セルに -1 と入力する。
  2. A2セルに数式を =A1+0.1 と入力する。
  3. A2セルをコピーする。
  4. A3セル以下の数十個のセルを選択し,貼り付ける。
  5. A11セルは,値が0になってほしいが,0にならず,-1.38777878078145E-16 となってしまう。これに影響されるためか,A12セルでは,値が0.1になってほしいが 0.0999999999999999 になってしまう。それ以降,しばらくはよいが,A71セルで,値が6になってほしいが,5.99999999999999  になってしまう。



確認環境

Excel 2013(64bit) + Windows 10 Pro(64bit)

0 件のコメント:

コメントを投稿