2015年12月30日水曜日

Excel 2013のVAR.S関数から求めた標準偏差と,STDEV.S関数から求めた標準偏差と一致桁数の比較

背景

標準偏差は,VAR.S関数の平方根をとって算出することもできる。

そこで,VAR.S関数を利用して標準偏差を求めた場合と,STDEV.S関数で標準偏差を直接求めた場合とで一致桁数を比較した。


検証環境

Excel 2013(64bit) + Windows 10 Pro(64bit)
CPU: Core i7 2.4GHz
RAM: 16GB
仮想メモリ: OFF



検証方法

以下の手順で検証した。
  1. 標本数nの一様乱数を生成する。
  2. VAR.S関数で分散を計算する。
  3. その平方根をとって,標準偏差とする。
  4. この結果と,生データから直接,STDEV.S関数で求めた結果との一致桁数を算出する。


結果

いくつかの条件で試したところ,条件によらず,15桁まで一致した。
平方根をとるだけなので,さすがに内部で特殊なことはしていないということか?

VAR.P関数,STDEV.P関数についても同様の検証を行ったが,同じ結果であった。


0 件のコメント:

コメントを投稿