Excel 2013のDEVSQ関数から求めた分散と，VAR.S関数から求めた分散との一致桁数の比較

背景

分散は，DEVSQ関数を利用して算出することもできる。

そこで，DEVSQ関数を利用して分散を求めた場合と，VAR.S関数で分散を直接求めた場合とで一致桁数を比較した。

検証環境

Excel 2013（64bit） + Windows 10 Pro（64bit）
CPU: Core i7 2.4GHz
RAM: 16GB
仮想メモリ: OFF

検証方法

以下の手順で検証した。

1. 標本数nの一様乱数を生成する。
2. DEVSQ関数で偏差平方和を計算する。
3. n-1で割って，分散とする。
4. この結果と，生データから直接，VAR.S関数で求めた結果との一致桁数を算出する。

結果

 いくつかの条件で試した中で，一致の比較的悪かったものは下図のとおり。11桁は一致するとみてよさそうである。
Excelでの実際のアルゴリズムがよくわからないので，これ以上の考察はしない。

VAR.P関数についても同様の検証を行ったが，結果はほぼ同様であった。