STDEV関数またはSTDEV.S関数を使って,100.1,100.1,100.1 の3個の数値の標準偏差を計算すると,0にならない。
確認環境
Excel 2013(64bit) + Windows 10 Pro(64bit)
Excel,VBAで手軽に解析・計算をやりたいのですが,演算精度や処理速度も気になるので,いろいろと試しています。その結果が自分のPCに散在していて収拾がつかないので,自分用の備忘録としてまとめています。 あくまでも自分用なので,誰にでもわかるかどうかは保証できません。悪しからずご了承ください。ご質問はコメント欄へどうぞ。
カテゴリ
Application.ScreenUpdatingプロパティ
(1)
AVERAGE関数
(1)
CalculateFullRebuildメソッド
(1)
DEVSQ関数
(2)
DoEvents関数
(1)
EnableCalculationプロパティ
(1)
Excel
(28)
Fortran
(1)
KURT関数
(1)
LOG10関数
(1)
MAX関数
(1)
MIN関数
(1)
MOD関数
(1)
NORMSINV関数
(1)
PERCENTILE関数
(1)
RAND関数
(3)
Runメソッド
(1)
SKEW関数
(1)
STDEV関数
(5)
SUMSQ関数
(1)
SUM関数
(1)
VAR関数
(4)
VBA
(5)
Waitメソッド
(1)
Windows 10
(1)
アロケーションユニットサイズ
(1)
グラフ
(1)
その他
(7)
処理性能
(9)
精度
(10)
統計関数
(7)
0 件のコメント:
コメントを投稿