有効数字や分解能による誤差

平均が50で、標準偏差が0.2の正規分布になるデータがあって、 0.1、0.2、0.5の刻みに加工したデータがあるとします。隣のグラフは、このデータのそれぞれの刻みの時の標準偏差です。刻みが粗くなるほど、標準偏差が大きくなっています。

これの意味は、有効数字や分解能は十分細かく取れるのでしたら、刻みを小さくすることで、標準偏差が小さくなるということになります。

つまり、刻みを小さくするだけで、工程能力を改善できることがあります。

試算の方法

実際の場面では、刻みが0.2で記録しているデータがあって、 「0.1にしたら、どのくらい改善するのか？」、と知りたい事があります。

その場合は、

という計算で求まります。上記のグラフのデータを使って「0.208」という数字を右辺で使うと、「0.202」という数字が求まりますので、この計算式は正しそうな事がわかります。

右辺にある「12」という数字ですが、これは、一様分布の標準偏差を求める式から来ています。つまり、「もともとの分布に、一様分布の分のばらつきが関係している」という事を表した式になっています。

分子の「0.1」や「0.2」という数字は、刻みの値です。

上記の説明では、有効数字や分解能を改善すると、工程能力がいつでも改善しそうな気もしますが、残念ながら、そうではありません。どちらかというと、有効数字や分解能の改善が効果的なのは、特殊なケースです。

特殊なケースというのは、刻みの大きさが、標準偏差と同じくらいか数倍くらいのケースです。

有効数字や分解能の改善が効果的ではない場合は、２つあります。

刻みの大きさが標準偏差よりも小さい場合は、上記で刻みが0.1と0.2の時の違いからもわかると思いますが、改善効果は小さいです。場合によっては、効果がわからないくらい小さいこともあります。

実は、上記の折れ線グラフに、刻みが1の場合と2の場合を追加すると、下のようになります。刻みを大きくするほど、標準偏差が0に近付く様子がわかります。試算の方法に書いた計算式は、まったく合わなくなります。

刻みが標準偏差よりも十分に大きいと、上記のデータでしたら、「すべてのデータが50ちょうどになる。」という現象が起きます。そのため、まったくばらつかなくなって来て、標準偏差が0に近付きます。

一様分布の標準偏差を求める式は、ネット上にたくさん解説があります。その中には、測定器の精度の情報から標準不確かさを求める方法として、一様分布の標準偏差を求める式を使うことが紹介されています。「標準不確かさ　一様分布」で検索しても、いろいろ見つかります。

このページは有効数字（有効桁数）の情報からわかるばらつきの話ですが、これは、このような標準不確かさの話のひとつとも言えます。