トップページ | ひとつ上のページ | 目次ページ | このサイトについて | ENGLISH

有効数字による誤差

平均が50で、標準偏差が0.2の正規分布になるデータがあって、 0.1、0.2、0.5の刻みに加工したデータがあるとします。 隣のグラフは、このデータのそれぞれの刻みの時の標準偏差です。 刻みが粗くなるほど、標準偏差が大きくなっています。

これの意味は、有効数字(測定精度)は十分細かく取れるのでしたら、刻みを小さくすることで、標準偏差が小さくなるということになります。

つまり、刻みを小さくするだけで、 工程能力 を改善できることがあります。

試算の方法

実際の場面では、刻みが0.2で記録しているデータがあって、 「0.1にしたら、どのくらい改善するのか?」、と知りたい事があります。

その場合は、

という計算で求まります。 上記のグラフのデータを使って「0.208」という数字を右辺で使うと、 「0.202」という数字が求まりますので、この計算式は正しそうな事がわかります。

右辺にある「12」という数字ですが、これは、一様分布の標準偏差を求める式から来ています。 つまり、「もともとの分布に、一様分布の分のばらつきが関係している」という事を表した式になっています。

分子の「0.1」や「0.2」という数字は、刻みの値です。

有効数字の改善が効果的な場合

上記の説明では、有効数字を改善すると、工程能力がいつでも改善しそうな気もしますが、 残念ながら、そうではありません。 どちらかというと、有効数字の改善が効果的なのは、特殊なケースです。

特殊なケースというのは、 刻みの大きさが、標準偏差と同じくらいか数倍くらいのケースです。

有効数字の改善が効果的ではない場合

有効数字の改善が効果的ではない場合は、2つあります。

刻みの大きさが、標準偏差よりも小さい場合

刻みの大きさが標準偏差よりも小さい場合は、上記で刻みが0.1と0.2の時の違いからもわかると思いますが、改善効果は小さいです。 場合によっては、効果がわからないくらい小さいこともあります。

刻みの大きさが、標準偏差の数倍よりも大きい場合

実は、上記の折れ線グラフに、刻みが1の場合と2の場合を追加すると、下のようになります。 刻みを大きくするほど、標準偏差が0に近付く様子がわかります。 試算の方法に書いた計算式は、まったく合わなくなります。

刻みが標準偏差よりも十分に大きいと、上記のデータでしたら、「すべてのデータが50ちょうどになる。」という現象が起きます。 そのため、まったくばらつかなくなって来て、標準偏差が0に近付きます。



参考文献

一様分布の標準偏差を求める式は、ネット上にたくさん解説があります。 その中には、測定器の精度の情報から標準不確かさを求める方法として、一様分布の標準偏差を求める式を使うことが紹介されています。 「標準不確かさ 一様分布」で検索しても、いろいろ見つかります。

このページは有効数字(有効桁数)の情報からわかるばらつきの話ですが、これは、このような標準不確かさの話のひとつとも言えます。


順路 次は アンケート・感性評価

Tweet