of reading ? of Range? 計測器の確度仕様の見方

2024.04.07

計測器の仕様書やカタログを見ると「測定確度」についての仕様が書かれています。

よく見るのは ±(〇% of reading + 〇% of range) などです。

他にも f.s(フルスケール) やDigit(ディジット) などでも書かれる事もあります。

 

今回はこれらの測定確度の算出方法について説明していきます。

 

 

目次

of reading (読み値を元にした誤差)

of range (レンジを元にした誤差)

digit (分解能を元にした誤差)

実際の表記方法

温度係数

経年誤差

効率よく最適な計測器を探す方法

 

 

 

of reading (読み値を元にした誤差)

 

読み値の誤差です。

 

 0.1% of reading という確度仕様のデジタルマルチメータがあったとします。

これは 最大で「表示された値の0.1%」が誤差として含まれます。という意味になります。

 

例えばこのデジタルマルチメータに10.000V が表示されたとします。

この時に表示された10.000Vには最大で 0.1% の誤差が含まれている可能性があるという事になります。

 

つまり正しい値は約9.999V~10.001V という事になります。

 

 

デジタルマルチメータなどの計測をする製品では 「読み値」である of reading が使われますが、例えば電源などの出力する製品では reading(読み値) の部分がsetting(設定値)となっている場合があります。

読み値か設定値かの違いだけで考え方は同じです。

 

 

 

 

of range (レンジを元にした誤差)

 

 

これは使用しているレンジの誤差です。

 

レンジとは計測器の最大測定範囲です。

 

多くの計測器では測定する値によって最適なスケールで計測出来るように複数のレンジが用意されています。

デジタルマルチメータの電圧測定だと下記がレンジの例になります。

 

・100.000mV

・1.00000V

・10.0000V

・100.000V

・1000.00V

 

5Vを測定するなら100Vレンジよりも当然10Vレンジの方が正確に測定出来ます。

 

それを表す為に 「of range」 という確度の定義があります。

 

例えば 0.1% of range という仕様の計測器があったとします。

これは 最大で 「使用しているレンジの0.1%分」が誤差です。という意味になります。

 

例えば 10Vレンジでは ±10mV が誤差になる可能性があります。

100Vレンジでは±100mVが誤差になる可能性があります。

 

先程の 「5Vを測定するなら 100Vレンジよりも10Vのレンジを使った方が正確に測定出来ます」という当たり前の理屈が この「of range」の定義になります。

 

 

〇% of f.s (フルスケールの〇%) で表記されることもありますが同じ意味です。

 

 

 

+ digit (分解能を元にした誤差)

 

これは使用しているレンジの最小分解能いくつ分が誤差として含まれる可能性があるか?という仕様です。

 

最小分解能とは計測器で表現できる 最も小さい変化量です。

 

例えば最大表示が999.999mVのデジタルマルチメータのレンジを使用した場合には0.001mVが最小分解能です。

 

この最小分解能 〇個分が誤差として含まれている可能性があります。というのが  + digit という表現です。

 

最大表示が999.999mvのDMMで +5digit と書かれている場合は ±5digit つまり ±0.005mV が誤差として含まれている可能性があります。

 

同じく最大表示が999.999V のDMMであれば ±0.005V が誤差として含まれている可能性があります。

 

製品によってはdigit の表記では無く +〇mV や +〇μVのように 単位を付けて書いている製品もあります。

(この方が分かり易くていいですね)

 

 

 

実際の表記方法

 

実際の仕様書やカタログでは これらの of reading や of range を組み合わせて記載しています。

もっとも一般的なのは ±(0.2% of reading + 0.1% of range) などです。

 

これはレンジ(表示出来る最大値)の0.2%と 表示された値の0.1% の合計が誤差として含まれている可能性があります。

という事を表しています。

 

 

 

温度係数

 

これまで説明してきた計測器の確度仕様はその多くが23℃±5℃など特定の温度環境で使用する場合の仕様です。

つまり 18℃~28℃以外の温度で使用する場合はさらに誤差が大きくなる可能性があります。

 

この18℃~28℃以外の環境で使用した場合に誤差がどこまで大きくなる可能性があるか?を表したのが温度係数です。

 

表記方法は of reading や of range 、 digit でこれまでの説明通りですが、/℃ という表記が追記されます。

 

18℃、または28℃からどれだけ離れた温度で使用するか?によってその温度分の影響が加算されます。

 

 

下記に例を示します。

 

製品:デジタルマルチメータ

使用レンジ:199.999V

確度 ±(0.1% of reading + 0.02% of range) @23℃±5℃

温度係数 ±(0.01% of reading + 5mV)

 

表示値(計測した値) 100.000V

 

18℃~28℃の環境でこのDMMを使っている場合は、

 100.000Vの0.1%である100mV

 199.999Vの0.02% である 40mV

 の 合計値の約140mVが誤差として含まれる可能性があります。

 

 

もしこれが40℃の環境で使用していた場合は、

40℃-28℃ で12℃の温度係数を追加します。

 

±(0.01% of reading + 5mV) /℃ なので

100.000Vの0.01%である10mVと 追加誤差の5mVで 1℃あたり15mV の誤差

これが12℃分(28℃と40℃の温度差)なので180mV

 

先程の23℃±5℃の確度計算誤差と足して

140mV + 180mV で 320mV がこの環境での最大誤差となります。

 

 

 

経年誤差

 

さらに計測器は経年と共に誤差が大きくなります。

なのでこれも仕様化されます。

 

確度の表記方法はこれまでと同じですが、90日や1年といった時間情報と共に仕様化されています。

キャリブレータなどの安定度が求められる製品では 1時間の安定度などが記載されている事もあります。

 

ppmが使われる事も多くなります。(1ppm = 1/100万)

 

 

 

効率よく最適な計測器を探す方法

 

計測器検索.comでは あなたが必要な仕様や測定の目的から最適な製品を30秒でピックアップする事ができます。

検索結果を価格順で並び替えればもっとも低コストで目的を達成できる製品を見つける事が可能です。

 

価格の高いオーバースペックな製品を使っていませんか?

新製品の情報を知らなくても、計測器メーカーの名前が分からなくても、計測器検索.comなら複数のメーカーの中から最適な製品一瞬で見つける事が可能です。

 

目的に合った最適な製品を短時間で機種選定して業務効率化のお手伝い。

オシロもテスタもスペアナも直流電源も!!

まずは計測器検索.comで検索!!

 

 

 

計測器を勉強中の方には下記おすすめ

【新人計測器営業マンの疑問】

 ・データロガーはオシロスコープの下位互換

 ・オシロの周波数帯域は結局 何Hzを選べば良いの?

 ・スペアナは音で考えるとちょっとだけわかりやすい

 ・μAの計測は安いテスターで十分?

 ・マルチメータ選定時の注意!同じ桁数でも全然違う!?

 

 

 

モーターのプロフェッショナル向け 理論

回転機の部屋

計測器検索.com でしか見れない完全オリジナルのモーター理論コラム!

【損失シミュレーター】不合格対応の「損失」を算出

各項目の解説

  • 人件費:経営者目線で保険も含めた金額になるので【時給×1.5倍】で記入してください。
  • 影響範囲の調査時間:今回の精度不良がいつからどの製品にどの程度影響しているのか?を調べる時間です。
  • 該当ラインの年間売上:精度不良が発生した「ライン」で作られる製品の年間売上です。
  • 製品単価:生産数量を出すために入力します。
  • 出荷・生産比率:作った製品の内、どの程度出荷してしまっているか。送料計算に反映されます。
  • 出荷ロット:平均で何個ロットで送っているか。送料の算出に反映されます。
  • 生産品原価率:ライン停止時の損失(機会損失)計算に使用します。
  • 監査対応準備期間:不具合報告、対策、レポート作成などにかかる全時間です。
  • 計測器更新・廃棄費用:精度不良の計測器の修理費用、または更新費用です。

この「巨大なリスク」を未然に防ぐ、確かな選択を。

校正不合格が発覚してからでは、数千万円の損失は避けられません。
AccuVoltLink(AVL)は、日常的な高精度チェックによって「不合格の芽」を早期に摘み取り、
品質管理者が最も恐れる「遡及調査のリスク」を最小化します。

【標準導入モデル(最小構成)】

¥350,000 (税別) 〜

※構成:AVL標準器(単品)を用いた精度維持管理システム。
計測器1台の不合格で失われるコストに比べ、圧倒的な費用対効果を実現します。

AccuVoltLink(AVL)の詳細・解決策を見る
変換ツール 計測器用語辞典 コラム・技術情報
お問い合わせ 会社概要 メーカー様向け このサイトについて パートナー募集 プライバシーポリシー 利用規約

当ウェブサイトでは、アクセス状況の測定・分析を目的に、クッキー(Cookie)を利用しています。クッキーの利用に同意いただくか、又はウェブサイトの閲覧を継続することで、クッキーの利用を承認いただいたものとさせていただきます。詳しくはプライバシーポリシーをご覧ください。クッキー(Cookie)とは?

同意して閉じる