文字サイズ

「分解能」と「精度」の考え方

『精度』として要求しているのは「最小表示桁」(読みとりたい最小の桁)の事なのか、「絶対的な値」 の事なのかを明確にします。その上で「表示桁」なら表示分解能、「絶対的な値」なら絶対精度、測定確度を参考に必要なスペックを求めます。よく「A/D分解能」を精度と同一視している場合がありますが、確度(精度)の表記がdigitsあるいはLSB(least significant bit:最下位ビット)の時 以外は参考程度にしかなりませんので注意が必要です。

一般的に、サンプリング速度と分解能はトレードオフの関係

DSO(デジタルストレージオシロスコープ)は通常8bit(256分割)になります。±10V(フルスケールで20V)の測定レンジでは分解能が20/256=約78mVです。波形記録装置では通常12〜14bit(4096〜16384分割)です。±10V(フルスケールで20V)の測定レンジでは分解能が20/16384=約1.2mVです。このように分解能が悪くなると計測の精度が下がるので測定対象によって選ぶ必要がでてきます。

詳しくはこちら▼

INDEX目次に戻る

無料でダウンロード ご相談・お問い合わせはこちらから