「分解能」と「精度」の考え方
センサにおいて、分解能とは感度に相当し、測定の細かさの限界（識別限界）を表します。また、精度は緻密さを表し、計測の分野では分解能とは異なります。ここでは、一般に混同しやすい分解能と精度の違いとその求め方について解説します。
『精度』として要求しているのは「最小表示桁」(読みとりたい最小の桁)の事なのか、「絶対的な値」の事なのかを明確にします。その上で「表示桁」なら表示分解能、「絶対的な値」なら絶対精度、測定確度を参考に必要なスペックを求めます。よく「A/D分解能」を精度と同一視している場合がありますが、確度（精度）の表記がdigitsあるいはLSB(least significant bit:最下位ビット)の時以外は参考程度にしかなりませんので注意が必要です。
一般的に、サンプリング速度と分解能はトレードオフの関係
DSO（デジタルストレージオシロスコープ）は通常8bit（256分割）になります。±10V（フルスケールで20V）の測定レンジでは分解能が20/256=約78mVです。波形記録装置では通常12〜14bit（4096〜16384分割）です。±10V（フルスケールで20V）の測定レンジでは分解能が20/16384=約1.2mVです。このように分解能が悪くなると計測の精度が下がるので測定対象によって選ぶ必要がでてきます。
- その他の分解能について
- 計測器以外の分野においても「分解能」という言葉が使われます。しかし、画像センサ（カメラ）や画像処理、顕微鏡（光学顕微鏡・電子顕微鏡など）、レーザ変位計など測定器の種類や原理によって、その定義や意味合いは異なります。ここでは、FA（ファクトリオートメーション）に関わる分解能を挙げ、各分野に関する詳しい情報を掲載したサイトを紹介します。
- 画素分解能
-
画像センサに搭載された撮像素子（CMOSやCCD）は、格子状に並んだ小さな画素（pixel：ピクセル）、デジタル画像においてはドットの集合体です。
画像センサにおける「画素分解能」とは、この撮像素子の1画素あたりの視野（検査対象物を撮像する範囲）」の大きさが何mmかで決まります。これにより用途に応じたカメラの画素数（解像度）を求めることができます。それぞれの関係は、以下の式で表されます。
画素分解能＝撮像視野のサイズ（mm）÷撮像素子の画素数（画素）
画像処理を用いた寸法測定では、対象物のエッジ検出を活用することが一般的です。寸法検査では、画素数と撮像視野を目安に、寸法公差を算出することができます。
それぞれの詳しい解説や算出例、外観検査やエッジ検出を伴う寸法測定など目的によるカメラの画素数の選び方などについては、下記のサイトを参照ください。 - 色分解能
-
「色分解能」とは、1画素ごとに何種類の色を表現することができるかで決まり、「色深度」や「色解像度」とも呼ばれます。これは、R（赤）・G（緑）・B（青）の3原色の強さを何段階で表現できるかを表し、bit（ビット）で示されます。
たとえば、色分解能の高いデータとして多く用いられる「24bitトゥルーカラー」と呼ばれるビットマップ画像の色分解能は、8bit（256段階）×3色（RGB）＝24bitであることを示します。
