Rezoluția (rezoluția) a unui multimetru digital
Valoarea tensiunii corespunzătoare ultimului cuvânt al multimetrului digital pe cel mai mic interval de tensiune se numește rezoluție, care reflectă sensibilitatea instrumentului. Rezoluția instrumentelor digitale digitale crește odată cu numărul de cifre afișate. Cel mai mare indice de rezoluție care poate fi atins de multimetrele digitale cu cifre diferite este diferit, de exemplu: 100μV pentru un multimetru cu 3 1/2-cifre.
Indicele de rezoluție al multimetrului digital poate fi afișat și prin rezoluție. Rezoluția este procentul din cel mai mic număr (altul decât zero) pe care contorul îl poate afișa la cel mai mare număr. De exemplu, un multimetru digital general cu {{0}}/2-cifre poate afișa un număr minim de 1 și un număr maxim de 1999, astfel încât rezoluția este egală cu 1/1999≈0,05 la sută.
Trebuie subliniat că rezoluția și acuratețea aparțin a două concepte diferite. Primul caracterizează „sensibilitatea” instrumentului, adică capacitatea de a „recunoaște” tensiuni minuscule; acesta din urmă reflectă „acuratețea” măsurării, adică gradul în care rezultatul măsurării este în concordanță cu valoarea adevărată. Nu există nicio legătură necesară între cele două, deci nu pot fi confundate, iar rezoluția (sau rezoluția) nu trebuie confundată cu o precizie similară, care depinde de convertorul A/D intern al instrumentului, eroarea globală a convertorul de funcții și eroarea de cuantizare. Din punct de vedere al măsurării, rezoluția este un indicator „virtual” (care nu are nimic de-a face cu eroarea de măsurare), în timp ce acuratețea este un indicator „real” (determină dimensiunea erorii de măsurare). Prin urmare, este imposibil să creșteți în mod arbitrar cifrele afișajului pentru a îmbunătăți rezoluția instrumentului.
