1. Fastgjør området :
- Identifiser måleområdet til instrumentet, som representerer minimums- og maksimumsverdiene det kan måle.
2. Beregn fullskalaverdien (FSV) :
- Trekk minimumsverdien fra maksimumsverdien til området for å finne fullskalaverdien.
3. Fastgjør antall divisjoner :
- Tell antall markeringer eller graderinger på instrumentets skala.
4. Beregn oppløsning :
- Del Full Scale Value (FSV) med antall divisjoner.
Oppløsning =(Fullskalaverdi) / (Antall divisjoner)
Eksempel :
- Tenk på et voltmeter med en rekkevidde på 0 til 100 volt og 20 divisjoner på skalaen.
- Fullskalaverdi (FSV) =100 volt - 0 volt =100 volt
- Antall avdelinger =20
- Oppløsning =(100 volt) / (20 divisjoner)
- Oppløsning =5 volt per divisjon
I dette tilfellet er den minste inndelingen av voltmeteret 5 volt, noe som betyr at voltmeteret kan oppløse og vise endringer i spenning i trinn på 5 volt.