1. Bestem rækkevidden :
- Identificer måleområdet for instrumentet, som repræsenterer de minimums- og maksimumværdier, det kan måle.
2. Beregn fuld skalaværdi (FSV) :
- Træk minimumsværdien fra intervallets maksimumværdi for at finde fuldskalaværdien.
3. Bestem antallet af divisioner :
- Tæl antallet af markeringer eller gradueringer på instrumentets skala.
4. Beregn opløsning :
- Divider Full Scale Value (FSV) med antallet af divisioner.
Opløsning =(fuld skalaværdi) / (antal divisioner)
Eksempel :
- Overvej et voltmeter med en rækkevidde på 0 til 100 volt og 20 divisioner på sin skala.
- Fuldskalaværdi (FSV) =100 volt - 0 volt =100 volt
- Antal divisioner =20
- Opløsning =(100 volt) / (20 divisioner)
- Opløsning =5 volt pr. division
I dette tilfælde er den mindste opdeling af voltmeteret 5 volt, hvilket betyder, at voltmeteret kan opløse og vise ændringer i spænding i trin på 5 volt.