W zadaniu trzeba rozróżnić błąd bezwzględny (w jednostkach MΩ) od błędu względnego (w procentach). Specyfikacja miernika podana jako ±(3% w.w. + 8 cyfr) jest typowa dla mierników cyfrowych i składa się z dwóch części.
1) Składnik procentowy (od wartości wskazanej)
"w.w." to wartość wskazana, czyli 200,0 MΩ. Zatem składnik procentowy błędu wynosi:
3% · 200,0 MΩ = 0,03 · 200,0 MΩ = 6,0 MΩ.
2) Składnik "cyfr" (counts) zależny od rozdzielczości
Wynik ma postać 200,0 MΩ, więc najmłodsza cyfra odpowiada krokowi 0,1 MΩ. "8 cyfr" oznacza 8 takich kroków:
8 · 0,1 MΩ = 0,8 MΩ.
3) Całkowity błąd bezwzględny
Sumujemy oba składniki (zgodnie z typowym zapisem dokładności):
Δ = 6,0 MΩ + 0,8 MΩ = 6,8 MΩ.
4) Błąd względny w procentach
Błąd względny to stosunek błędu bezwzględnego do wartości zmierzonej, razy 100%:
δ = (6,8 MΩ / 200,0 MΩ) · 100% = 3,4%.
Dlaczego pozostałe wyniki są nieprawidłowe?
- "6,8%" powstaje przez pomylenie 6,8 MΩ (błędu bezwzględnego) z błędem względnym w procentach.
- "3,0%" odpowiadałoby sytuacji, w której uwzględnia się tylko składnik 3% i pomija "8 cyfr", co zaniża wynik.
- "8,3%" nie wynika z poprawnej interpretacji zapisu dokładności; zwykle pojawia się przy błędnym dodawaniu procentów lub błędnym przeliczeniu "cyfr" na %.
W praktyce (np. przy ocenie pomiarów izolacji) takie obliczenie pozwala stwierdzić, z jakim marginesem niepewności należy interpretować wskazanie megaomomierza.