Miernik o dokładności ±(2% w.m. + 3 cyfry), na zakresie o rozdzielczości 0,1 Ω, wskazał rezystancję 100,0 Ω. Do protokołu należy wpisać wynik z błędem granicznym

Dlaczego tak

Błąd graniczny miernika cyfrowego składa się z części proporcjonalnej do wartości mierzonej, 2% · 100,0 Ω = 2,0 Ω, oraz z części stałej, 3 cyfry · 0,1 Ω = 0,3 Ω, co daje ±2,3 Ω. Wynik ±2,0 Ω pomija składnik cyfrowy, a ±5,0 Ω powstaje, gdy 3 cyfry potraktuje się jak 3%. Podanie błędu w protokole pozwala ocenić, czy wynik bliski granicy na pewno ją spełnia.