Dziesięciobitowy przetwornik analogowo-cyfrowy z napięciem odniesienia 5 V zwrócił wartość 512. Napięcie mierzone wynosi około

Dlaczego tak

Przetwornik dziesięciobitowy ma 2¹⁰ = 1024 poziomy, więc jeden poziom to 5 V/1024 ≈ 4,9 mV. Wartość 512 odpowiada połowie zakresu: 512 · 4,9 mV ≈ 2,5 V. Wynik 5,12 V powstaje po potraktowaniu wartości jako setnych części wolta. Rozdzielczość ok. 5 mV oznacza, że zmiany napięcia mniejsze od tej wartości nie zostaną zauważone.