Ошибка Δxh не превышает некоторой постоянной величины h (единицы младшего разряда). Если рассматривать x как случайную величину, для ошибки Δxh можно принять закон равной вероятности. Основными характеристиками этой ошибки будут математическое ожидание mh и дисперсия Dh. Если округление выполняется методом отбрасывания, то
Если округление оптимальное, то mh=0, а Dh – та же.
Шаг h можно определить через диапазон измерения преобразуемой
величины ΔXmax=Xmax-Xmin и число разрядов преобразователя n:
(3)
Среднеквадратичная ошибка квантования по уровню
Из условия согласования точности преобразования с точностью
измерения σh=σи (где σи – среднеквадратичная ошибка измерения) следует:
Следовательно, число разрядов
(4)
где E{Z} – целая часть числа Z.
Допустимое время преобразования
Определение допустимого времени преобразования
Ошибка Δxτ, вызванная запаздыванием на время преобразования τ,
является динамической и может быть определена как
Δxτ = |dx/dt|ср·τ ,
где |dx/dt|ср – абсолютное значение округленной на интервале τ производной
по времени от измеряемой величины. В общем случае эта производная – случайная величина с дисперсией Dв. Эта дисперсия связана с дисперсией Dτ ошибки запаздывания Δxτ следующим образом:
Dτ = Dв•τ2 .
Отсюда (5)
Зададимся условием, при котором дисперсия ошибки запаздывания будет
меньше второго начального момента ошибки представления αh, где
αh = mh2 + Dh , т.е. Dτ ≤ mh2 + Dh . (6)
При оптимальном округлении mh=0, Dh=h2/12, подставив эти значения в (6), получим