Цитата Сообщение от deCore
...
Смотреть нужно в панели калибровки (стандартной виндевой) поставить крыжик "display raw data" (т.е. "показывать цифири").
Там будут видны крайние значения и шаг (как правило, 1). Вот по этой информации и нужно говорить о точности.
Я скажу даже больше что и эта информация тоже не вполне верна
ведь это то что видят винды а видят они лишь то что им дает драйвер.

если это драйвер "от производителя" то что там намешано внутри хрен его знает. и потом контроллер ведь тоже может фильтровать значения и передавать уже усредненные.
...
По-этому я и хочу найти способ как довести точность до 512 (для Ил-2 достаточно 502) значений на ось.
а есть уверенность что у ИЛа именно столько значений на ось? я что-то пропустил?