хм, действительно интересная ситуация получается. может это те "попугаи", которые пишутся в calibration.ini - нелинейные?
ведь значения совсем не похожи на те, которые высвечиваются в диалоге калибрации, где, как я предполагаю, высвечиваются "исходные" данные c котового АЦП.