Судя по описанию проблемы, выходной сигнал сенсора достигает своего максимума раньше, чем ручка физически дойдет до упора. Специалисты по магниторезисторам могут подтвердить это предположение.
Посмотрел калибратор и инструкцию по калибровке. Пока не скажу ничего плохого. Хотелось бы сказать большее, но пока не могу.
UPD. Правда появился вопрос, зачем там кнопка Reset Device ? Попробуйте, если еще не нажимали. Хоть беги покупать новый джой, чтоб пощупатьДа, и радует возможность регулировки мертвой зоны.