Мне кажется, тут действительно проблема в калибровке. Попробовал бы откалибровать вручную (хоть из виндовой панели игровых устройств), причем "по максимуму" - с упорами по механике в каждом направлении, т.е. выжать максимально полный диапазон.

Насколько я понимаю логику автокалибровки - если драйвер засекает, что сигнал от какой-то оси в процессе работы превысил откалиброванный максимум - он принимает это значение за новое максимальное (т.е. проводит некий усеченный цикл калибровки по этой оси). Вот очень похоже на твой случай.

Лишние оси заземлить тоже не помешает, там в Сайтеке резисторы по 50 (или 100? забыл уже) килоом, это немало, всякую бяку могут цеплять - хотя тут от проводов к плате многое зависит.