Режим HAT - крайний, когда игра не понимает ни джойстик, ни мышь как у стройство обзора - естественно только 8 направлений взгляда, о какой-то плавности и речи быть не может. Можно сделать хатку 256 позиционной, но игр которые поймут такую хатку - тем более не существует.
По фильтрации - статический фильтр более-менее понятен, динамический работает так - степень фильтрации постепенно повышается (до значения статического фильтра), если текущие значения попугаев оси не превышают порога DFT(255 по дефолту - это около 3% (максимум шкалы - 8192 в одну сторону ) от установившегося среднего. Если порог превышен - фильтрация понижается до минимума.
Это дает резкий отклик при больших отклонениях и значительную "резиновость' на мелких перемещениях. Возможно лаг ощущается именно на "средне-малых" (

)перемещениях, когда фильтрация ещё "не падает" - нужно уменьшить значение DFT.
Если Filter=0 то лаг скорее всего уже связан с самой матрицей камеры - она имеет некоторое время послесвечения, когда в координатах участвуют прошлые "зайчики". Этот эффект немного это можно уменьшить за счет понижения яркости излучателя.
Изменять диапазон можно только коэффициентами KD_LO (слева от центра) и KD_HI (справа от центра). Физически это коэффициенты усиления , больше коэффициент - меньше рабочий угол. Судя по картинке джойтестера реальный запас - всего раза в 2. И с расширением диапазона уменьшается возможность центровки - при максимальном охвате камера должна смотреть ровно в центр излучателя. При текущей характеристике центр может "играть" приблизительно на 50%.