У меня получилось создать аналогичную картинку при нестандартной калибровке HJ по оси Y в программе DXtweak2.
Повторяю, проверьте калибровку по оси Y.
Сутки прошли, как результаты?