Откуда могут быть такие треугольники вместо нормальной спирали?
Попробуй вести стик линейно по диагонали в угол (ради такого дела лучше бы линейку прикрутить как направляющую). По отклику джойтестера можно будет понять (я так думаю), как регулировать магнит-датчик.