То бишь магнит с осевым намагничиванием, я так понимаю. И напряжения, которые выдает холл - правильные, хотя и неприменимые. По хорошему нужен магнит с диаметральным намагничиванием, и чтообы холл геометрически при движении не выходил за границы магнита - то есть радиус вращения надо уменьшать до минимума. Иначе линейности толком добиться не получится.
Хинт - как проверить намагниченность плоских магнитов (надо как минимум 2 шт) - Складываем бутерброд, и потиху вращаем друг относительно друга. Если магниты не стремятся занимать какие-то определенные положения - - значит аксиальные(осевые), если норовят это сделать - диагональные.