Я так думаю, это происходит из-за наложения друг на друга двух квадратиков - красного и зеленого. Если один из них не стоит четко под другим, то мы и видим это дрожание.
В Иле красный квадратик - данные, полученные с джоя. Зелёный квадратик - положение оси (осей) в игре(т.е. "красный квадратик"+кривые отклика+мёртвая зона+сглаживание).