Нужно включить вертикальную синхронизацию, если она еще не включена, и тройную буферизацию в панели управления графической картой. Думаю, что монитор отображает не последовательные кадры, а перескакивает через них, в результате объект сразу кардинально меняет свое местоположение, что и приводит к плавному изменению ориентации всех промежуточных пикселей.
Если монитор поддерживает технологию Overdrive, можно ее включить в меню монитора. Картинка станет более плавной.