Оказалось, что глюк был в том, что в свойствах видеокарты частота для разрешения 1024 была выставлена в 100 герц, а в игре - 85. из-за этого и вылетало. Выставил в конфигураторе игры частоту тоже в 100 герц - все пошло.
Спасибо Зубу за инфу