Поставил refreshlock - 1280х1024 все равно некоректно пашет, зато стал нормально 1280х960 работать, спасибо за совет