Разобрался. Как ни странно виновным оказалось качество mip-фильтрации - больше 5 нельзя. Остальные параметры влияют на скорость и качество но к сбоям не приводят.