Смутное подозрение на либо перегрев видеокарты или проца, или на провалы по питанию - конденсаторы на видяхе и материнке бы посмотреть не помешало. Но вначале можно просто корпус открыть и посмотреть, не пропадут ли фризы.