Помогите понять кто вешает систему

[Cyber Hunter]

В других тяжелых 3Д играх зависания есть?
Еще в event log Windows посмотрите на всякий случай на предмет ошибок.

Может быть проблема в видеокарте (под нагрузкой зависает).
Еще запросто это может быть блок питания (FSP не идеал), могут быть нечестные 400Вт и проседания по линиям 12 и 5 вольт в момент нагрузки, приводящие к нестабильной работе.
Еще как вариант - попробовать вытащить 2 модуля памяти или для начала увеличить тайминги памяти в биосе.
Модули по 512 одинаковы? Хотя бы попарно (2 одинаковых + 2 одинаковых)?
Да и 2 одинаковых модуля по 1Гб будут более устойчивы, чем 4 по 512.
Причин может быть много, надо их по очереди пытаться выявить.