Синий экран на стабильных компах давно победили.
Попробуй прежде всего поставить свежие драйверы с сайта NVidia, если не поможет, попробуй уменьшить AGP8x на AGP4x - понижения скорости ты не заметишь, а стабильности точно прибавится.
Т.к. комп у тебя разогнан - может пошаливать память. Тут нужен тест.