Похоже на плохую работу шины AGP на материнской плате.
Попробуй переключить AGP шину на материнской плате в режим 4х, по возможности отключить расширенные режимы AGP, убери разгон и поставь родные драйвера от видеокарты, поставь утилиту SMARTDOCTOR от ASUS и проверь тепловой режим GPU.