Мать у тебя гуд
Посмотри в настройках БИОСА, там, если я не ошибаюсь, должна быть опция, которая позволяет поднимать напряжение на AGP слоте. Попробуй его увеличить (не больше чем на 1-2 шага), если проблема в питании, то может помочь. Но это на твое усмотрение, советчик ответственности не несет .
Если глючит видеопамять, это можно проверить так:
поставь драйвер Детонатор, включи опцию разгона видеокарты (про это написано на всех сайтах по железу), или поставь програмку RivaTuner, и УМЕНЬШИ частоту видеопамяти. На 7700 pro по умолчанию все-таки 400 Мгц стоит, если память левая, может и глючить.