Попробуйте, если у вас не стоит, поставить сервис пак 1 для Висты.
Возможно, это конфликт старших 3-4 гигабайт памяти и видеокарты
(адреса маппинга одинаковые).
Для более жестокого теста, можно вынуть одну планку памяти!