Чтобы под Win7-32bit с 4 гигами RAM, отдать больше памяти под процесс, попробуйте след.:
1. временно отключить UAC (если конечно включен)
2. зайти в командную строку под "админом" и запустить след. команду:
bcdedit /set increaseuserva 3072
3. перегрузить комп.

для ХР попробуйте юзать ключ /3GB. Как его юзать - найдёте в гугле.