Может видео памяти не хватает?
Попробуйте включить компрессию в conf.ini
TexCompress=1
(TexFlags.TexCompressARBExt=1 Должен быть включен)
Если не поможет - поставьте LandeGeom=1!