В Warcraft и других 2д играх технология работает не так как в 3д.
Там используются так называемые тайлы - грубо говоря комбинации разных текстур с закруглениями и без и т.д.
Во многих 3Д играх (особенно там где предполагается модификация поверхности в реальном масштабе времени) используется так называемый сплаттинг (у нас тоже). Т.е. есть несколько уровней текстур, обычно до 4-8х штук и текстра маски которая говорит о том какой уровень в какой пропорции нужно смешивать, и именно она определяет где будут закругления и как они будут выглядеть. У нас большие ландшафты, возможность сделать маску с большим разрешением отсутствует, т.к. это приведет к увеличению системных требований к видеокарте. Т.е. играть можно будет например только на картах с 512Мб на борту и более.
Мало того, эта маска еще и сжимается блоками по 4х4 текселя (иначе всеравно не лезет), артефакты сжатия ведут к тому что веса на границах считаются не совсем верно (теорему Котельникова не обманешь), особенно в реальном масштабе времени когда нет возможности фильтровать большую область текстуры чтобы замаскировать квадратики.
На скрине как раз видно тайлы из которых состоит карта.