Ох. Пробую по порядку.
1. Лесенок не будет, если разрешение текстур совпадает с разрешением монитора. Если одно от другого отлично, требуется сглаживание. В Вашем случае оно НЕ требуется.
2. Если Вы во что бы то ни стало хотите включить сглаживание(к примеру, Вы выставили 1920х1080), то убедитесь, что сглаживает карта а не осн. камень, грубо говоря, что карта мощная, ибо в противном случае всё будет тормозить. Про радеон не знаю(он вообще с хантерами в контрах), но в настройках быстродействия nVidia параметр "авто" замените на "собственный", где ползунок качества передвиньте на макс.
В моём случае(i7 w7\64 8gb nGTX560Ti) НИКАКИЕ манипуляции со сглаживанием ни к чему не приводят, что фиксируется в цифрах монитором ресурсов видео. Однако полностью выключенные вертикальный синхрон и сглаживание дают изумительную по чёткости картинку. Плюс, нужно поколдовать с фильтрацией - тут всё индивидуально на разных компах подходят разные конфы - у меня на трёх параметры разные. На основном у меня выкручен на макс антиалайзинг, что, скажем на ноутбуке даёт отвратительную цветовую гамму..