Ответ unwinderа:
На Quadro AA несовместим с UBB (unified back/depth buffer), а последний включен в панели настроек по умолчанию. Отключи его и AA заработает.