А это здесь при чем?? Так и говорите, что речь идет о кеш-памяти процев. Так она как раз непрерывно увеличивается в объеме и латентность ее уменьшается, в том числе при разгоне. Неужели вы недовольны латентностью кешей 1-го уровня Пенринов - там значения меньше 1 нс?? И второго уровня - порядка 4 нс!
Какие же значения латентности, скажем, кеша 1-го уровня требуются??