Какое-то хитрое преобразование
А вы уверены что метры остались метрами?

В фотошопе точки на дюйм это не для тех целей, так регулировать не хорошо скорее всего. Это для размера бумаги и там явно не километрами оперирует. Крутить не надо.

P.S. Ступеньками как-то высоты пошли, это программа так показывает или 16 бит потерялись?
У SRTM обычно равнины в невидимой темной области лежат, а тут как-то отконтрастировано подозрительно.

P.P.S Так а карту топографическую удалось привязать?