Это же формула для определения макс.дальности видимости с лодки( о чем писалось выше). Причем для конкретного человека. Но надо учитывать прозрачность воздуха, ибо от этого зависит дистанция, на которой можно будет заметить хотя бы мачты.
Для определения дистанции до объекта не хватает одной переменной, а именно угла раствора, под которым объект будет виден(угол между лучами от наблюдателя на ватерлинию и на мачту). Если я конечно правильно все понял