При расчете некоторого агрегата используются входные данные, полученные в сторонней программе и имеющие определенную точность, зависящую от точности используемых в ней физических констант или от той же точности представления выходных величин на экране. Точность эта составляет 5 знаков, и изменить ее никак нельзя.
Основной расчет ведется в Excel, который позволяет производить вычисления с точностью, указанной в используемых ячейках или с любой другой (пусть по умолчанию в 15 знаков).
Так как весь расчет напрямую не связан ни с какими реальными измерениями, и агрегаты в среднем имеют относительно крупные размеры, очень часто вопросами, возникающих при использовании точности в 15 знаков (ничего не значащих цифр после 5-ого знака), погрешностей пренебрегают, но в отдельных случаях, когда проектируются сравнительно небольшие агрегаты - использование точности в 5 или 15 знаков способно создавать относительную погрешность порядка 0,06-0,08 и более.
Сам вопрос заключается в следующем: имеет ли смысл задаваться вопросами сохранения входной точности в 5 знаков на каждом этапе расчета в Excel, если расчет лишен неидеальностей, вносимых реальными измерениями, а входная точность определяется, по-существу, точностью записи физических констант во вспомогательной программе и точностью сходимости вычисляемых в ней параметров, определяемой некоторой малой величиной, возможно как раз таки равной 1E-5, иными словами, если погрешность, вносимая реально измеряемыми величинами уже учтена?
Спасибо.