День добрый! Столкнулся с проблемой: требуется очень точное вычисление. в формате выставляю 30 знаков после запятой, но считает только 15 остальные нулями заполняет. самый легкий пример в ячейке =1/3 по идее должен выдать 0,333333333333333333333333333333 а выдает 0,333333333333333000000000000000 что можно сделать?
День добрый! Столкнулся с проблемой: требуется очень точное вычисление. в формате выставляю 30 знаков после запятой, но считает только 15 остальные нулями заполняет. самый легкий пример в ячейке =1/3 по идее должен выдать 0,333333333333333333333333333333 а выдает 0,333333333333333000000000000000 что можно сделать?Вячеслав
Excel работает/хранит вещественные числа с точностью до 15-ти знаков в дробной части. Для более точных вычислений используйте соотвествующее ПО.
Excel работает/хранит вещественные числа с точностью до 15-ти знаков в дробной части. Для более точных вычислений используйте соотвествующее ПО.Vitalts
Wolfram Mathematica, Wolfram Alpha (web service), Mathcad... -- При большом желании, можно подружить Excel с каким-нибудь сторонним иструментом для выполнения точных расчетов в нем, и возвращать эти значения в Excel, к примеру, в текстовом виде и снужной точностью. Вполне вероятно, для ваших задач реализация подобной связки не рентабельна.
Wolfram Mathematica, Wolfram Alpha (web service), Mathcad... -- При большом желании, можно подружить Excel с каким-нибудь сторонним иструментом для выполнения точных расчетов в нем, и возвращать эти значения в Excel, к примеру, в текстовом виде и снужной точностью. Вполне вероятно, для ваших задач реализация подобной связки не рентабельна.Vitalts
Сообщение отредактировал Vitalts - Четверг, 14.03.2013, 13:03
Можно расчеты на vba реализовать, прикрутить длинную арифметику в виде надстройки или самописную, либо использовать тип переменных Decimal с 28 значащими цифрами, все зависит от задачи, но как правило с помощью данных методов можно выполнить 4 основных арифметических действия
Можно расчеты на vba реализовать, прикрутить длинную арифметику в виде надстройки или самописную, либо использовать тип переменных Decimal с 28 значащими цифрами, все зависит от задачи, но как правило с помощью данных методов можно выполнить 4 основных арифметических действияMCH