Домашняя страница Undo Do New Save Карта сайта Обратная связь Поиск по форуму
МИР MS EXCEL - Гость.xls

Вход

Регистрация

Напомнить пароль

 

= Мир MS Excel/Проблемы с точностью вычисления - Мир MS Excel

Старая форма входа
  • Страница 1 из 1
  • 1
Модератор форума: китин, _Boroda_  
Проблемы с точностью вычисления
Вячеслав Дата: Четверг, 14.03.2013, 11:31 | Сообщение № 1
Группа: Гости
День добрый!
Столкнулся с проблемой: требуется очень точное вычисление.
в формате выставляю 30 знаков после запятой, но считает только 15 остальные нулями заполняет.
самый легкий пример
в ячейке =1/3
по идее должен выдать 0,333333333333333333333333333333
а выдает 0,333333333333333000000000000000
что можно сделать?
 
Ответить
СообщениеДень добрый!
Столкнулся с проблемой: требуется очень точное вычисление.
в формате выставляю 30 знаков после запятой, но считает только 15 остальные нулями заполняет.
самый легкий пример
в ячейке =1/3
по идее должен выдать 0,333333333333333333333333333333
а выдает 0,333333333333333000000000000000
что можно сделать?

Автор - Вячеслав
Дата добавления - 14.03.2013 в 11:31
Vitalts Дата: Четверг, 14.03.2013, 12:30 | Сообщение № 2
Группа: Пользователи
Ранг: Новичок
Сообщений: 35
Репутация: 6 ±
Замечаний: 0% ±

Excel работает/хранит вещественные числа с точностью до 15-ти знаков в дробной части. Для более точных вычислений используйте соотвествующее ПО.
 
Ответить
СообщениеExcel работает/хранит вещественные числа с точностью до 15-ти знаков в дробной части. Для более точных вычислений используйте соотвествующее ПО.

Автор - Vitalts
Дата добавления - 14.03.2013 в 12:30
Вячеслав Дата: Четверг, 14.03.2013, 12:50 | Сообщение № 3
Группа: Гости
А почему тогда дает выбрать до 30 если хранит до 15? не логично однако. а какое ПО до 30 считает?
 
Ответить
СообщениеА почему тогда дает выбрать до 30 если хранит до 15? не логично однако. а какое ПО до 30 считает?

Автор - Вячеслав
Дата добавления - 14.03.2013 в 12:50
Vitalts Дата: Четверг, 14.03.2013, 12:58 | Сообщение № 4
Группа: Пользователи
Ранг: Новичок
Сообщений: 35
Репутация: 6 ±
Замечаний: 0% ±

Wolfram Mathematica, Wolfram Alpha (web service), Mathcad...
--
При большом желании, можно подружить Excel с каким-нибудь сторонним иструментом для выполнения точных расчетов в нем, и возвращать эти значения в Excel, к примеру, в текстовом виде и снужной точностью. Вполне вероятно, для ваших задач реализация подобной связки не рентабельна.


Сообщение отредактировал Vitalts - Четверг, 14.03.2013, 13:03
 
Ответить
СообщениеWolfram Mathematica, Wolfram Alpha (web service), Mathcad...
--
При большом желании, можно подружить Excel с каким-нибудь сторонним иструментом для выполнения точных расчетов в нем, и возвращать эти значения в Excel, к примеру, в текстовом виде и снужной точностью. Вполне вероятно, для ваших задач реализация подобной связки не рентабельна.

Автор - Vitalts
Дата добавления - 14.03.2013 в 12:58
Вячеслав Дата: Четверг, 14.03.2013, 13:15 | Сообщение № 5
Группа: Гости
Спасибо!
 
Ответить
СообщениеСпасибо!

Автор - Вячеслав
Дата добавления - 14.03.2013 в 13:15
MCH Дата: Четверг, 14.03.2013, 15:04 | Сообщение № 6
Группа: Админы
Ранг: Старожил
Сообщений: 2004
Репутация: 752 ±
Замечаний: ±

Можно расчеты на vba реализовать, прикрутить длинную арифметику в виде надстройки или самописную, либо использовать тип переменных Decimal с 28 значащими цифрами, все зависит от задачи, но как правило с помощью данных методов можно выполнить 4 основных арифметических действия
 
Ответить
СообщениеМожно расчеты на vba реализовать, прикрутить длинную арифметику в виде надстройки или самописную, либо использовать тип переменных Decimal с 28 значащими цифрами, все зависит от задачи, но как правило с помощью данных методов можно выполнить 4 основных арифметических действия

Автор - MCH
Дата добавления - 14.03.2013 в 15:04
  • Страница 1 из 1
  • 1
Поиск:

Яндекс.Метрика Яндекс цитирования
© 2010-2024 · Дизайн: MichaelCH · Хостинг от uCoz · При использовании материалов сайта, ссылка на www.excelworld.ru обязательна!