Excel неправильно считает

Старая форма входа

Страница 1 из 1 1
Модератор форума: китин, _Boroda_

Excel неправильно считает (Формулы)

F1sh

Дата: Понедельник, 25.11.2013, 15:24 | Сообщение № 1

Группа: Пользователи

Ранг: Прохожий

Сообщений: 2

Репутация: 0 ±

Замечаний: 0% ±

Excel 2007

Возник странный феномен в excel. Сразу говорю, дело не в округлении, я умею им пользоваться.

Итак, проблема в следующем:
Есть два числа, которые были получены суммированием чисел, округленных до одного знака после запятой. Соответственно, числа тоже имеют один знак после запятой. Если поставить формат на 30 знаков после запятой, будет 29 нолей, числа точно округлены до одного знака!

Эти числа равны. Т.е. если я напишу формулу, например, =А1=В1, она покажет значение "ИСТИНА".
Но при этом если вычесть числа друг из друга, ноль не получается! Получается очень маленькое число!

Файл прилагаю.
Пожалуйста, объясните мне, как возможна такая чушь? Excel считать не умеет, или у меня руки кривые?

К сообщению приложен файл: 2400424.xlsx (8.6 Kb)

Ответить

SergeyKorotun

Дата: Понедельник, 25.11.2013, 15:46 | Сообщение № 2

Группа: Проверенные

Ранг: Обитатель

Сообщений: 301

Репутация: 15 ±

Замечаний: 0% ±

Excel 2007

погуглите, набрав например "округление чисел в компьютере"
http://www.delphikingdom.com/asp/viewitem.asp?catalogID=1217

Ответить

KuklP

Дата: Понедельник, 25.11.2013, 15:48 | Сообщение № 3

Группа: Проверенные

Ранг: Старожил

Сообщений: 2369

Репутация: 486 ±

Замечаний: 0% ±

2003-2010

Никакой не феномен. Проблема в стандарте IEEE 754 - представления чисел с плавающей точкой.
Один из вариантов. Поставить в настройках точность как на экране.

Ну с НДС и мы чего-то стoим! kuklp60@gmail.com
WM Z206653985942, R334086032478, U238399322728

Ответить

Excel неправильно считает (Формулы)

Страница 1 из 1
1