Гость
Целевая тема:
Создать новую тему:
Автор:
Форумы / Microsoft Office [игнор отключен] [закрыт для гостей] / Кривые итоги в сводной таблице MS Excel 2003. Проблемы с точностью. / 12 сообщений из 12, страница 1 из 1
13.01.2011, 11:14
    #37056187
grif_pet
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Кривые итоги в сводной таблице MS Excel 2003. Проблемы с точностью.
Доброго всем дня. Столкнулся со следующей проблемой в точности общей суммы по строкам сводной таблицы MS Excel 2003.
Пример:
Данные
Кол-во-267.206000000000000000000000000000-1 530.000000000000000000000000000000-3 935.5000000000000000000000000000005 732.705500000000000000000000000000

Если просчитать вручную итог по строке, то получаем значение -0,0005. Если включить отображение 30 десятичных знаков после запятой, то в сводной отображается -0,000499999999988177000000000000, а с помощью функции СУММ получем -0,000500000000101863000000000000. Это сильно мешает т.к. в отчёте числовой формат ячейки установлен с округлением до 3 знака после запятой и в конечном итоге декабря -0,000499999999988177000000000000 по всем правилам округления превращается в 0, тогда как в начальных остатках января -0,0005 округляется до -0,001. Подскажите пожалуйста как это победить.
...
Рейтинг: 0 / 0
13.01.2011, 12:21
    #37056387
Serge 007
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Кривые итоги в сводной таблице MS Excel 2003. Проблемы с точностью.
grif_petПодскажите пожалуйста как это победить.Здравствуйте.
Никак.
Эксель хранит числа с точностью до 15 знаков.

Для работы с большей разрядностью есть надстройка XLNumbers от Leonardo Volpi .
...
Рейтинг: 0 / 0
13.01.2011, 12:50
    #37056466
grif_pet
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Кривые итоги в сводной таблице MS Excel 2003. Проблемы с точностью.
Слышал про это, но не пойму следующего. Я понимаю точность до 15 знаков так, что знаки после 15го будут отрезаться и заменяться нулями, а все числа до 15 знаков обрабатываются точно. Введённые числа имеют не более 4х знаков после запятой, их сумма тоже не имеет больше 4х знаков после запятой, но при этом отображается какая-то бредятина. Получается у них точность до 15 знаков, но вычисления до 30 и из-за этого все проблемы
...
Рейтинг: 0 / 0
13.01.2011, 12:57
    #37056480
f
f
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Кривые итоги в сводной таблице MS Excel 2003. Проблемы с точностью.
А округлением вы не хотите пользоваться?
...
Рейтинг: 0 / 0
13.01.2011, 13:32
    #37056584
grif_pet
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Кривые итоги в сводной таблице MS Excel 2003. Проблемы с точностью.
Я им и пользуюсь авторЭто сильно мешает т.к. в отчёте числовой формат ячейки установлен с округлением до 3 знака после запятой и в конечном итоге декабря -0,000499999999988177000000000000 по всем правилам округления превращается в 0, тогда как в начальных остатках января -0,0005 округляется до -0,001.
...
Рейтинг: 0 / 0
13.01.2011, 16:05
    #37057111
f
f
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Кривые итоги в сводной таблице MS Excel 2003. Проблемы с точностью.
Напишите собственную функцию.
...
Рейтинг: 0 / 0
13.01.2011, 16:24
    #37057171
grif_pet
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Кривые итоги в сводной таблице MS Excel 2003. Проблемы с точностью.
Мне проще программно округлять данные до 3х знаков при занесении их в Excel чем так извращаться. Хотя и то и другое это лишь извращённые способы по снижению вреда от корявостей Excel и вопрос собственно был в том как их победить прям в Excel`e (без написания своих функций).
...
Рейтинг: 0 / 0
13.01.2011, 16:37
    #37057209
f
f
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Кривые итоги в сводной таблице MS Excel 2003. Проблемы с точностью.
Такая проблема не только в Экселе может быть.
...
Рейтинг: 0 / 0
13.01.2011, 17:36
    #37057399
ZVI
ZVI
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Кривые итоги в сводной таблице MS Excel 2003. Проблемы с точностью.
Обычно округляют с некоторым запасом десятичных знаков.
Например, если округлить до 6-го знака:
=ОКРУГЛ(СУММ(A2:A5);6)
где A2:A5 - Ваши данные из первого сообщения
То результат будет ровно -0.0005
...
Рейтинг: 0 / 0
14.01.2011, 09:09
    #37058250
grif_pet
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Кривые итоги в сводной таблице MS Excel 2003. Проблемы с точностью.
Спасибо. Это мне и так понятно. Я думал есть какие-то прямые способы повысить точность вычислений. Например с помощью каких-то настроек
...
Рейтинг: 0 / 0
14.01.2011, 09:11
    #37058255
grif_pet
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Кривые итоги в сводной таблице MS Excel 2003. Проблемы с точностью.
Ну и кстати в итог сводной таблицы по строкам функцию ОКРУГЛ вставить всё равно не получится, а проблема именно в сводной вылезла
...
Рейтинг: 0 / 0
14.01.2011, 11:08
    #37058510
f
f
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Кривые итоги в сводной таблице MS Excel 2003. Проблемы с точностью.
Делайте дополнительный столбец.
...
Рейтинг: 0 / 0
Форумы / Microsoft Office [игнор отключен] [закрыт для гостей] / Кривые итоги в сводной таблице MS Excel 2003. Проблемы с точностью. / 12 сообщений из 12, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]