|
|
|
Кривые итоги в сводной таблице MS Excel 2003. Проблемы с точностью.
|
|||
|---|---|---|---|
|
#18+
Доброго всем дня. Столкнулся со следующей проблемой в точности общей суммы по строкам сводной таблицы MS Excel 2003. Пример: Данные Кол-во-267.206000000000000000000000000000-1 530.000000000000000000000000000000-3 935.5000000000000000000000000000005 732.705500000000000000000000000000 Если просчитать вручную итог по строке, то получаем значение -0,0005. Если включить отображение 30 десятичных знаков после запятой, то в сводной отображается -0,000499999999988177000000000000, а с помощью функции СУММ получем -0,000500000000101863000000000000. Это сильно мешает т.к. в отчёте числовой формат ячейки установлен с округлением до 3 знака после запятой и в конечном итоге декабря -0,000499999999988177000000000000 по всем правилам округления превращается в 0, тогда как в начальных остатках января -0,0005 округляется до -0,001. Подскажите пожалуйста как это победить. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 13.01.2011, 11:14 |
|
||
|
Кривые итоги в сводной таблице MS Excel 2003. Проблемы с точностью.
|
|||
|---|---|---|---|
|
#18+
grif_petПодскажите пожалуйста как это победить.Здравствуйте. Никак. Эксель хранит числа с точностью до 15 знаков. Для работы с большей разрядностью есть надстройка XLNumbers от Leonardo Volpi . ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 13.01.2011, 12:21 |
|
||
|
Кривые итоги в сводной таблице MS Excel 2003. Проблемы с точностью.
|
|||
|---|---|---|---|
|
#18+
Слышал про это, но не пойму следующего. Я понимаю точность до 15 знаков так, что знаки после 15го будут отрезаться и заменяться нулями, а все числа до 15 знаков обрабатываются точно. Введённые числа имеют не более 4х знаков после запятой, их сумма тоже не имеет больше 4х знаков после запятой, но при этом отображается какая-то бредятина. Получается у них точность до 15 знаков, но вычисления до 30 и из-за этого все проблемы ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 13.01.2011, 12:50 |
|
||
|
Кривые итоги в сводной таблице MS Excel 2003. Проблемы с точностью.
|
|||
|---|---|---|---|
|
#18+
А округлением вы не хотите пользоваться? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 13.01.2011, 12:57 |
|
||
|
Кривые итоги в сводной таблице MS Excel 2003. Проблемы с точностью.
|
|||
|---|---|---|---|
|
#18+
Я им и пользуюсь авторЭто сильно мешает т.к. в отчёте числовой формат ячейки установлен с округлением до 3 знака после запятой и в конечном итоге декабря -0,000499999999988177000000000000 по всем правилам округления превращается в 0, тогда как в начальных остатках января -0,0005 округляется до -0,001. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 13.01.2011, 13:32 |
|
||
|
Кривые итоги в сводной таблице MS Excel 2003. Проблемы с точностью.
|
|||
|---|---|---|---|
|
#18+
Напишите собственную функцию. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 13.01.2011, 16:05 |
|
||
|
Кривые итоги в сводной таблице MS Excel 2003. Проблемы с точностью.
|
|||
|---|---|---|---|
|
#18+
Мне проще программно округлять данные до 3х знаков при занесении их в Excel чем так извращаться. Хотя и то и другое это лишь извращённые способы по снижению вреда от корявостей Excel и вопрос собственно был в том как их победить прям в Excel`e (без написания своих функций). ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 13.01.2011, 16:24 |
|
||
|
Кривые итоги в сводной таблице MS Excel 2003. Проблемы с точностью.
|
|||
|---|---|---|---|
|
#18+
Такая проблема не только в Экселе может быть. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 13.01.2011, 16:37 |
|
||
|
Кривые итоги в сводной таблице MS Excel 2003. Проблемы с точностью.
|
|||
|---|---|---|---|
|
#18+
Обычно округляют с некоторым запасом десятичных знаков. Например, если округлить до 6-го знака: =ОКРУГЛ(СУММ(A2:A5);6) где A2:A5 - Ваши данные из первого сообщения То результат будет ровно -0.0005 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 13.01.2011, 17:36 |
|
||
|
Кривые итоги в сводной таблице MS Excel 2003. Проблемы с точностью.
|
|||
|---|---|---|---|
|
#18+
Спасибо. Это мне и так понятно. Я думал есть какие-то прямые способы повысить точность вычислений. Например с помощью каких-то настроек ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 14.01.2011, 09:09 |
|
||
|
Кривые итоги в сводной таблице MS Excel 2003. Проблемы с точностью.
|
|||
|---|---|---|---|
|
#18+
Ну и кстати в итог сводной таблицы по строкам функцию ОКРУГЛ вставить всё равно не получится, а проблема именно в сводной вылезла ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 14.01.2011, 09:11 |
|
||
|
|

start [/forum/topic.php?fid=61&fpage=140&tid=2177277]: |
0ms |
get settings: |
10ms |
get forum list: |
16ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
71ms |
get topic data: |
9ms |
get forum data: |
2ms |
get page messages: |
47ms |
get tp. blocked users: |
1ms |
| others: | 243ms |
| total: | 407ms |

| 0 / 0 |
