Новые сообщения [новые:0]
Дайджест
Горячие темы
Избранное [новые:0]
Форумы
Пользователи
Статистика
Статистика нагрузки
Мод. лог
Поиск
|
|
01.05.2012, 09:21
|
|||
|---|---|---|---|
|
|||
Помогите неправильно считает Excel |
|||
|
#18+
Существует книга Excel в ней идет расчет. Приходим к ситуации когда 2-1=0,9999999998 Когда через Если задать вопрос 2=2 то да равно, 1=1 да равно. Но разница не равна 1. Если ячейку с цифрой два в листе вручную сделать активной все будет правильно, но это не выход в листе все защищено паролем от редактирования. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
01.05.2012, 09:25
|
|||
|---|---|---|---|
|
|||
Помогите неправильно считает Excel |
|||
|
#18+
Это не то чтобы неправильно, это особенности работы с числами с плавающей запятой. И если книга недоступна для редактирования - нужно стучать по голове тому, кто ее защитил. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
01.05.2012, 09:31
|
|||
|---|---|---|---|
|
|||
Помогите неправильно считает Excel |
|||
|
#18+
В книге работаем много лет. Принцип уже не поменять. В этом расчете нет запятых тут только целые числа. И почему если прибавить вычесть любое число все нормально. Не работает только 2-1. Как бороться (только без снятия редактирования). ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
01.05.2012, 10:28
|
|||
|---|---|---|---|
|
|||
Помогите неправильно считает Excel |
|||
|
#18+
Еще раз, все работает правильно в рамках работы с числами с плавающей запятой. Код: vbnet 1. 2. А какой цели нужно добиться? Если просто корректного отображения на экране - так уберите отображение фиксированных 18 знаков после запятой. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
01.05.2012, 10:55
|
|||
|---|---|---|---|
|
|||
Помогите неправильно считает Excel |
|||
|
#18+
На складе 2 единицы товара. Списывается одна вещь. 2-1=на складе остается 0,999999. Книга бунтуется дальше формулы не работают. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
01.05.2012, 11:08
|
|||
|---|---|---|---|
|
|||
Помогите неправильно считает Excel |
|||
|
#18+
ну так примените функцию ОКРУГЛ для результата ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
01.05.2012, 11:17
|
|||
|---|---|---|---|
|
|||
Помогите неправильно считает Excel |
|||
|
#18+
Беда в том что книга размером 23мб там миллион вычислений я везде округление не поставлю,а если и поставлю базу порвет по размеру есть ли способ без округления (2-1неравно 1 это только из примеров). Я уже понял что это стандарт IEEE 754 и он неправильно считает как его округлить? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
start [/forum/topic.php?fid=61&mobile=1&tid=2175758]: |
0ms |
get settings: |
9ms |
get forum list: |
20ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
36ms |
get topic data: |
11ms |
get forum data: |
5ms |
get page messages: |
47ms |
get tp. blocked users: |
2ms |
| others: | 218ms |
| total: | 356ms |
| 0 / 0 |
