
Новые сообщения [новые:0]
Дайджест
Горячие темы
Избранное [новые:0]
Форумы
Пользователи
Статистика
Статистика нагрузки
Мод. лог
Поиск
|
|
18.04.2018, 13:49
|
|||
|---|---|---|---|
|
|||
странные значения |
|||
|
#18+
Всем доброго времени суток! К сообщению приложен скриншот. Это запрос, где поля F1, F2 и F3 взяты из таблицы, имеют один тип данных и формат (двойное с плавающей точкой, число знаков после запятой: авто). Дальше арифметика: сравнивается произведение F1*F2 с полем F3 посредством вычитания одного из другого и наоборот (два последних поля). Значения F1*F2 и F3 для всех записей идентичны, во всяком случае в режиме просмотра, а вот их разницы у некоторых записей дают какие-то странные иррациональные значения, что более странно: обе разницы отличаются лишь знаком. Может, кто с первого взгляда опознает, что происходит? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
18.04.2018, 13:52
|
|||
|---|---|---|---|
|
|||
странные значения |
|||
|
#18+
Изменил криншот, одно поле нечаяно задезаблилось ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
18.04.2018, 14:05
|
|||
|---|---|---|---|
странные значения |
|||
|
#18+
Это нормально для операций с плавающей запятой, там есть погешность при арифметических действиях. Округляйте до разумных величин. Напрямую сравнивать не рекомендую. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
18.04.2018, 14:23
|
|||
|---|---|---|---|
|
|||
странные значения |
|||
|
#18+
MrShin, Округление слагаемых помогло, спасибо! Только не ясно одно, количество знаков после запятой в слагаемых и так не больше 2х. Откуда погрешность? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|

start [/forum/topic.php?fid=45&tablet=1&tid=1611508]: |
0ms |
get settings: |
8ms |
get forum list: |
20ms |
check forum access: |
3ms |
check topic access: |
3ms |
track hit: |
181ms |
get topic data: |
12ms |
get forum data: |
3ms |
get page messages: |
53ms |
get tp. blocked users: |
1ms |
| others: | 207ms |
| total: | 491ms |

| 0 / 0 |
