|
странные значения
|
|||
---|---|---|---|
#18+
Всем доброго времени суток! К сообщению приложен скриншот. Это запрос, где поля F1, F2 и F3 взяты из таблицы, имеют один тип данных и формат (двойное с плавающей точкой, число знаков после запятой: авто). Дальше арифметика: сравнивается произведение F1*F2 с полем F3 посредством вычитания одного из другого и наоборот (два последних поля). Значения F1*F2 и F3 для всех записей идентичны, во всяком случае в режиме просмотра, а вот их разницы у некоторых записей дают какие-то странные иррациональные значения, что более странно: обе разницы отличаются лишь знаком. Может, кто с первого взгляда опознает, что происходит? ... |
|||
:
Нравится:
Не нравится:
|
|||
18.04.2018, 13:49 |
|
странные значения
|
|||
---|---|---|---|
#18+
Изменил криншот, одно поле нечаяно задезаблилось ... |
|||
:
Нравится:
Не нравится:
|
|||
18.04.2018, 13:52 |
|
странные значения
|
|||
---|---|---|---|
#18+
Это нормально для операций с плавающей запятой, там есть погешность при арифметических действиях. Округляйте до разумных величин. Напрямую сравнивать не рекомендую. ... |
|||
:
Нравится:
Не нравится:
|
|||
18.04.2018, 14:05 |
|
странные значения
|
|||
---|---|---|---|
#18+
MrShin, Округление слагаемых помогло, спасибо! Только не ясно одно, количество знаков после запятой в слагаемых и так не больше 2х. Откуда погрешность? ... |
|||
:
Нравится:
Не нравится:
|
|||
18.04.2018, 14:23 |
|
|
start [/forum/topic.php?desktop=1&fid=45&tid=1611508]: |
0ms |
get settings: |
12ms |
get forum list: |
15ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
52ms |
get topic data: |
11ms |
get forum data: |
2ms |
get page messages: |
41ms |
get tp. blocked users: |
2ms |
others: | 14ms |
total: | 157ms |
0 / 0 |