|
странные значения
|
|||
---|---|---|---|
#18+
Всем доброго времени суток! К сообщению приложен скриншот. Это запрос, где поля F1, F2 и F3 взяты из таблицы, имеют один тип данных и формат (двойное с плавающей точкой, число знаков после запятой: авто). Дальше арифметика: сравнивается произведение F1*F2 с полем F3 посредством вычитания одного из другого и наоборот (два последних поля). Значения F1*F2 и F3 для всех записей идентичны, во всяком случае в режиме просмотра, а вот их разницы у некоторых записей дают какие-то странные иррациональные значения, что более странно: обе разницы отличаются лишь знаком. Может, кто с первого взгляда опознает, что происходит? ... |
|||
:
Нравится:
Не нравится:
|
|||
18.04.2018, 13:49 |
|
странные значения
|
|||
---|---|---|---|
#18+
Изменил криншот, одно поле нечаяно задезаблилось ... |
|||
:
Нравится:
Не нравится:
|
|||
18.04.2018, 13:52 |
|
странные значения
|
|||
---|---|---|---|
#18+
Это нормально для операций с плавающей запятой, там есть погешность при арифметических действиях. Округляйте до разумных величин. Напрямую сравнивать не рекомендую. ... |
|||
:
Нравится:
Не нравится:
|
|||
18.04.2018, 14:05 |
|
странные значения
|
|||
---|---|---|---|
#18+
MrShin, Округление слагаемых помогло, спасибо! Только не ясно одно, количество знаков после запятой в слагаемых и так не больше 2х. Откуда погрешность? ... |
|||
:
Нравится:
Не нравится:
|
|||
18.04.2018, 14:23 |
|
|
start [/forum/search_topic.php?author=Pek&author_mode=last_posts&do_search=1]: |
0ms |
get settings: |
9ms |
get forum list: |
14ms |
get settings: |
10ms |
get forum list: |
15ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
40ms |
get topic data: |
12ms |
get forum data: |
3ms |
get page messages: |
50ms |
get tp. blocked users: |
2ms |
others: | 444ms |
total: | 607ms |
0 / 0 |