Новые сообщения [новые:0]
Дайджест
Горячие темы
Избранное [новые:0]
Форумы
Пользователи
Статистика
Статистика нагрузки
Мод. лог
Поиск
|
18.04.2018, 13:49
|
|||
---|---|---|---|
|
|||
странные значения |
|||
#18+
Всем доброго времени суток! К сообщению приложен скриншот. Это запрос, где поля F1, F2 и F3 взяты из таблицы, имеют один тип данных и формат (двойное с плавающей точкой, число знаков после запятой: авто). Дальше арифметика: сравнивается произведение F1*F2 с полем F3 посредством вычитания одного из другого и наоборот (два последних поля). Значения F1*F2 и F3 для всех записей идентичны, во всяком случае в режиме просмотра, а вот их разницы у некоторых записей дают какие-то странные иррациональные значения, что более странно: обе разницы отличаются лишь знаком. Может, кто с первого взгляда опознает, что происходит? ... |
|||
:
Нравится:
Не нравится:
|
|||
|
18.04.2018, 13:52
|
|||
---|---|---|---|
|
|||
странные значения |
|||
#18+
Изменил криншот, одно поле нечаяно задезаблилось ... |
|||
:
Нравится:
Не нравится:
|
|||
|
18.04.2018, 14:05
|
|||
---|---|---|---|
странные значения |
|||
#18+
Это нормально для операций с плавающей запятой, там есть погешность при арифметических действиях. Округляйте до разумных величин. Напрямую сравнивать не рекомендую. ... |
|||
:
Нравится:
Не нравится:
|
|||
|
18.04.2018, 14:23
|
|||
---|---|---|---|
|
|||
странные значения |
|||
#18+
MrShin, Округление слагаемых помогло, спасибо! Только не ясно одно, количество знаков после запятой в слагаемых и так не больше 2х. Откуда погрешность? ... |
|||
:
Нравится:
Не нравится:
|
|||
|
|
start [/forum/topic.php?fid=45&tablet=1&tid=1611508]: |
0ms |
get settings: |
9ms |
get forum list: |
16ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
50ms |
get topic data: |
13ms |
get forum data: |
3ms |
get page messages: |
49ms |
get tp. blocked users: |
2ms |
others: | 15ms |
total: | 165ms |
0 / 0 |