powered by simpleCommunicator - 2.0.53     © 2025 Programmizd 02
Форумы / Microsoft Access [игнор отключен] [закрыт для гостей] / странные значения
5 сообщений из 5, страница 1 из 1
странные значения
    #39632480
Beliar
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Всем доброго времени суток! К сообщению приложен скриншот. Это запрос, где поля F1, F2 и F3 взяты из таблицы, имеют один тип данных и формат (двойное с плавающей точкой, число знаков после запятой: авто). Дальше арифметика: сравнивается произведение F1*F2 с полем F3 посредством вычитания одного из другого и наоборот (два последних поля). Значения F1*F2 и F3 для всех записей идентичны, во всяком случае в режиме просмотра, а вот их разницы у некоторых записей дают какие-то странные иррациональные значения, что более странно: обе разницы отличаются лишь знаком. Может, кто с первого взгляда опознает, что происходит?
...
Рейтинг: 0 / 0
странные значения
    #39632486
Beliar
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Изменил криншот, одно поле нечаяно задезаблилось
...
Рейтинг: 0 / 0
странные значения
    #39632498
MrShin
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Это нормально для операций с плавающей запятой, там есть погешность при арифметических действиях. Округляйте до разумных величин. Напрямую сравнивать не рекомендую.
...
Рейтинг: 0 / 0
странные значения
    #39632518
Beliar
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
MrShin, Округление слагаемых помогло, спасибо! Только не ясно одно, количество знаков после запятой в слагаемых и так не больше 2х. Откуда погрешность?
...
Рейтинг: 0 / 0
странные значения
    #39632608
Фотография Akina
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
BeliarОткуда погрешность?Почитайте о машинном представлении чисел с плавающей точкой.
Не хотите видеть такой вот ерунды - используйте точные типы (например, денежный).
...
Рейтинг: 0 / 0
5 сообщений из 5, страница 1 из 1
Форумы / Microsoft Access [игнор отключен] [закрыт для гостей] / странные значения
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]