powered by simpleCommunicator - 2.0.47     © 2025 Programmizd 02
Форумы / Sybase ASA, ASE, IQ [игнор отключен] [закрыт для гостей] / Не корректное округление в IQ-15-2
3 сообщений из 3, страница 1 из 1
Не корректное округление в IQ-15-2
    #39724893
Rus-85
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Доброго всем. Помогите разобраться

БД sybase IQ-15-2
исходные поля:
f_1 numeric(8,5)
f_2 numeric(8,5)
f_3 numeric(15,10) default 0

1. Нужно получить третье поле(f_3) путем умножения первого со вторым (set f_3=f_1*f_2)
2. f_1 и f_2 имеют разные значения, но именно значения f_1=0.16423 и f_2=1.00000 при умножении дают 0.1642299999 вместо
ожидаемого 0.1642300000
3. Были попытки :
set f_3 = f_1*f_2 ;
set f_3 = round(f_1*f_2,10) ;
set f_3 = convert(numeric(15,10),(round(f_1*f_2,10))) ;
set f_3 = cast((round(f_1*f_2,10)) as numeric(15,10)) ;

ВОПРОС: в чем может быть причина такого странного результата?
...
Рейтинг: 0 / 0
Не корректное округление в IQ-15-2
    #39727366
White Owl
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
...
Рейтинг: 0 / 0
Не корректное округление в IQ-15-2
    #39735171
Rus-85
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
White Owl,

Спасибо за направление.
...
Рейтинг: 0 / 0
3 сообщений из 3, страница 1 из 1
Форумы / Sybase ASA, ASE, IQ [игнор отключен] [закрыт для гостей] / Не корректное округление в IQ-15-2
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]