|
Не корректное округление в IQ-15-2
|
|||
---|---|---|---|
#18+
Доброго всем. Помогите разобраться БД sybase IQ-15-2 исходные поля: f_1 numeric(8,5) f_2 numeric(8,5) f_3 numeric(15,10) default 0 1. Нужно получить третье поле(f_3) путем умножения первого со вторым (set f_3=f_1*f_2) 2. f_1 и f_2 имеют разные значения, но именно значения f_1=0.16423 и f_2=1.00000 при умножении дают 0.1642299999 вместо ожидаемого 0.1642300000 3. Были попытки : set f_3 = f_1*f_2 ; set f_3 = round(f_1*f_2,10) ; set f_3 = convert(numeric(15,10),(round(f_1*f_2,10))) ; set f_3 = cast((round(f_1*f_2,10)) as numeric(15,10)) ; ВОПРОС: в чем может быть причина такого странного результата? ... |
|||
:
Нравится:
Не нравится:
|
|||
30.10.2018, 12:29 |
|
Не корректное округление в IQ-15-2
|
|||
---|---|---|---|
#18+
... |
|||
:
Нравится:
Не нравится:
|
|||
02.11.2018, 18:25 |
|
|
start [/forum/topic.php?fid=55&fpage=2&tid=2009602]: |
0ms |
get settings: |
9ms |
get forum list: |
14ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
33ms |
get topic data: |
11ms |
get forum data: |
2ms |
get page messages: |
36ms |
get tp. blocked users: |
1ms |
others: | 227ms |
total: | 341ms |
0 / 0 |