| 
 | 
| 
 
Не корректное округление в IQ-15-2 
 | 
|||
|---|---|---|---|
| 
 #18+ 
    
  Доброго всем. Помогите разобраться БД sybase IQ-15-2 исходные поля: f_1 numeric(8,5) f_2 numeric(8,5) f_3 numeric(15,10) default 0 1. Нужно получить третье поле(f_3) путем умножения первого со вторым (set f_3=f_1*f_2) 2. f_1 и f_2 имеют разные значения, но именно значения f_1=0.16423 и f_2=1.00000 при умножении дают 0.1642299999 вместо ожидаемого 0.1642300000 3. Были попытки : set f_3 = f_1*f_2 ; set f_3 = round(f_1*f_2,10) ; set f_3 = convert(numeric(15,10),(round(f_1*f_2,10))) ; set f_3 = cast((round(f_1*f_2,10)) as numeric(15,10)) ; ВОПРОС: в чем может быть причина такого странного результата? ...  | 
|||
| 
 : 
 Нравится:
      
  Не нравится:
      
  
   | 
|||
| 30.10.2018, 12:29 | 
  
  
  
   | 
||
| 
 
Не корректное округление в IQ-15-2 
 | 
|||
|---|---|---|---|
| 
 #18+ 
    
  ...  | 
|||
| 
 : 
 Нравится:
      
  Не нравится:
      
  
   | 
|||
| 02.11.2018, 18:25 | 
  
  
  
   | 
||
| 
 | 

start [/forum/topic.php?fid=55&fpage=2&tid=2009602]:  | 
    0ms | 
get settings:  | 
    9ms | 
get forum list:  | 
    13ms | 
check forum access:  | 
    4ms | 
check topic access:  | 
    4ms | 
track hit:  | 
    50ms | 
get topic data:  | 
    11ms | 
get forum data:  | 
    3ms | 
get page messages:  | 
    38ms | 
get tp. blocked users:  | 
    1ms | 
| others: | 12ms | 
| total: | 145ms | 

| 0 / 0 | 

    Извините, этот баннер — требование Роскомнадзора для исполнения 152 ФЗ.
    
    
    «На сайте осуществляется обработка файлов cookie, необходимых для работы сайта, а также для анализа использования сайта и улучшения предоставляемых сервисов с использованием метрической программы Яндекс.Метрика. Продолжая использовать сайт, вы даёте согласие с использованием данных технологий».
    
    
    ... ля, ля, ля ...