powered by simpleCommunicator - 2.0.59     © 2025 Programmizd 02
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Форумы / Informix [игнор отключен] [закрыт для гостей] / Разные алгоритмы преобразование типов в 7 и 9,10,11 версиях IDS
2 сообщений из 2, страница 1 из 1
Разные алгоритмы преобразование типов в 7 и 9,10,11 версиях IDS
    #35439573
atlas
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
При переходе с IDS v7.3(Linux) на IDS 10(Linux) обнаружили разные алгоритмы
неявного преобразования типов float в decimal в 7 и 10 версиях.
В 7, числа оканчивающееся на 5, всегда округляются в большую сторону, в 10 - никакой
системы нет- то округляются, то усекаются.

Затем проверили на 9,10,11 версиях(Linux, Winnt), ситуация таже.
Версии 7 на Linux, Winnt работают одинаково.

Пример sql

insert into za
SELECT rz.kpr,
sum(rz.kolpr*prod.wesed/1000), ......

kolpr - float,
wesed decimal(5,3)
результат sum вставляется в поле decimal(10,4).


Таблица - результат преобразования в 9, 10,11 и 7, символом * отмечены строки
с разными результатами преобразования.


IDS v 9,10,11 | результатfloat*decimal/1000 | IDS v7


decimal(10,4) decimal(12,7) decimal(10,4)

0,0638| 0,06375| 0,0638
0,0712| 0,07115| 0,0712
0,0731| 0,07305| 0,0731
0,1488| 0,14875| 0,1488
0,2238| 0,22375| 0,2238
0,2382| 0,23825| 0,2383 *
0,2488| 0,24875| 0,2488
0,3668| 0,36675| 0,3668
0,4963| 0,49625| 0,4693
0,5418| 0,54175| 0,5418
1,0509| 1,05088| 1,0509
1,7817| 1,78175| 1,7818 *
2,4117| 2,41175| 2,4118 *
2,7263| 2,72625| 2,7263
3,3974| 3,39735| 3,3974
3,5992| 3,59925| 3,5993 *
4,1727| 4,17265| 4,1728 *
15,8767| 15,876725| 15,8767
18,5886| 18,58865| 18,5887 *
40,9334| 40,93345| 40,9335 *


Bug??

Могу выложить контрольный пример, если кого-то заинтересует.
...
Рейтинг: 0 / 0
Разные алгоритмы преобразование типов в 7 и 9,10,11 версиях IDS
    #35441635
Фотография Журавлев Денис
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
...
Рейтинг: 0 / 0
2 сообщений из 2, страница 1 из 1
Форумы / Informix [игнор отключен] [закрыт для гостей] / Разные алгоритмы преобразование типов в 7 и 9,10,11 версиях IDS
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]