Этот баннер — требование Роскомнадзора для исполнения 152 ФЗ.
«На сайте осуществляется обработка файлов cookie, необходимых для работы сайта, а также для анализа использования сайта и улучшения предоставляемых сервисов с использованием метрической программы Яндекс.Метрика. Продолжая использовать сайт, вы даёте согласие с использованием данных технологий».
Политика конфиденциальности
|
|
|
Разные алгоритмы преобразование типов в 7 и 9,10,11 версиях IDS
|
|||
|---|---|---|---|
|
#18+
При переходе с IDS v7.3(Linux) на IDS 10(Linux) обнаружили разные алгоритмы неявного преобразования типов float в decimal в 7 и 10 версиях. В 7, числа оканчивающееся на 5, всегда округляются в большую сторону, в 10 - никакой системы нет- то округляются, то усекаются. Затем проверили на 9,10,11 версиях(Linux, Winnt), ситуация таже. Версии 7 на Linux, Winnt работают одинаково. Пример sql insert into za SELECT rz.kpr, sum(rz.kolpr*prod.wesed/1000), ...... kolpr - float, wesed decimal(5,3) результат sum вставляется в поле decimal(10,4). Таблица - результат преобразования в 9, 10,11 и 7, символом * отмечены строки с разными результатами преобразования. IDS v 9,10,11 | результатfloat*decimal/1000 | IDS v7 decimal(10,4) decimal(12,7) decimal(10,4) 0,0638| 0,06375| 0,0638 0,0712| 0,07115| 0,0712 0,0731| 0,07305| 0,0731 0,1488| 0,14875| 0,1488 0,2238| 0,22375| 0,2238 0,2382| 0,23825| 0,2383 * 0,2488| 0,24875| 0,2488 0,3668| 0,36675| 0,3668 0,4963| 0,49625| 0,4693 0,5418| 0,54175| 0,5418 1,0509| 1,05088| 1,0509 1,7817| 1,78175| 1,7818 * 2,4117| 2,41175| 2,4118 * 2,7263| 2,72625| 2,7263 3,3974| 3,39735| 3,3974 3,5992| 3,59925| 3,5993 * 4,1727| 4,17265| 4,1728 * 15,8767| 15,876725| 15,8767 18,5886| 18,58865| 18,5887 * 40,9334| 40,93345| 40,9335 * Bug?? Могу выложить контрольный пример, если кого-то заинтересует. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.07.2008, 14:58 |
|
||
|
|

start [/forum/topic.php?fid=44&msg=35441635&tid=1608055]: |
0ms |
get settings: |
12ms |
get forum list: |
14ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
68ms |
get topic data: |
12ms |
get forum data: |
2ms |
get page messages: |
54ms |
get tp. blocked users: |
2ms |
| others: | 15ms |
| total: | 187ms |

| 0 / 0 |
