|
Хранение чисел в MS SQL
|
|||
---|---|---|---|
#18+
Заношу числовое значение 0.30, после чего в квери аналайзере селектом выбираю данные из таблицы и вижу, что реально число хранится как 0.2999999999999999. Причем это еще достаточно нормально, т.к. при округлении до 2-х знаков дает 0.30. Но встречаются варианты веселее: результат вычислений, которое при всех вычислениях (на калькуляторе, и т.п.) дает 248.40 (248,395 округ до 2-х знаков), в SQL'е выдает 248.39, а когда селектом выбираешь данные выясняется, что реально результат вычисления составляет 248.39499999998. Если есть способ исправить корень этой проблемы - подскажите, а то запросы обрастают convert'ами и cast'ами на каждое забираемое числовое значение. ... |
|||
:
Нравится:
Не нравится:
|
|||
12.09.2003, 17:01 |
|
Хранение чисел в MS SQL
|
|||
---|---|---|---|
#18+
Все правильно. Читай до упора про машинное представление чисел с плавающей точкой. ... |
|||
:
Нравится:
Не нравится:
|
|||
12.09.2003, 18:06 |
|
|
start [/forum/topic.php?fid=47&msg=32264052&tid=1855783]: |
0ms |
get settings: |
9ms |
get forum list: |
13ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
66ms |
get topic data: |
10ms |
get forum data: |
3ms |
get page messages: |
39ms |
get tp. blocked users: |
1ms |
others: | 302ms |
total: | 451ms |
0 / 0 |