|
|
|
Вопрос о преобразовании NUMERIC
|
|||
|---|---|---|---|
|
#18+
Всем привет! Немного в ступоре почему select CAST(18.900 AS NUMERIC(10,5)) работает, а select CAST(18.900 AS NUMERIC(6,5)) выдаёт ошибку? Хотя в обеих ситуациях precision <6 символов ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 13.01.2021, 19:11 |
|
||
|
Вопрос о преобразовании NUMERIC
|
|||
|---|---|---|---|
|
#18+
Alex_Fox_ Всем привет! Немного в ступоре почему select CAST(18.900 AS NUMERIC(10,5)) работает, а select CAST(18.900 AS NUMERIC(6,5)) выдаёт ошибку? Хотя в обеих ситуациях precision <6 символов NUMERIC(6,5) подразумевает, что слева от запятой у вас один значащий символ. Число 18 явно не тянет на один знак. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 13.01.2021, 19:19 |
|
||
|
Вопрос о преобразовании NUMERIC
|
|||
|---|---|---|---|
|
#18+
Alex_Fox_, precision - точность. Количество десятичных знаков справа от десятичной точки (запятой). А слева в первом примере 5 знаков (10-5) и число в них помещается. Во втором примере слева только 1 знак (6-5) и число в них никак поместиться не может. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 13.01.2021, 19:22 |
|
||
|
Вопрос о преобразовании NUMERIC
|
|||
|---|---|---|---|
|
#18+
Всё равно не понимаю... Почему 6,5 - это один символ слева? Тут же 6, а не 1 При том, что select CAST(18.900 AS NUMERIC(7,5)) уже отрабатывает. В чём принципиальная разница между 6 и 7 ? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 14.01.2021, 12:39 |
|
||
|
Вопрос о преобразовании NUMERIC
|
|||
|---|---|---|---|
|
#18+
Alex_Fox_ Всё равно не понимаю... Почему 6,5 - это один символ слева? Тут же 6, а не 1 При том, что select CAST(18.900 AS NUMERIC(7,5)) уже отрабатывает. В чём принципиальная разница между 6 и 7 ? (Y) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 14.01.2021, 12:41 |
|
||
|
Вопрос о преобразовании NUMERIC
|
|||
|---|---|---|---|
|
#18+
Alex_Fox_ Почему 6,5 - это один символ слева? Тут же 6, а не 1 При том, что select CAST(18.900 AS NUMERIC(7,5)) уже отрабатывает. В чём принципиальная разница между 6 и 7 ? еще раз, 5 -- сколько знаков справа от запятой. 6 -- сколько всего знаков. если всего 6, из них справа 5, то слева 1. если всего 7, из них справа 5, то слева 2. слева надо вместить 18, это 2 знака, поэтому влезет только в (7,5) хотите уместиться в 6, заказывайте меньше справа, не 5, а 4 или 3: (6,4) / (6,3) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 14.01.2021, 12:50 |
|
||
|
|
start [/forum/topic.php?fid=46&tid=1685215]: |
0ms |
get settings: |
10ms |
get forum list: |
16ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
36ms |
get topic data: |
17ms |
get forum data: |
3ms |
get page messages: |
51ms |
get tp. blocked users: |
2ms |
| others: | 299ms |
| total: | 442ms |
| 0 / 0 |
