|
Арифметика фиксированной точки
|
|||
---|---|---|---|
#18+
Код: sql 1. 2. 3. 4. 5.
Код: sql 1. 2. 3. 4. 5.
Код: sql 1. 2. 3. 4. 5. 6.
Вот вам и шведская пила. Получается, что если умножить число decimal(n,x) на decimal(n,y) , в результате будет вдруг decimal(n,x+y) . Практический вывод - умножать числа с фиксированной точкой нельзя, даже на 1 , ибо облом случится не быстро, а очень быстро. Не готов утверждать, что это неправильно, но весьма неожиданно и неприятно. Firebird 3.0.7 Кстати, в документации по серверу эта особенность арифметических операций над числами с фиксированной точкой не описана. ... |
|||
:
Нравится:
Не нравится:
|
|||
11.03.2021, 16:03 |
|
Арифметика фиксированной точки
|
|||
---|---|---|---|
#18+
shalamyanskyПолучается, что если умножить число *decimal(n,x)* на *decimal(n,y)*, в результате будет вдруг *decimal(n,x+y)*. Для "вдруг" надо забыть курс школьной математики. Posted via ActualForum NNTP Server 1.5 ... |
|||
:
Нравится:
Не нравится:
|
|||
11.03.2021, 16:13 |
|
Арифметика фиксированной точки
|
|||
---|---|---|---|
#18+
shalamyansky, описана. shalamyanskyПолучается, что если умножить число decimal(n,x) на decimal(n,y), в результате будет вдруг decimal(n,x+y). На самом деле decimal(m, x+y) , где m >= n и m - следующий по вместимости целочисленный тип. Просто в 3.0 максимально можно вместить 18 знаков (bigint). В 4.0 например ты получишь decimal(38, 20) (int128 во внутреннем представлении) ... |
|||
:
Нравится:
Не нравится:
|
|||
11.03.2021, 16:21 |
|
|
start [/forum/topic.php?fid=40&fpage=8&tid=1560098]: |
0ms |
get settings: |
9ms |
get forum list: |
13ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
72ms |
get topic data: |
11ms |
get forum data: |
2ms |
get page messages: |
44ms |
get tp. blocked users: |
2ms |
others: | 12ms |
total: | 173ms |
0 / 0 |