|
Можно ли определить только маштаб для типа numeric
|
|||
---|---|---|---|
#18+
Собственно интересует subj. И ещё - если задать завышенное значение точности, то влияет ли это на фактические размеры памяти выделяемой для хранения значений в оперативной памяти и на диске? ... |
|||
:
Нравится:
Не нравится:
|
|||
08.07.2020, 11:48 |
|
Можно ли определить только маштаб для типа numeric
|
|||
---|---|---|---|
#18+
Kr_Yury, У меня на днях было переполнение по numeric. Была функция которая в цикле считает. И появлялись сообщение что то типа переполнения значения numeric, решил посмотреть, что же там такое. В итоге получились числа типа 256 и наверное 50 строчек цифр после запятой. В общем знаков наверное под 200-700 после запятой. Вот это точно переполнение! Что касается разрядности, то мне кажется, что первый индикатор и показывает разрядность. Грубо говоря 16.6 означает всего 16 цифр из них 6 после запятой. Получает 10+6 разрядов. Получаем, что 10 число из 10 цифр и это если меньше 4 мрд, и одновременно кратное 8 = 32 бита (4'294'697'296) = 4 байта и еще 6 цифр (999999) это еще 2 в степени 24 это еще три байта. итого получается минимум 7 байт. Но если число более 4,3 млрд, то там уже 40 бит = 5 байт и в сумме 5+3=8 байт. . Но а если считается кратно 32, то первый набор выдаст 64 бита = 8 байт и второй набор еще 32 бита = 4 байта. Итого в сумме = 8+4=12 байт (вот это больше похоже на правду). Но предел там по моему около 128 байт на каждый из разрядов (128 до + 128 после запятой). . ... |
|||
:
Нравится:
Не нравится:
|
|||
09.07.2020, 22:02 |
|
|
start [/forum/topic.php?fid=53&fpage=26&tid=1994605]: |
0ms |
get settings: |
9ms |
get forum list: |
13ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
33ms |
get topic data: |
11ms |
get forum data: |
2ms |
get page messages: |
34ms |
get tp. blocked users: |
1ms |
others: | 286ms |
total: | 397ms |
0 / 0 |