powered by simpleCommunicator - 2.0.53     © 2025 Programmizd 02
Форумы / PostgreSQL [игнор отключен] [закрыт для гостей] / Можно ли определить только маштаб для типа numeric
2 сообщений из 2, страница 1 из 1
Можно ли определить только маштаб для типа numeric
    #39977345
Kr_Yury
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Участник
Собственно интересует subj. И ещё - если задать завышенное значение точности, то влияет ли это на фактические размеры памяти выделяемой для хранения значений в оперативной памяти и на диске?
...
Рейтинг: 0 / 0
Можно ли определить только маштаб для типа numeric
    #39977910
О-О-О
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Гость
Kr_Yury,
У меня на днях было переполнение по numeric.
Была функция которая в цикле считает.
И появлялись сообщение что то типа переполнения значения numeric, решил посмотреть, что же там такое.
В итоге получились числа типа 256 и наверное 50 строчек цифр после запятой. В общем знаков наверное под 200-700 после запятой. Вот это точно переполнение!

Что касается разрядности, то мне кажется, что первый индикатор и показывает разрядность.
Грубо говоря 16.6 означает всего 16 цифр из них 6 после запятой. Получает 10+6 разрядов.
Получаем, что 10 число из 10 цифр и это если меньше 4 мрд, и одновременно кратное 8 = 32 бита (4'294'697'296) = 4 байта
и еще 6 цифр (999999) это еще 2 в степени 24 это еще три байта. итого получается минимум 7 байт.
Но если число более 4,3 млрд, то там уже 40 бит = 5 байт и в сумме 5+3=8 байт.
.
Но а если считается кратно 32, то первый набор выдаст 64 бита = 8 байт и второй набор еще 32 бита = 4 байта.
Итого в сумме = 8+4=12 байт (вот это больше похоже на правду).
Но предел там по моему около 128 байт на каждый из разрядов (128 до + 128 после запятой).
.
...
Рейтинг: 0 / 0
2 сообщений из 2, страница 1 из 1
Форумы / PostgreSQL [игнор отключен] [закрыт для гостей] / Можно ли определить только маштаб для типа numeric
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]