Гость
Целевая тема:
Создать новую тему:
Автор:
Форумы / PostgreSQL [игнор отключен] [закрыт для гостей] / Тип double precision / 3 сообщений из 3, страница 1 из 1
19.03.2006, 09:28
    #33610196
mxlPostgres
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Тип double precision
Какое самое большое число можно поместить в поле этого типа (до запятой и после) и стоит ли его вообще использовать,какие у него преимущества.
И еще сколько цифр можно записать в тип double в языке Си?
...
Рейтинг: 0 / 0
19.03.2006, 10:46
    #33610218
ChameLe0n
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Тип double precision
Я бы не рекомендовал его использовать, если потом планируется вычислять сумму по этому полю. Используй лучше числа с фиксированной точкой. Однажды экпериментировали на эту тему, забили в базу 4 млн. записей в таблицу с 2 полями - одно double, второе numeric(10.2). Соответственно генерировалось случайное число (что-то типа random/100, т.е. с 2 знаками после запятой) после чего данное число записывалось в оба поля. Затем посчитали sum по одноу и по другому полю - разница оказалась огромной.
...
Рейтинг: 0 / 0
20.03.2006, 03:33
    #33610811
фффф
Гость
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Тип double precision
ChameLe0nЯ бы не рекомендовал его использовать, если потом планируется вычислять сумму по этому полю. Используй лучше числа с фиксированной точкой. Однажды экпериментировали на эту тему, забили в базу 4 млн. записей в таблицу с 2 полями - одно double, второе numeric(10.2). Соответственно генерировалось случайное число (что-то типа random/100, т.е. с 2 знаками после запятой) после чего данное число записывалось в оба поля. Затем посчитали sum по одноу и по другому полю - разница оказалась огромной.
Можно подробности? С т.зр. математики, разница на 4 млн записей даже в случае односторонней погрешности (например все double больше numeric на 1E-14 - погрешность представления для чисел порядка 1) не может накопиться чтобы быть огромной.

Деньги разумеется нужно хранить в numeric, от налоговой математика не спасает.
...
Рейтинг: 0 / 0
Форумы / PostgreSQL [игнор отключен] [закрыт для гостей] / Тип double precision / 3 сообщений из 3, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]